Da primitiva Igreja Paroquial, localizada no mesmo local, pouco se conhece relativamente à sua história, pois são escassas as notícias a respeito da mesma que nos são dadas pelos historiadores da Ilha. No entanto, a Igreja paroquial de Rosais aparece já perfeitamente documentada na centúria de quinhentos, tal como se infere do Auto da Eleição Trienal de 8 de Janeiro de 1559, que se passa a transcrever: “(…) [aos oito dias de Janeiro do dicto anno] nesta casa da camara da villa das Vellas desta ilha de São Jorge, estando aí ho senhor Guilhelme Sillveira ouvidor do senhor capitão pera fazer a enlleição dos juizes he vereadores he officiaes pera tres annos comfforme ao regimento dell Rei noso senhor he por ele, ouvidor, foi dito que esta segunda-feira pasada elle mandara aos vereadores he juizes deste presente anno que mandasem às freygasias termo desta villa deitar pregões que todos viessem oge pera fazerem enlleição he asi mandasem apregoar nesta villa que a campam tangida se ajuntasem todos neste dicto dia pera fazerem a dicta enlleyção he lhe fez logo pergumta se fizerão o que lhe mandara he que Mateus Gonçallves porteiro foi a fazer a dicta delligencia. E digo que elles dixerão que Mateus Goncallvez porteiro fizera a dicta delligencia. He Mateus Goncallvez porteiro deu logo fe que fora a Rosalles e na Igreja, oge à misa, notefiqara a todos os freigeses que aí estavão que logo viesem. He ho dicto porteiro porante mim esprivão deitou pregão na praça he foi por as ruas apregoar com pena de mill reaes que todos se ajuntasem nesta casa da camara pera se fazer a dicta enlleyção, isto por mandado do senhor ouvidor he offiçiaes. E logo se ajuntou ho povo a campam tamgida. He o senhor ouvidor começou a tomar as vozes pera os seis enlleitores”. (In Vereações de Velas introdução, transcrição e notas de António dos Santos Pereira, 1984)

No início do século XX esta Igreja tinha vigário, cura e tesoureiro. A primitiva casa de passal para o vigário foi legada em 1684 por Braz Dias Bello, e o cemitério local ficava localizado junto à igreja, tendo sido efetuado o primeiro enterramento em 1842. Houve alturas em que a falta de capacidade do cemitério, pois só tinha de área 197 metros quadrados, e de condições higiénicas, levaram a que os defuntos fossem sepultados no cemitério das Velas.

A imagem de Nossa Senhora do Rosário foi adquirida a expensas do povo da paróquia, por iniciativa do seu vigário padre José de Simas Macedo, tendo sido colocada na igreja no ano de 1859, vindo desde as Velas em procissão.

A festa do orago celebra-se a 15 de agosto.
A 9 de dezembro de 1876 foi também colocado na torre da igreja um belo sino, o qual foi igualmente adquirido pelo povo. Este templo, desde logo dedicado a Nossa Senhora do Rosário, teria sido reconstruído durante o século XVIII. Após a crise sísmica de 1964, o edifício sofreu novas intervenções arquitetónicas, sendo mesmo alterada a posição da sua torre que, atualmente, se levanta no lado direito do frontispício da Igreja, se a tomarmos como um corpo, e no lado esquerdo, na visão de quem a observa de frente. Na sequência dessas reformas, este Templo assistiu ainda à alteração dos seus altares e à destruição do seu púlpito, entre tantas outras modificações.
No ano de 2009 foram efetuadas diversas beneficiações na igreja com especial atenção para os altares que se encontravam bastante degradados, tendo sido efetuado o restauro dos mesmos. Estas melhorias tiveram a colaboração imprescindível dos emigrantes desta Freguesia, pois sem a mesma não teria sido possível efetuar essas intervenções, bem como o contributo da benemérita, Sr.ª Lídia Borges Oliveira Cunha, falecida a 13 de setembro de 2008, tendo deixado em seu testamento uma quantia de valor considerável para a Igreja Paroquial de Nossa Senhora do Rosário, a qual foi utilizada integralmente na recuperação da Igreja.