Parafia powstała prawdopodobnie już w XIII w., a być może i wcześniej, choć poświadczenie w dokumentach znajduje się dopiero w 1398 r. W 1506 r. weszła w skład nowo utworzonego dekanatu przasnyskiego.
Pierwszy drewniany kościół pw. św. Jana Chrzciciela przetrwał do połowy XVI w., kiedy to ówczesny proboszcz ks. Jan Krętkowski w 1535 r. przeprowadził remont świątyni i zbudował murowaną zakrystię o ścianach znacznej grubości, z drzwiami nabijanymi klepkowymi gwoździami, które zachowały się do dzisiaj.
Kolejny kościół z drewna sosnowego wzniósł w 1730 r. Bartłomiej Węgierski, właściciel Węgry. Dach świątyni pokryto gontem. Ściany zewnątrz i wewnątrz oszalowano. W 1817 r. w aktach wizytacyjnych zanotowano informację o złym stanie budowli, dlatego w XIX w. kościół został przebudowany. Świątynia ma kształt prostokąta, z nieco węższym prezbiterium i kruchtą. Wewnątrz jest rozdzielona pięcioma parami czworobocznych słupów. Wyposażenie kościoła stanowią: neobarokowy ołtarz główny z około 1860 r. z obrazami Matki Bożej Różańcowej ze św. Dominikiem i Matki Boskiej Ostrobramskiej, dwa ołtarze boczne: Ofiarowania Pana Jezusa i Serca Jezusowego. W 1536 r. ks. Jan Krętkowski ufundował monstrancję, znajdująca się obecnie w Muzeum Diecezjalnym, przed którą mógł modlić się św. Stanisław Kostka.
W czasie I wojny światowej świątynia została uszkodzona i przedziurawiona przez pociski artyleryjskie. Żołnierze rosyjscy spalili dwa ołtarze, ławki i deski szalujące kościół. Walki pozycyjne wojsk rosyjsko-niemieckich na terenie parafii trwały od 10 marca do 13 lipca 1915 r. Od 19 sierpnia 1915 roku ks. Stanisław Mystkowski zarządzał parafiami: Węgra, Pawłowo i Czernice Borowe. W czasie wojny Niemcy zrabowali trzy dzwony. Dopiero ks. Józefowi Frydryszewskiemu, który objął parafię w 1935 r., udało się oszalować zabytkową dzwonnicę z XVIII w. (konstrukcja słupowa, w górnej kondygnacji ażurowa), oszalować kościół (w jodełkę) i otynkować plebanię. Od 1940 roku ludność parafii zaczęli wywozić Niemcy, a tereny przeznaczono na poligony. Na plebanii zamieszkał komisarz niemiecki. 16 lutego 1941 r. kościół został zamknięty, ołtarze zniszczono, zaś naczynia liturgiczne przewieziono do Czernic Borowych. Kościół Niemcy przeznaczyli na spichlerz, a dach pokryli blachą. 8-głosowe organy w 1866 r. zbudował Stanisław Przybyłowicz z Warszawy, instrument nie zachował się.
Z parafii Węgra oddzielano niektóre wioski, przyłączając je do innych: w 1920 r. Rostkowo do parafii farnej w Przasnyszu, w 1926 r. Mchowo do parafii farnej w Przasnyszu, zaś w 1967 r. Górki i Obrębiec do utworzonej wówczas parafii Rostkowo.
Kościół po II wojnie światowej remontowali parafianie staraniem ks. Stanisława Pilitowskiego. Poważny remont świątyni przeprowadzono w 1956 r., gdy proboszczem był ks. Aleksander Policiewicz. W tym samym roku pomalowano wnętrze świątyni, usunięto zacieki, naprawiono dach, zaś w zrekonstruowanym ołtarzu głównym został umieszczony obraz Matki Boskiej Ostrobramskiej. W ostatnich latach kościół został odremontowany (2007 r.), odnowiono chrzcielnicę (2017 r.) i ambonę (2018 r.) oraz ołtarz główny (2019 r.), w którym przywrócono pierwotny XVIII-wieczny obraz Matki Bożej Różańcowej.
Msze Święte:
Niedziela: 8:00 Kaplica, 10:00, 12:00
Dni powszednie: 15:00 zimą, 16:00 latem