Obecny kościół pod wezwaniem św. Mateusza Apostoła pochodzi z 1755 roku
z fundacji Fabiana Moszyńskiego, chociaż losy samej parafii mogą sięgać nawet XIV wieku. Dwa lata po jego wybudowaniu wnętrze wyposażono dzięki dotacji Michała Niwskiego. Przyjrzyjmy się cechom architektonicznym tego budowanego na zrąb obiektu. Konstrukcję zrębową tworzą długie, poziome bale, układane jeden na drugim i łączone ze sobą w narożach za pomocą specjalnych wycięć. Szczeliny między balami wypełnia się np. zaprawą, a dawniej głównie mchem. Charakterystyczną cechą większości takich budynków są wystające w rogach końce belek - tak zwane ostatki. W przypadku Górzna nie jest to tak dobrze widoczne z uwagi na oszalowanie, czyli dodatkową warstwę desek pokrywającą ściany. Część prezbiterialna, mieszcząca ołtarz główny, jest zwrócona ku wschodowi. Do prezbiterium dobudowano od północy zakrystię; do nawy od południa kruchtę a od zachodu wieżę.
Miejscową tradycją jest obchodzenie odpustu św. Rocha a nie uroczystości ku czci patrona kościoła, czyli św. Mateusza. Zwyczaj ten pochodzi jeszcze z XIX wieku i jest związany z obrazem św. Rocha, do którego zanoszono modły podczas epidemii. Podobna sytuacja występuje w świątyni pw. św. Fabiana i św. Sebastiana w Krotoszynie.Przed kościołem stoi współczesna drewniana dzwonnica z 1999 roku, która służy również za kaplicę przedpogrzebową. W pobliżu także XIX-wieczny pomnik rodziny Bereźnickich, tej samej z którą się procesowano, w kształcie obelisku.