W Alojzowie znajduje się kaplica rzymskokatolicka, wzniesiona w 1985 roku przez Marię i Jana Radzięciaków. Duża odległość do Kościoła w Kumowie była powodem budowy kaplicy. Pierwszą mszę w świetlicy odprawił ks. Józef Piłat z Kumowa 31 stycznia 1981 roku. Działkę pod budowę kaplicy odstąpili: Stanisław Tryniecki i Czesław Łopuszyński. 11 kwietnia 1981 roku wojewoda chełmski wydał pozwolenie na budowę kaplicy. W dniu 15 października 1981 roku Kuria Biskupia w Lublinie wydała zezwolenie na gromadzenie materiałów budowlanych, które zakupiono z ofiar i składek parafian. Poświęcenie placu o powierzchni 180 metrów kwadratowych pod budowę nowej kaplicy odbyło się 22 lipca 1982 roku przez ks. bp Bolesława Pylaka, a budowę rozpoczęto 26 kwietnia 1982 roku. Kaplicę poświęcił ks. bp Jan Śrutwa 6 lipca 1985 roku.
Najważniejszymi wydarzeniami tutejszej parafii były:
- pierwszy chrzest wnuczki Józefy i Salwina Czapków (12 stycznia 1986 roku),
- odpust patrona św. Alojzego (26 kwietnia 1986 roku),
- zawarcie związku małżeńskiego przez Annę Gontarz oraz Mariana Rubika (sierpień 1986 roku),
- gminne dożynki (wrzesień 1986 roku),
- przybycie ks. bp Ryszarda Karpińskiego (26 maja 1990 roku),
- przyjęcie ślubu wieczystego przez Elżbietę - córki Marii i Jana Radzięciaków (14 sierpnia 1990 roku),
- kolejna wizyta ks. bp Bolesława Pylaka (13 sierpnia 1995 roku),
- otynkowanie kaplicy z pomocą prezesa ,,Cembudu'' oraz dyrekcji Cementowni Chełm (1996 rok).
Obecna kaplica jest użytkowana przez wiernych tutejszej miejscowości oraz okolic. Murowana.
Co do kesza:
Kesz znajduje się prawej stronie Kaplicy. Weź ze sobą coś pisania oraz rękawiczki. Odpowiednio zamaskuj kesza. Uważaj na pobliskich mugoli.