L'église de Rombach-le-Franc telle qu'elle existe aujourd'hui date de 1805. Elle fut reconstruite après le terrible incendie du 22 août 1801 qui détruisit l'église et une grande partie du village, dont le presbytère. Elle fut achevée en 1807.
Auparavant, il existait une ancienne chapelle construite au XIIIe siècle par les moines du prieuré de Lièpvre près d'une source qui avait reçue le nom de « source de Sainte Rosalie ».
On raconte qu'au XIIIe siècle les loups étaient très nombreux dans les forêts de la commune. Lors d'un hiver très rigoureux, l'un des loups s'est précipité sur une petite fille qui fut dévorée ou plus vraisemblablement déchiquetée sur la place même où se trouve aujourd'hui l'église.
Les moines du prieuré de Lièpvre ont alors érigé une chapelle à cet emplacement pour rendre un hommage à la petite fille dont le père travaillait pour les moines.
Cette explication semble plausible, puisqu'une sculpture était gravée dans la pierre de la chapelle représentant la tête d’un enfant et le portrait d’un loup. Ces deux vestiges provenant de la chapelle sont aujourd'hui encastrés dans le mur de l'église du côté extérieur de la sacristie et à l'arrière du bâtiment.