En av ruinerna som finns på platsen här bredvid härrör från en stenkyrka som troligen byggdes någon gång mellan slutet av 1200-talet till 1400-talet. Den gamla kyrkan raserades omkring 1835, då man hämtade material därifrån för att bygga den nya kyrkan i Sunne. Ruinen närmast cachen är en Kastal, som är en slags försvarsanläggning, den är förmodligen ännu äldre än kyrkan. Vid en arkeologisk undersökning i kastalen hittade man bland annat ett silvermynt från slutet av 1200-talet. Kastaler användes som försvarstorn eller vakttorn och som bostad. De byggdes i 3-4 våningar och var ofta fyrkantiga i sten.

Enligt traditionen uppfördes både kyrkan och kastalen i Sunne av den norske kungen Sverre Sigurdsson.
År 1178 var Sverre och hans män Birkebeinarna på väg genom Jämtland mot Trondheim. Men jämtarna hade samlat ihop 1200 bönder för att strida mot Sverre och hans 100 män. På sjön utanför Sunne började striden, men mörkret föll och de jämtska bönderna blev lurade av Sverre och hans män. Istället för att strida mot norrmännen stred de jämtska bönderna mot varandra. När gryningen kom insåg jämtarna sitt misstag och gav upp striden. Sverre ska sedan ha byggt kyrkan för att befästa sin makt över Jämtland.
