Den bärande takkonstruktionen består alltid av sten, oftast i form av ett tunnvalv. Ingången består av en kraftig, tätslutande trädörr, ofta i kombinationen med en innerdörr eller ett smalt förrum (svale), en sluss som förhindrar att det kylda utrymmet kommer i direkt kontakt med uteluften. På ingångssidan finns en ventilationsöppning. I den bakre delen av källaren anordnas en eller två takventiler/skorstenar för att få luften att cikulera och undvika att mögel bildas i källaren. Taket är täckt med ett cirka 60 centimeter jordskikt. Golvet är av jord eller sand, ibland belagt med kullersten eller tegel.
Genom att jorden bildar ett isolerande skikt håller en jordkällare alltid en betydligt lägre temperatur än omgivande luft sommartid och är frostfri på vintern. Innan kylskåpet var uppfunnet var jordkällare vanliga, framförallt på landsbygden, för att förvara livsmedel. Temperaturen i en jordkällare varierar mellan +10 och +12°C (på sommaren) och mellan +4 och +6°C (på vintern).