Rouhialan koulu on rakennettu alun perin Rouhialan kartanon isännän Henrik Wirilanderin lahjoittamalle yhden hehtaarin tontille Koulu valmistui ja koulunkäynti alkoi 22.8.1910.
Aluksi koulurakennukseen tuli yksi luokkahuone, veistoluokka ja opettajan asunnoksi kolme huonetta ja keittiö. Pihamaan toiselle puolelle rakennettiin sauna ja vastapäätä sitä talousrakennus, johon tuli 2 aittaa, puuvaja, kahden lehmän navetta, rehusuoja ja ulkohuoneet tytöille ja pojille sekä opettajalle. Tämä vanha piharakennus on edelleen olemassa ja käytössäkin lukuun ottamatta navettaa ja ulkokäymälöitä.
Kun sitten varsinainen kansakoulu aloitti toimintansa, se alkoi kaksiopettajaisena, mutta heti alusta asti tilanahtaudessa. Jo koulun ensimmäisenä lukuvuotena alettiin suunnitella lisäluokkaa ja toisen opettajan asuntoa, mutta tämä jatko-osa valmistui vasta vuonna 1913. Vuonna 1916 oli tilanpuute jälleen niin vaikea, että veistoluokka oli otettava varsinaiseksi luokkahuoneeksi ja etsittävä vuokratiloja käsityötiloiksi.
Vuonna 1920 tilanahtaus tuli niin vaikeaksi, että lisätilaa oli pakko rakentaa. Kunta osti Henrik Wirilanderilta 1,5 ha:n tontin Rouhialan kadun varrelta alakoulua varten. Tontille rakennettiin yhden luokkahuoneen, veistosalin ja opettajan asunnon käsittävät tilat. Nykyisessä alakoulussa on koulun pieni liikuntasali ja iltapäiväkerhon tila. Tontille koulun pihaan on rakennettu Emolan päiväkoti.
Koska Mikkeli oli sotiemme aikana päämajakaupunki, niin Rouhialan kouluakin tarvittiin välillä puolustusvoimien käyttöön. Välillä koulu oli myös siirtoväen sairaalana. Sodan jälkeen siirtoväki ja suuret ikäluokat lisäsivät oppilasmääriä kaikissa kouluissa. Vuoroluku jatkui ja lisääntyikin. Oppilasmäärä oli suurimmillaan yli kahdensadan. Luokkiakin oli enimmillään kahdeksan.
Jouluaattona ihmettelimme ja ihastelimme koulun kauniita jouluikkunoita.