Pierwszy kościół w tym miejscu został wzniesiony pod koniec XI wieku pod wezwaniem Michała Archanioła. Jan Długosz w swoich Rocznikach podaje, że dokładnie 6 maja 1170 roku książę Mieszko III Stary i bp. Radwan założyli przy kościele św. Michała hospicjum (przytułek) dla wędrowców i pątników. W 1187 roku kościół i hospicjum Mieszko przekazał zakonowi joannitów, którzy zajmowali się pomocą podróżnym. Na przełomie XII i XIII wieku zakon rozpoczął budowę nowego kościoła, który po licznych przebudowach przetrwał do dziś. Jest to jeden z pierwszych kościołów w Polsce, do którego budowy użyto cegły. Joannici przed 1288 rokiem zmienili patrona kościoła na św. Jana Jerozolimskiego (Jana Chrzciciela). Jednak jeszcze przez jakiś czas (co najmniej do roku 1360) równolegle używano starego wezwania. Określenie „za murami” odnosi się do położenia poza obrębem średniowiecznych fortyfikacji miejskich. Z zakonem związane są nazwy dzielnic Poznania – Komandoria (były teren przekazanej zakonowi osady) i Malta (teren ziem nadanych joannitom jako uposażenie na utrzymanie hospicjum).Komandoria to okręg administracyjny zakonu, zaś nazwa Malta nawiązuje do tego, że w swej burzliwej historii, od XVI wieku zakon znalazł sobie siedzibę na Malcie i często jest nazywany Zakonem Maltańskim. Poznańska komandoria miała najdłuższą w Polsce historię i przetrwała do 1832 roku.
Pod koniec XV wieku kościół zostaje uszkodzony przez pożar. Podczas remontu nadano świątyni charakter gotycki, a około 1512 za komandora Stanisława Dłuskiego dobudowano od północy nawę boczną, dodano wieżę, a drewniany strop zastąpiono sklepieniem. Kolejny remont w latach 1719-1740 trwał z inicjatywy komandora i generała Wojska Polskiego Michała Dąbrowskiego, który w 1736 wzniósł od południa barokową kaplicę grobową pw. Krzyża Świętego. W 1832 rząd pruski dokonał kasaty zakonu, a kościół przekazano diecezji która utworzyła tu parafię (według innych źródeł parafia istniała tu już od połowy XIII wieku). Podczas II wojny światowej zamieniony na magazyn, został uszkodzony podczas walk w 1945. Odbudowany w 1948 z inicjatywy ks. Władysława Koperskiego. Podczas renowacji starano się przywrócić pierwotny, romański charakter budowli. W1992 na teren parafii powrócili joannici (proboszcz jest kapelanem magistralnym zakonu), którzy otworzyli tu przychodnię onkologiczną.