Myrttipuiston pohjoisreunalla on näkyvissä ensimmäisen maailmansodan Helsingin maalinnoitukseen liittyvää taisteluhautaa. Jatkosodan pommitusten aikana se toimi sirpalesuojana. Kallion laella on betonisokkeli ajalta ennen vuotta 1932, mutta käyttötarkoitusta ei tiedetä.
Puiston vieressä on Pukinmäen VPK:n talo. Pukinmäen VPK on perustettu 1916 ja sen syntyyn vaikutti puisen huvilayhdyskunnan kasvu sekä höyryvetureista tulleet kipinät. VPK:lla oli kallion juurella oma tanssilava, joka toimi kylän keskeisenä juhlapaikkana.