Nykyisen Vanhan kirkkopuiston alueella ja sen läheisyydessä on sijainnut useita hautausmaita. Jo suurten kuolonvuosien aikana 1695–1697 haudattiin vainajia tilapäiseen hautausmaahan kaupungin ulkopuolelle Kamppiin, ei tosin aivan nykyisen puiston paikalle vaan nykyisen Bulevardin ja Fredrikinkadun risteyksen tienoille. Syksyn 1710 suuren ruttoepidemian aikana kuolleita haudattiin edellä mainitun paikan viereen, nykyisen Annankadun tienoille. Tämän muistoksi on puiston reunalla sijaitsevaan hautausmaan porttiin kiinnitetty 1938 Helsinki-Seuran aloitteesta suomen- ja ruotsinkieliset muistotaulut, joissa sanotaan ”tällä paikalla” olleeseen hautausmaahan haudatun 1 185 helsinkiläistä. Hattujen sodan aikana 1741 kuolleita Helsinkiin sijoitetun ruotsalaisen tykistörykmentin sotilaita haudattiin myös kuolonvuosien ja ruttoepidemian aikaisten tilapäisten hautausmaiden viereen. Puiston nykyinen liikanimi Ruttopuisto viittaa alueelle haudattuihin ruttoepidemian uhreihin.