Heiligenstadt ist ein uraltes Siedlungsgebiet, das bereits vor 5000 Jahren besiedelt war. Auch die Römer hinterließen hier ihre Spuren. 1872 wurden im Bereich der Heiligenstädter Straße-Pokornygasse-Bauernfeldgasse Mauerreste gefunden, die einen Wehrturm des Limes in diesem Gebiet belegen. Daneben fand man bei Ausgrabungen in der Nähe der Jakobskirche einen römischen Friedhof und in der Nähe ein Awarengrab aus dem 6. Jahrhundert. Die Franken begannen schließlich um 900 mit der Besiedelung von Heiligenstadt. Der Ortskern gruppierte sich ursprünglich um den heutigen Pfarrplatz mit der ältesten Kirche dieses Gebietes. Die Bewohner waren wiederum Bauern, die im Wesentlichen für den Eigenbedarf produzierten. Auch der Fang von Krebsen und Fischen im westlichsten Arm der Donau (heute Heiligenstädter Straße) spielte eine Rolle. Für den Verkauf wurde Wein angebaut. Bis heute liegen am Hügelabhang zur Heiligenstädter Straße die Kellereien der Weingroßhändler. Bereits 1250 besaß das Stift Klosterneuburg Weingärten in Heiligenstadt. Nach dem Tod des Pfarrers Heinrich übertrug Bischof Weinhardt von Passau 1304 dem Stift das Recht, die Pfarre Heiligenstadt in Besitz zu nehmen. Heiligenstadt war im Mittelalter einer der reicheren Orte in der Umgebung. Bereits 1318 ist eine Schule urkundlich erwähnt, wahrscheinlich die einzige weit und breit. Heiligenstadt litt jedoch wie viele Vororte von Wien stark unter den Verheerungen ab dem 15. Jahrhundert. 1484 plünderte Matthias Corvinus Heiligenstadt, 1529 beschädigten die Plünderungen der Türken im Zuge der Ersten Wiener Türkenbelagerung Jakobskirche und Michaelskirche schwer. Durch die Opferbereitschaft der Bewohner von Döbling, Grinzing, Nußdorf und Heiligenstadt (die alle noch zu dieser Pfarre gehörten) konnte jedoch die Michaelskirche bereits 1534 wiederhergestellt werden.