I 976 overlot keiser Otto II av Det tysk-romerske rike til Leopold I av Huset Babenberg som et markgrevskap innen Det tysk-romerske rike. Wien lå da ved markgrevskapets grense mot Ungarn, og allerede på 1000-tallet ble byen et viktig handelssentrum. I forbindelse med et landbytte mellom Passau bispedømme og Leopold IV, hertugen av Bayern ble Wien referert til som for første gang, noe som indikerer at det har vært en bebyggelse ed en viss byplan.