凯尔特人在现在维也纳的位置建立名为“Vedunia”的居住区，公元1世纪罗马帝国在多瑙河附近（现在维也纳的市中心）驻扎军队并建立城市，以守护潘诺尼亚行省的边界。罗马人一直待到了5世纪，5世纪初维也纳曾发生了一场毁灭性的火灾，接下来的记载出现在881年同马扎尔人的战斗。955年，东法兰克王国国王奥托一世在勒赫菲尔德战役击败了马扎尔人，标志着维也纳和奥地利的崛起。
巴本堡王朝时代.976年，巴本堡家族的利奥波德一世被神圣罗马帝国皇帝奥托二世封为巴伐利亚东部边区马克的藩侯，这块与匈牙利边