尔特人的部落在此地区活动。其后罗马帝国佔领了凯尔特王国诺里库姆并设立为行省。罗马帝国衰落后奥地利曾先后被匈人、伦巴第人、东哥德人、和法兰克人佔据。一支斯拉夫部落向阿尔卑斯地区迁移，佔据了现今奥地利的中部和东部地区，建立了卡兰塔尼亚王国。公元788年查理曼征服了该地区，鼓励拓殖，并引进了基督教。查理曼之后，法兰克帝国分裂，奥地利地区成为独立的东法兰克王国的一部分，当时该地区被称爲“"marchia Orientalis"”（拉丁语“东方边疆领”之意），由巴伐利人领袖（后来的巴伐利亚公爵）管理。976年被封