496年，法兰克王国奠基人克洛维一世打败了在士瓦本地区的阿勒曼尼人，将当地纳入法兰克人的统治之下。法兰克人于当地委任公爵统治，而这些公爵并不附属法兰克国王。7世纪时士瓦本地区的部落改信基督教，在奥格斯堡与康斯坦茨均设立采邑主教，而8世纪时则于赖兴瑙岛和圣加仑建立了修道院。基本上当地的阿勒曼尼人并不受法兰克人所管束，但于730年法兰克王国宫相查理·马特开始削弱阿勒曼尼人的自主权，查理的儿子矮子丕平废黜了所有部落公爵，改为委派王权伯爵统治当地。公国的领土被分成多个行政区或伯国，这个地区的划分一直持续至中世纪