上当地的阿勒曼尼人并不受法兰克人所管束，但于730年法兰克王国宫相查理·马特开始削弱阿勒曼尼人的自主权，查理的儿子矮子丕平废黜了所有部落公爵，改为委派王权伯爵统治当地。公国的领土被分成多个行政区或伯国，这个地区的划分一直持续至中世纪。公国地区主要被莱茵河、康斯坦茨湖、莱希河和法兰克尼亚公国所包围。其中莱希河分隔开阿勒曼尼亚与巴伐利亚公国，但这并未造成两地之间民族上或地理上的差异，反而两地部落之间有很好的联系。十世纪初，正当东法兰克王国的卡洛林王朝不断衰落之际，阿勒曼尼亚地区的伯爵亦逐渐脱离中央的控制