同南朝一样为州郡县三级制。然而州辖区不大，州刺史可越郡级直接管理县，使得郡级逐渐虚级化，到583年隋朝正式定为州县两级制。北魏也设有侨州郡县和双头州郡（如南雍州），并将州郡县按人口数分等级。为了防范新附或异姓叛变，于406年将各级行政长官分立三位，其中州刺史方面须一位为宗室。北魏原设有负责地方军政的行台及管理数州军事的都督。到北齐定为行台制，北周则为总管制，都是负责数个州郡军事与行政的政区单位。北齐因为州辖区越分越细，于是设置行台兼管数州民政及军事。西魏则改称都督为总管，性质同北齐行台。北周时，总管