仅设于北部边境，后来扩展到南部边境。州郡兵，是维持诸州治安的军队，有时也充作镇戍兵或是随军出征。北魏后期也逐渐形成固定的兵户。东魏和北齐的军队主要由六镇镇民和洛阳的鲜卑兵所组成，在北齐时又编成「百保鲜卑」。另外，也选汉族勇士来防备边界。西魏和北周受到鲜卑传统和汉文化的影响，于550年创立府兵制。该制度将迁至关中的六镇军民编成六军，并设立八位柱国大将军。西魏权臣宇文泰为最高统帅，西魏广陵王元欣无实权，其他六个柱国则分领府兵，各督署2大将军。北周时又扩增柱国人数，并将兵权集中在皇帝手中。但此时府兵制不同于隋