太和二十三年（499年）复次职令，改为从二品。北齐时，用中军将军安置罢任武官，成为无实权的闲职，从二品。北周时，中军将军的品级是八命。隋朝因避讳太祖杨忠，中军将军改称内军将军。诸侯王国的中军将军是西晋设立的。西晋以平原国、汝南国、琅邪国、扶风国、齐国为大国，各置上、中、下三军，中军二千人，设中军将军一人统管。其余王国不设中军。南朝宋大、小诸侯王国都设三军。地位很低，晋朝、刘宋时没有能列入九品以上的流内品阶。南齐、南梁沿用刘宋制度。梁武帝天监七年（508年）定皇弟子国上、中、下三军将军为流外七班中的七