首次设立该职位，兴平元年（194年）秋七月甲子，董卓旧将镇南将军杨定在董卓伏诛后，被封为安西将军，开府仪同三司。
安南将军.在东汉末年首次设立该职位，建安三年（198年），时任宁辑将军的段煨在谒者仆射裴茂的指挥下，进入长安后，指挥梁兴、张横击杀逃到黄白城的李傕，将李傕全家老少二百余口押解许都，曹操下令夷灭三族，献帝遂封段煨为「安南将军」、閺乡侯。
安北将军.曹魏时为「第三品」，但无得此官职之人的相关纪录。