末年首次设立该职位，建安三年（198年），时任宁辑将军的段煨在谒者仆射裴茂的指挥下，进入长安后，指挥梁兴、张横击杀逃到黄白城的李傕，将李傕全家老少二百余口押解许都，曹操下令夷灭三族，献帝遂封段煨为「安南将军」、閺乡侯。
安北将军.曹魏时为「第三品」，但无得此官职之人的相关纪录。