孝建元年（454年），以单父（改为侨县离狐）、成武二县置北济阴郡，属徐州。大明元年（457年），复置丰县（旧属沛郡）。至此，北济阴郡领三县：离狐、成武、丰，治离狐县单父城（今山东省单县）。宋明帝泰始二年（466年），失淮北四州，北济阴郡遂入北魏，仍属徐州。北齐文宣帝天保七年（556年），因北济阴郡毗邻西兖州济阴郡，遂改为永昌郡，省併离狐县。至此，永昌郡领二县：成武、丰。隋文帝开皇三年（583年），废永昌郡，领县直属徐州。