南燕（399年－410年）所有。后燕建兴七年（392年），兖州併入青州，济北郡改属青州。晋安帝隆安二年（398年）收复济北郡后还属兖州，次年入南燕后又改属并州。义熙六年（410年），东晋再次收复济北郡，还属兖州。
南北朝.宋少帝永初三年（422年），济北郡济水以北的临邑、东阿二县为北魏所攻佔，仅余济水以南的卢、蛇丘、谷城三县，因避敌而移治卢县肥城（今山东省肥城市）。后在济水以南侨置临邑、东阿二县。宋孝武帝孝建元年（454年），太原郡山茌县改属济北郡。大明元年（457年），省临邑、东