还属兖州，次年入南燕后又改属并州。义熙六年（410年），东晋再次收复济北郡，还属兖州。
南北朝.宋少帝永初三年（422年），济北郡济水以北的临邑、东阿二县为北魏所攻佔，仅余济水以南的卢、蛇丘、谷城三县，因避敌而移治卢县肥城（今山东省肥城市）。后在济水以南侨置临邑、东阿二县。宋孝武帝孝建元年（454年），太原郡山茌县改属济北郡。大明元年（457年），省临邑、东阿二县。至此，济北郡领四县：卢、蛇丘、谷城、山茌。北魏明元帝泰常八年（423年），以上年攻佔的济北郡、东平郡的部分区域置济