十六国时期，济北郡先后为后赵（325年－351年）、东晋（351年－355年）、前燕（355年－370年）、前秦（370年－384年）、东晋（384年－387年）、后燕（387年－398年）、东晋（398年－399年）、南燕（399年－410年）所有。后燕建兴七年（392年），兖州併入青州，济北郡改属青州。晋安帝隆安二年（398年）收复济北郡后还属兖州，次年入南燕后又改属并州。义熙六年（410年），东晋再次收复济北郡，还属兖州。
南北朝.宋少帝永初三年（422年），济北郡济水以北