皇三年（583年），废济北郡，领县直属济州。隋炀帝大业三年（607年），改济州为济北郡，仍治卢县碻磝城，领九县：卢、范、阳谷、东阿、平阴、长清、济北、寿张、肥城。魏永平元年（617年），改济北郡为济州。许天寿元年（618年），复改为济北郡。唐高祖武德二年（619年），复改为济州，济北郡之名不再作为行政区划名称。唐玄宗天宝元年（742年），改济州为济阳郡。