隋文帝开皇三年（583年），废东平郡，领县直属兖州。开皇十年（590年），分兖州置郓州。隋炀帝大业三年（607年），改郓州为东平郡，治郓城（今山东省郓城县东），领六县：郓城、鄄城、须昌、宿城、雷泽、鉅野。魏永平元年（617年），改东平郡为郓州。许天寿元年（618年），复改为东平郡。郑开明元年（619年），复改为郓州。唐玄宗天宝元年（742年），复改为东平郡，治须昌（今山东省东平县西北），领五县：须昌、宿城、寿张、郓城、鉅野。天宝十三载（754年），废济阳郡，其所领卢、长清、平阴、东阿、阳谷五县