郡领五县：定陶、离狐、冤句、乘氏、城安。周武帝宣政元年（578年），改西兖州为曹州，济阴郡仍属之。
隋唐.隋文帝开皇三年（583年），废济阴郡，领县直属曹州。隋炀帝大业三年（607年），改曹州为济阴郡，治济阴县左城（今山东省曹县西北），领九县：济阴、外黄、济阳、成武、冤句、乘氏、定陶、单父、金乡。魏永平元年（617年），改济阴郡为曹州。隋炀帝大业十四年（618年），复为济阴郡。不久，济阴郡即属宇文化及之许。郑开明元年（619年），复改为曹州。唐玄宗天宝元年（742年），