武泰元年（528年），分凉城县置长乐县。至此，东郡领七县：东燕、白马、平昌、凉城、长乐、酸枣（旧属陈留郡）、长垣（旧属陈留郡）。北齐文宣帝天保七年（556年），省併平昌、凉城、长乐、酸枣四县。至此，东郡领三县：东燕、白马、长垣。北周灭北齐后，东郡改属汴州。隋文帝开皇三年（583年），废东郡，领县直属汴州。
隋朝.隋文帝开皇九年（589年），分汴州置杞州，开皇十六年（596年）改为滑州，隋炀帝大业二年（606年）改为兖州。大业三年（606年），改兖州为东郡，治白马县滑台城（今河南