境约当今山东省菏泽、曹县、成武、东明及河南省兰考、民权等地。东魏天平元年（534年），割濮阳郡属司州。兴和二年（540年），分济阴郡置沛郡。至此，西兖州领二郡：济阴郡、沛郡。北齐天保七年（556年），併沛郡入济阴郡。至此，西兖州仅领济阴一郡。北周宣政元年（578年），改西兖州为曹州。