治所在济阴郡定陶县定陶城（今山东省定陶县西北），后徙治同县左城（今山东省定陶县西南）。辖境约当今山东省菏泽、曹县、成武、东明及河南省兰考、民权等地。东魏天平元年（534年），割濮阳郡属司州。兴和二年（540年），分济阴郡置沛郡。至此，西兖州领二郡：济阴郡、沛郡。北齐天保七年（556年），併沛郡入济阴郡。至此，西兖州仅领济阴一郡。北周宣政元年（578年），改西兖州为曹州。