泰山郡、济北郡、高平郡、济阴郡。冉魏永兴二年（351年），兖州大部陷于东晋。前燕元玺二年（353年），佔领后赵司州之阳平郡，置兖州，治馆陶（今河北省馆陶县）。元玺四年（355年），佔领东晋兖州之济北郡。光寿元年（357年），阳平郡还属司州，兖州徙治济北郡卢县（今山东省平阴县西）。光寿二年（358年），佔领后赵兖州之濮阳郡与东晋兖州之东平、任城、泰山（部分）三郡。光寿三年（359年），佔领后赵东燕郡与东晋陈留、济阳、济阴、梁四郡，属兖州。建熙元年（360年），兖州徙治梁郡睢阳县蠡台城（今河南省商丘市睢阳区