东晋隆安二年（398年），佔领后燕徐州之鲁、泰山、高平、东平四郡，兖州之陈留、济阴二郡，青州之济北郡，属兖州。南燕二年（399年），佔领东晋兖州之泰山、东平、济北三郡，以泰山郡置兖州，治梁父县（今山东省泰安市岱岳区东南），以东平、济北二郡置并州。后秦弘始元年（399年），佔领东晋兖州之陈留郡，仍置兖州，治小黄县仓垣城（今河南省开封市祥符区北）。
南北朝.北魏皇始三年（398年），佔领后燕濮阳郡。天兴二年（399年），佔领南燕东燕郡，改为东郡。遂以二郡置兖州，治东郡白马县滑台