阴、梁四郡，属兖州。建熙元年（360年），兖州徙治梁郡睢阳县蠡台城（今河南省商丘市睢阳区西南）。建熙七年（366年），佔领东晋高平、鲁、泰山（部分）三郡，属兖州。至此，兖州领十二郡：梁郡、陈留郡、济阳郡、濮阳郡、东燕郡、东平郡、泰山郡、济北郡、高平郡、济阴郡、任城郡、鲁郡。前秦建元六年（370年），佔领前燕兖州，徙治陈留郡小黄县仓垣城（今河南省开封市祥符区北），割梁郡属南兖州，併任城郡入高平郡。建元十五年（379年），兖州徙治高平郡湖陆县（今山东省鱼台县东南）。至此，兖州领十郡：陈留郡、济阳郡、濮阳郡、