济水以东诸郡。后侨置阳平郡，后省。元嘉十三年（436年），兖州徙治鲁郡邹县邹山（今山东省邹县东南）。元嘉三十年（453年），兖州徙治鲁郡鲁县瑕丘城（今山东省济宁市兖州区西北）。此后，瑕丘一直为兖州治所。大明元年（457年），复置阳平郡。至此，兖州领六郡：鲁郡、泰山郡、高平郡、东平郡、济北郡、阳平郡。泰始四年（468年），兖州全境陷于北魏。北魏泰常七年（422年），佔领南朝宋兖州，仍治滑台。泰常八年（423年），割东平、济北二郡置济州。神䴥三年（430年），兖州济水以东陷于南朝宋。至此，兖州领四郡：东郡、