南朝宋永初元年（420年），改兖州为南兖州，北兖州为兖州。至此，南兖州领十四侨郡：南高平郡、南平昌郡、南济阴郡、南濮阳郡、南泰山郡、济阳郡、南鲁郡、东燕郡、高密郡（以上九郡位于江南）、南东平郡、南齐郡、南平原郡、济岷郡、雁门郡（以上五郡位于江北）。元嘉八年（431年），割南兖州江南九侨郡属南徐州，而割南徐州之广陵、海陵、山阳、盱眙、南沛、钟离六郡与豫州之秦郡属南兖州，南兖州遂因割江淮间为境而成实土州，与南徐州分江而治，辖境相当于今天江苏省江淮之间和安徽省天长市等地。后併南齐、南平原、济岷、雁门四郡入南