东晋时，晋元帝侨置兖州于京口（今江苏镇江市），晋明帝时，将其移治广陵县（今扬州市西北蜀冈上），后又先后在盱眙县、山阳县、下邳县、淮阴县设治所，直至东晋末年定治广陵县。南朝宋永初元年（420年），（侨置）兖州改为南兖州。南朝宋元嘉八年（431年）割长江、淮河之间为界，改南兖为实州，分江而治。南兖州割江淮为境，治广陵（扬州市区），领广陵、海陵、山阳、盱眙(治所今盱眙县东北)、秦(治所今六合县北)、南沛(治所今安徽省天长市石梁镇)、新平(治所今海安县)、北淮阳(治所今宿迁县东南)、北济阴(治所当在今扬州境内)、