割山阳郡属北兖州。大宝元年（550年），割秦郡置西兖州。至此，南兖州领五郡：广陵郡、海陵郡、盱眙郡、神农郡、南沛郡。承圣元年（552年），南兖州陷于北齐，改为东广州。南朝陈太建五年（573年），收复南兖州，领广陵、海陵、射阳三郡；改射阳郡为盐城郡；废泾州为沛郡，属南兖州。太建七年（575年），割南谯州之盱眙、神农、秦三郡属南兖州。至此，南兖州领七郡：广陵郡、海陵郡、盐城郡、沛郡、盱眙郡、神农郡、秦郡。北周大象元年（579年），佔领南兖州，改为吴州。隋朝开皇九年（589年），改吴州为扬州。大业三年（6