先后陷于后赵。此后，徐州治所屡有迁徙，部分领郡屡复屡陷。义熙六年（410年）灭南燕后收复徐州北部诸郡。义熙七年（411年），以淮水为界将徐州一分为二，淮北为北徐州（治彭城，在今江苏省徐州市），淮南为徐州（治广陵，在今江苏省扬州市邗江区西）。徐州领六郡：广陵郡、海陵郡、盱眙郡、钟离郡、山阳郡、秦郡。南朝宋永初二年（421年），改徐州为南徐州，北徐州为徐州。元嘉八年（431年），南徐州诸郡併入南兖州，而割杨州之晋陵郡、南兖州江南九侨郡侨置南徐州，南徐州遂由江北移置江南，治南东海郡丹徒县京口（今江苏省镇江市）