永和十二年（356年），收复琅邪国。咸安二年（372年），琅邪国陷于前秦。太元四年（379年），彭城、下邳、淮陵、东海、兰陵五郡国陷于前秦。太元九年（384年），收复徐州全境，并以前秦南兖州（领梁、谯、沛三郡）併入徐州。太元十九年（394年），琅邪国陷于后燕。隆安二年（398年），收复琅邪国。隆安三年（399年），琅邪、东莞、东安三郡国陷于南燕。元兴二年（403年），梁国陷于后秦。义熙五年（409年），再次收复徐州北部诸郡国（梁国除外）。义熙七年（411年），以淮水为界将徐州一分为二，淮南为徐州（治广陵