兰陵、东莞、东安六郡国陷于后赵。咸和元年（326年），临淮、淮陵二郡陷于后赵。至此，徐州仅余广陵、堂邑二郡。永和七年（351年），收复彭城、下邳、临淮、淮陵、东海、兰陵六郡国。永和十二年（356年），收复琅邪国。咸安二年（372年），琅邪国陷于前秦。太元四年（379年），彭城、下邳、淮陵、东海、兰陵五郡国陷于前秦。太元九年（384年），收复徐州全境，并以前秦南兖州（领梁、谯、沛三郡）併入徐州。太元十九年（394年），琅邪国陷于后燕。隆安二年（398年），收复琅邪国。隆安三年（399年），琅邪、东莞、东安