356年），佔领段龛所据徐州之东莞、东安二郡，改属青州。前秦建元八年（372年），佔领东晋徐州之琅邪国，改属青州。建元十五年（379年），佔领东晋徐州五郡，以彭城、东海、兰陵三郡仍置徐州（治彭城），以下邳、淮陵二郡置扬州。建元二十年（384年），徐州陷于东晋。
北朝.北魏天安元年（466年），佔领南朝宋徐州之彭城、沛、阳平三郡，仍治彭城，改阳平郡为南阳平郡。皇兴元年（467年），又佔领下邳、东海、淮阳、济阴四郡，改济阴郡为南济阴郡。二年（468年），佔领徐州全境，分彭城郡置建昌郡，