曹魏时，併利城郡入东海国，併东莞郡入琅邪国。至魏末，徐州领三郡三国：彭城国、广陵郡、下邳郡、东海国、琅邪国、城阳郡。西晋泰始元年（265年），分琅邪国置东莞国，割城阳郡属青州。咸宁三年（277年），併东莞国入琅邪国。太康元年（280年），分下邳国置临淮郡。太康十年（289年），分琅邪国、青州之城阳郡复置东莞郡，属徐州。至此，徐州领三郡四国：彭城国、广陵国、下邳国、临淮郡、东海郡、琅邪国、东莞郡。元康元年（291年），分东海郡置兰陵国，分东莞郡置东安国。永宁元年（301年），分临淮郡置淮陵国。永兴元年