东汉建武十三年（37年），泗水国併入广陵郡。汉明帝永平元年（58年），徙山阳王为广陵王，置广陵国。永平十年（67年），广陵国除为郡。汉顺帝永和五年（140年），广陵郡领十一县：广陵县、江都县、平安县、高邮县、凌县、海西县、东阳县、射阳县、盐渎县、舆县、堂邑县。辖境包括西汉广陵国与临淮郡的一部分地区。一说广陵郡下有海陵县，《郡国志》失载。献帝建安年间，割下邳郡之淮阴、淮浦二县入广陵。三国时广陵分属魏、吴。吴据广陵县，魏广陵郡治淮阴县。西晋割淮阴以东置临淮国。东晋于广陵郡侨置青州。南朝刘宋于广陵郡侨置南兖州