南渡江南。晋成帝时，苏峻、祖约起兵作乱，后赵又大举南侵，江北民众南渡长江的更多，于是在江南暂借地重置淮南郡及襄垣、当涂、上党、定陵、逡道、繁昌7县。义熙八年（412年）土断扬、豫，割丹阳郡于湖县作为该侨郡的辖境。刘宋大明六年（462年），淮南郡併入宣城郡。大明八年（464年）恢复淮南郡，隶属南豫州。泰始三年（467年）改隶扬州。刘宋时期时领有于湖、当涂、繁昌、襄垣、定陵、逡道6县。萧齐时领县同前。萧齐建元二年（480年），废南豫州，淮南郡改隶扬州。永明二年（484年），复属南豫州。萧齐时领县同前。