割南境置庐江、豫章二郡，九江郡范围大大缩小，只包括今天安徽省中部淮河以南、瓦埠湖流域以东、巢湖以北地区。汉高祖时，改九江郡为淮南国，封给了淮南厉王刘长。汉武帝元狩元年（前122年），淮南王刘安因涉嫌谋反自杀后，淮南国撤销，复称九江郡。东汉保留郡置，且扬州刺史部历个治所历阳县（今和县）、寿春、合肥都在郡内，成为扬州首郡。三国时期，曹魏嘉平初年，改九江为淮南郡。从此九江不再作为郡名存在。
行政区划.治所阴陵（今安徽凤阳周圩西南）。领14县：阴陵、西曲阳、寿春、当涂、下蔡、平阿、义