安徽、河南淮河以南，湖北黄冈以东和江西全省，为九江郡历来范围最大之时，因此地有众多水泽而得名。秦末汉初之际，割西境置衡山郡，割南境置庐江、豫章二郡，九江郡范围大大缩小，只包括今天安徽省中部淮河以南、瓦埠湖流域以东、巢湖以北地区。汉高祖时，改九江郡为淮南国，封给了淮南厉王刘长。汉武帝元狩元年（前122年），淮南王刘安因涉嫌谋反自杀后，淮南国撤销，复称九江郡。东汉保留郡置，且扬州刺史部历个治所历阳县（今和县）、寿春、合肥都在郡内，成为扬州首郡。三国时期，曹魏嘉平初年，改九江为淮南郡。从此九江不再作为郡名