改名为淮南郡，所以从西汉到明朝之间的一千五百多年间“九江”的地名一般与今天的九江市并无关系。汉高祖六年（前201年）在此置柴桑县，汉文帝设寻阳县（县治在江北，古长江大概为今太白湖、龙感湖一线），是此地置县之始。三国时属孙吴，柴桑隶武昌郡，寻阳隶庐江郡。西晋永兴元年（304年），析庐江之寻阳、武昌之柴桑二县立寻阳郡，初治寻阳县，咸康中移治柴桑县，隶江州。永嘉三年（309年），寻阳县治南迁，江北划归蕲春。江北的寻阳老城改称为“浔水城”。东晋咸和中温峤移江州治寻阳，从此“江南之寻阳着，江北之寻阳益晦，