Nanjing er en av Sør-Kinas eldste byer. Ifølge legendene lot Fu Chai, hersker av staten Wu, bygge byen (冶城, pinyin: ) på dette sted i 495 f.Kr.. Allerede i 473 erobret staten Yue byen, og den bygde sin egen by ved den nåværende Zhonghua-porten, og kalte den (越城, ). Så, i 333 f.Kr., da også Yue gikk under, bygde staten Chu byen (金陵邑, ) nordvest i dagens Nanjings område. Siden den gang har byen/e vært gjennom mange ødeleggelser og gjenoppbygginger.