Det var bebyggelse i området allerede under Shang-dynastiet. I 325 f.Kr. etablerte staten Qin Hanzhong som prefektur. I 206 f.Kr. var Hanzhong base for Liu Bang da han bygde opp Det vestlige Han-dynasti (206 f.Kr.-8 e.Kr.). I de tre rikers tid (220-280) sendte Zhuge Liang, statsminister for kongedømmet Shu, tropper til Qishanfjellet seks ganger, og hadde Hanzhong som base for sin militærekspedisjon nordover mot kongedømmet Wei.