Byen ble grunnlagt før 100 f.Kr. på Han-dynastiets tid. Under Tangdynastiet tilsvarte området omtrent datidens (prefektur) (). Blant dets guvernører og prefekter kan nevnes Zhang Zhenzhou (張鎭周, også romanisert , Lü Yongzhi (呂用之), Li Sujie (李素節) og Gao Yu (高澞, grandnevø av Gao Pian, 高駢. På 1100-tallet ble byen hovedstad for et militærprefektur og fikk sitt nåværende navn Anqing.