Qiongshan var bebodd allerede i de senere deler av den neolittiske periode. Stedet ble etablert som fylke i det første år av Zhenguaneraen (dvs. 638) under Tang-dynastiet (618–907). Det var et fjell ved navn Qiongshan nær Baishidu (idag landsbyen Xinmin) som gav fylket og senere byen sitt navn.