Cao ble født i Yancheng, Jiangsu. Han begynte å studere kinesisk språk og litteratur ved Pekinguniversitetet i 1974 og utga sin første roman i 1983.