Gao Gang ble medlem av Kinas kommunistiske parti i 1926 og var leder for en kommunistisk geriljabase under den kinesiske borgerkrig. Han var av bondebakgrunn og hadde lav utdannelse – han var neppe særlig lesekyndig. Han vant Mao Zedongs tillit, og ble dramatisk forfremmet mot slutten av borgerkrigen og ble leder for partiet, staten og det militære i nordøst-Kina.