Partiets opprettelse var et direkte resultat av Den russiske revolusjonen i 1917 der kommunistene tok makten. Partiet ble opprettet som en avdeling i Den kommunistiske internasjonalen (Komintern), en institusjon dominert av Sovjetunionen. Komintern opprettet kontakt med Kuomintang (KMT) og gjennom diplomatiske forhandlingene etablerte Den første enhetsfront, en allianse mellom KKP og KMT. Alliansen varte frem til 1927 da KMT styrker under Chiang Kai-shek iverksatte et nasjonalt angrep på den kommunistiske bevegelsen. Dette ville være starten av Den kinesiske borgerkrigen som vedvarte frem til 1949.