KKP ble etablert på partiets 1. nasjonalkongress som ble avholdt 23.–31. juli 1921. Nasjonalkongressen ble opprinnelig avholdt i et hus i Den franske konsesjon i Shanghai. Det franske politiet avbrøt imidlertid møtet 30. juli, og det ble flyttet til en turistbåt på Sørsjøen i Jiaxing, Zhejiang-provinsen. Kun tolv delegater deltok på møtet. Verken Chen og Li deltok på møtet, men sistnevnte sendte en personlig representant i sitt navn. Nasjonalkongressen vedtok etableringen av et kommunistparti som samarbeidet med Den kommunistiske internasjonalen. Chen ble valgt som partiets første leder. Ved utgangen av 1921 hadde partiet rundt 50 medlemmer, og partiorganisasjonen vokste raskt de følgende årene.