從1920年開始，有關共同組建團體以改革中國社會的思想成為普遍的共識。1921年6月第三國際派遣馬林等人前往上海協調召開全國代表大會，進而组建中國共產黨。1921年7月23日，來自中國北京、漢口、廣州、長沙、濟南等地和日本的13名共產主義小組代表與2名第三國際代表全部抵達上海法租界召開代表大會。7月30日，上海會場遭到警方搜查，會議地點轉往浙江嘉興的嘉興南湖一艘遊湖船上進行。第一次全國代表大會宣布建立中國共產黨以及其宗旨和原則等決議，並且制定有關工作機構和工作計畫的臨時性綱領。在第一次全國代表大會上還選舉陳獨秀、張國燾、李達三人組成的中國共產黨中央局為領導機構，分別由陳獨秀擔任書記一職，而張國燾和李達分別負責組織與宣傳工作。在1922年7月的第二次全國代表大會上明確提出了中國共產黨的最高綱領和最低綱領，同時還通過加入共产国际而成為其分支機構的決議，同意接受共产国际的指導。其中中國共產黨將自身定位在實施列寧主義路線的共產主義革命政黨，同時作為左派政黨而與當時其他右翼政黨爭奪政治權力。當時中國共產黨發展初期絕大部分運作經費是由總部設在莫斯科的第三國際所提供，其作為國際共產主義運動的一部份而接受第三國際的指揮。而後者提供的資金來源除了美元和盧布外，還包括有貴重的珠寶、鑽石、鴉片等。1923年1月12日，第三國際作出《共產國際執行委員會關於中國共產黨與國民黨關係問題的決議》，系統性地闡述了對於國共合作問題的指導性意見。1923年6月，中國共產黨第三次全國代表大會提出全體共產黨黨員以個人名義加入中國國民黨、並與中國國民黨建立「革命統一戰線」的方針。隔年1月召開的中國國民黨第一次全國代表大會，同樣也確定了「聯俄、容共、扶助農工」的三大政策。之後10名中國共產黨黨員入選成為中國國民黨中央執行委員會委員或者候補中央執行委員會委員，至此形成第一次國共合作關係。但是當孫中山於1925年3月逝世後，蔣中正開始排斥中國共產黨。1926年3月中山艦事件後，國共關係陷入緊張。1927年，蔣中正率領部隊進駐當時由共產主義武裝成員控制的上海，并於1927年4月12日發起大規模捕殺中國共產黨黨員和支持人士的四一二事件。之后蔣中正試圖進攻武漢，但是遭到中國共產黨將領葉挺軍隊的阻攔。與此同時，蔣中正許多盟友張作霖、何鍵等也开始打擊中國共產黨。在這次清黨过程中，中國共產黨党员人数从25,000多名锐减至10,000人。清党初期，中國共產黨仍支持武漢國民政府，但在7月12日后則遵照第三國際的指示改組中央領導機構，退出國共合作統一戰線。7月15日，以汪精衛為首的武漢國民政府宣布停止與中國共產黨的合作，開始清除所有原本在中國國民黨內部的中國共產黨黨員，第一次國共合作全面破裂。