1924年他奉命加入中国国民党，推动共产党和国民党的合作。1925年，他在上海领导五卅运动。1926年，他前往黄埔军校任政治部教官，协助周恩来工作。7月北伐，留守广州。9月北伐军解放武汉后，来武汉担任中央军事政治学校的总教官。1927年4月蒋介石、7月汪精卫相继决定分共后，他被派往九江，参与组织南昌起义。1927年当选中共五届中央委员，同年底，他领导了广州起义，任广州苏维埃政府秘书长，失败后流亡香港，后去上海。1928年底，他开始主持中共宣传工作，创办《红旗》杂志。1929年6月在中共六届二中全会上被补