1927年1月奉调武汉，主持中央军事政治学校武汉分校工作。7月抵达九江，参与领导南昌起义。當選中共五屆中央委員，12月，他领导了广州起义，任广州苏维埃政府秘书长，失败后流亡香港从事秘密工作，并继续负责编辑《红旗》杂志。1928年秋奉调上海，担任党中央组织部秘书长。年底，他开始主持中共宣传工作。1929年6月在中共六届二中全会上被补选为中央委员。但因反对左倾错误而下到基层，任中共上海沪东区委书记。