I 1926 gikk han inn i det kinesiske kommunistiske parti, og fikk snart militære kommandoposter. Den 1. august 1927 var han en av lederne for Nanchangopprøret. Fra slutten av 1927 til 1930 studerte han i Sovjetunionen.