Se rebeló contra el Kuomintang después de que Chiang Kai-shek comenzara la Masacre de Shanghái de 1927 suprimiendo violentamente a los comunistas, cuando planeó y lideró el fallido Levantamiento de Nanchang. Después de escapar, organizó un soviet en las zonas rurales de Hunan (y más tarde Guizhou), pero se vio obligado a abandonar sus bases cuando fue presionado por Chiang. Se unió a la Larga Marcha en 1935, más de un año después de que las fuerzas dirigidas con Mao Zedong y Zhu De se vieran obligadas a hacerlo. Se reunió con las fuerzas dirigidas por Zhang Guotao, pero no estuvo de acuerdo con Zhang sobre la estrategia del Ejército Rojo Chino y llevó a sus fuerzas a unirse y apoyar a Mao.