L'any 1852, recomanat per Hu Linyi, va entrar a l'Estat Major de l'exèrcit imperial al costat del governador de Hunan i més tard amb Zeng Guofan. El seu primer èxit va ser la participació en la repressió de la Rebel·lió dels Taiping, amb la creació d'un exèrcit de 5.000 soldats ("Exercit Chu"), reconquerint Zhejiang i Fujian.