Zeng var 1851 examinator i Sichuan, då han fick i uppdrag att organisera en frivillig truppstyrka mot Taiping-rebellerna. Hans framgångar mot dem föranledde hans utnämning till vice president i krigskollegiet. Striden fortgick sedan med växlande krigslycka, och Zeng tog formellt ledande andel i operationerna, ända tills han i juli 1864 lyckades återerörva Nanking, för vilket han lönades med markistitel. Redan 1860 hade han utsetts till vicekung över Liangjiang och 1862 till högste statssekreterare.