To år etter, som 14-åring, ble han med i den «voksne» Røde Armé. Han deltok på den lange marsjen og ble hardt såret under et feltslag. Under den andre sino-japanske krig, og fortsettelsen av borgerkrigen etterpå, steg han raskt i gradene. Han endte som divisjonskommandør for styrkene i provinsene Shanxi, Shandong, Hebei og Henan. Hans lederskap bidro sterkt til seieren over Kuomintangs styrker.