A fines de 1943, se reunió con Ho Chi Minh, luego de ser liberado por el gobierno nacionalista chino de Chiang Kai-shek. Después de garduarse de la escuela militar regresó a Vietnam con un nuevo sobrenombre Hoang Van Thai (proviene de su ciudad natal Thái Bình, que también significa "pacífico"), se unió a la resistencia armada contra Japón y luego se unió a la Revolución de agosto contra Francia en 1945. También fue uno de los 34 soldados liderados por el general comunista Võ Nguyên Giáp que se reunieron el 22 de diciembre de 1944 para fundar la Unidad de Propaganda Armada para la Liberación Nacional que luego se convirtió en el Ejército Popular de Vietnam. Thai fue asignado a la propaganda y la agitación de masas de la nueva organización comunista.