Huang nació en 1895 en Guangxi, China. Tras la Revolución de 1911 ingresó en la Escuela de Entrenamiento de Cuadros Militares de Guangxi en Guilin junto a Bai Chongxi y Li Zongren. Posteriormente, ascendió a Comandante del Batallón Modelo, una formación militar moderna y profesional equipada con ametralladoras.