Hoàng sinh năm 1895, tại Dung huyện, Quảng Tây. Sau Cách mạng Tân Hợi, ông nhập học trường lục quân trừ bị Quảng Tây cùng Bạch Sùng Hy và Lý Tông Nhân. Sau đó ông thăng dần lên chỉ huy tiểu đoàn kiểu mẫu, một đội quân chuyên nghiệp hiện đại được trang bị tối tân.