Huang steg opp til høydene i det kinesiske politiske system i egenskap av tolk. Han oversatte fra engelsk for Mao Zedong i tiden etter kommunistenes maktovertagelse i 1949. Hans diplomatiske karriere begynte i 1950-årene. Han medvirket i 1953 ved våpenstillstandsforhandlinene under Koreakrigen og ved de første kontakter med USA i Warszawa i 1958, og Kinas opptakelse i FN i 1971.