受训，与冯玉祥、鹿钟麟是同学。毕业后，任冯玉祥第六战区、鹿钟麟冀察战区参谋长。1940年前后，黄因为一篇军事论文获奖，得到了何应钦赏识，获得何应钦举荐。1941年，任第三战区参谋长，受到司令长官顾祝同赏识。黄在三战区主要做三件事，一是整顿军纪，二是皖南事变，三是浙赣战役。其中浙赣会战国军作战计划几乎全出自黄手笔，此战，中方基本与日军战平。黄无论在第六战区，还是第三战区，对军事作战均非常积极，经常亲临前线，直接参与指挥作战，甚至视察火线。但黄在第三战区整顿纪律，颇不容于当时官僚，顾祝同一方面是讨厌他，