获分发至陆军步兵第14师，成为少尉排长、中尉代理连长。于1941年驻守云南边界，于艰苦的物资条件中生活。同年，父亲过世，黄仁宇获准回湖南治丧，并脱离前线，改为于司令部从事文书工作。黄仁宇深感无聊，当新一军设立时，他便自愿加入。到达印度后，担任新编第一军上尉参谋，跟随郑洞国将军。驻印军的物资由美军管理，较为充裕。黄仁宇亦借此机会学习驾驶汽车等技术，并成为前线观察员。同时，他也向《大公报》投书，讲述他在前线的生活经验。其间曾被日军狙击手击中，右大腿受伤。抗战胜利后随郑洞国改调为汤恩伯属下，先到上海接受日军投降