晋察冀军区第三军分区副司令员，与陈漫远、王平等组织反扫荡战争。1940年，黄永胜升任第三军分区司令员，在阜平、曲阳、唐县、望都地区作战，并参与百团大战。随后，曾指挥四个连的正规军和民兵击退日军三千人扫荡。1944年2月，任晋察冀军区机动旅旅长，与政委邓华率部驰援延安。此后，任陕甘宁晋绥联防军教导第二旅旅长。1945年，黄永胜出席中共七大。
第二次国共内战时期.抗日战争结束后，黄永胜到热河，任热辽纵队司令员，参加绥远战役。此后又担任热河军区司令员、冀热辽军区副司令员。1946年6