编制了22个步兵连，都是各部队选送来的班干与战斗骨干。1942年秋，出任第四军分区副司令员，后兼任晋察冀军区行唐前线指挥所总指挥。1943年底升任第四军分区司令员兼晋察冀军区行唐前线指挥所总指挥，当时一分区司令员杨成武、二分区司令员郭天民，三分区司令员黄永胜。郑维山提出了“夜间游击战”的战法。1944年秋，晋察冀军区成立四个二级军区，晋察冀军区代理政治委员程子华找郑维山谈话，拟提拔为冀中军区副司令员，郑维山提出要到延安学习。1945年4月，与孙景波以及晋察冀军区政治部主任朱良才一行出发赴延安。刚到延安，就和