二次国共内战.抗日战争全面爆发后，张经武再次前往济南会晤韩复榘，双方达成协议，韩释放关押于第三集团军军法处的政治犯。同年12月，张经武到达汉口，担任八路军办事处高级参谋，协助周恩来工作。1938年8月，张经武与黎玉带领二十多人从延安前往山东，改编当地游击队，组成八路军山东纵队，张经武任指挥，黎玉任政治委员。1939年，张经武与中共沂水县委妇女部长杨岗结婚。同年11月，前往延安参加中共七大，后会议延期，张经武奉命留在延安。1942年，任陕甘宁晋绥联防军参谋长。1945年4月23日-6月11日，参加中共七大。