5师东渡黄河赴晋西开展游击战争，历任115师政治部战士剧社社长、教育股长、直属政治处主任。1938年12月，张国华随部队从晋西进入山东。1939年1月，进入太行山区对日军展开反扫荡，张国华率直属部队两个连组成了鲁西工作团，于郓城、菏泽一带建立了鲁西抗日根据地，组建抗日第七支队并任政委。8月2日，张国华率部在郓城东北方向的梁山伏击日军板垣师团一个大队，消灭日军600多人。1940年4月，鲁西军区成立，张国华任黄河支队政委。后来，黄河支队被改编为115师教导第四旅，并成立湖西军区。在张国华的领导下，湖西