日中戦争（抗日戦争）勃発後の1937年（民国26年）10月、張義純は安徽省政府委員兼民政庁長兼軍管区副司令に任命され、同省出身者として新広西派による安徽省統治に関与することになった。張は第48軍軍長にも任ぜられ安徽防衛を主任務とする一方で、武漢防衛戦（日本側呼称・武漢作戦）にも参戦している。1939年（民国28年）11月には第21集団軍副総司令に昇進した。1943年（民国32年）1月、第33集団軍副総司令となり、さらに第5戦区鄂豫皖辺区遊撃総司令も兼任した。