升任第21集团军副总司令。1943年（民国32年）1月，任第33集团军副总司令，兼任第五战区鄂豫皖边区游撃总司令。抗日战争结束后，张义纯被任命为国防部高级参谋。1947年（民国36年），张义纯率国防部检查组赴中国东北，负责将保安团改编为正规军。第二次国共内战末期的1949年（民国38年）1月，张义纯被任命为安徽省政府委员，回到安徽省。1949年3月接替夏威任安徽省政府主席，迎击中国人民解放军。1949年4月大败，在败退途中，张义纯宣布向中国人民解放军起义。中华人民共和国成立后，1950年以后，张义纯