抗日前线，任太行军区军政大学第四团团长。1941年4月率第二华中派遣大队到达苏北盐城，任抗大第五分校副校长兼盐城卫戍司令，培养新四军干部。后任盐阜军区司令员，领导盐阜军民开展反伪化、反蚕食斗争，发展壮大地方武装。1943年，接替阵亡的彭雄任新四军第三师参谋长，参与领导巩固和发展苏北抗日根据地的斗争。1945年任第三师副师长，指挥阜宁战役、淮安战役。第二次国共内战时期，洪学智随新四军第三师进军东北。1946年2月，任辽西军区副司令员，1946年7月，任黑龙江军区司令员，领导剿匪工作。1947年任东北民主联