红军进军陕北。到陕北后，任红一军团2师2团团长，率部参加直罗镇战役、东征战役、西征战役和山城堡战役等。1936年，入抗日军政大学学习。
抗日战争时期.抗日战争爆发后，任八路军115师685团营长，参加了平型关战役。此后又率部参加广阳战斗及午城、井沟等战斗。1938年，任685团副团长。同年11月，任苏鲁豫支队副支队长兼四大队队长，进军山东。在崔庄战斗中，歼伪军四个团。在此期间，梁兴初被王凤鸣指控为托派，险遭杀害，后经罗荣桓干预幸免于难。1939年12月，四大队进入鲁南，在兑头沟设伏，