任八路军总政治部组织部组织科科长兼巡视团主任，120师干部大队政治委员。1939年，出任120师第3支队政治委员，同支队长贺炳炎合作，率队到大清河北岸扩大根据地，很快将部队发展起来；先后进行了莲子口、北板桥等战斗，粉碎了日军的3路合围。1940年，参加百团大战。同年11月，任第358旅第8团政治委员、团长，在管涔山开辟根据地。1944年任第358旅政治部主任。
第二次国共内战时期.1945年10月，余秋里任第358旅政治委员，率部在陕西内线作战。1947年，他参加榆林战役、沙家店战