他只能用野菜、树皮、草根充饥，成为红军里有名的“斋公”。1938年秋，与大队政委胡耀邦率一大队挺进华北敌后办学，到晋察冀灵寿县扩编为“抗大”二分校，任抗大二分校特科大队长。1940年8月底调任第三分区任副司令员兼参谋长；黄永胜任司令员。1944年任冀热辽军区副司令员。1945年11月组建冀东军区任司令员、中共冀热辽中央分局委员。 1947年8月组建东野九纵任司令员。1948年11月改编为46军任军长。1950年5月任湖南军区副司令兼46军军长。1949年9月率46军留湘南剿匪，兼剿匪指挥部司令员。