部队扩编，历任第10师28团2营营长、副团长、团长，率部参加了川陕苏区历次作战。1935年，随军参加长征，后任红九军教导师师长。1936年10月，随红四方面军总部西渡黄河，参加西路军作战。1937年3月西路军失败后被捕，后经中共组织营救返回延安，进入抗日军政大学学习。
抗日战争时期.抗日战争爆发后，调任新四军第1支队副参谋长，后改任第4团团长。1939年10月，与卢胜率第4团主力北渡长江，组成苏皖支队，任司令员，开辟了扬州以东到安徽天长地区抗日游击根据地。在此之前，陈毅替他改名为陶