爆发后，调任新四军第1支队副参谋长，后改任第4团团长。1939年10月，与卢胜率第4团主力北渡长江，组成苏皖支队，任司令员，开辟了扬州以东到安徽天长地区抗日游击根据地。在此之前，陈毅替他改名为陶勇。1940年7月，任新四军苏北指挥部第3纵队司令员，参加黄桥战役。1941年1月，皖南事变后，新四军重新整编，陶勇任第1师3旅旅长。1942年3月，兼苏中军区第4军分区司令员，随后展开反击日军清乡作战。1942年11月5日，在如东何家灶成立苏中军区海防团，陶勇兼任团长。1944年8月7日在如东丰利成立了苏中军区