长叶挺处理高敬亭问题，此后任江北指挥部副指挥兼第五支队司令员。8月，率部进入津浦铁路以东地区，开辟淮南抗日根据地；同年9月到次年5月，曾指挥部队三打来安。1940年3月，罗炳辉击退国军韩德勤部对半塔集地区的进攻，此后组织开展反扫荡作战。1941年，皖南事变发生，新四军进行重组，罗炳辉任新四军第二师副师长，转战于淮河以南、长江以北的津浦铁路两侧。1943年2月，任新四军第二师师长兼淮南军区司令员，与谭震林领导淮南新四军反击日军扫荡，并扩大根据地。此时，罗炳辉还创立了“梅花桩战术”，在与日军作战时颇有收获。