四军挺进皖南、皖北，开展敌后游击作战，并开辟了豫皖苏边区抗日根据地。民国29年（1940年），在安徽南部的泾县，发生国共冲突的皖南事变，新四军受到极大打击。后蒋中正取消新四军番号，中共中央军委于民国30年（1941年）3月20日发布重建新四军的命令，任命陈毅为新四军代军长，继续在华中一带活动。民国33年（1944年）期间，新四军乘日军大举进攻河南省之时，在皖北、皖中进行大、小战斗16次，歼日伪军及国军1.3万余人，拔除据点36处，恢复并扩大豫皖苏边区抗日民主根据地。民国34年（1945年）8月日本投降后