1937年12月25日在汉口建立军部,1938年1月6日移驻南昌。同年3月和4月,根据中共中央关于向敌人后方发展的指示和国民政府军事委员会关于集中整训的命令,军部和第1、第2、第3支队先后到达皖南歙县岩寺地区,第4支队在皖西霍山地区集中后向皖中开进,随后即在长江南北作战略展开。第1、第2支队相继进入苏南,开辟了以茅山为中心的抗日游击根据地,并将丹阳县的抗日武装改编为新四军挺进纵队。第3支队留在皖南担任长江防务。第4支队在皖中、皖东以游击战频繁打击日军。 1939年2月,中共中央军委副主席周恩来到皖南视察,与新四军领导人商定了“向南巩固,向东作战,向北发展”的战略方针。根据这一方针,5月成立江北指挥部,统一领导第4支队和7月新编的第5支队,江北游击纵队。第4支队开辟了以安徽省定远县藕塘为中心的津浦路西抗日根据地。第5支队开辟了以安徽省来安县半塔为中心的津浦路东抗日根据地。江北游击纵队在安徽省长江北岸开展游击战争,保持和皖南的联系。第1支队派出第6团向苏南东部发展,与当地的抗日武装合编为江南人民抗日义勇军(简称江抗),直抵上海郊区。1939年9月,江抗西撤到长江中的扬中县与挺进纵队合编,并向苏北发展。10月,第2支队第4团一部北渡长江,在扬州以西改编为苏皖支队,打通了与第5支队的联系。11月,第1、第2支队领导机关合并组成江南指挥部,统一领导在苏南和向苏北发展的部队。这一时期,新四军还增加了两支部队。1938年9月30日,在河南省确山县竹沟镇组建的新四军游击支队东征,开辟了豫皖苏边区抗日根据地,1940年2月正式改称为新四军第6支队,辖3个团和4个总队。1939年1月,在竹沟组成的新四军豫鄂独立游击大队向武汉外围挺进,先后与豫南、鄂中、鄂东的抗日武装合编为新四军豫鄂独立游击支队、新四军豫鄂挺进纵队,开辟了豫鄂边区的抗日根据地,辖5个团队和3个游击总队。 1940年春,中共中央、中央军委作出八路军应派部队与新四军合力发展华中的部署。八路军第2纵队主力和苏鲁豫支队、陇海南进支队先后越陇海路南下,与新四军第6支队合编为八路军第4、第5纵队。第4纵队执行向西防御任务。第5纵队执行向东发展任务。7月,新四军江南指挥部率主力北渡长江,改称苏北指挥部;10月在取得黄桥决战的胜利后,与南下支援的八路军第5纵队会师。11月17日,在江苏海安成立华中新四军八路军总指挥部(23日迁盐城),叶挺任总指挥,陈毅任副总指挥并代理总指挥,中共中央中原局书记胡服(刘少奇)任政治委员,统一指挥陇海路以南、长江以北的新四军和八路军部队。留在苏南的新四军第2支队领导机关,组建了新的江南指挥部。 1941年1月7日,国民党当局发动皖南事变,围攻奉命北移的新四军军部。叶挺下山谈判被扣。项英、周子昆被叛徒杀害。袁国平在突围时牺牲。1月17日,国民党当局宣布取消新四军番号。1月20日,中共中央军委发布命令,重建新四军军部,任命陈毅为代理军长,刘少奇为政治委员,张云逸为副军长,赖传珠为参谋长,邓子恢为政治部主任。陇海路以南的新四军和八路军部队,分别改编为新四军第1至第7师和独立旅。全军共9万余人。 新四军总结皖南事变的教训,加强了党的绝对领导,加强了部队的正规化建设和抗日根据地建设,并根据斗争需要,实行主力地方化,先后成立苏中、淮南、苏北、淮北、皖江等军区以及许多军分区,发展了地方武装和民兵。1941年至1943年,新四军进行了艰苦的反“扫荡”、反“清乡”、反“蚕食”、反磨擦斗争,渡过了抗日战争中最困难的时期。1944年,新四军展开局部反攻,先后歼灭日伪军5万余人。根据中共中央军委关于向浙江、河南发展迎接战略反攻的部署,第1师主力渡江南下,与苏南部队和浙东游击纵队会师,成立苏浙军区。第4师主力西征豫东,恢复了豫皖苏抗日根据地。第5师派出河南挺进兵团北上,开辟了豫南,豫中抗日根据地。第5师还与南下的八路军第359旅会师,成立了鄂豫皖湘赣军区。 1945年8月15日,日本宣布无条件投降。侵华日军和伪军听从蒋介石的命令,拒绝向八路军、新四军投降。新四军向拒不投降的日伪军展开全面反攻。到9月2日,共解放县城40座,重要集镇400余个,歼日伪军2.8万余人,占领了武汉外围和南京、太湖、天目山之间的广大乡村和中小城市,将苏中、苏北、淮南、淮北根据地连成了一片。8月26日,中共中央任命陈毅为新四军军长,饶漱石为新四军政治委员;后又任命罗炳辉为第二副军长。9月,根据中共中央在同国民党和平谈判中作出的重大让步,新四军在浙东、苏南、皖南的部队分别撤到长江以北。10月,执行中共中央作出的向北发展向南防御的战略部署,新四军军部北移山东临沂,并兼山东军区领导机关;新四军部分主力和留在山东的八路军部队组成津浦前线野战军,后改称山东野战军;仍在华中的新四军部队,组成华中军区和华中野战军。在此期间,新四军第3师开赴东北,第5师与八路军第359旅、河南军区组成中原军区,调离新四军的建制。1947年1月下旬至2月3日,新四军兼山东军区以及所属华中军区、华中野战军、山东野战军合编为华东军区和华东野战军,新四军番号至此撤销。 在抗日战争中,新四军抗击和牵制了16万日军,23万伪军,作战2.2万余次,其中对日伪军作战1.9万余次,歼日伪军31万余人;反顽自卫作战3千余次,歼国民党顽固派军14万余人。新四军作战伤亡8.9万余人。新四军从最初的1万余人,发展到拥有主力21.5万余人,地方武装9.7万余人,计31万余人;另有民兵自卫队96万余人。建立了地跨苏、浙、皖、豫、鄂、湘、赣七省的苏南、苏中、苏北、淮南、淮北、鄂豫皖湘赣、皖江和浙东八块抗日根据地,面积达25.3万平方公里,人口3420余万,为抗日战争的胜利作出了重要贡献。