1941年1月6日,发生了国民党顽固派蓄谋已久的消灭新四军的皖南事变。新四军被迫自卫,并强烈抗议国民党顽固派的暴行。1月17日,蒋介石悍然宣布新四军为"叛军",并以国民政府军事委员会名义发布通令,宣布取消新四军番号,将军长叶挺"革职","交军法审判"。
中共中央一面揭露国民党顽固派的罪恶阴谋,向重庆国民党当局提出严正抗议,要求取消17日的反动命令,恢复叶挺自由;一面又于20日由中共中央军委发布重建新四军军部的命令,任命陈毅为代理军长,刘少奇为政治委员,张云逸为副军长。25日,新四军新军部在盐城成立。
1942年3月15日刘少奇奉调回中共中央工作,3月19日刘少奇由苏北阜宁县羊寨出发赴延安。此后,由饶漱石代理新四军政治委员。
1943年1月10日,新四军军部转移至淮南,驻原二师驻地盱眙县黄花塘,11月22日,陈毅受中共中央电召,25日离开盱眙县黄花塘启程前往延安,参加整风学习和筹备党的七大。
1944年1月13日,新四军军部通知各师,陈毅代理军长一职由副军长张云逸代理。
1945年8月26日,中共中央任命陈毅为新四军军长,饶漱石为新四军政治委员。9月19日,新四军军部由盱眙黄花塘迁往苏北淮阴。10月起,新四军各部开始北撤。张云逸副军长之外,后又以罗炳辉任新四军副军长。10月20日,中共中央任命新四军军长陈毅兼山东军区司令员。10月25日,新四军军部由淮阴北撤至鲁南临沂,中共中央华中局与山东分局合并,组成中共中央华东局。
1946年1月17日,中共中央正式命令新四军军部兼山东军区领导机关,新四军军长陈毅兼山东军区司令员,新四军政治委员饶漱石兼山东军区政治委员,新四军第一副军长张云逸兼山东军区第一副司令员,是年夏,新四军第二副军长罗炳辉兼山东军区第二副司令员,直至1947年1月,中央军委取消新四军番号为止。
综上所述,新四军军政首长中,先后有两位军长:叶挺和陈毅;先后有两位政治委员:刘少奇和饶漱石。