区所辖八路军主力部队开进东北之后，山东军区转由新四军接管和进一步发展。1946年1月，中共中央军委电令，新四军军部与山东军区合并，并同时组建一支野战部队。据此，1946年1月7日，以山东军区留守山东的第4师、第8师及其它地方部队，与从皖北、苏北北上的陈毅率领的新四军江北部队，合并组建山东野战军，由新四军军长、山东军区司令员陈毅兼任野战军司令员，饶漱石任政委。1947年2月，山东野战军与粟裕率领的由江南新四军编成的华中野战军共同编组为华东野战军，隶属华东军区陈毅兼任司令员兼政委，粟裕为副司令员兼第一副政委