参与辽沈战役、平津战役等，从东北打到海南岛、兵力上百万的东北民主联军、东北野战军、第四野战军前身。而留在山东的第4、第8师和部分军区部队，与新四军1、2、4、6、7师合编为华东野战军(1949年1月改称第三野战军)，后主要参与孟良崮战役、济南战役、淮海战役、渡江战役等。山东军区的部署和建设对于中国共产党在第二次国共内战中具有重要战略意义，毛泽东曾在1962年赞扬罗荣桓在山东时间的功勋道，“山东只换上一个罗荣桓，全局的棋就下活了。山东的棋下活了，全国的棋也就活了。山东把所有的战略点线都抢占和包围了——