爆发后，谭震林同粟裕指挥苏中战役，获得七战七捷的重大胜利。1946年9月，粟裕指挥的华中野战军和陈毅指挥的山东野战军合编为华东野战军，谭震林任副政治委员。合编之后，为了进一步在淮北地区打开局面，陈毅、粟裕决定发动一次大型战役。此后，又参与指挥宿北战役、鲁南战役，此后转入山东作战。1947年1月，华东解放军统一整编，谭震林任华东军区、华东野战军副政治委员，代号“503”，参与指挥莱芜、孟良崮等战役。同年8月，陈毅、粟裕率领华东野战军八个纵队进攻豫、皖、苏等地；其余的二、七、九、十三纵队等则由谭震林、许世友