编为晋冀鲁豫军区第四纵队，陈赓任司令，谢富治任政委。在第二次国共内战中，该纵队一直担负战略机动任务，先后归第一野战军、第二野战军、第四野战军指挥。第四纵队先后参加闻夏战役、同蒲战役、临浮战役，三战三捷。1946年9月，在临浮战役中全歼胡宗南手下的国民革命军整编第一旅，活捉中将旅长黄正诚。战后，1946年9月26日延安《解放日报》发表《向太岳纵队致敬》社论。1947年7月，作为“陈（赓）谢（富治）兵团”主力挺进豫陕鄂地区，开创豫西解放区，配合刘邓大军、陈粟大军挺进中原。此后转战河南省，参加了洛阳战役、宛西