国共双方开始摩擦，他率领第20旅参加歼灭进犯枣庄的国军整编第26师及整编51师的进攻。第二次国共内战期间，他担任华东野战军第6纵队第17师师长，率部参加了莱芜战役，为主攻部队。孟良崮战役中，他率部为主攻部队，并获得成功。之后陆续参加豫东战役、淮海战役、渡江战役。1949年8月，被提升为中国人民解放军第24军副军长，率部到大别山进行剿匪。1951年1月，他到中央军事学院学习一年半，结业后仍任第24军任副军长。1952年秋，率部开赴朝鲜战场，1952年9月18日参加反击作战，与美军及李承晚军进行交战。195