С июня 1944 года Казарцев командовал 72-м стрелковым корпусом (5-я гвардейская армия, 3-й Белорусский фронт). Корпус принимал участие в Белорусской и Восточно-Прусской наступательных операциях и при освобождении городов Вильнюс, Шакяй, Кудиркос-Науместис, Каунас, Ковно, Инстербург (ныне — Черняховск, Калининградская область). Под его командованием корпус получил почётное наименование «Ковенский». С 20 апреля 1945 года корпус находился в резерве Ставки ВГК, готовясь к передислокации на Дальний Восток, был туда отправлен в июне.