28 апреля 1944 года полковник Карпов назначен начальником штаба 36-го стрелкового корпуса. Корпус успешно действовал в Белорусской, затем в Восточно-Прусской наступательных операциях. За успешный прорыв обороны противника на реке Неман ему было присвоено почетное наименование «Неманский» и он был награжден орденом Красного Знамени. В апреле 1945 года корпус находился в резерве Ставки ВГК, затем вместе с 31-й армией был передислоцирован на 1-й Украинский фронт и участвовал в Пражской наступательной операции.