С 18 марта 1944 года временно исполнял должность командира 3-го горнострелкового корпуса, который участвовал в ходе Крымской наступательной операции и в освобождении городов Керчь и Ялта. В связи с возвращением командира 3-го горнострелкового корпуса генерал-майора А. А. Лучинского 16 апреля 1944 года генерал-майор Н. А. Шварев вновь назначен на должность командира 20-го стрелкового корпуса, который в составе 28-й армии корпус принимал участие в ходе Белорусской, Восточно-Прусской и Берлинской наступательных операций, а также в освобождении городов Бережаны, Брест, Гумбиннен, Фридланд и в штурме Берлина.