4 июля 1944 года генерал-майор Олешев назначен на должность командира 113-го стрелкового корпуса 39-й армии 3-го Белорусского фонта, который принимал участие в боевых действиях на территории Прибалтики (Каунасская и Мемельская операции) и Восточной Пруссии (Гумбиннен-Гольдапская, Восточно-Прусская наступательные операции). Во время Мемельской наступательной операции корпус под командованием Олешева 9 октября 1944 года принимал участие в освобождении города Шмаленингкен-Виткемен. В ходе Восточно-Прусской наступательной операции 113-й стрелковый корпус вёл боевые действия за город Тильзит, за что приказом Верховного Главнокомандующего получил почётное наименование «Тильзитский». За участие в штурме столицы Восточной Пруссии города Кёнигсберга корпус был награждён орденом Красного Знамени. 5 мая 1945 года командиру корпуса было присвоено очередное воинское звание «генерал-лейтенант».