В январе 1944 года был назначен на должность командира 5-го гвардейского стрелкового корпуса, участвовавшего в Витебско-Оршанской, Каунасской, Мемельской, Восточно-Прусской операциях и освобождении городов Каунас, Таураге и других. За прорыв укрепленной полосы обороны противника на подступах к Витебску и уничтожение группировок неприятеля Иван Семёнович Безуглый был награждён орденом Суворова 2-й степени. В январе 1945 года корпус прорвал Инстербургский оборонительный рубеж, обеспечив освобождение Кёнигсберга. За умелую организацию боевых сражений на этом рубеже и форсирование реки Дайме был награждён орденом Богдана Хмельницкого 2-й степени. 25 февраля Безуглый был ранен и эвакуирован в госпиталь, и по окончании лечения с конца апреля вновь был назначен на должность командира 5-го гвардейского стрелкового корпуса. Боевые действия в ходе Великой Отечественной войны корпус завершил во время Земландской операции.