В середине июня 1943 года вступил в командование 9-м Краснознамённым стрелковым корпусом 58-й армии Северо-Кавказского фронта, и этим корпусом командовал до конца войны. В сентябре-октябре 1943 года корпус участвовал в Новороссийско-Таманской наступательной операции. В октябре 1943 года корпус был передан в состав 5-й ударной армии Южного фронта, участвовал в Донбасской и Мелитопольской наступательных операциях и освобождении городов Макеевка, Орджоникидзе, Сталино, Пологи, Чистяково. С марта до конца августа 1944 года корпус сражался в составе 57-й армии 3-го Украинского фронта и за это время принял участие в Одесской операции, боях по захвату и удержанию плацдарма на правом берегу Днестра северо-западнее Бендер и начальной фазе Ясско-Кишинёвской наступательной операции. В конце августа корпус был вновь включён в состав 5-й ударной армии, которая до конца октября находилась в резерве Ставки ВГК и затем вошла в состав 1-го Белорусского фронта. И. П. Рослый командовал войсками корпуса в ходе Варшавско-Познанской операции, боевых действий по удержанию и расширению плацдарма в районе Кюстрина и в Берлинской наступательной операции.