30 августа генерал И. П. Рослый вступил в командование 11-м гвардейским стрелковым корпусом 9-й армии Северной группы войск Закавказского фронта. Части корпуса в ходе обороны Кавказа отличились в отражении наступления врага на Малгобекском направлении (Моздок-Малгобекская оборонительная операция) и в Нальчикско-Орджоникидзевской оборонительной операции с сентября по декабрь 1942 года, а также в срыве его попыток прорваться в важнейшие нефтяные районы Кавказа. В декабре 1942 года назначен заместителем командующего войсками 58-й армии. С 25 января по 10 февраля 1943 года И. П. Рослый исполнял обязанности командующего 46-й армией Закавказского и Северо-Кавказского фронтов. Под его руководством войска успешно действовали в Северо-Кавказской, Новороссийско-Майкопской и Краснодарской наступательных операциях, в том числе в освобождении городов Майкоп и Краснодар. После вывода 46-й армии в резерв фронта, в мае 1943 года генерал Рослый вновь назначен заместителем командующего войсками 58-й армии.