12 июля 1942 года Юго-Западный фронт был расформирован, 25 августа 1942 года И. С. Глебов назначен начальником штаба 4-й танковой армии. В предшествовавших боях армия понесла тяжелые потери, в её составе осталось всего четыре танка, 22 октября 1942 года 4-я танковая армия была преобразована в 65-ю армию, И. С. Глебов был назначен её начальником штаба. П. И. Батов вспоминал: Иван Семенович Глебов тянул как вол весь штаб, но делал это умеючи, то есть так, что каждый его подчиненный рос. В свои 39 лет полковник Глебов успел окончить два высших учебных заведения — Артиллерийскую академию и Академию Генерального штаба. Его обширные военные познания в соединении с опытом работы в высших штабах снискали ему общее уважение, несмотря на суховатость натуры. Такой человек был неоценимой находкой для командарма. Можно было спокойно отдаваться работе в войсках, зная, что принятое решение будет осуществлено творчески, со скрупулезной точностью.На этом посту И. С. Глебов участвовал в Сталинградской битве, Курской битве, Битве за Днепр. 26 ноября 1943 года И. С. Глебов назначен начальником штаба 48-й армии, руководил штабом до 9 июля 1945 года. Участвовал в Гомельско-Речицкой, Белорусской стратегической, Восточно-прусской стратегической наступательных операциях.