У червні 1942 року — у розпорядженні начальника Головного автобронетанкового управління. З 15 червня по 25 липня 1942 року — командир 18-го танкового корпусу Воронезького фронту. З липня 1942 по квітень 1944 року — командувач 60-ю армією Воронезького фронту (з 23 березня 1943 року — Курського, з 26 березня 1943 року — Центрального, з 6 жовтня 1943 року — знову Воронезького, з 20 жовтня — 1-го Українського фронтів). До кінця 1942 року армія вела оборонні бої на лівому березі річки Дон північніше Воронежа. Війська під командуванням І. Д. Черняховського брали участь у Воронезько-Касторненській (24 січня — 2 лютого 1943), Харківській (2 лютого — 3 березня 1943) наступальних операціях, що проходили в рамках Воронезько-Харківської стратегічної операції. У ході цих операцій були відбиті Воронеж (25 січня), Касторне (29 січня), Курськ (8 лютого). Учасник Курської битви (5 липня — 23 серпня 1943 року), Чернігівсько-Прип'ятської наступальної операції (26 серпня — 30 вересня 1943), відвоювання Лівобережної України. У другій половини вересня 1943 року війська армії вийшли до Дніпра, північніше Києва, з ходу форсували його і захопили плацдарми в районах Страхолісся, Ясногородки і на схід від Димера. У листопаді 1943 — квітні 1944 року армія брала участь в Київській наступальній (3—13 листопада 1943), Київській оборонній (13 листопада — 22 грудня 1943), Житомирсько-Бердичівській (24 грудня 1943 — 14 січня 1944), Рівненсько-Луцькій (27 січня — 11 лютого 1944), Проскурівсько-Чернівецькій (4 березня — 17 квітня 1944) операціях.