С 3 июня 1943 года И.Г. Захаркин — заместитель командующего войсками Центрального фронта (с октября 1943 года — Белорусский фронт, с февраля 1944 года — 1-й Белорусский фронт). Принимал участие в организации и проведении Курской битвы, Черниговско-Припятской, Гомельско-Речицкой и Рогачёвско-Жлобинской наступательных операций. Большую часть времени проводил на переднем крае, контролируя и координируя боевые действия соединений фронта. 18 сентября 1943 года ему присвоено звание генерал-полковник. С 23 марта 1944 года — командующий войсками Одесского военного округа, расположенного на прифронтовой территории.