На початку Німецько-радянської війни 2 липня 1941 року призначений командувачем Західного фронту. Безпосередньо керував військами під час оборони Вітебська, Донбасу і Харкова. Під час Смоленської битви його війська зазнали важких втрат, але проявили героїзм і не дозволили німцям продовжити наступ на московському напрямку. 13 вересня 1941 року призначений головнокомандувачем військами Південно-Західного фронту, які зазнали поразки в битві під Києвом. З іншого боку відволікання 2-ї танкової групи вермахту з центрального напрямку на південь сповільнило просування групи армій «Центр» і дозволило радянському командуванню підготуватися до оборони Москви.