A Szovjetunió elleni hadjáratban Guderian vezette a 2. páncéloscsoportot, amely Fedor von Bock "Közép" hadseregcsoportjába tartozott. E hadseregcsoport hadműveleti célpontja Moszkva volt. Az idő az esőzések, majd a tél beállta előtt sürgette a német hadvezetést; Guderian páncéloscsoportját Kijevhez rendelték, ahol a "Dél" hadseregcsoport egységeit kellett segítenie. Innen indulhatott Moszkva felé, hogy a várost délről próbálja elreteszelni. Páncélosai az időjárási körülmények és az elnyúlt utánpótlási vonalak következtében "csak" Tuláig jutottak. Csapatai győzelmet arattak Kijevi csatában, Orjol és Brjanszk mellett. Sikerei oly' jelentősek voltak, hogy Hitler megbízta Moszkva bevételével. Az orosz tél azonban lehetetlenné tette a vállalkozást. Guderian csapatai csak nagy erőfeszítések árán érték el Moszkva elővárosait, ahol a Vörös Hadsereg kemény ellenállásába ütköztek. Guderian belátván kudarcát időt kért Hitlertől. Taktikai visszavonulást javasolt, hogy a csapatok a szovjet támadások és a −40 °C körüli hőmérséklet közepette is kitarthassanak tavaszig. Hitler tombolt a dühtől és eltávolította Guderiant a parancsnokság éléről. Csapatainak kiadta a visszavonulást megtiltó parancsot, melynek eredménye a moszkvai vereség lett.