Počas druhej svetovej vojny bol veliteľ a inšpektor tankových vojsk. Mal významný podiel na realizácii invázie do Poľska, kde bola po prvýkrát Nemcami aplikovaná skutočná blesková vojna. Neskôr sa podieľal na príprave a realizácii útoku na Francúzsko. Jeho obrnené jednotky viedli v máji roku 1940 úspešný útok cez Ardeny, prenikli cez rieku Meuse. V týchto dňoch sa dostal v dôsledku rozličných názorov na rýchlosť následného postupu do sporu so svojim veliteľom von Kleistom. V hádke mu navrhol svoj odchod a bol na krátku dobu skutočne odvolaný. Neskôr po zásahu vyšších veliteľov mu bol povolený ďalší postup (v tej dobe to však mal byť len prieskum bojom), a tak jeho vojská dosiahli prieliv La Manche a odrezali Spojenecké armády na francúzsko-belgickom pohraničí, čo definitívne zlomilo ich bojaschopnosť. Neskôr sa obavy o príliš rýchly postup jeho tankových jednotiek, ktoré sa veľmi vzdialili od svojej pechotnej podpory opäť prehĺbili a preto bol vyššími rozkazmi nakrátko zastavený pred mestom Dunkerque. Táto krátka prestávka však dala Spojencom možnosť upevniť svoju obranu a neskôr evakuovať vyše 300 000 svojich vojakov počas operácie Dynamo.