Dalam Perang Dunia II, ia pertama kali bertugas untuk memimpin Korps Angkatan Darat XIX pada saat Kampanye Polandia dilaksanakan menggunakan taktik Perang Kilat, dan juga saat Operasi Fall Gelb. Secara pribadi ia memimpin "serangan kejut" ke Prancis melewati Hutan Ardenese, menyeberangi Sungai Meuser dan memotong melewati Front Paling Depan Prancis di Sedan. Ia juga memimpin unit hasil hadiah yang diberikan langsung oleh Hitler yaitu "Panzergruppe Guderian" dalam Penyerangan Ke Rusia, dan mendapatkan mendali paling terkenal di Jerman yaitu "Knight Cross" dan "Oak Leaves". Dalam operasi ini, ia memimpin gerak cepat pasukan panzernya sesuai dengan doktrin "Blitzkrieg" sehingga ia dijuluki "Schneller Heinz / Heinz yang Gesit" oleh para prajuritnya.