1941年6月22日に開始されたバルバロッサ作戦においては、中央軍集団（フェードア・フォン・ボック元帥）に属する第2装甲集団（後に補給組織が追加され、第2装甲軍に昇格）を指揮し、同僚のヘルマン・ホト上級大将率いる第3装甲集団と共に主力として進撃。主に軍集団南翼を担当し、ホートの部隊と共同でミンスク包囲戦、スモレンスク包囲戦において大戦果を挙げる。その快進撃ぶりに“韋駄天ハインツ("schneller Heinz")”, または“疾風ハインツ("Heinz Brausewind")”との異名を与えられる。一方で、6月29日の夫人あて書簡では「敵は勇敢かつ激烈に抵抗している。ゆえに、戦闘は極めて厳しい。誰もがただそれに耐えるだけだ。」と赤軍の激しい抵抗に苦しんでいたことを述べている。