翌1941年にはソ連への奇襲攻撃「バルバロッサ作戦」で、ゲルト・フォン・ルントシュテット元帥率いる南方軍集団()の配下で戦った。1942年、「ブラウ作戦」へ参加し、第6軍唯一の装甲戦力として、スターリングラード占領を目指す。同年9月、中将へ昇進すると共に、指揮下の師団が所属する軍団の第XIV装甲軍団長となったが、スターリングラード攻防戦でソ連軍に包囲され、指揮下の部隊は降伏するが、直前の1943年1月18日、フーベは包囲突破の同意をアドルフ・ヒトラーから得るため、脱出する。同年、装甲兵大将に昇進。その後、シチリアに出征し、アメリカ軍を相手に見事な防衛戦を指揮する。10月23日、再び東部戦線に戻り、第1装甲軍司令官となる。1944年4月20日、シチリア、サレルノ、コルスン包囲戦での功績により、オーバーザルツベルクにて、柏葉剣付ダイヤモンド騎士十字章を受章し、上級大将に昇進した。しかし、翌21日、アイリング飛行場から離陸した後、墜落事故に遭い死亡した。