Divizia 16 Panzer a fost trimisă apoi în Bulgaria la începutul anului 1941, dar a fost păstrată ca unitate de rezervă în timpul Campaniei din Balcani și nu a participat la invadarea Iugoslaviei și Greciei. Ea a revenit pentru scurt timp în Germania înainte de a fi trimisă în Polonia pentru pregătirea invadării Uniunii Sovietice. Generalul Hube a comandat Divizia 16 Panzer în acțiunile militare ale Operațiunii Barbarossa, ca parte a Grupului de Armate Sud comandat de feldmareșalul Gerd von Rundstedt, și a fost decorat cu Crucea de Cavaler al Crucii de Fier (1 august 1941) pentru activitatea sa din timpul invadării Uniunii Sovietice. Divizia a luptat în sectorul sudic al Frontului de Est și a luat parte la Bătălia de la Kiev (23 august – 26 septembrie 1941) și la înaintarea Armatei Germane către Marea Azov. Hube a fost avansat la 1 ianuarie 1942 la gradul de general-locotenent ("Generalleutnant"), iar la 16 ianuarie 1942 a fost decorat cu frunze de stejar la Crucea de Cavaler al Crucii de Fier pentru acțiunile sale din cursul Bătăliei de la Kiev. El și-a condus apoi divizia în cursul ofensivei de vară cunoscute sub numele de Operațiunea Albastru și a Bătăliei de la Stalingrad. La 15 septembrie 1942 generalul Hube a primit comanda Corpului XIV Panzer, unitatea militară superioară a Diviziei 16 Panzer.