Bij het begin van Operatie Barbarossa vanaf 22 juni 1941 brak de panzergruppe door de Sovjet-grensposities. Na het veroveren van Brest-Litovsk, vocht de panzergruppe in de regio Pripjat ten oosten van Brest. Dit werd gevolgd door de omsingelingsslag om Slag om Białystok-Minsk. Van 28 juli 1941 tot 22 augustus 1941 stond de staf ook wel bekend als Armeegruppe Guderian, aangezien een deel van de infanteriekorpsen van het 4e Leger onder bevel gesteld waren. De Berezina werd overgestoken bij Bobroejsk en Borisov en de Dnjepr bij Mogilev. Na de Slag om Smolensk moest Panzergruppe 2 afzien van verder oprukken richting Moskou. Ze werd gehergroepeerd en naar het zuiden gedraaid om deel te nemen aan de Slag om Kiev. Panzergruppe 2 stak op 9 september de Sejm over en bereikte een dag later Romny. Bij Lokhvitsa werd op 15 september de verbinding met Panzergruppe 1 tot stand gebracht en werd de ring rond het Sovjet Zuidwestelijk Front gesloten. Na de hergroepering in het Glukhov-gebied volgde begin oktober Operatie Taifun.