În momentul declanșării Operațiunii Barbarossa, la 22 iunie 1941, divizia comandată de Mattenklott se afla în România și era inclusă în componența Armatei a 11-a (comandantă de generalul Eugen Ritter von Schobert); ea a fost plasată în subordinea Grupului de Armate Sud ca unitate de rezervă și a înaintat prin Basarabia și sudul Ucrainei. Trupele diviziei au luptat inițial în apropierea orașului Nikolaev din Ucraina, apoi au traversat fluviul Nipru în bărci gonflabile pe la Berîslav, un punct vital care a permis înaintarea spre Crimeea. Au purtat lupte în Stepa Nogaică și au capturat orașul Melitopol în septembrie 1941. Ca urmare a acestor succese militare, generalul Mattenklott a fost decorat pe 19 septembrie 1941 cu Ordinul „Mihai Viteazul” cl. III-a „pentru destoinicia, devotamentul și bravura personală de care au dat dovadă în luptele contra bolșevicilor în colaborare cu trupele române”. El și-a condus apoi divizia în Campania din Crimeea, ajungând la Sevastopol la sfârșitul toamnei. A fost avansat la 1 octombrie 1941 la gradul de general de infanterie. La 6 noiembrie 1941, în ciuda succeselor obținute, Franz Mattenkott a fost înlocuit la conducerea diviziei cu generalul Philipp Müller-Gebhard și trecut în rezerva de comandanți ("Führerreserve") a Wehrmacht-ului.