Neskôr bol prevelený do Východného Pruska a povýšený na generálplukovníka. Počas invázie do ZSSR viedol LIV. zbor, ktorý veľmi rýchlo prenikol sovietskou obranou a získal dôležité mosty cez rieku Dvina pri Dvinsku. V septembri bol poverený vedením 11. armády, ktorej úlohou bolo dobyť Krym. Išlo o nanajvýš neľahkú úlohu, pre ktorú mu navyše neboli poskytnuté dostatočné ľudské zdroje. V nasledujúcich bojoch si najprv pomaly urobil cestu cez sovietske pozície na Perekopskej šiji a následne do 17. novembra ovládol väčšinu Krymského polostrova okrem mesta Sevastopoľ. Pri obliehaní mesta bol nútený odraziť silný avšak veľmi neefektívne vedený protiútok na Kerči. V priebehu nasledujúcich dvoch mesiacov ťažkých bojov nakoniec v prvej polovici júla 1942 pevnosť Sevastopoľ obsadil. Vo veľkej miere vďaka riskantnému obojživelnému útoku cez Severnú zátoku. Počas vedenia operácie len o vlások unikol smrti, keď na inšpekcii pobrežia napadli jeho torpédový čln dve sovietske stíhačky. Pri útoku bolo 7 zo 16 ľudí na palube zabitých, alebo ťažko zranených. Na sklonku bitky o Sevastopoľ bol 1. júla 1942 povýšený do hodnosti poľného maršala. Úspech pri dobýjaní mesta ho predurčil k tomu, aby ho velenie vybralo za nového veliteľa útoku na Leningrad, ktorý sa už celý rok Nemci márne snažili obsadiť.