Con lo scoppio della seconda guerra mondiale nel settembre del 1939, assunse il comando del Marine-Gruppenkommando West, responsabile delle operazioni nel Mare del Nord, che portò a controversie tra lui e i comandanti della flotta ("Flottenchef") i Viceammiragli Hermann Boehm, Wilhelm Marschall e Günther Lütjens. Il 1 gennaio 1940 fu promosso al grado di "Generaladmiral", e insieme all'ammiraglio Rolf Carls ebbe il comando tattico dell'invasione della Norvegia (Operazione "Weserübung"). Il 9 maggio 1940 ricevette la Cavaliere della Croce di Ferro, e a partire dall'estate di quell'anno condusse le operazioni delle navi di superficie tedesche nel Nord Atlantico e nel Canale della Manica. Diresse la operazioni delle "E-Boat" contro le navi britanniche durante la fase "Kanalkampf" della battaglia d'Inghilterra, operando in supporto alla "Luftwaffe", e in seguito segui la sortita in mare della nave da battaglia "Bismarck" e dell'incrociatore pesante "Prinz Eugen" (Operazione Rheinübung).