З 9 лютого 1938 року — командувач броненосними силами флоту. З 21 жовтня 1939 року — командувач флотом. Вважався найбільшим авторитетом в області тактики крейсерських операцій, проявив себе самостійним командиром. У листопаді 1939 року вивів «Шарнхорст» і «Гнейзенау» в Північне море, щоб прикрити повернення лінійного корабля «Дойчланд» після рейду в Атлантику. Маневр вдався, і «Дойчланд» без проблем повернувся на базу. При цьому він ухилився від бою з переважаючими силами англійського флоту. Після цього випадку у Маршалла зіпсувалися стосунки з Еріхом Редером. Керував німецьким флотом під час Норвезької кампанії. Здобув велику перемогу в бою з кораблями англійської конвою поблизу Нарвіка 8 червня 1940 року, однак після кампанії Редер знову почав звинувачувати Маршалла в невиконанні наказів ОКМ, і 18 червня 1940 року його змінив адмірал Гюнтер Лют'єнс. З 26 серпня 1940 року — інспектор військово-морських навчальних закладів. З кінця 1941 року виконував особливі доручення в групах ВМС «Південь» і «Схід». У квітні-травні 1942 року — начальник військово-морської станції «Остзе». З 12 серпня 1942 року Маршаллу були підпорядковані ВМС, що базувалися на території Франції. В кінці вересня очолив командування ВМС «Захід» (штаб — Париж), одночасно командувач-адмірал у Франції. 19 квітня 1943 року замінений адміралом Теодором Кранке, а 30 червня 1943 року звільнений у відставку. Потім з 4 червня 1944 року керував особливим штабом ВМС на Дунаї, але 30 листопада 1944 року знову звільнений у відставку. З 19 квітня 1945 року — керівник Командування ВМС «Захід». 8 травня 1945 року заарештований американськими військами і перебував у таборі для військовополонених. 25 червня 1946 року звільнений.