In de zomer van 1939 werd zijn pensioen een tweede keer ingetrokken en kreeg Leeb het bevel over "Heeresgruppe C". Tijdens de Slag om Frankrijk braken zijn troepen door de Maginotlinie. Voor zijn aandeel in deze overwinning werd hij in juli 1940 bevorderd tot generaal-veldmaarschalk. Vervolgens kreeg hij het bevel over "Heeresgruppe Nord" tijdens de aanval op de Sovjet-Unie. Leebs taak was het vernietigen van alle Sovjettroepen aan de Oostzee, de inname van alle marinebases aldaar en de inname van Leningrad tegen 21 juli 1941. Toen de invasie op 22 juni 1941 begon, stootte Leeb op weinig weerstand en kon hij snel negenhonderd kilometer oprukken. De inname van Leningrad mislukte echter, nadat Duitse troepen zware verliezen leden tijdens de slag bij Tichvin.