Po napaści Niemiec na ZSRR w latach 1941–1945 był członkiem Państwowego Komitetu Obrony. W 1941 został dowódcą Kierunku Północno-Zachodniego (do września 1941). Będąc pełnomocnikiem Kwatery Głównej Naczelnego Dowództwa, organizował obronę Leningradu oraz dowodził wojskami Frontu Leningradzkiego (wrzesień 1941) i Wołchowskiego oraz Samodzielnej Armii Nadmorskiej. We wrześniu 1942 został wyznaczony głównym dowódcą ruchu partyzanckiego (do maja 1943). Podczas wojny zajmował również inne stanowiska. Uczestniczył w konferencji teherańskiej.