Měl hlavní podíl na plánování katastrofální invaze do Finska, což přispělo k jeho přechodné degradaci. Krátce po nemastném vítězství nad Finskem se však stal náčelníkem generálního štábu. O tuto funkci přišel po nevydařených hrách Generálního štábu, kde jeho jednotky vedené zastaralými metodami nedokázaly vzdorovat protistraně vedené Georgijem Konstantinovičem Žukovem. Zůstal však poměrně vlivným členem STAVKY. V červnu 1941 byl zatčen pro údajnou zradu a nějakou dobu vězněn a mučen, avšak asi po měsíci byl propuštěn, neboť Stalin dospěl k závěru, že jej potřebuje.