Az októberi forradalom után kevéssel a párt tagja lett. 1918 áprilisában már az Izvesztyija helybeli kiadását szerkesztette és a világforradalmat propagálta. Még azelőtt, hogy betöltötte volna 18. életévét, belépett egy lövészezredbe, amely a fehérek és a Csehszlovák Légió ellen harcolt az Urálban. Bár kitűnt a harcban, agitátori képességeit többre becsülték és a petrográdi tisztiiskolába küldték, ahol ebben az időben az agitátorképzés állt az előtérben. Miután kitüntetéssel abszolvált, a 3. hadsereg politikai tisztjévé nevezték ki, hamarosan azonban egy speciális különítmény tagja lett, melynek feladata a kuláktalanítás során tanúsított esetleges ellenállás elfojtása volt. 1931-ben ezredparancsnokká, majd nemsokára hadosztályparancsnokká nevezték ki. 1933-ban végzett a Frunzéről elnevezett akadémián, majd különböző pozíciókat töltött be a Honvédelmi Népbiztosságon. Hivatalosan ugyan nem volt magas rangú belügyes tiszt, mégis biztosan központi szerepet játszott Kirov meggyilkolása után a leningrádi pártszervezet likvidálásában, valamint az 1937-es tisztogatásokban is. 1938-ban a Belorusz Különleges Katonai Körzet parancsnokának politikai helyettesévé nevezték ki, majd 1939-ben Kelet-Lengyelország lerohanásakor a 6. hadsereg parancsnoka volt.