Rykov se po únorové revoluci roku 1917 vrátil ze Sibiře a spojil se znovu s bolševiky, ačkoli zůstal skeptický ohledně jejich radikálnějších sklonů. Rykov se stal členem petrohradského a moskevského sovětu. Na šestém kongresu bolševické strany byl Rykov zvolen do ústředního výboru. Během říjnové revoluce se stal členem armádního revolučního výboru v Moskvě.