Okres bezpośrednio po rewolucji październikowej Jeżow spędził w Witebsku, skąd bez powodzenia kandydował do Konstytuanty. Następnie poszukiwał pracy w Petersburgu i Wysznim Wołoczoku, gdzie został zatrudniony w hucie szkła. W 1919 został powołany do Armii Czerwonej i służył w Zubcowie w batalionie specjalnego przeznaczenia. W późniejszych wspomnieniach nigdy nie opisywał szczegółowo charakteru swojej służby. J. Arch Getty i O. Naumow przypuszczają, że mógł być żołnierzem oddziału zaporowego lub należeć do jednostki wyłapującej dezerterów i szpiegów, by wydać ich w ręce Czeki. Jednak już w sierpniu 1919 otrzymał przydział do pracy partyjnej w byłej guberni saratowskiej, gdzie miał ratować przed rozpadem miejscową organizację bolszewicką. Po klęskach frontowych Armii Czerwonej był zmuszony ewakuować się do Kazania, gdzie przydzielono go do pracy w 2 Bazie Radiotelegraficznej, początkowo jako komisarza politycznego szkoły radiotelegrafistów, a następnie komisarza politycznego całej jednostki, którą to pracę łączył z członkostwem w lokalnym komitecie partyjnym i kierowaniem jego wydziałem propagandy. W lecie 1919 ożenił się z Antoniną Titową. Zdemobilizowany został w 1921, zostając niemal natychmiast przewodniczącym działu propagandy i agitacji w organizacji partyjnej Autonomicznej Republiki Tatarskiej, członkiem komitetu wykonawczego tejże organizacji i członkiem komitetu wykonawczego we władzach Kazania. Już rok później wyznaczono go „sekretarzem odpowiedzialnym” za organizację w rejonie Mari z siedzibą w Krasnokokszajsku.