但此后5年，他的仕途如电梯般上升。真正使其在历史上留名的，是其担任秘密警察组织——内务人民委员部（克格勃前身）领导时参与大清洗运动的经历。1925年，联共布十四大时与伊万·米哈伊洛维奇·莫斯克文相识，1926年在莫斯克文的帮助下进入苏共中央。联共布十七大，叶若夫成为中央委员。两年后成为中央书记处书记、检查委员会主席，后受斯大林赏识进入内务部。从1936年到1937年在大清洗运动中，叶若夫主持下内务部逮捕了150万人，并处决了其中的半数。1938年1月9日，苏共党中央作出《关于错误地解雇因反革