ニコライ・エジョフ
内務人民委員

1936年9月26日、ゲンリフ・ヤゴーダの後任として、エジョフはソ連邦内務人民委員に任命された。1936年10月1日、エジョフは職務に就くにあたり、内務人民委員部の最初の命令書に署名した。エジョフは国家の治安機関、警察、消防署、幹線道路の管轄にも従事することになった。内務人民委員に就任したエジョフは、幹部会議の場で以下のように発言した。「私の小柄な身体に注目している場合ではない。私のこの両手は丈夫にできている。スターリンの手なのだからな」「諸君らに通告する。人民の敵との闘いを妨害する者は、地位や階級に関係なく投獄し、射殺する」
内務人民委員部国家安全保障総局長に就任したエジョフは、「反ソ連活動」「諜報活動」、党内の「粛清」、社会的、組織的、国家的理由に基づく大量の逮捕、国外追放の疑いのある人物に対する弾圧を実行に移した。エジョフの任務は、1937年の夏ごろから系統立った性質を帯びるようになり、それに先立つ形で、内務人民委員部にいたヤゴーダの関係者たちは「浄化」された。1937年3月2日、ボリシェヴィキ全連邦共産党中央委員会総会が開かれた。これに出席したエジョフは、諜報活動や捜査の失敗を指摘し、部下を厳しく批判した。総会は、エジョフによるこの報告を承認し、内務人民委員部の内部を「一掃するように」との指令をエジョフに与え、エジョフはこの指令を直ちに実行に移した。1936年10月1日から1938年8月15日にかけて、2273人が逮捕された。このうちの1862人は、「反革命容疑」で逮捕された。1939年には、内務人民委員部の職員が937人解雇された。
1937年7月17日、エジョフは「内務人民委員部を統率し、政府の任務の遂行に際して傑出した成功を収めた」ことにより、レーニン勲章を授与された。地元の内務人民委員部の機関に対し、逮捕、収容所や刑務所への投獄、国外追放、銃殺となった者たちの人数を公開するよう指令が出されたのはエジョフが就任してからのことであった。
1936年12月の本会議の場で、エジョフはニコライ・ブハーリン(Николай Бухарин)とアレクシイ・ルイコフ(Алексей Рыков)を裁判にかける趣旨を述べ、1937年2月に彼らの逮捕状に署名した。
1937年7月30日、「ソ連内務人民委員令第00447号（ロシア語版）」（ソ連内務人民委員部作戦司令第00447号『元富農、犯罪者、反ソ連分子の抑圧作戦について』）が発令され、エジョフはこれに署名した。1937年1月から1938年8月にかけて、エジョフはスターリンに対し、約1万5000通もの特別伝達を送った。それらは、逮捕、懲罰作戦、特定の抑圧行為の承認要請および尋問の手続きについての報告を記したものであった。スターリンの執務室への訪問記録誌によれば、エジョフは1937年から1938年にかけてスターリンの元を290回訪れ、850時間以上の時をスターリンとともに過ごした。スターリンの元を訪れた回数がエジョフよりも多い人物はヴャチェスラーフ・モロトフである。
逮捕された者たちの処遇を決めるにあたり、「内務人民委員部およびソ連検察委員会」や、超法規的な抑圧機関である「内務人民委員部トロイカ（ロシア語版）」の存在があった。特別な権限を持つ三人組で構成されたこの委員会は、逮捕者を刑務所や強制収容所に投獄する権利や、銃殺刑を宣告する権利を与えられた。「レーニン親衛隊（ロシア語版）」の一掃において、エジョフは重要な役割を果たした。ヤン・ルズターク(Ян Ру́дзутак)、スタニスラフ・コシオール(Станислав Косиор)、ヴラス・チュバーリ(Вла́с Чуба́рь)、パーヴェル・ポスティシェフ(Павел Постышев)、ロベルト・エイヒェ（ロシア語版）も犠牲になった。逮捕された者たちはいずれも殴る蹴るの拷問を受けたのち、銃殺刑に処せられた。1937年6月の「トロツキスト反ソ連軍事組織事件（ロシア語版）」では、ミハイル・トゥハチェフスキー(Михаил Тухачевский)が有罪判決を受け、銃殺された。カーメネフ、ジノヴィエフ、イヴァン・スミルノフ(Ива́н Смирно́в)は1936年8月25日に銃殺された。この三人が撃たれた際に使われた銃弾はゲンリフ・ヤゴーダが自宅に保管していたが、ヤゴーダが逮捕された際に押収された。のちにこの銃弾はエジョフの手に渡り、エジョフはこれを自宅に保管していた。エジョフは逮捕者を尋問する際に、彼らを拷問にかけた。1937年9月22日、ソ連の将軍、イェヴゲーニイ・カルロヴィチ・ミレル(Евгений Карлович Миллер)は、パリにいたところを拉致され、モスクワまで連行された。敬虔なキリスト教徒であったミレルはエジョフに手紙を綴り、「教会へ行かせて欲しい」と要請したが、エジョフは返事を寄越さなかった。1939年5月11日、ミレルは銃殺された。ウクライナ民族主義者組織の指導者、イェヴヘーン・ミハイロヴィチ・コノヴァレツ(Євген Михайлович Коновалець)は、1938年5月23日、オランダにて、パーヴェル・スドプラートフから手渡された「チョコレートが入った箱に偽装した爆破装置」で殺された。
歴史家のニキータ・ペトロフ（ロシア語版）は、「1937年から1938年にかけて、150万人が逮捕された」と指摘している。1921年から1953年にかけて、政治的理由で処刑された79万9455人のうち、1937年から1938年にかけては68万1692人が処刑された。20人に1人が死刑判決を受け、残りは強制収容所に送られた。大粛清のころは、2人に1人が死刑判決を受けていた。18か月間で154万8366人が政治的理由で逮捕され、1日につき平均1万5000人が銃殺された。1937年には、9万3000人が「スパイである」とみなされて処刑された。
「敵」を情け容赦なく討ち滅ぼす人物として、エジョフに対する一種の崇拝が起こった。1937年から1938年にかけて、エジョフはソ連において、スターリン、モロトフ、クリメント・ヴォロシーロフ(Климент Ворошилов)に次ぐ、強力な指導者となった。エジョフの肖像画は新聞に掲載され、党大会の会場や、強制収容所の壁にも掲げられた。挿絵画家のボリス・エフィーモフ（ロシア語版）が描いた、装甲手袋の上から、人民委員がトロツキストとブハーリン派を象徴する蛇を掴んでいる絵がある。また、エジョフは文章を書くのが得意であった。ソ連最高裁判所軍事諮問委員会（ロシア語版）の副委員長、アナトーリイ・ウコロフ（ロシア語版）は、「ニカラーイ・イヴァーナヴィチが高等教育を受けたことが無い人物であることを知らなければ、『教養のある人は、これほど綺麗な文章を書くのか。言葉を巧みに使うのか』と思うかもしれない」と評している。エジョフ自身、質問事項には「初等教育は終えていない」と率直に記述している。
スターリンの時代には「イェジョーフシナ」(Ежовщина, 「エジョフの時代」)なる用語は登場しなかった。1937年12月、チェーカー創立20周年を記念する厳粛な集会の場で、アナスタス・ミコヤン(Анастас Микоян)は以下のように述べた。「同志エジョフから学びましょう。彼が同志スターリンから学んでいるように」
1935年の初頭の時点で、ソ連における囚人の数は100万人を超えており、そのうちの72万5500人が収容所で「雇用」されていた。1936年から1938年にかけて「恐怖」が解き放たれた。党と行政機関の中枢人物のみならず、ソ連社会のあらゆる層の人々、-共産党員以外の一般労働者、農民、従業員- も、収容所に送られるか銃殺された。1937年から1938年にかけての「イェジョーフシナ」は、大粛清の最高潮に達した。
1938年4月8日、エジョフはソ連水運人民委員(Народный комиссариат водного транспорта СССР)に任命された。