Nach dem Sieg der Bolschewiki Ende 1917 schuf Dzierżyński auf Veranlassung Lenins das als Geheimpolizei agierende Allrussische außerordentliche Kommission zur Bekämpfung von Konterrevolution und Sabotage (Tscheka), deren Leiter er bis zu seinem Tod blieb. Nach dem Aufstand der Linken Sozialrevolutionäre vom Juli 1918 war er zeitweilig auf eigenen Antrag vom Amt suspendiert. Am 5. September 1918 erhielt er nach dem fehlgeschlagenen Attentat Fanny Kaplans auf Lenin von diesem die Order, mit dem Roten Terror zu beginnen. In diesem Zusammenhang wurde die Anzahl der Arbeitslager bis Ende 1920 auf 107 erhöht. Die Tscheka tötete nach dem Vorbild der Terrorherrschaft während der Französischen Revolution angebliche oder tatsächliche Konterrevolutionäre und legte dabei laut diversen Quellen oft den Schwerpunkt ihrer Außenwirkung auf Abschreckung statt auf Wahrheitsfindung.