Luego fue encargado de organizar y dirigir la Checa, labor que cumplió eficaz e implacablemente con mano de hierro, especialmente después del inicio de la guerra civil rusa en mayo de 1918, cuando los bolcheviques impusieron el «terror rojo», dedicándose a fusilamientos sin juicio de opositores (reales o sospechosos) del nuevo régimen.