В 1937 переведён в центральный аппарат НКВД. Занимал должности заместителя начальника 1-го (учётно-статистического) спецотдела НКВД (22.12.1938—05.03.1940), начальника 1-го спецотдела НКВД (05.03.1940—26.02.1941, 31.07.1941—20.01.1942), начальника 2-го отдела НКГБ (26.02.1941—31.07.1941), начальника Высшей школы НКВД—НКГБ—МГБ СССР (20.01.1942—23.05.1947). Весной 1940 года наряду с В. Н. Меркуловым и Б. З. Кобуловым входил в состав тройки НКВД, выносившей смертные приговоры польским военнопленным и гражданским лицам.