Siendo director del OGPU Génrij Yagoda, en 1933 es nombrado Agránov sub jefe, y cuando Génrij Yagoda es nombrado Comisario del Pueblo de Asuntos Internos en 1934, a su vez Agránov es nombrado sub jefe de Asuntos Internos.