Tras volver a Moscú, continuó su carrera encabezando el Departamento de Relaciones con los Partidos Comunistas y Obreros de los Países Socialistas hasta 1967, año en el que fue nombrado director de la KGB y estaría al frente de esta agencia hasta 1982.