Mitrokhin fikk i 1972 ansvar for å flytte KGBs arkiv fra Lubjanka til en ny bygning i Jasenevo sørvest for Moskva. Arkivet omfattet 300 000 mapper. Mitrokhin kopierte opplysninger fra KGB-dokumenter fra mellomkrigstida og framover til han ble pensjonist i 1984.