Blokhin arbeidet særlig under administrasjonen til Genrikh Jagoda, Nikolaj Jezjov og Lavrentij Berija. Etter deres respektive fall fra makten, ble Jagoda og Jezjov selv henrettet av Blokhin personlig. Han ble håndplukket av Josef Stalin i 1926 og ledet et kompani med bødler som utførte og ledet utallige mord under Stalins regime, primært under Den store terroren og den andre verdenskrig. Berija forsøkte å få Blokhin arrestert anklaget for å være sammensvoren av Jezjov. Blokhin kom fra små kår og var sønn av en bonde. Blokhin hadde tidligere tjenestegjort i tsarens hær, gikk inn i den røde arme i 1918 og var medlem av Tsjeka fra 1921.