På oppdrag av Josef Stalin hadde Jagoda ansvar for arrestasjonene, rettssakene og henrettelsene av gammelbolsjevikene Lev Kamenjev og Grigorij Zinovjev, hendelser som ledet opp til den store terroren. Jagoda overså også byggingen av Hvitehavskanalen med bruk av slavearbeidere fra GULAG-systemet, hvor mange av arbeiderne døde.