Назначен от Йосиф Сталин, Ягода ръководи арестите, показателните Московски процеси и екзекуцията на старите болшевики Лев Каменев и Григорий Зиновиев – кулминационни събития от Голямата чистка. Ягода надзирава и построяването на Беломорско-балтийския канал с Нафталий Френкел, използвайки принудителен труд, предоставян от системата на ГУЛАГ. Той командва принудителната колективизация и е един от главните отговорници за масовия глад в Украйна.