I 1926 ble Ulrikh valgt til formann i militærkollegium i Sovjetunionens Høyesterett. Det var i denne stillingen at Ulrikh ble overlevert forskjellige forhåndsbestemte rettsslutninger under den store terroren med store utrenskninger. Ulrikh dømte således for eksempel Grigorij Zinovjev (henrettet 1936), Lev Kamenev (henrettet 1936), Mikhail Tukhatsjevskij (henrettet 1937) Nikolaj Bukharin (henrettet 1938), og Nikolaj Jezjov (henrettet 1940) og Konstantin Rodzajevskij (henrettet 1946).