Etter flere arrestasjoner for sin politiske aktivitet deltok han i den russiske revolusjonen, i 1920 ble han valgt til formann for Den røde faglige internasjonale (Profintern) og i 1922 ble han valgt inn i kommunistpartiets politbyrå. I årene som fulgte var han en nær alliert av Nikolaj Bukharin og den såkalte høyreopposisjonen. Da denne mistet Stalins støtte rundt 1928 mistet også Tomskij sin posisjon. I 1929 ble han fratatt alle sine faglige verv, men ulikt sine allierte Bukharin og Aleksej Rykov forble han medlem av politbyrået. I 1934 ble han leder for Sovjetunionens statsforlag.