Помогао му је у осмишљавању повода за инвазију Црвене армије на Грузију 1921. Док је трајао Руски грађански рат (1918—1922), борио се против Белог покрета. Од 1930. је био члан Политбироа ЦК СКП(б). Био је и потпредседник владе и руководилац индустријализације Совјетског Савеза. Међутим, с временом се Стаљин све више удаљавао од Орџоникидзеа те је нашао новог верног поданика, Лаврентија Берију.