Ia dilahirkan dan dibesarkan di Georgia, Ordzhonikidze kemudian ia bergabung dengan Bolshevik. Ia naik pangkat dengan cepat dan menjadi tokoh penting di kelompok ini. Ia ditahan and dipenjara beberapa kali oleh polisi Rusia, ia sempat diasingkan di Siberia ketika Revolusi Februari dimulai saat 1917. Setelah kembali dari pengasingan, Ordzhonikidze berpartisipasi dalam Revolusi Oktober yang membawa Bolshevik meraih kekuasaan. Selama Perang Saudara selanjut berlanjut, ia memimpin Bolshevik secara aktif di Kaukasus, mengawasi invasi Azerbaijan, Armenia, and Georgia. Ia mendukung penyatuan negara-negara itu ke dalam Republik Sosialis Federasi Soviet Transkaukasia (RSFST), yang kemudian bersatu dengan Uni Soviet pada tahun 1922. Ia menjabat sebagai Sekretaris Pertama RSFST hingga tahun 1926.