Anggota-anggota Komite Pusat Bolshevik yang pertama dipilih di Konferensi Praha, dan setelah itu Lenin dan Grigory Zinoviev mengundang Stalin untuk menjadi anggota. Stalin yang masih berada di Vologda setuju dengan tawaran tersebut dan ia tetap menjadi anggota hingga akhir hayatnya. Lenin yakin bahwa Stalin dapat digunakan untuk memperoleh dukungan dari kelompok minoritas di Kekaisaran Rusia. Pada Februari 1912, Stalin melarikan diri ke Sankt Peterburg, dan ia lalu ditugaskan untuk mengubah surat kabar mingguan Bolshevik, "Zvezda" ("Bintang"), menjadi surat kabar harian "Pravda" ("Kebenaran"). Surat kabar baru tersebut diluncurkan pada April 1912, meskipun peran Stalin sebagai seorang penyunting masih dirahasiakan. Pada Mei 1912, ia ditangkap lagi dan dijebloskan ke Penjara Shpalerhy, sebelum akhirnya dihukum tiga tahun pengasingan di Siberia. Pada bulan Juli, ia tiba di desa Narym, Siberia, dan di situ ia tinggal satu kamar dengan rekan Bolsheviknya, Yakov Sverdlov. Setelah dua bulan, Stalin dan Sverdlov kabur ke Sankt Peterburg.