Pada November 1905, kaum Bolshevik Georgia memilih Stalin sebagai salah satu delegasi mereka ke sebuah konferensi Bolshevik di Sankt Peterburg. Setibanya di sana, ia bertemu istri Lenin Nadezhda Krupskaya, yang memberitahukan kepadanya bahwa tempat acaranya dipindah ke Tampere di Keharyapatihan Finlandia. Di konferensi tersebut, Stalin bertemu dengan Lenin untuk yang pertama kalinya. Meskipun Stalin sangat menghormati Lenin, ia lantang menyuarakan ketidaksetujuannya dengan pandangan Lenin bahwa kaum Bolshevik sebaiknya mengirimkan calon untuk turut serta dalam pemilihan umum anggota Duma Negara yang akan datang; Stalin merasa bahwa proses parlementer hanya akan membuang-buang waktu. Pada April 1906, Stalin menghadiri Kongres PBDSR ke-4 di Stockholm; ini adalah perjalanan pertama Stalin ke luar Kekaisaran Rusia. Di konferensi tersebut, PBDSR—saat itu dipimpin oleh kelompok Menshevik yang menjadi mayoritas—sepakat untuk tidak menggalang dana dengan melakukan perampokan bersenjata. Lenin dan Stalin tidak setuju dengan keputusan ini, dan kemudian secara pribadi mendiskusikan cara agar mereka dapat melanjutkan perampokan-perampokan untuk kepentingan Bolshevik.