Høsten 1901 ble Dzjugasjvili sendt av den sosialdemokratiske komite i Tbilisi til Batumi for å drive propaganda blant arbeiderne. Batumi hadde vokst raskt som industriby særlig på grunn av Rotschild-konsernets oljevirksomhet der. Han brukte dekknavnet Koba på denne tiden. Han ble 18. april 1902 arrestert for første gang, fordi han hadde ansporet til en arbeiderdemonstrasjon i den georgiske byen Batumi. Politiet hadde ikke særlige beviser mot ham og han ble derfor «administrativt» deportert til Sibir i november 1903 med varighet på 3 år. Dzjugasjvili skulle sendes til landsbyen Novaja Ude i Irkutsk-provinsen øst i Sibir. Reisen tok en måned og straks etter ankomst klart han med undergrunnsbevegelsens bistand å flykte i forbindelse med uroen før krigen mot Japan. Han var tilbake i Tbilisi tidlig i februar 1904 etter krevende reise gjennom kulden i Sibir. Rett før han kom tilbake til Tbilisi var Lev Kamenjev på besøk i byen og Kamenjev kom tilbake sommeren 1904. Han satt fengslet flere måneder i Baku i 1908 sammen med Serge Ordjonikidze. Mellom 1907 og 1917 tilbragte han syv år i fengsel, i forvising i Sibir eller på flukt.