През лятото на 1907 година Джугашвили участва в организирането на ръководен от Камо обир в Тифлис на пощенска кола, превозваща голямо количество държавни пари. На 25 март 1908 година той отново е арестуван в Баку и малко по-късно е изпратен на заточение в Солвичегодск, Вологодска губерния. През 1910 година бяга от заточението и през следващите месеци неколкократно е залавян и отново бяга. От декември 1911 до февруари 1912 е заточен във Вологда.