З 10 чэрвеня 1906 года па верасень 1909 г. Свярдлоў сядзеў у турмах Урала. 19 снежня 1909 г. Свярдлова зноў арыштавалі ў Маскве. 31 сакавіка 1910 г. ён быў высланы ў Нарымскі край на 3 гады, адкуль збег, не прабыўшы і чатырох месяцаў. 5 мая 1911 г. быў асуджаны на ссылку ў Нарымскі край Томскай губерні на 4 гады. У 1912 г. ў Нарыме пазнаёміўся са Сталіным, які збег з ссылкі ў жніўні. Свярдлову таксама ўдалося бегчы з Нарыма ў снежні. У лютым 1913 г. быў разам са Сталіным выдадзены агентам ахранкі Маліноўскім і сасланы ў Туруханск. Пасля вяртання з ссылкі ў сакавіку 1917 г., пасля Лютаўскай рэвалюцыі, Свярдлоў быў накіраваны ЦК у Екацерынбург арганізаваць працу Уральскай абласной партыйнай канферэнцыі, рыхтаваў пралетарскае паўстанне на Ўрале — на выпадак, калі не атрымаецца ў Петраградзе.