У 1906 р. він двічі піддавався арешту. У лютому утримувався в одиночній камері, потім - під наглядом поліції. А в липні за рішенням Особливої ​​наради був засуджений до трирічного заслання в Наримський край, яке у вересні була замінена висилкою за кордон. Спочатку Мартов жив в Женеві, потім в Парижі. 1907 року він був присутній на V з'їзді РСДРП. На Штутгартському конгресі 2-го Інтернаціоналу разом з Леніним і Р. Люксембург він вніс радикальні поправки в резолюцію про ставлення до війни.