В 1906 г. он дважды подвергался аресту. В феврале содержался в одиночной камере, затем — под надзором полиции. А в июле по решению Особого совещания был приговорён к трёхгодичной ссылке в Нарымский край, которая в сентябре была заменена высылкой за границу. Сначала Мартов жил в Женеве, затем в Париже. В 1907 г. он присутствовал на V съезде РСДРП. На Штутгартском конгрессе 2-го Интернационала вместе с Лениным и Р. Люксембург он внёс радикальные поправки в резолюцию об отношении к войне.