Martov kom tidlig med i det illegale arbeidet mot tsarismen, som medlem i Det russiske sosialdemokratiske arbeiderpartietet (RSDAP). Han ble forvist til Sibir, ikke langt unna en annen forvist sosialdemokrat ved navn Vladimir I. Uljanov. Disse to hadde en viss kontakt, og forholdet mellom dem skulle bli livslangt men konfliktfylt.