Martov oli keskiluokkaisten juutalaisvanhempien lapsi ja syntyi Istanbulissa. Hän joutui lähtemään 1800-luvun loppuvuosina maanpakoon poliittisten mielipiteidensä takia, ja liittyi Venäjän sosialidemokraattiseen puolueeseen. Jo toisessa puolue­kokouksessa vuonna 1903 puolue jakaantui Martovin kannattajiin ja Leninin kannattajiin. Martovin ryhmä vastusti Leninin päämäärää kehittää puolueesta pienen vallankumouksellisen ryhmän puolue ja kannatti eurooppalaisten sosialististen puolueiden suuren jäsenmäärän mallia. Vaikka Leninin johtama ryhmittymä hävisi äänestyksen, heitä nimitettiin kuitenkin bolševikeiksi (enemmistö), koska he olivat voittaneet äänestyksen puoluelehti Iskran toimittajakunnan kokoonpanosta.