尔托夫第一次读了马克思的《共产党宣言》，受到极大的影响，转而支持马克思主义。1891年进入圣彼得堡国立大学理学部学习。翌年在大学里组建了社会民主主义的俱乐部。不久当局即以传阅非法文献的罪名将其逮捕，开除学籍。经过一年半的监狱生活之后，他被流放到立陶宛的维尔纽斯。在立陶宛期间，马尔托夫参加了犹太人的劳动运动。1895年回到圣彼得堡，与列宁一起参加了工人阶级解放斗争协会的组建工作。1896年1月，马尔托夫再次被捕，次年流放西伯利亚。在流放期间他得了结核。1900年刑满释放，流亡西欧。1900年至1905年期