中学里成立了一个学生俱乐部，热衷于研究法国大革命的历史，研究丹东、罗伯斯庇尔、德圣茹斯特的着作。1890年，马尔托夫第一次读了马克思的《共产党宣言》，受到极大的影响，转而支持马克思主义。1891年进入圣彼得堡国立大学理学部学习。翌年在大学里组建了社会民主主义的俱乐部。不久当局即以传阅非法文献的罪名将其逮捕，开除学籍。经过一年半的监狱生活之后，他被流放到立陶宛的维尔纽斯。在立陶宛期间，马尔托夫参加了犹太人的劳动运动。1895年回到圣彼得堡，与列宁一起参加了工人阶级解放斗争协会的组建工作。1896年1月，马