ets（现今属于德涅斯特河沿岸共和国）的一个犹太家庭中。很小的时候即开始学钢琴，并在9岁时第一次登台演出。他的老师亚历山大·维洛营（Alexander Villoing）曾将他带往巴黎，并在萧邦及李斯特面前表演。之后，与他的弟弟尼古莱·鲁宾斯坦被母亲带往柏林，跟随Siegfried Dehn学习作曲及音乐理论，并因此受到孟德尔颂与迈耶贝尔的赏识与资助。他于1850年代后期开始以钢琴家的身份巡回演出，最终定居在圣彼得堡。1862年，他与他弟弟尼古莱一同创立了俄罗斯的第一间音乐学校——圣彼得堡音乐学院。