7岁时，他就在罗兹的一个慈善音乐会上演奏莫扎特、舒伯特和门德尔松的钢琴曲。他的第一位正规的钢琴老师是阿道夫·普雷齐纳（Prechner）。后来，他被送到华沙，师从亚历山大·罗伊茨基（Roycki）学钢琴；1897年去了柏林，师从海因里希·巴斯；还得到罗伯特·卡恩和马克思·布鲁奇的理论指导。1900年，他在波兹坦担任莫扎特《A大调协奏曲》（K.488）中的独奏登台表演；同年，他在柏林约阿希姆的指挥下再次成功演奏此曲，随后他在德国和波兰巡回演出。1903年，鲁宾斯坦在瑞士遇到帕德列夫斯基之后去了巴黎，和穆勒