Selv om han er best kjent som solist, var Rubinstein også en utsøkt kammermusiker, og samarbeidet med Henryk Szeryng, Jascha Heifetz, Gregor Piatigorsky, og Guarneri-kvartetten. I tillegg til Chopin, spilte han inn verker av Johannes Brahms, Franz Schubert, Robert Schumann, Antonín Dvořák og Karol Szymanowski. Han har fått én stjerne på Hollywood Walk of Fame.