1866年9月1日，他成为了莫斯科音乐学院的创办人。在当时，他被认为是同时代最伟大的钢琴家之一，直到近来才被他哥哥安东的光环逐渐掩盖。尽管如此，他的钢琴演奏与安东狂放式的演奏风格有很大的不同；尼古莱较坚持古典主义的演奏风格，类似于克拉拉·舒曼，而与李斯特·费伦茨差别较大。在莫斯科任职期间，他曾邀请柴可夫斯基为他写了着名的《第一号钢琴协奏曲》。根据柴可夫斯基的信件描述，鲁宾斯坦对于这首作品印象不佳，并希望他重写，但他拒绝了。因此最后这首作品由钢琴家汉斯·冯·彪罗做了世界首演。尽管如此，在鲁宾斯坦于巴黎去世