I 1934 avholdt han sin debutkonsert, i en ingeniørklubb i Odessa, selv om han formelt sett ikke ble tatt opp på Moskva-konservatoriet før tre år etter. I Moskva ble han student under Heinrich Neuhaus. Neuhaus regnet Richter som «den geniale eleven som han hadde ventet på i hele sitt liv». I 1940, mens han fortsatt var student, fremførte han verdenspremieren på Sonate nr 6 av Sergej Prokofjev. Richter spilte flere av Prokofievs klaververker – 6 av Prokofievs 9 klaversonater og den første og den femte konserten. Richters eneste fremtreden som dirigent skjedde da han uroppførte Prokofievs med Rostropovitsj som cello-solist.