Народився в єврейській родині. Його батько, Адам (Абрам Якович) Тотенберг (1879—1934), випускник Санкт-Петербурзького технологічного інституту, цивільний інженер і архітектор, який спеціалізувався на будівництві мостів і житлових будинків; мати — Станіслава Вінавер, з родини військового лікаря, була домогосподаркою. З початком Першої світової війни батько був направлений в Москву, де Роман почав займатися музикою у оперного концертмейстера і скрипаля О. І. Єрмолова (1917). Після Жовтневого перевороту сім'я переїхала в Вологду, а через рік — в Саратов, де він два роки навчався в народній консерваторії. Повернувшись до Варшави в 1921, продовжив заняття спочатку у Йозефа Зажембського, потім у Мечислава Міхаловіча в Варшавському інституті музики і дебютував у віці одинадцяти років як соліст з Варшавським філармонічним оркестром.