Robert Karplus, 1938'de Almanların Avusturyayı işgaline kadar yaşadığı Viyana'da doğdu. "Anschlus'"tan kaçmak için annesi ve erkek kardeşiyle birlikte göç etti. İsviçre'de altı ay kaldıktan sonra aile Amerika Birleşik Devletleri'ne taşındı ve Boston bölgesine yerleşti. 1943'te Harvard Üniversitesi'ne girdi ve doktora derecesini yirmi bir yaşında tamamladı. E. Bright Wilson danışmanlığındaki tezi mikrodalga spektroskopisi üzerine idi ve hem deneysel hem de teorik çalışmaları içeriyordu. Parlaklığı, özgünlüğü, enerjisi ve neşeli, pozitif görünümünden dolayı çalıştığı kişiler tarafından fark edildi.