国境内加利西亚地区的雷马努夫（今属波兰）的一个传统犹太家庭，拉比还是一个婴儿的时候就随家人迁居美国，并在纽约市的下东城长大。他在1916年进入康奈尔大学学习电机工程学，但不久之后就转投化学系，后来他对物理学产生了兴趣。他进入哥伦比亚大学继续学业，并以某些晶体的磁学性质研究获得了博士学位。他在1927年前往欧洲，在那里结识了当时不少最顶尖的物理学家，并和他们一起进行研究。拉比于1929年回到美国，出任哥伦比亚大学的物理系教员。他与格雷戈里·布莱特共同开发出布莱特-拉比方程，并成功预测到施特恩-格拉赫实验能