sel bildirisi orta okulda iken "Modern Elektrik" isimli teknik dergide yayınlandı. Kopernik Güneşmerkezliliğini okuduktan sonra ateist oldu. Bu onun için çok kolaydı. Ailesine “Tanrı’ya kimin ihtiyacı olsun” dedi. Ailesiyle uzaklaşmak adına bir Yahudi ritüeli olup evde gerçekleştirilen Bar Mitzvah için Yahudi Almancasıyla elektrik ışığı çalışmalarından bahsetti. 1916’da mezun olduğu Brooklyn’deki el işi eğitimi veren bir liseye gitti. Bu yıldan sonra elektrik elektronik mühendisliği öğrencisi olarak Cornell Üniversitesi’ne girdi; ama bölümünü Kimya olarak değiştirdi. Amerika’nın 1917’de Birinci Dünya Savaşı’na girmesinden sonra Cornell’de kara kuvvetleri eğitim kıtasına katıldı. İleri düzey tezi için, manganın oksidasyon evrelerini araştırdı. 1919’un Temmuzunda fen fakültesi diplomasıyla ödüllendirildi; fakat o zamanlar Yahudiler akademi ve kimya endüstrisinde büyük oranda işten uzaklaştırıldığı için herhangi bir iş teklifi almadı. Kısa süreliğine Lederle laboratuvarlarında görev aldı ve daha sonra muhasebeci olarak çalıştı.

Rabi 1922’de mezun kimya bölümü öğrencisi olarak Cornell’e geri döndü ve bir de Fizik alanında çalışmaya başladı. 1923’te Hunter okulunda yaz okulu öğrencisi olan Helen Newmark ile tanıştı. Flört etmeye başladılar ve Rabi yöneticiliğini Albert Willis’in yaptığı Kolombiya Üniversitesindeki çalışmasına Newmark eve döndüğünde de ona yakın olmak için burada devam etti. Rabi 1924 Haziranında NewYork’un City College’ında yarı zamanlı öğretmen olarak iş aldı. Uzmanlık alanı manyetizma olan Willis Rabi’ye doktora tezini sodyum buharının manyetik duygunluğu üzerine yazmasını önerdi. Bu konu Rabi’ye hitap etmiyordu; fakat William Lawrence Bragg Kolombiya’da Tutton’un tuzları adı verilen bazı kristallerin elektrik duygunluğu hakkında seminer verdikten sonra o da bu kristallerin manyetik duygunluğu üzerine araştırma yapmaya karar verdi. Daha sonra Willis Rabi’yi yönetici yaptı.

Kristallerin manyetik rezonanslarını ölçme ilk önce büyüyen kristalleri kapsıyordu ve sıklıkla ortaokul öğrencilerinin gerçekleştirdiği basit bir prosedürdü. Kristaller iç yapıları farklı merkezlere sahip yüzeyleri olan bölümlere ustaca ayrılarak dikkatlice hazırlanmak ve manyetik alana karşılık olarak titizlikle ölçülmek zorundalardı. Rabi, kristalleri büyürken daha basit bir metoddan esinlenen James Clerk Maxwell’in 1873’de yayınladığı A Treatise on Electricity and Magnetism isimli kitabı okudu. Kristali, manyetik duygunluğu iki manyetik kutup arasında çeşitlenebilen torsiyon dengeli bir çözeltiye katılmış camyününe indirdi. Mıknatıs böyle bir kristalle karşılaştığında onun düzenini bozmaksızın açılıp kapanabiliyordu. Bu yeni yol eskilerine göre hem çok daha az iş gerektirdi hem de daha kesin sonuçlar üretti. Rabi On The Principal Magnetic Susceptiblities of Crystals başlıklı tezini 16 Temmuz 1926’da Physical Review isimli gazeteye gönderdi. Sonraki gün de Helenle evlendi. Bildiri metodu kendi kristal araştırmalarında kullanan Kariamanickam Srinivasa Krishnan tarafından okunmasına rağmen akademik camiada çok fazla destekçi bulmadı. Bunun üzerine Rabi çalışmasını yayınladığı kadar aslında destekçiye de ihtiyacı olduğunu anladı.

Diğer birçok genç fizikçi gibi, Rabi de Avrupa’daki önemli gelişmeleri yakından takip ediyordu. Onu kuantum mekaniğinin geçerliliğine ikna eden Stern-Gerlach deneyini görünce şaşkına döndü. Ralph Kronig, Mark Zemansky ve diğerleriyle birlikte Scrödinger denklemini genişletmek için yola çıktı ve bu tür mekanik sistemlerin enerji evrelerini buldu. Problem hiçbirisinin sonucu veren ve yarı diferansiyel olan ikinci derece denklemi çözememesiydi. Rabi, cevabı 19 yy. matematikçisi Carl Gustav Jacob Jacobi tarafından yazılan bir kitapta buldu. Denklem Jacobi’nin sonuç bulduğu hipergeometrik denklem formundaydı. Kronig ve Rabi sonuçlarını yazıp 1927’de bu sonuçları yayınlayacak olan Physical Review’a gönderdiler.

Rabi, 1927 Mayısında Barnard bilim kuruluna atandı ve 1927 Eylülünden 1928 Haziranına kadar $ 1,500 (2015 ekonomisinde +20,365) kazandı. Rabi Avrupa’da çalışmak için 1 yıllığına City College’den ayrılma izni için başvuruda bulundu. Reddedilince de istifa etti. Erwin Schrödinger için çalışmayı umduğu Zürih’e varınca iki Amerikan bilim adamıyla tanıştı. Bunlar Julius Adams Stratton ve Linus Pauling idi. Schrödinger’in Berlin'deki Friedrich Wilhelm Üniversitesi’nin teorik enstitüsüne atanmış olduğunu için buradan ayrılıyor olduğunu öğrendiler. Böylece Rabi Scrödinger'le çalışmak yerine Münih Üniversitesi’nde Arnold Sommerfeld ile birlikte iş aramaya karar verdi. Münih’te Howard Percy Robertson ve Edward Condon isimli iki Amerikalı daha buldu. Sommerfeld Rabi’yi doktora sonrası öğrencisi olarak aldı. Bu sırada Rudolf Peierls ve Hans Bethe de Sommerfeld ile çalışıyordu; ancak üç Amerikalı özellikle birbirlerine çok yakın oldular.

Willis’in önerisi üzerine Rabi, Werner Heisenberg’ün kuantum mekaniği üzerine bildiri sunacağı British Association for the Advancement of Science’ın 97. yıldönümü toplantısı için Leeds’e gitti. Ardından, Niels Bohr için çalışmaya gönüllü olduğu şehre, Kopenhag’a, gitti. Bohr tatildeydi; ama Rabi doğruca moleküler hidrojenin manyetik duygunluğunu hesaplamak üzere çalışmaya gitti. Bohr, Ekim’de döndükten sonra Rabi ve Yoshio Nishia'nın işlerine Wolfrang Pauli ile Hamburg Üniversitesinde devam edecekleri şekilde ayarlamalar yaptı.

Pauli ile çalışmak için Hamburg’a gelmesine rağmen Rabi burada Otto Stern'ü buldu. Otto Stern, isimleri Ronald Fraser ve John Bradshaw olup İngilizce konuşan iki doktora sonrası öğrencisi ile çalışıyordu. Onlarla arkadaş oldu ve Stern’e 1943 yılında Fizik dalında Nobel Ödülü kazandıracak olan moleküler ışın deneylerine merak saldı. Araştırmaları müdahale etmenin ve net bir ölçüm yapmanın zor olduğu düzensiz manyetik alan içerdi. Rabi, bu düzensiz manyetik alanlar yerine geliş açısında moleküler ışınlı düzenli manyetik alan kullanma fikrini öne sürdü. Böylece atomlar prizmadan geçen ışık gibi yön değiştireceklerdi. Bunu kullanmak ve daha net sonuçlar elde etmek kolaydı. Stern’in cesaretlendirmesiyle ve Taylor’un da desteğiyle, Rabi bu düşüncesini hayata geçirmeyi başardı. Stern’in önerisi üzerine elde ettiği sonuçlar hakkında Şubat 1929’da yayınlanan Nature dergisine mektup yazdı. Bu yazısını "Zeitschrift für Physik" dergisinde Nisan ayında yayınlanan "Zur Methode der Ablenkung von Molekularstrahlen" başlıklı yazı takip etti.

Bu sırada Barnard üyeliğinin süresi dolmuştu, Rabi ve Helen Rockefeller Derneğinden aldıkları aylık $182 ile geçiniyorlardı. Heisenbergle çalışmayı umdukları Leipzig için Hamburg’dan yola çıktılar ve Rabi New York'lu Robert Oppenheimer isimli bilim adamıyla buluştu. Bu buluşma uzun süren arkadaşlığın başlangıcı olacaktı; fakat Heisenberg 1929 Mart’ında Amerika turu yapmak üzere ayrıldı. Bu nedenle Rabi ve Oppenheimer, Pauli'nin fizik profesörlüğü yaptığı Zürih Federal Teknoloji Enstitüsü'ne gitmeye karar verdiler. Rabi’nin fizik eğitimini bu alanda çalışan uzman fizikçilerle (Paul Dirac, Walter Heitler, Fritz London, Francis Wheeler Lomis, John vonNeumann, John Slater, Leo Szilard ve Eugene Wigner) tanışması zenginleştirdi.

26 Mart 1929’da Rabi Kolombiya’dan yıllık $3000 maaş ile okutmanlık teklifi aldı. Kolombiya Üniversitesi Fizik bölümü dekanı George Pegram istatistiksel mekanik ve kuantum fiziğinin yeni konuları hakkında ileri düzey dersler verecek teorik fizikçi arıyordu. Bunun üzerine Heisenberg Rabi’yi önerdi. Bu sırada Helen hamile olduğu için Rabi’nin düzenli bir işe ihtiyacı vardı ve bu iş NewYork’taydı. İş teklifini kabul etti ve Ağustos’ta Birleşik Devletlere geri döndü. O zamanlarda Kolombiya’daki tek Yahudi fakülte üyesi oldu.
Rabi öğretmen olarak etkileyici değildi. Leonard Lederman bir dersinden sonra Rabi’nin bahsetmiş olduğu şeyi denemeleri ve anlamaya çalışmaları için öğrencilerini kütüphaneye gönderirdi. Irving Kaplan Rabi ve Harold Urey’i gördüğü en kötü öğretmen olarak oyladı. William Nierenberg Rabi’yi basit ve rezil bir öğretmen olarak görürken, Norman Ramsey Rabi’nin derslerinin oldukça berbat olduğunu düşünüyordu; ama öğretmen olarak eksiklikleri olmasına rağmen yarattığı etki büyüktü. Birçok öğrenciye kariyerlerini fizik alanında sürdürmeleri konusunda ilham verdi ve o öğrencilerin bazıları ünlü fizikçiler oldu.

Rabi’nin ilk kızı, Helen Elizabeth, Eylülde doğdu. İkinci kızı Margaret Joella da 1934’te dünyaya geldi. Rabi’nin öğretme görevi ve ailesi arasında araştırma için çok az zamanı vardı. Bu yüzden Kolombiya’daki ilk yıllarında hiç bildiri sunmadı; yine de asistan profesörlüğe atandı. Akabinde 1937’de profesör oldu.

Rabi özel ışın deneylerine 1931’de geri döndü. Gregory Breit ile işbirliği içinde Breit-Rabi denklemini geliştirmdi ve Stern-Gerlach deneyinin atom çekirdeğinin özelliklerini doğrulayacak şekilde değiştirilebileceğini öngördü. Sonraki adım ise bunu gerçekleştirmekti. Victor W. Cohen’in yardımıyla Kolombiya’da moleküler ışın aparatı tasarladı. Onların amacı sodyumun çekirdek döngüsünü saptamayı umdukları güçlü bir manyetik alan yerine zayıf bir manyetik alan sağlamaktı . Eğer çekirdek döngüsü varsa manyetik alanın ışınları (2l + 1)e ayıracağı tahmin edildi. Deney yürütülürken sodyumun çekirdek döngüsünün 3/2 oranında olduğunu gösteren 4 ışın keşfedildi.

Rabi’nin Moleküler Işın laboratuvarı, doktorası için lityum üzerine çalışan Sidney Millman dahil olmak üzere birçok kişiyi etkilemeye başladı. laboratuvardan etkilenen diğer kişi de sodyum çekirdeğini anlamanın çok zor olduğuna inanan Jerold Zachariasti. Jerold Zacharias en basit elementin hidrojen olduğunu öne sürdü. Hidrojen dötaryumun izotopu 1934’te bu çalışması için Kimya dalında Nobel Ödülü alan Urey tarafından 1931’de Kolombiya’da yenice keşfedilmişti. Urey Rabi’ye ödül sermayesinin yarısını Moleküler Işın laboratuvarı için bağışlayarak ona bir de bu şekilde yardım etti. Kariyerlerine Moleküler Işın laboratuvarında başlayan bilim adamları Norman Ramsey, Julian Schwinger, Jerome Kellogg ve Polykarp Kuschtu. Rabi, kadınlardan bili