Müslümanların takmasına izin verilen "mühür yüzüğü"nün Bostanai tarafından takılmasına izin verilmiştir.

Ömer ve Osman'ın ardından başa Ali (656) geçti ve Yahudiler Muaviye'ye karşı Ali'nin safhasında yer aldılar. Güney Arabistanlı Yahudi vaiz Abdallah ibn Saba, İslam'ı övmüş, Muhammed'in ortaya çıkışını Yahudilik hissiyatına oturtarak açıklamaya çalışmıştır. Ali, Kufe'yi başkent yaptı ve 641'de Arabistan Yarımadası'ndan kovulan Yahudiler bu şehre yerleşti. Muhtemelen bu göçmenler sayesinde Arapça Yahudi cemaati içinde daha bir oturaklı hale geldi. Yahudi tarihçelerine göre Ali Firuz Şabur'u fethettikten sonra 90,000 Yahudi buraya yerleşti. Sura Akademisi başkanı Mar İshak, Sura'ya halifeyi ziyaret edince kendisine ayrıcalıklar tanındı.

Halifeliğin geneline kıyasla, Babil Yahudilerine verilen bir çeşit merkezi pozisyonla Babil'de Yahudi yaşamı devam etti. Bu dönemde akademi başkanlarının büyük etkileri ve otoriteleri vardı ve Yahudi cemaati gönüllü olarak onları cemaat liderleri olarak benimsemekteydi. Fakat kısa bir süre sonra sürgündeki liderler ile akademi başkanları arasında rekabet baş göstermeye başladı. Sürgün liderleri safhasında yer alan Mar Yanka Pumbedita'daki akademi hahamlarına zulümler yapmaya başlayınca hahamlar Sura'ya kaçmak zorunda kaldı ve ancak Mar Yanka ölünce (730) şehre geri döndüler. "Arap döneminde sürgün liderliği satılığa çıktı"; Şerira asırlar sonra övünerek Bostanai'nin soyundan gelmediğini belirtti. Arap efsanesinde Reş Galuta önemli bir kişilik olarak kalmaya devam etti; onların ruhları görebildiklerine inanılmaktaydı.

Emevi halifesi Ömer bin Abdülaziz (717-720) Yahudilere karşı zulümlerde bulundu. Valilerine emir verdi: "Hiçbir kiliseyi, sinagogu yıkmayın veya yakmayın, ama yenisisin inşa edilmesine izin vermeyin." II. Isaac Iskawi (~800'ler), Harun Reşid'den (786-809) resmi mührün taşınması onayını aldı. Harun, imparator Şarlman ile buluştuğunda Yahudi Isaac da oradaydı. Dendiğine göre Charles (muhtemelen Dazlak Karl) "Babil kralı"ndan kendisine asil soydan birisini vermesini istedi; cevap olarak halife ona Rabbi Mahir'i verdi; bu Babil Yahudileriyle Avrupa Yahudileri arasında kurulan temasın ilk aşamasıydı. Yahudilerin, Yahudi olduklarını gösteren sarı arma takmaları kanunu Harun zamanıda yürürlüğe girmiş olsa da Yahudiler Arap kültüründen olumlu olarak etkilenmiştir; Harun döneminden başlayak ardıllarının dönemlerinde dahi (özellikle Al-Mamun (813-833)) Yahudiler bilime eğilim gösterdiler.

Araplar gibi Yahudiler de azimle bilgi yayma taraftarıydı, bu sebeple Yunan ve Latin eseleri, genelde Bilgelik Evi'nde tercüme etmişler ve korumuşlardır. Dini felsefe çalışmalarıyla ilgilendiler (kelam), genelde Mutezile ile hemfikir oldular ve insanın özgür iradesine inandılar. Öte yandan, hükümet Yahudileri aşağılamak için elinden geleni yaptı. Bütün kafirler - Magi, Yahudi ve Hristiyanlar - Mütevekkil tarafından arma giymeye mecbur edildiler; ibadet yerlerine el konulup camileştirildi; devlet görevlerinden ihraç edildiler ve evlerinin değerinin %10'unu vergi olarak ödemeye zorlandılar. Mutadil'in (891-902) dediğine göre Yahudiler devlet hizmetçileridir ve Hristiyanlardan sonra gelir.

Halifeliğin son günlerinde Moğol İmparatorluğu yükselişe geçti. Bar Hebraeus'a göre, Moğol kabileleri kafirler, Yahudiler ve Hristiyanlar arasında ayrım gözetmemekteydi; Marco Polo'nun anlattığına göre Büyük Han Kubilay Han'ın ordularında Yahudiler bulunmaktaydı. 1258'de Halifeliği yıkan ve 1260'da Filistin'i fetheden Hülagû Han Müslümanlara, Yahudilere ve Hristiyanlara karşı hoşgörüyle yaklaştı. Moğol hakimiyeti altındaki rahipler cizye ödemekten muaf edildiler. Hülagû'nun ikinci oğlu Ahmet Teküder İslam'ı benimsedi fakat ardılı Argun Han (1284-91) Müslümanlardan nefret etti ve Yahudilerle Hristiyanlara dostça davrandı; baş danışmanı Bağdatlı Yahudi bir doktor olan Sa'd al-Daula'ydı. Han'ın ölümünün ve danışmanın öldürülmesinin ardından Müslümanlarla Yahudiler arasında çatışmalar başladı. Gayhatu'nun maliye bakanı Reşid al-Daula isimli bir Yahudiydi. Gazan Han ise Müslümanlığa geçip Yahudileri ikinci sınıf vatandaş yaptı. Irak üzerinde hakim olan Mısır sultanı Nasır aynı kanunları 1330'da yürürlüğe sokup yeni kısıtlamalar getirdi. Moğolların Yahudilere karşı öfkeli tavırları nedeniyle yerli Yahudiler başka yerlere kaçmak zorunda kaldı.

Moğol istilaları nedeniyle hali hazırda bulunan Yahudi cemaati ya yok oldu ya kaçtı; sonradan oluşan Yahudi cemaati, başta Halep olmak üzere, diğer yerlerden gelen göçmenlerle kuruldu. Bu nedenle Irak Yahudilerinin tarihi süreklilik göstermemektedir.

Bazı el değiştirmelerden sonra Mezopotamya ve Irak en sonunda Osmanlı Türklerinin eline geçti; Sultan II. Süleyman, 1534'te Tebriz ve Bağdat'ı Perslerden alınca Yahudi yaşamında gelişmeler başladı. Persler 1623'te bölgeyi tekrar fethedince Yahudiler için durum çok daha kötüleşti, öyle ki Türkler Irak'ı 1638'de tekrar ele geçirdiğinde ordularında Yahudiler vardı, bazı kaynaklara göre Yahudiler ordudaki askerlerin %10'unu oluşturuyordu. Osmanlı'nın Irak'ı tekrar fethetmesi bir bayram olarak kabul edildi: "Yom Nes" (mucize günü)

1743'te gerçekleşen veba salgını nedeniyle Bağdat Yahudilerinin büyük bir kısmı ve hahamların hepsi öldü. Hayatta kalan Bağdat Yahudi cemaatin Halep'teki cemaatten bir hahambaşı göndermelerini isteyince cemaatin başına Rabbi Sadka Behor Hüseyin geçti. Bu atamanın etkisi olarak Irak Yahudileri Sefarad kültürü içinde asimile oldu.

Zamanla, bölgedeki merkezi Türk kontrolü bozulmaya başlayınca Yahudilerin durumu kötüleşti fakat nüfus artmaya devam etti. Bu bozulmaya örnek olarak Daud Paşa'nın Yahudilere karşı olan zulmü gösterilebilir, böylece aralarında David Sassoon'un da bulunduğu çoğu Yahudi bölgeden kaçtı. 1884'te Bağdatta 30,000, 1900'de ise 50,000 Yahudi vardı. Cemaat, Yahudi tarihinde önemli kabul edilen hahamlar çıkarmıştır; Ben İş Hay olarak da bilinen Yosef Hayim ben Eliyahu Mazal-Tov buna bir örnektir.

Sosyolog Philip Mendes'in iddiasına göre, 1930'lar ve 1940'lardaki anti-Yahudi olaylar gerçekleşmeden önce Yahudiler kendilerini ayrı bir ırk veya milletten ziyade Yahudiliğe inanan Araplar olarak görüyordu. Buna ek olarak, ilk İşçi Siyonizm Avrupa Yahudilerine odaklanmıştı çünkü Irak Yahudileri tarımla ilgilenmiyordu. Sonuç olarak "II. Dünya Savaşı'na kadar, az sayıda Irak Yahudisi sosyalist ideale ilgi duyduğu için Siyonizm ilerleme kat edemedi."

1918'deki İngiliz Mandası kontrolünden 1932'de bağımsızlık kazanılıncaya kadar, eğitimli Yahudiler kentsel yaşamda önemli roller aldılar. Irak'ın ilk maliye bakanı Yahudi olan Sassoon Eskell'di ve Yahudiler yargı ve posta sisteminin geliştirilmesi için önemliydi. 1947 Bağdat Ticaret Odası kayıtlarında 19 üyenin 10'unun Yahudi olduğu gözükmektedir. 1930'larda Bağdat'ın yeni açılan radyosundaki müzik grubu çoğunlukla Yahudilerden oluşuyordu. Irak meclisinde Yahudi temsilciler vardı, birçok Yahudi bürokraside önemli yerlerde yer alıyordu, bu da Irak halkının zoruna gitmekteydi.
1930'larda Irak Yahudilerinin durumu kötüye gitmeye başladı. Önceden Irak Arap milliyetçileri Irak Yahudilerini yandaş Araplar olarak görürken Nazi propagandaları ve Filistin Mandası anlaşmazlığı nedenleriyle bu görüş değişti. Irak Yahudileri vatanlarına olan sadakati göstermeye çalışırken ayrımcılığa ve sert kanunlara maruz kalıyordu. 27 Ağustos 1934'te Yahudiler devlet görevlerinden alındı, kolej ve üniversitelere kota konuldu. Siyonist aktiviteler, Yahudi okullarda İbranice ve Yahudi tarihi öğretilmesi yasaklandı. Nazi yanlısı Raşid Ali Geylani'nin devrilmesiyle Bağdat'ta 1 ve 2 Haziran 1941'de Farhud pogromu gerçekleşti ve 200 Yahudi öldürüldü (bazı kaynaklar bunu daha yüksek gösterir), 2000 kişi yaralandı ve 3 milyon dolarlık hasar meydana geldi. Aynı anda diğer şehirlerde yağmalamalar baş gösterdi. Bunun ardından Filistin'den Siyonist temsilciler nefsi müdafaa öğretmeleri için Irak Yahudilerine gönderildi.

Irak Başbakanı Nuri Said Paşa, "Yahudiler her zaman şeytan kaynağı ve Irak'a zarar olmuştur. Casusdurlar. Irak'taki mallarını sattılar, içimizde onların işleyebileceği toprak yok. O zaman nasıl yaşayabilirler? Irak'ta kalırlarsa ne yapacaklar? Hayır, hayır arkadaşım, imkanımız varken onlardan kurtulmamız bizim için en iyisidir" demiştir. 1948'de ülkede sıkı yönetim ilan edildi ve Siyonizm suçunun cezası arttırıldı. Askeri mahkemeler Yahudilerin gözünü korkutmaktaydı, Yahudilerin kentsel hizmetleri feshedildi, üniversitlere kotalar konuldu, Yahudi iş yerlerine boykotlar yapıldı ve ülkedeki en önemli anti-Siyonist Yahudi işadamlarından biri olan Şefik Ades İsrail'e mal satma suçlamaları nedeniyle tutuklanıp idam edildi, bu olay Yahudi cemaatini şoke etti. İlaveten, diğer Arap Birliği ülkeleri gibi, İsrail'i güçlendirebileceğinden, Yahudilerin yasal yollarla İsrail'e göç etmesini yasakladı. Fakat yoğun diplomatik baskılar nedeniyle fikirlerini değiştirdiler. Hükümetin anti-İsrail gerekçelerle Yahudiler üzerinde baskı kurması ve halkın antisemit hareketleri Yahudiler üzerinde korku ve belirsizlik hissi yarattı. "İstisnalar dışında sadece Yahudiler saat takardı. Pahalı bir saat olduğunu anlayan polis adama saati sorma bahanesiyle yaklaştı. Adamın Yahudi olduğuna kanaat getirince saatini elinden alıp adamı göz altına aldı. Hakime, saatte bir tel olduğunu ve böylece Filistin'deki Siyonistlere askeri sırları aktardığı sırada suçüstü yakaladığını söyledi. 'Kanıt'ı incelemeden ve sorgulamadan hakim Yahudiye cezasını verdi ve ödül olarak saat polise verildi."

1949'da, birçok tutuklamalara rağmen, Irak'ta yeraltı Siyonist örgütü kuvvetli bir şekilde yerleşti. Siyonistler Irak Yahudilerini ayda 1000 kişi olmak üzere Irak'tan İsrail'e yasadışı yollarla kaçırıyordu. Varlıkların ülkeyi terketmesini engellemek için, Mart 1950'de, vatandaşlıktan çıktığı sürece Yahudilerin ülkeden çıkmasına izin veren kanun yürürlüğe girdi. Ian Black'e göre bu kararın verilmesindeki itici güç ekonomikti, ülkeyi terk eden Yahudilerin varlıkları hazineye eklenecekti, ayrıca "sorunlu halk" olan Yahudile