L'esistenza precaria degli ebrei sotto il dominio bizantino non durò a lungo, in gran parte per l'esplosione della religione musulmana fuori della remota penisola araba (dove risiedevano grandi popolazioni di ebrei). Il Califfato musulmano espulse i bizantini dalla Terra Santa (o Levante, definito come moderni Israele, Giordania, Libano e Siria) nel giro di pochi anni dalla loro vittoria nella Battaglia dello Yarmuk nel 636. Numerosi ebrei fuggirono dai rimanenti territori bizantini preferendo risiedere nel Califfato durante i secoli successivi.