Την ίδια περίπου εποχή, κάνει την εμφάνισή του το Ισλάμ αντικαθιστώντας τον περσικό κίνδυνο. Η Παλαιστίνη πέφτει στα χέρια των μουσουλμάνων το 633, ενώ η Βόρεια Αφρική, η Ιβηρική Χερσόνησος, η Συρία και η Αντιόχεια θα συμπληρώσουν τις κτήσεις τους μέσα σε λιγότερο από έναν αιώνα. Ο Ηράκλειος παρακολουθεί συντετριμμένος την πτώση των επαρχιών, για την απελευθέρωση των οποίων αφιέρωσε όλη του τη ζωή. Η ψυχική του υγεία θα διαταραχθεί, ιδιαίτερα μετά την τρομερή ήττα και πλήρη συντριβή βυζαντινής δύναμης 80.000 ανδρών στη μάχη του ποταμού Γιαρμούκ της Γαλιλαίας, το 636. Στη συνέχεια θα ακολουθήσουν και άλλες μάχες με τους Άραβες, οι οποίοι με αρχηγό τον Χαλίντ ιμπν Ουαλίντ, θα κατακτήσουν ολόκληρη τη Παλαιστίνη, την Ιορδανία και τη Συρία μέχρι την Αντιόχεια και τη Γερμανίκεια.