Druga, właściwa, zakończona sukcesem, inwazja rozpoczęła się w 636 pod dowództwem Sad ibn Abi Wakkasa, podczas której kluczowe zwycięstwo w bitwie pod Al-Kadisijją doprowadziło do trwałej utraty kontroli nad zachodnim Iranem przez Sasanidów. Po tym zdarzeniu góry Zagros stały się naturalną barierą i granicą pomiędzy islamskim kalifatem, a państwem Sasanidów. Z powodu ciągłych najazdów perskich na utracone tereny, mających na celu odzyskanie tych ziem, w 642 roku kalif Umar ibn al-Chattab nakazał pełny podbój państwa irańskiego, co jeszcze w tym samym roku doprowadziło do kolejnego wielkiego zwycięstwa Arabów pod Nehawandem. Od tej pory główny opór stawiała nie sasanidzka armia, ale ludność poszczególnych regionów i miast. Większość miast i miejscowych notabli zawierała jednak z Arabami stosunkowo korzystne (jak na warunki wojny) traktaty przewidujące poddanie się i zapłatę kontrybucji w zamian za pozostawienie w spokoju ich życia i mienia. Arabski podbój Iranu trudno jednak określić jako bezkrwawy. Przez długi jeszcze czas na jego terytorium wybuchały powstania. I tak np. w roku 649 powstali mieszkańcy wcześniej podbitego przez armię kalifatu Isfahanu, wybijając garnizon najeźdźców. W odwecie Arabowie po odbiciu miasta wymordowali 40 tysięcy ludzi. Po śmierci Jazdgirda III (632–651) w roku 651 było już w zasadzie jasne, że monarchia Sasanidów się nie utrzyma, jednak perski opór trwał nadal. W czasie walk o kalifat pomiędzy Alim (656–661) a Mu’awiją (661–680) w latach 656–661 spora część Iranu wyzwoliła się spod obcego panowania i po pokonaniu rywala Mu’awija musiał dokonać ponownego podboju.