عندما تولى عمر بن الخطاب الخلافة، كان المسلمون قد انتصروا بالفعل في عدة معارك بالعراق وفارس؛ من أهمِّها ذات السلاسل والولجة وعين التمر، إلا أنَّ قائد جيوش الفتح خالد بن الوليد استُدْعِيَ بعد ذلك للسير إلى الشام، وأخذ معه نصف الجيوش الفاتحة، فتولَّى القيادة من بعده المثنى بن حارثة عام 12هـ. لكن بعد ذلك بعامٍ واحدٍ قام والٍ يدعى رستم فرخزاد بانقلاب في الدولة الساسانية واستولى على الحكم، فتمكَّن من إنهاء فترةٍ طويلة من الصِّراعات الداخلية في الدولة، وبدأت موازين القوى بالتغير. فخرج المثنى في أواسط عام 13هـ من العراق قاصدًا المدينة، ليحدِّث أبا بكرٍ عن أحوال القتال ويطلب منه المدد لاستكمال الفتح، لكن عندما وصلها كان أبو بكر على فراش الموت، فلما حدثه المثنى عن أحوال فارس استدعى عمرَ، ووصَّاه بأن يندب الناس (يدعوهم إلى الخروج للقتال) مع المثنى كل يوم، وتوفي أبو بكر بعد ذلك بأيام. فعل عمر ما أوصاه به أبو بكر، وتمَكَّن من حشد جيشٍ من 1,000 رجل من أهل المدينة، فأرسله إلى فارس، وبدأ عمر بعد ذلك يحشد للحرب على الفرس، فأعلن النفير في الجزيرة العربية، وأخذ يتنقل بين قبائل العرب ليجمع المقاتلين، ويحمِّس الناس، ويرسل الإمدادات تباعًا إلى فارس، واستعمل الوجهاء والخطباء والشعراء للتحريض على الفرس قائلاً: . ومن كبرى المعارك التي خاضتها الجيوش التي حشدها عمر معركة القادسية عام 15هـ، وفتح المدائن عاصمة الدولة الساسانية عام 16هـ، وأخيرًا معركة نهاوند المعروفة باسم عام 21هـ، وكان النصر فيها جميعًا من نصيب المسلمين، وبعد نهاوند لم تقم للفرس قائمة، فتوالت فتوحات فارس حتى وقعت بالكامل في أيدي المسلمين.