در سال ۶۳۴ میلادی، ابوبکر درگذشت و عمر جانشین وی شد. در مهٔ ۶۳۶ میلادی، هراکلیوس برای بدست آوردن سرزمینهای از دست‌رفته لشکرکشی بزرگی را آغاز کرد؛ اما ارتش او در نبرد یرموک در ۱۳ هجری همزمان با اوت ۶۳۶ میلادی، قاطعانه شکست خورد. سپس، ابوعبیده، رهبر سپاه مسلمانان در سوریه، در اوایل اکتبر ۶۳۶ میلادی شورای جنگ تشکیل داد تا در مورد برنامه‌های آینده و اهداف مختلف بین شهرهای قیساریه و اورشلیم گفتگو کند. ابوعبیده اهمیت این شهرها را دید، که در برابر همهٔ تلاش‌های مسلمانان برای فتح مقاومت می‌کرد. او به عمر نوشت که قادر به تصمیم‌گیری در این زمینه برای دریافت راهنمایی نیست. در جواب وی، عمر به آنها دستور داد فتح آخر را به آنها دستور داد؛ بر این اساس، ابوعبیده از جبیا به طرف بیت‌المقدس حرکت کرد. رهبران وارد شدند و مسلمانان از سراسر اورشلیم و پادگان بیزانس به شهر مستحکم عقب‌نشینی کردند.