634'te Ebu Bekir'in ölümünden sonra Ömer başa gelerek fetih savaşlarına devam etti. Mayıs 636'da İmparator Herakleios kaybedilen bölgeyi yeniden ele geçirmek için büyük bir sefer başlattı fakat ordusu, Ağustos 636'da Yermük Muharebesi'nde kesin bir şekilde yenildi. Daha sonra Suriye'deki Râşidîn ordusunun Müslüman komutanı Ebu Ubeyde, 636 yılının başlarında gelecek planları tartışmak üzere bir savaş konseyi düzenledi. Hedefleri, kıyı kenti Kayserya ile Kudüs arasında gidip gelmiştir. Ebu Ubeyde, tüm Müslüman saldırılarına karşılık direnen bu şehirleri önemli görmekteydi. Konuyla ilgili karar verilemedi ve talimatları konusunda Halife Ömer'e yazdı. Gelen cevapta halife, Kudüs'ün ele geçirilmesini emretti. Ebu Ubeyde, Jabiya'dan Kudüs'e doğru ilerledi ve Halid bin Velid ve seyyar muhafızı ilerlemeye öncülük etti. Müslümanlar kasım ayı başlarında Kudüs'e vardı ve Bizans garnizonu, müstahkem şehrin içine çekildi.