Roku 638 byl Jeruzalém ovládaný Byzantinci bez boje dobyt muslimskými vojsky chalífy Umara II., kteří rychle povolili židům návrat do Jeruzaléma. Na Chrámové hoře byl postaven Skalní dóm a mešita al-Aksá. Jeruzalém poté na dalších 400 let náležel muslimským Umajjovcům a posléze Fátimovcům. V 11. století na Blízký východ vpadli Turci, kteří roku 1078 dobyli Jeruzalém, ale již roku 1097 jej Fátimovci od Turků, oslabených postupem první křížové výpravy v Sýrii, dobyli nazpět. O dva roky později byl Jeruzalém obležen a dobyt evropskými křižáky, kteří většinu jeho obyvatelstva povraždili.