In 637 gaf patriarch Sophronius de stad, na de Slag bij de Jarmuk, over aan de Arabieren onder leiding van kalief Omar. In het Arabisch werd de stad bekend als Al-Qoeds ("de heilige (stad)") en ook wel als "Oeroesjalim", wat wel wordt uitgelegd als "stad van sjalim". Het is voor de moslims een heilige stad, onder meer omdat volgens de islamitische godsdienst de profeet Mohammed – in een wondere nachtreis – er op Buraq, een dier gelijkend op een ezel, vanuit Mekka naartoe is gereisd en vanaf de Tempelberg naar de hemelen is opgestegen. Een voetafdruk in de Rotskoepel (gebouwd 691-692) herinnert hieraan. De kalief liet Joden, die verbannen waren onder de Byzantijnen, terugkeren. Onder druk van patriarch Sophronius werd het aantal beperkt tot 70 families. In het jaar 660 werd begonnen met de bouw van de Al-Aqsamoskee.