Jabarkan Kiblat pertama dari Masjidilaqsa

Sejarah penting Masjidilaqsa dalam Islam juga mendapatkan penekanan lebih lanjut, karena umat Islam ketika salat pernah berkiblat ke arah Al-Aqsa selama empat belas atau tujuh belas bulan setelah peristiwa hijrah mereka ke Madinah tahun 624. Menurut Allamah Thabathaba'i, Allah menyiapkan umat Islam untuk perpindahan kiblat tersebut, pertama-tama dengan mengungkapkan kisah tentang Ibrahim dan anaknya Ismail, doa-doa mereka untuk Ka'bah dan Makkah, upaya mereka membangun Baitullah (Ka'bah), serta perintah membersihkannya untuk digunakan sebagai tempat beribadah kepada Allah. Kemudian diturunkanlah ayat-ayat Al Qur'an yang memerintahkan umat Islam untuk menghadap ke arah Masjidilharam dalam salat mereka.

Perubahan arah kiblat adalah alasan Umar bin Khattab, salah seorang khulafaurasyidin, tidak salat menghadap Batu Fondasi atau Ash-Shakhrah di Bukit Bait Suci ataupun membangun bangunan di sekitarnya; meskipun ketika Umar tiba di sana pada tahun 638, ia mengenali batu tersebut yang diyakini sebagai tempat Muhammad memulai perjalanannya naik ke surga. Hal ini karena berdasarkan yurisprudensi Islam, setelah arah kiblat berpindah, maka Ka'bah di Mekkah telah menjadi lebih penting daripada tempat batu Ash-Shakhrah di Bukit Bait Suci tersebut.

Berdasarkan riwayat-riwayat yang umum dikenal dalam tradisi Islam, Umar memasuki Yerusalem setelah penaklukannya pada tahun 638. Ia diceritakan bercakap-cakap dengan Ka'ab Al-Ahbar, seorang Yahudi yang telah masuk Islam dan ikut datang bersamanya dari Madinah, mengenai tempat terbaik untuk membangun sebuah masjid. Al-Ahbar menyarankan agar masjid dibangun di belakang batu Ash-Shakhrah "... maka seluruh Al-Quds (berada) di depan Anda". Umar menjawab, "Ka'ab, Anda sudah meniru ajaran Yahudi". Namun, segera setelah percakapan ini Umar dengan jubahnya mulai membersihkan tempat yang telah dipenuhi dengan sampah dan puing-puing tersebut. Demikian pula kaum Muslim pengikutnya turut serta membersihkan tempat itu. Umar kemudian mendirikan shalat di tempat yang diyakini sebagai tempat salat Muhammad pada saat Isra Mikraj, dan Umar di tempat itu membacakan ayat-ayat Al-Qur'an dari Surah Sad. Oleh karenanya, berdasarkan riwayat tersebut maka Umar dianggap telah menyucikan kembali situs tersebut sebagai masjid.

Mengingat kesucian Bukit Bait Suci, sebagai tempat yang dipercayai pernah digunakan untuk berdoa oleh Ibrahim, Daud, dan Sulaiman, maka Umar mendirikan sebuah rumah ibadah kecil di sudut sebelah selatan area tersebut. Ia secara berhati-hati menghindarkan agar batu Ash-Shakhrah tidak terletak segaris lurus di antara masjid itu dan Ka'bah, sehingga umat Islam hanya akan menghadap ke arah Makkah saja ketika mereka salat.