Masjid Al-Aqsha
yang diyakini sebagai tempat salat Muhammad pada saat Isra Mi'raj, dan Umar di tempat itu membacakan ayat-ayat Al-Qur'an dari Surah Sad. Oleh karenanya, berdasarkan riwayat tersebut maka Umar dianggap telah menyucikan kembali situs tersebut sebagai masjid.
Mengingat kesucian Bukit Bait Suci, sebagai tempat yang dipercayai pernah digunakan untuk berdoa oleh Ibrahim, Dawud, dan Sulaiman, maka Umar mendirikan sebuah rumah ibadah kecil di sudut sebelah selatan area tersebut. Ia secara berhati-hati menghindarkan agar batu Ash Shakhrah tidak terletak segaris lurus di antara masjid itu dan 'bah, sehingga umat Islam hanya akan menghadap ke arah Mekkah saja ketika mereka shalat.
Gambar di dinding sebuah rumah di Tunisia, menampilkan tiga tempat suci Islam. Yerusalem oleh banyak kalangan umat Islam dianggap sebagai tempat yang suci, sesuai penafsiran mereka atas ayat-ayat suci Al Qur'an dan berbagai hadist. Abdallah El Khatib berpendapat bahwa kira-kira terdapat tujuh puluh tempat di dalam Al Qur'an dimana Yerusalem disebutkan secara tersirat.
Yerusalem juga sering disebut-sebut di dalam kitab-kitab hadist. Beberapa akademisi berpendapat bahwa status kesucian Yerusalem mungkin dipengaruhi oleh meningkatnya penyebarnya sejenis genre sastra tertentu, yaitu Al Fadhail (sejarah kota-kota); sehingga kaum Muslim yang terinspirasi, khususnya selama periode Umayyah, mengangkat status kesucian kota itu melebihi statusnya
menurut kitab suci. Akademisi-akademisi lainnya mempertanyakan keberadaan motif-motif politik Dinasti Umayyah, sehingga Yerusalem kemudian dianggap suci bagi umat Islam.
Naskah-nas abad pertengahan, sebagaimana pula tulisan-tulisan politis era modern ini, cenderung menempatkan Masjid Al Aqsha sebagai tempat suci ketiga bagi umat Islam. Sebagai contoh, kitab Sahih Bukhari mengutip Abu Hurairah dari Nabi Muhammad SAW, yang mengatakan, "Janganlah perjalanan itu memberatkan (kamu) kecuali ke tiga masjid yaitu Masjid Al-Haram, Masjid Rasulullah SAW, dan
Masjid Al Aqsha." Selain itu, Organisasi Konferensi Islam (yang alasan pendiriannya adalah "untuk membebaskan Al Aqsha dari pendudukan Zionis [Israel]") menyebut Masjid Al Aqsha dalam sebuah resolusi yang mengutuk tindakan-tindakan Israel pada kota itu, sebagai tempat tersuci ketiga bagi umat Islam.
Luas keseluruhan kompleks Masjid Al Aqsha adalah sekitar 144000 meter persegi dan dapat menampung 400000 jamaah. Beberapa bangunan yang terdapat dalam Masjid Al Aqsha adalah:
Masjid Al Qibli (bahasa Arab: ) atau Jami' Al Aqsha (bahasa Arab: ) adalah tempat shalat yang berada di Masjid Al Aqsha bagian selatan. Ciri khas dari bangunan ini adalah kubah biru keabu-abuannya. Luas bangunan ini sekitar 35000 meter persegi dan dapat menampung sekitar 5000 jamaah.
Ada beberapa pendapat terkait waktu Masjid Al Qibli atau Jami' Al Aqsha pertama kali dibangun. Pendapat yang paling masyhur adalah Jami' Al Aqsha adalah tempat Umar bin Khaththab melaksanakan shalat jamaah saat berkunjung ke Yerusalem dan Umar pula yang memerintahkan pendirian bangunan tersebut. Awalnya Umar sengaja untuk tidak membuat Kubah Shakhrah,
mihrab Jami' Al Aqsha, dan 'bah tidak berada pada satu garis lurus. Namun saat Jami' Al Aqsha dibangun ulang oleh Kekhalifahan Umayyah, mihrab masjid tersebut digeser 40 meter ke barat sehingga mihrab masjid segaris lurus dengan Kubah Shakhrah di utara dan 'bah di selatan. Mihrab lama dalam masjid diberi nama "mihrab Umar."
Sejarawan arsitektur, Sir Archibal Creswell, merujuk pada pendapat seorang biarawan Galia bernama Arculf yang berziarah ke Palestina pada 679-682, berpendapat bahwa Umar bin Khaththab mungkin adalah orang yang pertama kali mendirikan bangunan persegi empat berkapasitas 3000 jamaah di suatu tempat di komples Al Aqsha. Meskipun begitu, ada kemungkinan bahwa Muawiyah, khalifah
kedua dari Dinasti Umayyah, yang sebenarnya memerintahkan pembangunan dan bukan Umar. Pendapat terakhir ini didukung oleh tulisan dari ulama Yerusalem awal Al-Mutahhar bin Tahir Al-Maqdisi.
Setelah Perang Salib Pertama, tentara Salib menduduki Yerusalem dan turut menguasai Masjid Al Aqsha pada 1099. Jami' Al Aqsha atau Masjid Al Qibli diubah menjadi istana kerajaan dengan nama Templum Solomonis atau Kuil Sulaiman (Salomo). Fungsi Jami' Al Aqsha dikembalikan seperti semula setelah Shalahuddin Al Ayyubi mengambil alih kepemimpinan Yerusalem berikut Masjid Al Aqsha setelah kemenangannya pada Perang Salib Kedua.
Kubah Shakhrah atau Kubah Batu (bahasa Arab: , Qubbat Ash Shakhrah; English: Dome of the Rock) adalah bangunan berbentuk persegi delapan berkubah emas yang berdiri di Masjid Al Aqsha bagian tengah. Bangunan ini diperkirakan dibangun pada masa Khalifah Bani Umayyah Abdul Malik dan putranya, Al Walid I. Menurut Sibt Ibn Jauzi, pembangunan Kubah Shakhrah dimulai sejak tahun 687. Bangunan ini
sempat menjadi gereja bernama Templum Domini (Kuil atau Bait Tuhan) selama di bawah kepemimpinan Kerajaan Kristen Yerusalem.
Bangunan ini menaungi sebuah batu (shakhrah) yang dalam kepercayaan umat Yahudi disebut Even ha-Shtiyya atau Batu Fondasi dan menjadi tempat paling suci dalam kepercayaan Yahudi. Umat Yahudi di seluruh dunia berdoa menghadap ke arah batu ini. Batu ini juga diyakini sebagai tempat Nabi Ibrahim (Abraham) hendak mengorbankan putranya, Ishaq. Sedangkan menurut pendapat
beberapa ulama, batu ini juga yang merupakan titik Nabi Muhammad berpijak menuju ke langit saat peristiwa Isra' Mi'raj.
Mushala Al Marwani (bahasa Arab: ) adalah ruang bawah tanah seluas 500 meter persegi yang digunakan sebagai tempat shalat. Letaknya berada di Masjid Al Aqsha bagian tenggara. Tempat ini mulai digunakan sebagai tempat shalat pada Desember 1996 dengan menambahkan penerangan dan ubin. Mushala Al Marwani menjadi tempat shalat terluas di Masjid Al Aqsha, bahkan melebihi Jami' Al Aqsha sendiri, dengan daya tampung mencapai 10000 jamaah.
Pada masa pendudukan Tentara Salib, tempat ini dinamakan "Kandang Kuda Salomo (Sulaiman)." Nama Salomo mengacu pada Bait Suci yang diyakini dibangun oleh Sulaiman (Salomo) di kompleks tersebut, sedangkan 'kandang kuda' mengacu pada fungsinya sebagai kandang kuda oleh Tentara Salib pada masa Baldwin, Raja Yerusalem yang berkuasa pada 1118-1131 M. Menurut peneliti Yordania,
Raef Yusuf Najm, Mushala Al Marwani dulunya adalah penampungan air yang dibangun pada masa Hadrianus, Kaisar Romawi, pada abad kedua.
Kubah Mi'raj (Arabic:  , Qubbat Al Mi'raj; English: Dome of the Ascension) adalah kubah mandiri yang berdiri di sebelah utara Kubah Shakhrah. Bangunan ini didirikan oleh Tentara Salib sebagai bagian dari Templum Domini, sangat mungkin digunakan untuk tempat pembaptisan. Dokumen Arab tertanggal 1200-1201 menyatakan bahwa bangunan ini dipersembahkan ulang untuk wakaf.
Kubah Silsilah atau Kubah Rantai (Arabic:  , Qubbat As Silsilah; English: Dome of the Chain) adalah kubah mandiri yang berdiri di sebelah timur Kubah Shakhrah. Kubah ini didirikan pada tahun 691 oleh Khalifah Umayyah, Abdul Malik. Tidak diketahui kegunaan awal kubah ini. Pada masa pendudukan Tentara Salib, bangunan ini menjadi kapel yang dipersembahkan kepada Santo Yakobus yang
diyakini gugur di titik ini. Sekarang tempat ini menjadi mushala untuk umat Islam. Sebelum dibangun ulang oleh Kekhalifahan Umayyah, letak 'bah, mihrab Jami' Al Aqsha, dan tempat yang sekarang menjadi Kubah Silsilah berada dalam satu garis lurus.
Kubah Nabi (Arabic:  ) atau Kubah Jibril adalah kubah mandiri yang berada di Masjid Al Aqsha sebelah utara dan lebih digunakan sebagai monumen simbolis daripada bangunan keagamaan. Kubah ini didirikan pada tahun 1538 oleh Muhammad Bey, Gubernur Yerusalem pada masa Utsmaniyah. Sebagian menyatakan bahwa Kubah Nabi adalah tempat Nabi Muhammad berdiri mengimami para Nabi dalam shalat jamaah pada peristiwa Isra' Mi'raj.
Al Mawazin adalah delapan gerbang yang berdiri mandiri yang berdiri mengelilingi Kubah Batu. Setiap gerbang terdiri dari dua sampai empat lengkungan.