Masjid Al-Aqsha

Berdasarkan riwayat-riwayat yang umum dikenal dalam tradisi Islam, Umar memasuki Yerusalem setelah penaklukannya pada tahun 638. Ia diceritakan bercakap-cakap dengan Ka'ab Al-Ahbar, seorang Yahudi yang telah masuk Islam dan ikut datang bersamanya dari Madinah, mengenai tempat terbaik untuk membangun sebuah masjid. Al Ahbar menyarankan agar masjid dibangun di belakang batu Ash-Shakhrah "... maka seluruh Al-Quds (berada) di depan Anda". Umar menjawab, "Ka'ab, Anda sudah meniru ajaran Yahudi". Namun, segera setelah percakapan ini Umar dengan jubahnya mulai membersihkan tempat yang telah dipenuhi dengan sampah dan puing-puing tersebut. Demikian pula kaum Muslim pengikutnya turut serta membersihkan tempat itu. Umar kemudian mendirikan shalat di tempat yang diyakini sebagai tempat "salat" Muhammad pada saat "Isra Mi'raj", dan Umar di tempat itu membacakan ayat-ayat Al-Qur'an dari Surah Sad. Oleh karenanya, berdasarkan riwayat tersebut maka Umar dianggap telah menyucikan kembali situs tersebut sebagai masjid.