ইসলামের প্রথম কেবলা এবং মক্কা ও মদিনার পর তৃতীয় পবিত্র স্থান এ মসজিদের নির্মাণ সম্পর্কে বিভিন্ন তথ্য পাওয়া যায়। একদল ইতিহাসবিদ মনে করেন, আল আকসা মসজিদ হজরত আদম (আ.)-এর মাধ্যমে তৈরি হয়, যা পরবর্তী নবীরা পুণর্নির্মাণ ও সংস্কার করেন। হজরত ইবরাহিম (আ.) কর্তৃক কাবা গৃহ নির্মাণের ৪০ বছর পর হজরত ইয়াকুব (আ.) আল আকসা মসজিদ নির্মাণ করেন। এরপর খ্রিস্টপূর্ব ১০০৪ সালে হজরত সোলায়মান (আ.) এই মসজিদটির পূণর্নির্মাণ করেন। বিভিন্ন শাসকের সময় মসজিদে অতিরিক্ত অংশ যোগ করা হয়। এর মধ্যে রয়েছে গম্বুজ, বিশাল আঙ্গিনা, মিম্বার, মেহরাব ও অভ্যন্তরীণ কাঠামো।