公元705年至709年间建造在原圣殿教堂的残基之上。780年毁于地震，932年由阿巴斯王朝第19任哈里发重建。11世纪加盖了圆顶，改建后的清真寺高至88米。1099年，该寺在第一次十字军东征中被入侵的十字军改造成教堂、兵器库和兵营。1187年耶路撒冷被萨拉丁易主后又进行了修复。2017年7月14日，3名以色列警察在圣殿山外遭以色列籍阿拉伯人枪击，其中2人身亡，袭击者随后逃到圣殿山。以色列警方在事发后封锁了圣殿山上的阿克萨清真寺，当天正是周五主麻日，这是半世纪来穆斯林第一次不被允许周五在阿克萨清真寺祷告。