1033年12月此清真寺的宣禮塔因地震而坍塌。12世紀十字軍佔領巴勒斯坦後，鮑德溫三世於1149年下令在清真寺的原址上建立基督教堂，1187年薩拉丁奪回此地並摧毀了教堂，马穆鲁克王朝重建了清真寺，但1260年又被入侵的蒙古人摧毀，經重建後復於1294年毀於地震，1311年至1319年馬穆魯克王朝的加薩總督埃米爾再次重建清真寺 ，於1340年完工，之後200年清真寺又有些受損，16世紀鄂圖曼帝國再次展開此清真寺的修復工程，19世紀末有西方旅行者紀錄此清真寺為加薩唯一具歷史與建築價值的建物。第一次世界大戰期間此清真寺受協約國攻擊而嚴重受損，1926年至1927年由重建，1928年委員會組織當地穆斯林與基督徒在此抗議、杯葛巴勒斯坦託管地議會的選舉。1990年左右清真寺內一些與猶太教相關的浮雕和刻字（可能為某次清真寺重建過程中使用了猶太教堂的柱子所致）被鑿除。2007年法塔赫與哈馬斯爆發了巴勒斯坦內戰，在加薩之戰中此清真寺親哈馬斯的伊瑪目穆罕默德·拉法蒂（Mohammed al-Rafati）中彈身亡。