利亚人的传统，绿色清真寺原为 犹太会堂，后来被十字军摧毁。考古学家迈克尔·阿维-约拿确定犹太会堂由撒玛利亚大祭司Akbon建于362年。。1137年，阿卡的撒玛利亚人Ab Giluga重建了犹太会堂。但是一些西方学者却认为，由于现今清真寺的部分为哥特式建筑，在1170年代，这里有一座十字军教堂和钟楼。阿拉伯地理学家雅谷特·阿尔·哈马维在1225年记载说，在阿尤布王朝统治纳布卢斯期间，撒玛利亚人重建了犹太会堂。1242年，圣殿骑士团破坏了这座建筑，后来又在1260年被蒙古摧毁。1290年，马穆鲁克王