地传说称，该清真寺的地点，正是雅各的儿子们将他们的兄弟约瑟血染的衣服交给雅各，作为他最喜欢的儿子死亡的证据的地点。 但是这一传说更是与附近的绿色清真寺有关。大清真寺的所在地原本是罗马皇帝阿拉伯人菲利普在位期间（244-249年）修建的巴西利卡。后来拜占庭在其废墟上兴建了大教堂，该堂被描绘在公元600年的马德巴地图上。 该堂在484年和529年曾被撒玛利亚人摧毁，但查士丁尼一世重建了大教堂。 在10世纪，阿拉伯穆斯林将大教堂改为纳布卢斯大清真寺。 阿拉伯地理学家al-Muqaddasi写道，大清真寺在