库巴清真寺奠基，并亲自参加修筑工作。库巴寺建成后，穆圣与辅士和迁士们在寺内做礼拜，然后才进入叶斯里卜城，改叶斯里卜为“麦地那-纳比”（意译“先知城”），简称麦地那（即城市），建立了最早的穆斯林政权。库巴寺在伊斯兰教初期与麦加的禁寺、麦地那的先知寺和耶路撒冷的阿克萨清真寺（远寺）并称“四大清真寺”。1986年，埃及建筑师阿卜杜勒-瓦希德·瓦基勒受沙特阿拉伯王室所托重建库巴清真寺，旧寺被推倒，原址被新寺所取代。
建筑.库巴清真寺最初的建筑非常简单朴素，只是垒起一圈围墙。后该寺几