Bygging av moskeen ble vedtatt av sultan Qabus i 1992. Etter en begrenset konkurranse for byggeprosjektet startet byggingen i 1995. Det tok seks år og fire måneder å ferdigstille moskeen. Åpningsseremonien ble holdt i 2001. Moskeen er oppkalt etter herskeren som stod for byggingen. Moskeen med sine omkringliggende hager og åpne plasser dekker et område på fire hektar (cirka m). Hele komplekset er bygd av 300 000 tonn indisk sandstein og består av et stort bønnerom for menn, et mindre bønnerom for kvinner, to store bueganger (), et islamsk informassjonssenter med bibliotek og fem karakteristiske minareter, fire med en høyde på 45,5 meter og en hovedminaret på 90 meter. Disse skal symbolisere de fem søylene i islam. Kuppelen rager 50 meter over gulvet i bønnehallen.