El inicio de su construcción se debe al primer emir omeya de Córdoba, haciéndose sobre el emplazamiento de la basílica visigoda de San Vicente Mártir, iglesia construida en el siglo VI, en cuyo solar se inicia la edificación del oratorio o "haram" en el año 786.