Denne kirken ble ødelagt i 614, da sasanidene under Khrosrau II invaderte østlige områdene av Romerriket og blant annet plyndret Jerusalem og tok Det sanne kors som krigsbytte. I 630 dro keiser Heraclius i triumf inn i Jerusalem med Det sanne kors og fikk gjenoppbygget kirken. Da byen ble erobret av muslimene få år senere fortsatte kirken å være en kristen helligdom, og den kristne menigheten og deres helligdommer ble beskyttet under det tidlige muslimske styret, men under et opprør i 966 brant Den hellige gravs kirkes tak og dører, og den sto som en ruin frem til 1009, hvor da den «gale» kalifen Al-Hakim lot den rive ned til grunnen.