ところが、厳しい状況の下、東ローマ皇帝コンスタンティノス9世モノマコスが1048年に小さな教会を再建した。土地は1099年1月15日の第1回十字軍の騎士によって奪還された（エルサレム攻囲戦）。第1回十字軍は自らを武装した巡礼と見なしており、聖墳墓教会で巡礼者として祈るまで自分たちの遠征が完了したとは考えなかった。十字軍の指導者であるゴドフロワ・ド・ブイヨンは彼の生涯で「王」という称号を使わないことを決め、彼自身を「聖墳墓教会の守護者（Advocatus Sancti Sepulchri）」と宣言した。12世紀の編年史家ギヨーム・ド・ティールは、12世紀半ば十字軍が教会をロマネスク様式で修築し鐘楼を加えたことを記している。