Bei der Eroberung Jerusalems 1099 kamen durch das Heer des Ersten Kreuzzugs hier zahlreiche Menschen zu Tode, die in der Moschee Schutz gesucht hatten. Das Kreuzfahrer-Königreich Jerusalem nutzte das Gebäude ab 1104 vorübergehend als Königspalast, bevor nahe dem Davidsturm ein neuer Palast fertiggestellt wurde. In dieser Zeit wurden die Fundamente ausgebaut, um Platz für Ställe und Lagerräume zu schaffen. Nach dem Umzug des Königspalastes gab König Balduin II. von Jerusalem 1119/1120 einen Flügel des Gebäudes dem neugegründeten Orden der „armen Ritter Christi“ unter Hugo von Payns und Gottfried von Saint-Omer als Hauptquartier, der sich bald nach diesem Ort Templerorden nannte und ihn zu seinen Zwecken ausbaute.