Kun ristiretkeläiset valloittivat Jerusalemin vuonna 1099 Al-Aqsaa käytettiin ristirekeläisten palatsina. Vuodesta 1118 lähtien se oli temppeliherrain ritarikunnan päämajana ja heidän aikanaan Al-Aqsaan tehtiin muutoksia. Kun Saladin valloitti Jerusalemin takaisin vuonna 1187 hän puratutti temppelinherrain tekemät muutokset, mutta eteläsivulle jätettiin heidän julkisivuun tekemänsä kaaret. Mamelukit tekivät muutoksia Al-Aqsan rakenteisiin 1300-luvun puolivälissä.