Im jüdisch-römischen Krieg wurde der Tempel bis zum Schluss von den Verteidigern gehalten und bei der Einnahme von den römischen Legionären im August des Jahres 70 n. Chr. in Brand gesetzt und geplündert. Flavius Josephus als Chronist dieser Ereignisse möchte den römischen Befehlshaber und späteren Kaiser Titus von der Verantwortung dafür freisprechen. Anders als beim Ersten Tempel, gibt es Einzelfunde vom Tempelgelände sowie Reste der Bausubstanz in den Umfassungsmauern und vor denselben.