Die Fertigstellung zog sich über die Regierungszeit des Herodes hinaus bis fast zum Beginn des Jüdischen Krieges hin. Das eigentliche Tempelhaus war nach den literarischen Beschreibungen (Josephus, Mischna Middot) ein konservativer Bau, der wahrscheinlich dem in persischer Zeit errichteten Vorgängerbau relativ ähnlich sah. Das Tempelinnere war dreigeteilt; auf eine Vorhalle folgte der Raum, in dem die wichtigsten Kultgeräte (Menora, Schaubrottisch) aufgestellt waren, und dahinter das Allerheiligste, ein völlig leerer Raum, der den Blicken entzogen war und nur einmal im Jahr vom Hohenpriester betreten werden durfte. Von drei Seiten war dieser zentrale Tempelbereich mit Nebenräumen umgeben und hatte über dem Vorraum, Heiligen und Allerheiligsten ein Obergeschoss, von wo aus Handwerker über Löcher im Boden in die Tempelräume abgeseilt werden konnten, um nötige Arbeiten zu verrichten.