Etter byggingen av tempelet i Jerusalem vandret navnet Sion fra byborgen til tempelhøyden, og betegnet dermed byen Jerusalem som byen med tempelet. Først i mellomtestamentlig tid (ca. 200-300-tallet e.Kr.) vandret navnet til den sørvestlige toppen i Jerusalem, hvor etter tradisjonen Davids grav og nattverdssalen er å finne.