外地，他们并没有忘记自己的宗教和文化，依然在一些祭司和利未人的后裔带领之下举行各种宗教活动，并开始建立犹太会堂。巴比伦被波斯帝国所灭以后（前539年），居鲁士二世下令犹太人可以回去重建家园，不少犹太人便回到以色列地去。终于，他们在前520年开始重建第二圣殿，并于前445年至前443年重建耶路撒冷城墙，即今哭墙一部分。
重建耶路撒冷.当犹太人回到耶路撒冷重建时，主要由地方官员尼希米和祭司以斯拉带领。但在重建进行中，居住在附近的外邦人常常来拦阻，但最后耶路撒冷还是重建好了。接下来，