鲁士二世颁布居鲁士文书，下令犹太人可以回去重建家园，不少犹太人便回到以色列重建耶路撒冷。他们在前520年开始重建第二圣殿，并于前445年至前443年重建耶路撒冷城墙，即今哭墙的一部分。
古典时代.经历过亚述、巴比伦、波斯、希腊、罗马、拜占廷等古国的统治，犹太人在这一地区逐渐衰落并遭驱逐。尤其是在132年的一次大规模起义失败后，罗马帝国将犹太人驱逐出这一地区，将地名改为“叙利亚-巴勒斯坦”。虽然如此，千年来小部分犹太人一直留在巴勒斯坦，但主要的犹太人口从以色列南部移至北部、或其他大陆