渐衰落并遭驱逐。尤其是在132年的一次大规模起义失败后，罗马帝国将犹太人驱逐出这一地区，将地名改为“叙利亚-巴勒斯坦”。虽然如此，千年来小部分犹太人一直留在巴勒斯坦，但主要的犹太人口从以色列南部移至北部、或其他大陆。犹太教最重要的两本经籍《密西拿》和《塔木德》经也是在这段时期写成。
中世纪和奥斯曼时期.西元638年，穆斯林从拜占廷帝国夺取该地区的控制权，之后一千多年数个穆斯林帝国统治过这个地区；包括乌迈耶王朝、阿拔斯王朝，以及花剌子模和蒙古帝国，在1260年至1517年间由马木留克