帝国时期，犹太人的半独立地位被剥夺并遭到驱除。为消除犹太人的影响， 罗马帝国开始使用巴勒斯坦一名来泛指这一地区，但定义的区域模煳，同期至少有十个以上的名称也同时使用。巴勒斯坦这一名称正式的启用开始于1918年，即英国建立的英属巴勒斯坦托管地。4世纪罗马帝国分裂为西罗马帝国与东罗马帝国后，此地属于东罗马帝国叙利亚南部的一部分。公元638年，阿拉伯穆斯林军队占领耶路撒冷和周边地区。十字军东征期间，又被十字军反复占领过近200年。1187年的哈丁战役后，萨拉丁取得对此地大部分地区的控制权。1260年至1300