L'intervention romaine de Pompée, qui met fin au royaume séleucide et prend Jérusalem en 63 av. J.-C., libère Gaza (en grande partie en ruines) et les autres cités syriennes et grecques annexées au royaume hasmonéen. Cependant, elles ne retrouvent pas une totale liberté mais restent dans l'orbite de Rome. Gaza est ainsi progressivement reconstruite mais les Romains en disposent au gré de leurs intérêts politiques. Elle est ainsi incorporée brièvement à la province de Syrie, puis au royaume d'Hérode Ier le Grand, à celui de Cléopâtre VII avant de retourner à la province de Syrie après la défaite de la reine lagide et de Marc Antoine. Il semble que la prospérité revienne au premier siècle de l'ère chrétienne et Gaza redevient le terminus des caravanes d'encens des Nabatéens. Mais au début de la première révolte juive, vers 66, la ville est de nouveau pillée par les Juifs révoltés.