Under Alexander den stores fälttåg erövrades staden år 332 f.Kr. före invasionen av Egypten. Under Seleukidiska riket, som tog över området efter Alexanders död och hans väldes splittrande, slog grekisk kultur, filosofi och tro rot i Gaza som likt andra städer i området helleniserades. Staden förstördes år 96 f.Kr av den judiske härskaren Alexander Jannaeus som tog tillfället i akt då det seleukidiska väldet vacklade och inte kunde försvara regionens grekiska städer. Denne utsåg Antipatros från Idumeen till ståthållare i Idumeen och relationerna med stadens invånare förbättrades gradvis. Den romerske fältherren Pompejus införlivade Gaza med omnejd i provinsen Iudaea år 63 f.Kr.