Tre år senere, året 395, ble han valgt til biskop av Gaza uten at han visste om det. Gaza hadde en historie som fiendtlig sinnet mot de tidlige kristne. Mange hadde lidd martyrdøden der under keiser Diokletians kristenforfølgelser (303–313), og under den korte hedenske restaurasjon under keiser Julian (362–363) var den kristne basilikaen blitt nedbrent, og mange kristne blitt drept.