I Jerusalem ba Heraclius innstendig at Balian av Ibelin om å lede forsvaret av byen mot Saladin. Han ga ordre om å fjerne sølvet fra Den hellige gravs kirke for å prege mynter slik at man kunne betale byens forsvarere, men Jerusalem ble endelig tvunget til å overgi seg den 2. oktober. Det var Heraclius som rådet Balian til å komme til en overenskomst framfor å kjempe til alle var døde, noe som ville dømme byens kvinner og barn til slaveri og tvungen omvendelse til islam. Heraclius hjalp til med å forhandle overgivelsen med Saladin som gikk med på å la ham og de fleste andre kristne om å forlate byen uskadd.