In der Nacht vom 25. auf den 26. September verlegte er sein Lager auf den Ölberg an der Nordostseite der Stadt. Während Saladins Bogenschützen und Wurfmaschinen ihnen durch heftigen Beschuss Deckung verschafften, begannen seine Pioniere damit, das Säulentor zu unterminieren, nicht weit von der Stelle, an der die Kreuzfahrer beim Ersten Kreuzzug 1099 nach Jerusalem eingedrungen waren. Am 29. September hatten sie eine große Bresche in die Stadtmauer geschlagen. Die Verteidiger bemannten die Bresche und schlugen den folgenden Sturmangriff mit wilder Verbissenheit zurück, aber insgesamt war die Situation aussichtslos. Die christlichen Soldaten planten einen letzten kraftvollen Ausfall zu unternehmen und wenn nötig den Märtyrertod zu sterben, aber Patriarch Heraclius widersprach ihnen mit dem Argument, dass ihre Frauen und Kinder der unvermeidlichen Sklaverei ausgeliefert seien, wenn sie es täten. Balian schloss sich ihm an und nahm Verhandlungen mit Saladin auf, der sich erst auf Gespräche einließ, als Balian ihm drohte, den Felsendom und die Al-Aqsa-Moschee zu zerstören.