Selama pengepungan terhadap Yerusalem dalam Pemberontakan Yahudi Besar, ia mendukung perdamaian; menurut Talmud, ketika ia menemukan kemarahan rakyat yang terkepung tak tertahankan, ia mengatur untuk melarikan diri secara rahasia dari kota di dalam peti mati, sehingga ia bisa bernegosiasi dengan Vespasianus (yang, pada saat itu, masih hanya seorang komandan militer). Yohanan dengan tepat meramalkan bahwa Vespasian akan menjadi Kaisar, dan bahwa Bait Suci akan segera dihancurkan; sebagai imbalannya, Vespasianus mengabulkan tiga keinginan Yohanan: keselamatan Yavne dan orang-orang bijak di dalamnya, keturunan Rabban Gamliel, yang dari dinasti Daud, dan seorang dokter untuk mengobati Rabbi Tzadok, yang telah berpuasa selama 40 tahun untuk mencegah kehancuran Yerusalem.