Han besteg Pavestolen den 30. oktober 701. Noen gang under sitt pontifikat fikk han i Roma besøk fra Sicilia, av Theofylactos, «kammerherre, patrisier, og eksark over Italia». Han var blitt sendt av keiser Tiberius III (II) Apsimar, Etter hvordan noen av pavens forgjengere var blitt behandlet av eksarkatet, så italienerne besøket som et dårlig tegn for Johannes. Følgelig skyndet all italiensk militær til Roma, og, mens de hadde slått leir utenfor bymurene og godt synlig derfra, viste eksarken sin misbilligelse. For paven var det viktig å fraholde keiseren, som snart ble avløst av Justinian II, fra bruk av militær makt.