Johannes ble etter pave Sylvester IIs død opphøyet til pave av Johannes II Crescentius den 16. mai 1003, og var avhengig av ham. Johannes Crescentius var den romerske adelige som da hadde makten i Roma i opposisjon til keiser Otto III av Det tysk-romerske rike og hans etterfølger. Det gav det blant annet det utslag at Crescentius hindret ham i å ta kontakt med keiser Henrik II for å begynne å etablere gode forbindelser med keisermakten.