Faren hadde fremmet Ottaviano som kandidat til paveembetet, og da Agapetus II døde ble han valgt. Som andre pave i historien valgte han å endre navn, og valgte Johannes. Som verdslig hersker hadde han ikke sin fars styrke og vigør, og hans pontifikat huskes først og fremst for hans kontroversielle privatliv.