Etter pave Gregors død ble Sergius under bifallsytringer fra kirkens fremste utpekt til den neste pave. Men dette ble ikke akseptert av en dekan ved navn Johannes, som med støtte fra en bred folkemengde også higet etter paveverdigheten. Etter voldelige utskeielser ble Johannes forvist til et kloster, og Sergius kunne ta fatt på sin pavelige emnedsgjerning.