Etter et oppdrag i Gallia og etter å ha blitt gitt stadig høyerere hierarkisk rang, ble han etter Gregor den stores død gjort til pave i mars 604. Men ettersom han måtte avvente keiser Fokas' tilslutning, var det først den 13. september 604 at han offisielt kunne proklameres som den nye pave. Det ble den gang kritisert at han ikke byttet navn, ettersom Sabinian fremstod som ukristelig.