Sergius stammet fra en adelsfamilie som frembragte i alt tre paver. Han fikk sin oppdragelse i . Han ble i sin samtid tidlig betraktet som en av kirkens viktigste og mest lovende menn. Under pave Paschalis I (817–824) ble han gjort til kardinalprest ved Santi Silvestro e Martino ai Monti, og hans forgjenger pave Gregor IV. eleverte ham til det innflytelsesrike embede som erkeprest.