Otto døde av sykdom under forsøk på å gjenerobre Roma. Sylvester dro tilbake til Roma kort etter Ottos død og han døde der i 1003. Han er begravet i Laterankirken i Roma.