Etter å ha tilkalt hæren i slutten av 1001 marsjerte Otto III sørover til Roma for å sikre sitt herredømme over byen. Under denne marsjen pådro han seg en plutselig og alvorlig feber. Han døde i et slott nær Civita Castellana den 24. januar 1002. Han var da 21 år gammel og hadde regjert som selvstendig hersker i underkant av seks år, etter å ha regjert nominelt i nesten 19 år. Den bysantinske prinsesse Zoe, andre datter av keiser Konstantin VIII av Bysants, hadde nettopp gått i land i Puglia på vei til å gifte seg med ham. Otto III død har blitt forklart på ulike måter. Enkelte middelalderkilder nevner malaria som han skulle ha pådratt seg i de usunne myrområdene rundt Ravenna. Etter hans død ble det også antydet at Stefania, enken etter Crescentius II, hadde gjort Otto forelsket i seg, og så forgiftet ham.