Etter å ha slått ned de slaviske styrkene i Øst-Sachsen begynte Otto III sin andre ekspedisjon inn i Italia i desember 997. Mens han var ledsaget av sin søster Sophia i Italia utnevnte han sin tante, abbedisse Matilda av Quedlinburg, som sin regent i Tyskland. Hun ble dermed den første regent som ikke hadde hertugs eller biskops rang. Otto gjeninntok Roma på fredelig vis i februar 998 da det romerske aristokratiet var enige om en fredsløsning. Med Otto IIIs kontroll over byen ble Gregor V gjeninnsatt som pave. Johannes XVI flyktet, men keiserens soldater forfulgte og fanget ham, kuttet av nesen og ørene, kuttet ut tungen, brøt fingrene, blindet ham, og brakte ham så fram for Otto III og Gregor V for å få sin dom. På forbønn av Sankt Nilus den yngre, en av hans landsmenn, sparte Otto hans liv og sendte ham til et kloster i Tyskland, hvor han døde i 1001.