Urban kom til Roma i 1088, men måtte da bosette seg på Tiberøya. Først året etter klarte han å få kontroll over byen. Da keiseren 1090–92 invaderte Italia, måtte han forlate byen igjen, og holdt en tid i Sør-Italia. Henrik IVs krigslykke snudde, og i 1093 kunne Urban vende tilbake til Roma, denne gang for godt. Han fikk kontroll over Lateranpalasset i 1094, ved hjelp av bestikkelser. I 1098 fikk han også kontroll over Castel Sant'Angelo, og kontrollerte dermed en viktig innfartsåre til byen.