Aprovechando la buena acogida de sus paisanos romanos, comenzó a trabajar inmediatamente para lograr el retorno del papado a Roma, ciudad de la que los papas fueron exiliados en 1153 al constituirse Roma en municipio libre bajo el mandato de Arnaldo de Brescia, llegándose a un acuerdo que permitía a Clemente III volver a Roma en 1188 y elegir al gobernador de la ciudad, a cambio del reconocimiento del Senado Romano y de la elección por el pueblo de sus magistrados.