Klemens III var ved sitt valg i 1187 kardinalbiskop av Praeneste, dagens Palestrina, og han ble valgt to dager etter at Gregor VIII døde i Pisa. Klemens overførte i 1188 pavestolen fra Pisa til Roma, og greide i 1189 å gjenopprette freden mellom kirken og keiserdømmet.