Celestin tilhørte Boboni-Orsini-grenen av Orsinifamilien, en av de viktigste italienske adelsfamilier. Han var god venn av Thomas Becket og hadde studert ved Sorbonne-universitetet i lag med Abelard, som han iherdig forsvarte mot Bernhard av Clairvaux' teologiske angrep.