Etter avskaffelsen av Kirkestaten ble han av franskmennene behandlet som en statsfange og han levde i noen år i klosteret Monticelli. Han fordrev tiden med musikk og fuglejakt, noe som han fortsatte med også etter å ha blitt valgt til pave.