Under den franske okkupasjon av Roma 1797–1798 gav paven ham ansvar for byen. Etter proklamasjonen av republikk i 1798 ble han arrestert men snart satt fri. Da paven ble bortført av franskmennene, fulgte kardinal Borgia med i eksil til Valence i Sør-Frankrike.