Det samme året som han giftet seg for tredje gang, flyttet Fosse inn i statens æresbolig, Grotten. Han vurderte å takke nei til å ta over æresboligen, siden det brøt med hans ønske om å leve tilbaketrukket, men sier at han ble overtalt av sine nærmeste. To år inn i sitt siste ekteskap, i 2013, konverterte Fosse til sin kones katolske kirke. Fosse har uttalt at han i 1980-årene nærmet seg den katolske kirken under sin avtjening av sivil førstegangstjeneste. I ungdommen hadde han ateistiske og anarkistiske holdninger.