Han gikk av som erkebiskop av Firenze den 21. mars 2001, i en alder av 77 år. Deretter trakk Piovanelli seg tilbake til Siesto Fiorentino ved Firenze, hvor han deltok i sjelesorgen i bydelen Cercina.