Nel 1995 la Fiorentina decide di riscattare dal Milan l'intero cartellino del giocatore per 4 miliardi di lire. Grazie anche al suo contributo, la squadra viola si classifica terza in campionato e vince la Coppa Italia 1995-1996 (il primo trofeo per Toldo con il club toscano), seguita dalla Supercoppa italiana 1996, ottenuta battendo il Milan per 2-1.