På klubbnivå spilte Fabio for SSC Napoli (1992–95), Parma FC (1995–2002), Internazionale (2002–04) og Juventus (2004–06). Han ble i 2006 kåret til Årets italienske spiller i Serie A. Samme år gikk han til Real Madrid og fikk draktnummer 5.