Convoité par Fabio Capello quand celui-ci entraînait la Roma, le technicien italien décide de le prendre dans son nouveau club, la Juventus, pour 6,5 millions d'euros. Le , après les Jeux olympiques, il est prêté chez un promu : la Fiorentina afin d'engranger de l'expérience. Chiellini fait ses débuts en Serie A à vingt ans, le contre l'AS Rome (1-0). Titulaire dans le onze de la "Viola", il impressionne et est convoqueé en équipe d'Italie après seulement deux mois dans l'élite italien. Le , Chiellini marque son premier but sous ses nouvelles couleurs à domicile face à Lecce (4-0). Il marque deux autres fois en 37 apparitions en championnat lors de l'exercice de la saison 2004-05 : contre Parme (2-1) à la et contre la Juventus (3-3) à la . Chiellini joue au total 42 matchs toutes compétitions confondues, la Fiorentina se sauve in-extrémis et termine à la .