Na een eerste seizoen in de Serie A bij Fiorentina haalde Juventus Chiellini terug en kocht de club voor €4,3 miljoen het contract met Fiorentina af. Op 15 oktober 2005 debuteerde Chiellini voor Juventus tegen ACR Messina nadat hij Pavel Nedvěd verving. Op 18 oktober speelde Chiellini voor het eerst een internationale wedstrijd, in de Champions League tegen Bayern München. Na rust kwam hij het veld op voor de in de kleedkamer achtergebleven Manuele Blasi. Chiellini speelde 23 wedstrijden in zijn eerste seizoen en Juventus eindigde bovenaan in de Serie A. Deze titel werd echter afgepakt door het Italiaans voetbalschandaal uit 2006. In het seizoen daarop moest Juventus in de Serie B spelen en begon Juventus met negen punten aftrek. In de Serie B begon Chiellini als centrale verdediger te spelen. In oktober 2006 verlengde Chiellini zijn contract bij Juventus tot 2011. Chiellini speelde 32 competitiewedstrijden en drie wedstrijden in de Coppa Italia. Twee van die doelpunten maakte hij tegen Arezzo, in een wedstrijd die met 5-1 gewonnen werd. Met die winst promoveerde Juventus, ondanks het puntenaftrek, terug naar de Serie A. In die competitie speelde Chiellini in het seizoen 2007/08 dertig wedstrijden. Hij maakte drie doelpunten, waarvan twee in april 2008 bij een 5-1-winst tegen Lazio. Op 26 juni 2008 verlengde Chiellini zijn contract bij Juventus tot 2013. Hij uitte daarbij zijn wens ooit aanvoerder van Juventus te worden. Chiellini maakte zijn eerste doelpunt in Europees verband in de eerste wedstrijd van het seizoen 2008/09 tegen Petržalka. Chiellini werd verkozen tot 'Serie A-Verdediger van het Jaar' in 2008. Juventus werd in de achtste finale van de Champions League uitgeschakeld door Chelsea. In de thuiswedstrijd werd Chiellini van het veld gestuurd na twee gele kaarten. Juventus eindigde in de Serie A op de tweede plaats achter Inter Milan.