V roce 2004 se upsal Palermu, tu dobu nováčkovi nejvyšší italské soutěže. V první sezóně pomohl k šesté ligové příčce, přičemž odehrál 37 ligových utkání (zameškal jediné 30. kolo proti Messině). Oporou zadních řad Palerma byl též v následujících sezónách &lt;a href="Serie%20A%202005/06"&gt;2005/06&lt;/a&gt; a &lt;a href="Serie%20A%202006/07"&gt;2006/07&lt;/a&gt;, kdy se tým umístil na pátém místě. Když v létě 2007 odešel dosavadní kapitán Eugenio Corini, stal se novým kapitánem Barzagli. Sezóna &lt;a href="Serie%20A%202007/08"&gt;2007/08&lt;/a&gt; se stala Barzagliho čtvrtou a zároveň poslední v sicilském celku. Palermu se dařilo méně – hned v úvodním kole Poháru UEFA padl s Mladou Boleslaví a v lize skončil až jedenáctý. Barzagli se stal terčem zájmu věhlasnějších klubů včetně italských velikánů jako jsou Juventus, AC Milán nebo Fiorentina.