Mesto založili Feničania a Gréci ho nazývali Panormos. Bolo hlavným oporným bodom Kartága na Sicílii, až kým ho v roku 254 pred Kr. nedobyli Rimania. V roku 535 východorímsky vojvodca Belisar oslobodil Palermo spod nadvlády Ostrogótov a mesto potom zostalo v Byzantskej ríši až do roku 830, kedy sa ho zmocnili Saracéni. Po nich nasledovali od roku 1072 Normani, od roku 1194 Hohenstaufovci, po nich prišiel v roku 1266 francúzsky rod Anjuovcov, ktorých vládu v roku 1282 ukončilo ľudové povstanie tzv. Sicílske nešpory. Potom Palermo prešlo pod aragónsko-španielsku správu, v 18. storočí pripadlo Bourbonovcom a nakoniec 27. mája 1860 ho oslobodil Giuseppe Garibaldi.