Al termine della stagione l'allenatore toscano decide di lasciare Empoli e assume l'incarico di tecnico del Palermo, firmando un contratto triennale da un milione di euro a stagione. Nonostante la squadra si trovi in una posizione di classifica molto vantaggiosa (terza, in piena zona promozione), la prima esperienza di Baldini in Sicilia finisce con un esonero il 26 gennaio 2004, a causa di incomprensioni tra il tecnico e il presidente Maurizio Zamparini.