Su mayor estabilidad en el banquillo se llevó a cabo en el Fútbol Club Barcelona, desde junio de 2003 hasta mayo de 2008. En el equipo "Azulgrana" se desempeñó como el segundo entrenador del neerlandés Frank Rijkaard. En la temporada 2003-04, alcanzó ser subcampeón de la Primera División española, pero en el periodo de 2004-05 conquistó el título de liga. En agosto de 2005 fue acreedor de la Supercopa de España, y al año siguiente ganó nuevamente la competición nacional, además de la Liga de Campeones de la UEFA. Para la temporada 2006-07, fue partícipe de la obtención de la Supercopa de España y de los subcampeonatos en la Supercopa de Europa, Mundial de Clubes, así como en la liga española. En su última temporada, el equipo se quedó con el tercer lugar del torneo local, por lo que fue dimitido de su cargo, junto con el director técnico.