Dopo le prime esperienze in panchina tra Portogallo e Spagna, la sua ascesa si concretizza con il passaggio al Porto, dove in due stagioni e mezza vince due campionati (2003 e 2004), una Coppa (2003) e una Supercoppa nazionale (2003), ma soprattutto una Coppa UEFA (2003) e una Champions League (2004). Nel 2004 viene chiamato alla guida del Chelsea, con il quale si aggiudica due campionati (2005 e 2006), due Coppe di Lega (2005 e 2007), una Coppa d'Inghilterra (2006-2007) e una Supercoppa inglese (2005). Nel 2008 approda all'Inter, che conduce alla vittoria di due campionati (2009 e 2010), una Coppa Italia (2010), una Supercoppa italiana (2008) e una Champions League (2010). Terminata l'esperienza in Italia, si trasferisce prima al , con il quale in tre anni si aggiudica un campionato (2012), una Coppa del Re (2011) e una Supercoppa spagnola (2012), e poi al Chelsea, con cui in due stagioni e mezza vince un altro campionato (2015) e un'altra Coppa di Lega (2015). Dal 2016 al 2018 allena il Manchester Utd, con cui vince una Supercoppa inglese (2016), una Coppa di Lega (2017) e un'Europa League (2017). Dopo un'esperienza al Tottenham, dal 2019 al 2021, torna in Italia per guidare la Roma.