Se incorporó al Internazionale en septiembre de 2011, sucediendo a Gian Piero Gasperini tras un pobre inicio del equipo italiano en la temporada 2011-12. Presentado como salvador, mejoró inicialmente los resultados pero no terminó de levantar el vuelo y mostró un juego muy mediocre y sin ideas, haciendo del Inter un equipo completamente distinto al de Mourinho apenas hace 2 años. El conjunto lombardo se alejó del descenso pero no logró meterse en los puestos de clasificación a competición europea y fue eliminado de la Liga de Campeones por el Olympique de Marsella en octavos de final, en un partido para el olvido contra un rival de muy bajo nivel, donde las decisiones tácticas pesaron. El 26 de marzo de 2012, y luego de una serie de derrotas que dejaron al club con posibilidades casi nulas de conseguir algún título, los dirigentes del club decidieron despedirlo tras la derrota por 2-0 ante la Juventus como visitante. Su sucesor fue Andrea Stramaccioni.