Più sofferta risultò la stagione 2003-04, con l'Inter che disputò un campionato al di sotto delle aspettative — parallelamente a uno scialbo percorso europeo —, raggiungendo comunque il quarto posto e l'accesso alla Champions League. Dall'estate 2004 Roberto Mancini (spesso avversario di Zanetti ai tempi della Lazio) sostituì Alberto Zaccheroni, chiamato per rimpiazzare Cúper nell'ottobre 2003.