Accolto con iniziale scetticismo dalla tifoseria rossonera per la sua non più giovane età, Cafu vinse però subito le diffidenze diventando titolare e sfoggiando ottime prestazioni. Esordì in maglia rossonera il 27 agosto 2003 nella partita di campionato -Milan (0-2), mentre due giorni dopo conquistò il primo trofeo con i rossoneri: la Supercoppa europea 2003 contro il Porto. Il 21 dicembre realizzò invece il suo primo gol con la nuova maglia nella sconfitta casalinga per 1-2 contro l'Udinese. Il 6 gennaio ritornò a Roma da avversario e fu accolto dai fischi della tifoseria giallorossa: «Mi aspettavo tutto - dichiarò il brasiliano - e nessun problema. Ai fischi non ho neanche fatto caso e non mi hanno affatto ferito. L'importante è aver vinto. Simili accoglienze nel calcio avvengono, fanno parte del gioco, non è facile per i tifosi accettare che un giocatore di spicco cambi maglia». Nella stessa partita, vinta dal Milan per 1-2, uscì anticipatamente dal campo per un problema muscolare. Il 2 maggio 2004 vinse il suo primo scudetto con i rossoneri (e il secondo personale) a due giornate dal termine del campionato grazie alla vittoria per 1-0 contro la Roma. Con 41 presenze tra campionato e coppe risultò tra i giocatori più impiegati da Ancelotti.