לקראת עונת , בתום שמונה עונות ברומא, עבר אנצ'לוטי למילאן, אליה הגיע באותה עונה המאמן אריגו סאקי. אנצ'לוטי היה שחקן חשוב במרכז השדה בקבוצה שנחשבת לאחת הטובות בהיסטוריה של הכדורגל האירופי, ובחמש עונות במדיה זכה להניף עימה פעמיים את גביע אירופה לאלופות. בנוסף זכו אנצ'לוטי ומילאן פעמיים באליפות איטליה, פעמיים בסופר קאפ האירופי ופעמיים בגביע הביניבשתי. רגע השיא האישי של אנצ'לוטי בקבוצה היה במשחק הגומלין חצי גמר גביע אירופה לאלופות ב-19 באפריל 1989 מול ריאל מדריד. בדקה ה-19 קיבל אנצ'לוטי מסירה מרוד חוליט, עבר שני שחקנים ובעט מרחוק לחיבורי השער כדי להעלות את מילאן ליתרון 1:0. בסיום הביסה מילאן את ריאל מדריד בתוצאה 5:0 (6:1 בסיכום שני המשחקים) והעפילה לגמר שם הביסה את סטיאווה בוקרשט בתוצאה 4:0. אנצ'לוטי שיחק במשחק הגמר 90 דקות. בסיום עונת האליפות של , פרש אנצ'לוטי ממשחק פעיל בגיל 33.