Ancelotti gehörte dem von Enzo Bearzot betreuten italienischen Kader bei der WM 1986 in Mexiko, bei der Europameisterschaft 1988 in Deutschland und auch dem Aufgebot bei der Weltmeisterschaft 1990 in Italien, bei der er mit der Mannschaft Dritter wurde, an. In der Zeit von 1981 bis 1991 bestritt er für die A-Nationalmannschaft 26 Länderspiele.