Si riscatta però nella stagione seguente, in cui si vede titolare assieme ai vari Pruzzo, Conti, Vierchowod e Falcao nella formazione che si aggiudica lo scudetto 1982-1983, il secondo nella storia dei "giallorossi". Nel dicembre 1983, durante una gara contro la Juventus, Ancelotti si infortuna al ginocchio sinistro, tenendosi di conseguenza fuori dalla fase conclusiva della Coppa dei Campioni di quell'anno, persa dai capitolini in casa contro il Liverpool dopo i rigori; torna però in campo riuscendo ad aggiudicarsi la Coppa Italia 1983-1984.