L’été 2001, Pirlo atterri à l'AC Milan en compagnie de Cristian Brocchi. Il joue son premier match sous ses nouvelles couleurs le 20 septembre 2001, lors d'une rencontre de coupe UEFA remportée par son équipe contre le BATE Borisov (0-2). Il connaît une première saison en demi-teinte où il est en concurrence avec Rui Costa. Le Milan subit un changement d'entraîneurs, Fatih Terim est remplacé par Carlo Ancelotti en novembre, et le jeune milieu ne joue finalement que 18 matchs de Serie A 2001-2002. Le , le Milan AC évolue à domicile contre Parme AC, et est mené 0-1. L'entraîneur milanais, Ancelotti, décide de faire rentrer le numéro 21. Le match se conclut par une victoire 3-1, Pirlo donnant une passe décisive à Filippo Inzaghi et marquant un coup franc. San Siro ponctue la prestation du milieu de terrain en lui offrant une ovation debout.