En la temporada 2002-03 su equipo quedó tercero en la Serie A, pero concluyó una buena campaña cuando ganó la Copa Italia, después de derrotar en la final a la A. S. Roma en un global de 6-3, y la Liga de Campeones de la UEFA, que le ganó a la Juventus de Turín en tanda de penales, luego de empatar 0:0 en tiempo regular. Pirlo ganó este último título habiendo debutado en el mismo esa misma temporada, en una derrota por 2-1 con el Slovan Liberec el 28 de agosto. Gracias a la victoria en la Liga de Campeones, la siguiente temporada tuvieron la oportunidad de disputar la Supercopa de Europa, en la cual vencieron 1-0 al F. C. Porto, ganador de la Copa de la UEFA. De igual manera, pudieron jugar la Supercopa de Italia, pero en esta ocasión perdieron en penales por 5-3 con la Juventus, en un encuentro en el que Pirlo acertó su tiro. En la Copa Intercontinental perdieron por penales con Boca Juniors y esta vez el jugador falló su disparo. En la temporada 2003-04 el Milan ganó la Serie A; Pirlo anotó seis goles y, de acuerdo con el periódico italiano "La Gazzetta dello Sport", «tuvo un campeonato extraordinario que seguramente le abrirá las puertas a la selección nacional». Sin embargo, fueron eliminados en los cuartos de final de la Liga de Campeones por el Deportivo de La Coruña, donde en la ida Pirlo marcó su primer gol en la competición, y cayeron en semifinales en la Copa Italia, donde la Lazio los derrotó 2-1 en la ida y 4-0 en la vuelta.