Acquistato dal Milan per 5,8 miliardi di lire, si affermò come uno dei calciatori chiave della forte squadra allenata da Arrigo Sacchi, che in cinque anni di militanza lo trasformò da difensore centrale a centrocampista. Il tecnico romagnolo da sempre stravedeva per lui, tanto da imporre al neopresidente Berlusconi di rinunciare a ingaggiare il suo pupillo, il trequartista argentino Claudio Borghi, per fargli spazio. Giocando al fianco di altri olandesi come Marco van Basten e Ruud Gullit, Rijkaard vinse la Coppa dei Campioni nel 1988-1989 nella finale contro la al Camp Nou di Barcellona (4-0) e nel 1989-1990 nella finale contro il Benfica al Prater di Vienna (suo il gol decisivo nella partita vinta per 1-0 sui portoghesi). Nel dicembre 1990 decise con una doppietta la finale della Coppa intercontinentale contro l' e al termine della gara, disputata a Tokyo, fu premiato come miglior giocatore. Si aggiudicò due volte lo scudetto (1991-1992, anno nel quale ricevette il Guerin d'Oro come miglior giocatore del campionato, e 1992-1993). Si classificò inoltre per due volte consecutive terzo nella graduatoria del Pallone d'oro nel 1988 e 1989, preceduto in entrambi i casi da compagni di squadra (i connazionali Van Basten e Gullit nel primo, lo stesso centravanti e Franco Baresi nel secondo).