A livello internazionale Rijkaard fece il suo debutto con i Paesi Bassi nel 1981. Fece parte della spedizione olandese che vinse l'europeo di calcio del 1988 nella finale contro l', giocando al centro della difesa insieme a Ronald Koeman, e in tale ruolo venne inserito nell'elenco della squadra ideale della manifestazione. Ha collezionato 73 gettoni di presenza in maglia arancione, realizzando 10 gol. Rijkaard ha anche partecipato alle edizioni della Coppa del mondo del 1990 (nella quale fece scandalo lo sputo che riservò al tedesco Völler durante la partita degli ottavi di finale giocata a San Siro) e del 1994 e all'europeo del 1992, dove i Paesi Bassi raggiunsero la semifinale. Fece la sua ultima apparizione in nazionale nella sconfitta per 3-2 subita ai quarti di finale contro i futuri campioni del mondo del al mondiale di .