La dirigida por Louis Van Gaal no consiguió clasificarse para la Copa del Mundo de 2002, quedando tercero del grupo 2 por debajo de Portugal y la República de Irlanda. En 2003, Cocu recibió su primera expulsión internacional en un partido amistoso contra Bélgica. Países Bajos hizo bien en las eliminatorias de la Euro 2004, con Cocu anotando dos veces (ambos en partidos separados contra Austria), su selección se clasificó como segunda del grupo 3 por debajo de República Checa. Durante la Euro de 2004, Cocu fue elegido como capitán del equipo y apareció en todos los partidos. En los cuartos de final contra Suecia, falló un penal en la tanda de penalties, pero los Países Bajos pudieron pasar a la semifinal por un marcador de 6-5. En las semifinales, el equipo fue eliminado por los anfitriones, Portugal por un marcador de 2-1 por los portugueses marcó Cristiano Ronaldo y Maniche. Después de la Euro 2004, Cocu perdió el papel de capitán por Edgar Davids, una decisión tomada por el nuevo técnico del equipo Marco van Basten.