Koivu representerte Finland internasjonalt og var landslagskaptein fra 1998 til 2010. Han deltok i sju VM-turneringer og har vunnet ett VM-gull (1995). Han deltok i fire OL-turneringer (1994, 1998, 2006 og 2010) og vant ett OL-sølv (2006) og tre OL-bronse (1994, 1998, 2010). Han representerte også laget som nådde finalen i World Cup i ishockey 2004. På landslaget spilte han som regel i rekke sammen med Teemu Selänne og Jere Lehtinen, og rekken var en nøkkelfaktor for Finlands suksess ved mange mesterskap.