Rui Costa debuterade i Portugals A-landslag 1993. Den första stora turneringen var EM i fotboll 1996. Ett lag med bland andra Luís Figo och Rui Costa tog sig till kvartsfinal som gruppettor men föll där mot de blivande finalisterna Tjeckien. I det portugisiska landslaget kom de största framgångarna för Rui Costa under 2000-talet. I EM 2000 nådde laget semifinal och när EM spelades på hemmaplan 2004 nådde laget final där man överraskande förlorade mot Grekland. Costa spelade sin sista landskamp 2004.