Rouvas er først og fremst kjent i Hellas og på Kypros, men har også hatt en viss internasjonal suksess, mest i Europa og Nord-Afrika. Han har laget en av Hellas mestselgende plater med omtrent 2 millioner solgte plater. Han er mest kjent for sin deltagelse i Eurovision Song Contest 2004, hvor han representerte Hellas med sangen «Shake It» og fikk tredjeplass i finalen. Rouvas representerte også Hellas i Eurovision Song Contest 2009, 12.–16. mai i Moskva, Russland med sangen «This Is Our Night». I tillegg var han programleder da Eurovision Song Contest 2006 ble arrangert i Athen.