In 2004 werd hij rechtstreeks door omroep ERT aangeduid om Griekenland te vertegenwoordigen op het Eurovisiesongfestival in Istanboel. Rouvas moest eerst langs de halve finale, men had goed naar Marie N en Sertab Erener gekeken (de vorige winnaressen) en wisten dat de act ook heel belangrijk was. Tijdens het liedje trok hij de kleren van zijn danseressen uit, waardoor die nog maar een klein deel van hun lichaam bedekt hadden. De danseressen trokken op hun beurt het jasje uit van Rouvas. De act werkte en Griekenland werd zowel in de halve finale als in de finale derde, tot dan toe het beste Griekse resultaat (samen met Antique in 2001). Nikos Terzis en Nektarios Tyrakis schreven en componeerde voor het Eurovisiesongfestival 2004 het liedje "Shake it", waarmee Rouvas dus als derde eindigde voor Griekenland.