In 2002 en 2003 was Griekenland even weer minder succesvol, met in beide jaren een 17de plaats voor respectievelijk Michalis Rakintzis en Mando. Eerstgenoemde sleepte met de Barbara Dex Award desondanks nog wel een prijs in de wacht. In 2004 kwamen de Grieken vervolgens op de proppen met Sakis Rouvas, die aantrad met het nummer "Shake it". Vanuit de halve finale, die dat jaar werd ingevoerd, kwalificeerde hij zich glansrijk voor de finale en werd daarin derde, net als Antique drie jaar ervoor. Hiermee kreeg Griekenland automatisch een startbewijs voor de finale van de editie van 2005.