Erste internationale Erfahrungen sammelte Kostas Filippidis im Jahr 2003, als er bei den Jugendweltmeisterschaften im kanadischen Sherbrooke mit übersprungenen 4,95 m den vierten Platz belegte. Anschließend gewann er beim Europäischen Olympischen Jugendfestival (EYOF) in Paris mit 4,80 m die Bronzemedaille. Im Jahr darauf siegte er bei den Balkan-Hallenmeisterschaften in Peania mit 5,40 m und im Juli klassierte er sich bei den Juniorenweltmeisterschaften in Grosseto mit einer Höhe von 5,35 m auf dem vierten Platz. 2005 siegte er erneut bei den Balkan-Hallenmeisterschaften in Peania mit 5,50 m und schied anschließend bei den Halleneuropameisterschaften in Madrid mit 5,60 m in der Qualifikation aus. Anfang Juli siegte er bei den Mittelmeerspielen in Almería mit 5,60 m und gewann kurz darauf bei den Junioreneuropameisterschaften in Kaunas mit 5,45 m die Silbermedaille. Daraufhin schied er bei den Weltmeisterschaften in Helsinki mit 5,45 m in der Qualifikation aus und gewann anschließend bei der Sommer-Universiade in Izmir mit 5,75 m die Silbermedaille hinter dem Deutschen Björn Otto und stellte damit auch einen neuen griechischen Landesrekord auf. 2006 startete er bei den Europameisterschaften in Göteborg, verpasste dort aber mit 5,35 m den Finaleinzug. 2007 gewann er bei den Balkan-Hallenmeisterschaften in Piräus mit 5,35 m die Silbermedaille und wurde dann am 16. Juni 2007 bei einer Dopingkontrolle positiv auf das Stimulanz Etilefrin getestet. Zunächst wurde eine zweijährige Sperre wegen eines Verstoßes gegen die Dopingbestimmungen verhängt, die Anfang 2009 mit Inkrafttreten des neuen WADA-Codes aufgrund des Lex-mitior-Grundsatzes aufgehoben wurde.