Le , Thorkildsen remporte le meeting de Stockholm avec soit près de 5 mètres devant l'Américain Breaux Greer (). En août, âgé seulement de 22 ans, le Norvégien remporte à la surprise générale le concours des Jeux olympiques d'Athènes en lançant son javelot à , record personnel à son deuxième essai. Il devance le Letton Vadims Vasiļevskis et le Russe Sergey Makarov de près de deux mètres. En septembre, il prend la lors de la Finale mondiale de l'athlétisme organisée à Monaco. Il réalise , tandis que le vainqueur, Breaux Greer lance à . Son titre olympique vaut à Andreas Thorkildsen d'être choisi comme sportif norvégien de l'année 2004.