En anden konkurrence der blev afholdt for første gang som en international konkurrence var maratonløbet. Løbet blev planlagt af Michel Bréal, en af Pierre de Coubertins venner, baseret på legenden om Pheidippides. Denne athenske soldat løb først to dage for at få hjælp fra spartanerne mod perserne i Slaget ved Marathon, og derefter løb han fra Marathon til Athen for at annoncere sejren for derefter at falde død om. Løbet i 1896 startede i Marathon og fortsatte 40 kilometer over støvede gader til Athen. Det græske publikum, der var skuffet over, at der endnu ikke havde været en græsk sejr i atletik, var lykkelige, da det under løbet blev annonceret at en græsk løber havde taget føringen. Da Spiridon Louis, en vandbærer fra Maroussi, ankom på stadionet, fik han selskab af den græske kronprins på den sidste runde. Louis deltog aldrig igen i et løb, men hans sejr gjorde ham til en national helt.