Athen ble enstemmig valgt til å arrangere de første moderne olympiske leker under IOKs kongress i Paris 23. juni 1894, samme dag som IOK ble stiftet. Hovedbegrunnelsen for dette valget var at nettopp Hellas var åstedet for antikkens olympiske leker. Lekenes hovedarena var Panathenske stadion, hvor konkurransene i friidrett, bryting, vektløfting og turn ble arrangert. Andre arenaer som ble brukt var blant andre Neo Faliron-velodromen for sykling og Zappeion for fekting. Åpningsseremonien ble avviklet 6. april i Panathenske stadion, med de fleste utøverne oppstilt nasjonsvis på stadion. Lekene ble offisielt åpnet av kong Georg I, etterfulgt av ni orkestre og 150 koristers fremføring av Olympiahymnen, med musikk komponert av Spyridon Samaras og tekst av poeten Kostis Palamas.