Nykyaikaisen olympialiikkeen perustaja ranskalaisparoni Pierre de Coubertin oli vuonna 1887 lausunut ääneen haaveen olympialaisten henkiinherättämisestä. Seitsemän vuotta tämän jälkeen 23. kesäkuuta 1894 amatööriurheilukonferenssissa perustettiin Kansainvälinen olympiakomitea, jonka ensimmäiseksi puheenjohtajaksi valittiin Dimítrios Vikélas. Päätettiin myös, että ensimmäisen olympiadin kisat annettaisiin perinteitä kunnioittaen Ateenaan, vaikka Coubertin oli ehdottanut kisojen järjestämistä Pariisissa. Pariisin maailmannäyttelyyn 1900 oli kuitenkin vielä kuusi vuotta aikaa, joten ensimmäiset kisat päätettiin järjestää jo kahden vuoden kuluttua.