El Olympiakós fue fundado en el 10 de marzo de 1925, cuando los miembros del "Club del Fútbol de El Pireo" y el "Club de admiradores de El Pireo" decidieron, durante una asamblea histórica, disolver los dos clubes para unificarse en sólo uno, con el joven chico ganador de los Juegos Olímpicos como su emblema. Notis Kamberos anunció el nombre de Olympiakós y Michalis Manouskos completó su nombre entero: "Club Olímpico de Fanes de El Pireo". El club captó inmediatamente la atención de la sociedad, con el equipo llenando el Velódromo del Pireo (ahora el estadio Karaiskakis), a pesar de que sus aficionados vinieran mayoritariamente de familias humildes de trabajadores, marineros e inmigrantes griegos del Turquía que apenas (en 1922) se habían asentado en el teritorrio de El Pireo. Los hermanos Andrianopoulos, sin embargo, fueron quienes significativamente aumentaron la reputación del club y quienes lo llevaron al éxito. Hijos de una reputada familia del Pireo; su padre Andreas era un hombre de negocios y cofundador del Olympiakós en 1925. Yiannis, Dinos, Giorgos, y Vassilis fueron los primeros en jugar, todos de delantero. Leonidas hizo su aparición más tarde y jugó durante un corto período. La línea ofensiva del club, hecha por los cinco hermanos, pronto se hizo legendaria y desde entonces, el Olympiakós es también conocido como "Thrylos" (Leyenda).