Innen begynnelsen av 1980-tallet var klubben tilbake på topp igjen, og vant serien fire år på rad (1980-1983). Olympiakos hadde en rekke gode spillere, anført av keeperen Nikos Sarganis, spissen Nikos Anastopoulos og midtbanespilleren Tasos Mitropoulos. Alketas Panagoulias, som tidligere hadde trent både det greske og det amerikanske landslaget, var Olympiakos sin trener fra 1981 til 1983, og igjen i sesongen 1986/1987.