Sommeren 1996 ble han hentet til Olympiakos, hvor han siden ble klubbens kaptein. Allerede i sin første sesong spilte han fast på laget, og var klubbens straffeskytter fra årsskiftet 1996/1997. Djordjevic var svært delaktig da Olympiakos tok seg videre til kvartfinalen i Mesterligaen under 1998/1999-sesongen. Deretter fulgte sesonger hvor Djordjevic stadig ble mer viktig både for Olympiakos og sitt landslag. Da Djordjevic fylte 33 år foran 2005/2006-sesongen trodde mange at karrieren var på hell, men serberen svarte på tiltale og fikk sin beste sesong i havnebyen Pireaus med 15 mål og 14 målgivende på 29 kamper.