Λίγα είναι γνωστά για την ιστορία του ναού του Αγίου Πολυεύκτου μετά την περίοδο της ανεγέρσεώς του. Τη λειτουργούσαν μέχρι τη σχετική παρακμή της Αυτοκρατορίας στα μέσα του 11ου αιώνα, οπότε εγκαταλείφθηκε. Από εκεί και μετά λεηλατήθηκε ανενόχλητα ως προς τα γλυπτά και άλλα αρχιτεκτονικά στοιχεία του, τόσο από τους Βυζαντινούς, όσο και (μετά την άλωση του 1204) από τους Σταυροφόρους. Αρκετά μέλη από τον ναό ενσωματώθηκαν στη Μονή του Χριστού Παντοκράτορος (το σημερινό Τέμενος Ζεϊρέκ) και άλλα, όπως κιονόκρανα, μεταφέρθηκαν από ξένους λεηλάτες μακριά, από τη Βενετία και τη Βιέννη μέχρι τη Βαρκελώνη. Παραδείγματα των τελευταίων είναι τα λεγόμενα "Pilastri Acritani" (= «Στύλοι της Άκκρας») στη Βασιλική του Αγίου Μάρκου της Βενετίας.