Cysterna została wybudowana w VI wieku n.e. na rozkaz cesarza bizantyjskiego Justyniana I jako "pałac, który zapadł się pod ziemię", na miejscu bazyliki św. Eliasza zniszczonej w 532 roku podczas powstania Nika. Jej głównym zadaniem było zaopatrywanie w wodę pałacu cesarskiego w wypadku wojny, kiedy to woda z akweduktów mogła zostać odcięta lub zatruta. Po zdobyciu miasta przez Turków w 1453 roku cysterna jeszcze przez jakiś czas pełniła swoją funkcję, jednak ponieważ najeźdźcy preferowali świeżą wodę bezpośrednio z akweduktów i nie obawiali się oblężenia miasta, wkrótce uległa zapomnieniu aż do połowy XVI w.