元前99年（天汉二年），“使（李）陵将其射士兵五千人，出居延北可千余里，欲以分匈奴兵”。东汉时期设居延属国。魏晋时称为西海。唐代诗人王维更是写下《塞上作》一诗：“居延城外猎天骄，白草连天野火烧，暮云空碛时驱马，秋日平原好射雕。”至今两岸古蹟甚多，西夏建有喀喇浩特（即黑水城），傍居延海而建，并设置了“黑水镇燕军司”。西夏末年河水改道，古居延海逐渐消失。元代扩建黑水城，设置“亦集乃路总管府”，“亦集乃”汉语译为“黑城”。元代分为哈班、哈巴、喇失三海子。1372年，明朝将军冯胜率军进攻元朝将领卜颜帖木尔据