汉太初三年（前102年）伏波将军路博德筑城于居延泽上，遣军民十八万，置居延休屠二县，广建寨墙亭障，防御匈奴南下侵拢。公元前99年（天汉二年），“使（李）陵将其射士兵五千人，出居延北可千余里，欲以分匈奴兵”。东汉时期设居延属国。魏晋时称为西海。唐代诗人王维更是写下《塞上作》一诗：“居延城外猎天骄，白草连天野火烧，暮云空碛时驱马，秋日平原好射雕。”至今两岸古蹟甚多，西夏建有喀喇浩特（即黑水城），傍居延海而建，并设置了“黑水镇燕军司”。西夏末年河水改道，古居延海逐渐消失。元代扩建黑水城，设置“亦集乃路总管