格里”，萨满教神灵）意即“天”，祁连山因此而得名“天山”；又因位于河西走廊以南，故称南山，其对应的北山不属祁连山脉，海拔亦远远不及。「南山」后来易名走廊南山。唐代诗人李白的“明月出天山，苍茫云海间；长风几万里，吹度玉门关。”中之“天山”即指祁连山。《汉书》记载：祁连山“在张掖、酒泉二界上，有松柏五木，荚水萆，冬温夏凉，宜畜牧。”有青鹿、马鹿、猞猁、雪鸡、野驴、雪豹等动物出没，有万宝山之誉。西汉时霍去病出临洮，扫荡匈奴后，匈奴发出悲歌：“亡我祁连山，使我六畜不蕃息；失我焉支山，使我嫁妇无颜色”。