夏帝禹元年,张掖属《禹贡》雍州之域,西戎氏之故墟。禹封少子于西戎,世代为首领。周穆王十三年,祭公率师随穆王西征,西戎归顺。汉代(前206-220年)以前,月氏国称雄于敦煌祁连间,张掖为其属地。西周时期,戎、狄两族在这里居住。春秋战国时,乌孙与月氏共居河西。其后,月氏逐乌孙而独居。秦汉之际,北方的匈奴族强大起来,击败并赶走了月氏人,河西遂为匈奴右贤王的领地。黑河东、西分别由休屠王、浑邪王分领。西汉时期,武帝元狩二年(前121),骠骑将军霍去病进军河西,战败匈奴,浑邪、休屠二王率众归汉。汉元鼎六年(前111年),取“张国臂掖,以通西域”之意,置张掖郡。始建国元年(9年),王莽废汉立新,令天下改郡、县名。张掖郡改名设屏郡、觻得改名官式。建武三年(27年),光武帝刘秀令各郡、县恢复旧名。张掖郡及各县恢复原名称。建康元年(144年),张掖、武威、陇西、汉阳、北地、武都,自上年九月以来地震180次,山谷坼裂,毁坏城寺,人民死伤,空情来重,顺帝下诏并派光禄大夫到张掖视察慰问,安抚民众。献帝兴平元年(194年)六月,分张掖郡之日勒、山丹置西郡。两晋南北朝时期,沮渠蒙逊在张掖建立北凉国,都建康(今高台县骆驼城),他采取发展农业,大兴儒学,扩大同西域各国的文化交流,继承发扬汉文化,推广佛教,翻译佛经,开凿石窟,并以当地音乐、歌舞与龟兹乐相结合,创造新的音乐《秦汉伎》等措施,使张掖文化呈现出空前繁荣的局面,成为北方中国佛教的中心,同时也使张掖成为中国内地与西域通使和商贸的中介。北魏(386-535年)时,《秦汉伎》传入中原,称《西凉乐》,成为北朝宫廷的“国伎”;张掖的佛教音乐传入中原,称《西凉州呗》,成为北朝佛寺的法乐。西魏废帝三年(554年),因境内之甘泉而改张掖为甘州。唐时期,大力发展农业生产,“开置屯田,尽水陆之利,稻丰收稔,一缣数十斛,积军粮数十年”。河西的国际贸易地位达到前所未有的高峰,张掖成为中国对外贸易的重要场所。经济的繁荣,促进了文化昌盛。著名高僧玄奘去印度(天竺)取经,途径张掖。诗人陈子昂奉旨视察张掖,写有《上谏武后疏》。王维、高适、岑参、马云奇等驻足甘州时均留下著名诗篇。甘州音乐《波罗门佛曲》传入宫廷后,唐玄宗改制为《霓裳羽衣舞曲》。甘州边塞曲流入中原后,成为教坊大曲,以《甘州破》、《甘州子》、《八声甘州》、《甘州曲》等命名的词牌、曲牌流传甚广。唐末,张掖与中原、西域关系密切,通互市,发展贸易;僧侣往返,佛教文化得到进一步交流。五代时,后梁乾化元年(911年),甘州回鹘攻沙州,张承奉力屈,订城下之盟,奉回鹘可汗为父。后唐庄宗同光二年(924年)六月,甘州回鹘遣使向后唐纳贡,乃册封王仁美为英义可汗。后唐明宗天成三年(928年)甘州回鹘王仁裕(仁美之弟)遣使纳贡,被封为奉化可汗。北宋时期,天圣六年(1028年),党项族首领李元昊击败甘州回鹘,建立西夏。继承汉文化传统继续兴修水利,发展农业,兴办教育,推崇佛教、道教,建成了规模宏大的佛教寺院-大佛寺。元时期,置甘肃行省,张掖为省会。元世祖忽必烈亲诏郎中董文用垦甘州之土为水田,仿宁夏之法种水稻。城内建甘肃最大的粮仓-扎浑仓,供应各路军粮。意大利旅行家马可波罗前往上都途中,曾在甘州停留一年,在《马可·波罗游记》中记述了张掖的富庶、城市的规模以及宗教寺庙的宏伟。明时期,张掖为陕西行都司及甘肃镇的治所。清时期,张掖为甘州府治所,甘肃提督统军驻地,节制凉州、肃州、西宁、宁夏四镇总兵。清王朝在西部的历次军事行动,均以甘州为军事提调中心和后勤补给基地。清末,张掖人王之佐留学日本时,加入孙中山领导的同盟会,回乡后宣传革命主张,他的《致马安良书》,公开支持武昌起义、拥护共和、废除帝制,风靡全省。1927年,设张掖县。1985年5月,撤销张掖县,设立县级张掖市以原张掖县行政区域为张掖市的行政区域。1992年8月12日和2000年6月18日江泽民总书记两次视察张掖,挥毫题写了“金张掖”和“再铸金张掖辉煌”题词,为这古老而神奇的大地赋予了新的内涵,使华实蔽野的张掖更加焕发出时代的光彩。