呼和浩特阴山一带远古人类活动,有悠久历史。文明起源于大窑文化,大窑文化遗址位于呼和浩特市东北保合少乡大窑村,距市区33公里,在1973年发现并发掘。该遗址包括了旧石器时代早期到新石器时代晚期五个文化期。呼和浩特有着悠久的历史和光辉灿烂的文化,是华夏文明的发祥地之一,是胡服骑射的发祥地,是昭君出塞的目的地,是鲜卑拓跋的龙兴地,是旅蒙商家互市之地,是游牧文明和农耕文明交汇、碰撞、融合的前沿。公元前306年,赵武灵王在阴山下筑长城,并设云中郡,郡治故址在今呼和浩特市西南托克托县境。西汉汉武帝时,在河套地区兴建了一批军市,今呼和浩特市新城区的塔利村(旧称“塔布陀罗亥”,蒙古语译音)就留有西汉时期的土城遗址。魏晋南北朝时期,鲜卑族拓跋部在北方兴起(其早期都城“盛乐”即在今呼和浩特南面40千米的和林格尔县上土城村北,盛乐经济园区西)。唐代呼和浩特一带是突厥人的活动范围。唐太宗贞观年间,唐军大败突厥于白道(今名蜈蚣坝,在呼和浩特市北)。708年(唐中宗景龙二年),唐王朝在河套地区设立了东、中、西3个“受降城”。公元10世纪初,辽国在此设天德军及丰州。丰州故址在今呼和浩特东南约20千米的白塔村附近。公元12世纪初,女真灭辽建金,呼和浩特仍称丰州,是当时的军事重镇,也是人口密集,商业繁荣的州邑之一。元朝建立后,丰州的经济文化发展迅速。元人刘秉忠诗曰:“晴空高显寺中塔,晓日平明城上楼。车马喧阗尘不到,吟鞭斜袅过丰州”,写的就是当时的热闹景象。1368年(洪武元年),元亡明兴,元朝的残余势力退往岭北地区,明朝在漠南地区先后设置了卫所40多处,分别为九大塞王辖区。土木堡之变英宗复辟后河套无人驻守,鞑靼在天顺年间(1457-1464)开始有规模地进入河套,1572年(明隆庆六年),蒙古土默特部领主阿勒坦汗(即俺答汗)来丰州一带驻牧,不久统一了蒙古各地和漠南地区。1581年(明万历九年),阿勒坦汗和他的妻子三娘子在这里正式筑城,城墙用青砖砌成,远望一片青色,“青城”之名由此而来。蒙古语为库库和屯。明王朝赐名为“归化”。长城沿线的人们为纪念三娘子,将此城称作“三娘子城”。清初,三娘子城焚毁。1694年(康熙三十三年),在原三娘子城外增筑了一道外城,包围了原城东、南、西三面。后又在距旧城东北2.5千米处另建一驻防城即新城,命名为“绥远城”。新城(绥远城)城内主要是军营;旧城(归化城)内则聚居着居民。清朝末年,将归化和绥远合并,称归绥。1928年,绥远建省,以归绥县城区设立归绥市,作为省会。抗日战争时期,日本侵略者将归绥市改为“厚和特别市”。日寇投降后,复称归绥市。1949年9月19日,时任国民党绥远省政府主席的国民党将领董其武,接受中国共产党和平解决绥远问题的主张,率部起义,绥远省及省会归绥获得和平解放。1950年1月20日,成立归绥市人民政府。1954年3月5日,内蒙古人民政府、绥远省人民政府委员会、绥远军政委员会、绥远省各界人民代表会议协商委员会在归绥市联合召开扩大会议,绥远省建制和省人民政府同时撤销,原绥远省辖区并入内蒙古自治区,由内蒙古自治区人民政府领导。同时,从1954年4月25日起,将归绥市改名为呼和浩特市,为内蒙古自治区的首府。