临汾是中华民族发祥地之一,《帝王世纪》称:“尧都平阳”,即今临汾。《禹贡》分天下为九州,平阳为冀州之地。冀州处九州之中央,故称“中国”,“中国”一词由此而来。西周时期,周成王封弟叔虞于唐(今翼城),因唐境内有晋水,叔虞之子燮父“易唐为晋”。春秋属诸侯国晋,晋文公北方称霸时,晋国的中心就在今曲沃、侯马、襄汾一带。战国初期,韩、赵、魏“三家分晋”,韩建都平阳。秦改分封制为郡县制,全国划为36郡,属河东郡。西汉划全国为103郡国,属河东郡司隶部辖。三国魏正始八年(247年)置平阳郡。西晋永嘉三年(309年),刘渊建汉,都平阳。北魏孝昌中置唐州。隋开皇三年(583年),置临汾郡,临汾得名沿用至今。唐实行道、府、州、县制,唐武德初年(618年)为晋州。北宋政和六年(1116年),始置平阳府,辖临汾、汾西、洪洞、岳阳、乡宁、赵城、霍邑、浮山、冀氏、和川10县及隰、吉、绛3州。元实行省、路、府(州)、县四级制,为中书省山西宣慰司晋宁路(治临汾)。明清重置平阳府,统领35州县,包括今临汾、运城两市及晋中市灵石县和吕梁地区石楼县。民国三年(1914年),废府设道,以道辖县,临汾、洪洞、赵城、襄陵、汾城、曲沃、安泽、浮山、翼城、乡宁、吉县、霍县、汾西、隰县、蒲县、大宁、永和等17县属河东道管辖。民国十六年(1927年),废道直属山西省。抗日战争初期,临汾为山西省7个行政区中的第6区。民国二十六年(1937年)11月,山西省政府迁到吉县。日伪统治时,为冀宁道。抗战胜利后,属太岳区。1948年5月17日,临汾解放。1949年2月,成立晋南区,属陕甘宁边区政府,同年9月1日改属山西省。1950年1月6日,成立临汾专区。1954年,同运城专区合并为晋南专区(驻临汾),辖29县。1970年,专区改地区,晋南专区又按原建制划分为临汾、运城两地区。1978年,设临汾地区行政公署,辖临汾、侯马2市和16县。1983年,临汾县和临汾市合并为临汾市。2000年11月1日,撤地设市,成立地级临汾市。2019年12月,临汾市成为省域副中心城市。