境内的绵山（介山）上而得名。十六国时期邬县、介休县废。北魏太和八年（484年）置介休，十九年复置邬县。北齐天保年间并入永安县。北周宣政元年（578年）恢复。大成元年（579年）改名平昌县。隋开皇十年（590年）析置灵石县，十八年复名介休县。其后先后隶属太原郡、西河郡、汾州、汾州府等。1992年撤县设市。
地理.
区位.介休地处太原盆地和太岳山的结合部，太原盆地西南端，太岳山北侧，汾河南畔。
气候.介休属半干旱大陆性气候，四季分明，季风