在的香芝市辖区在令制国时代属于大和国葛下郡，江户时代大部分区域皆为领地，仅南部有小部分区域属于和幕府领。19世纪末明治维新后，这些区域曾先后隶属奈良县、郡山县、壬生县、堺县、大坂府，最后在1887年才划入重新恢复设立的奈良县。1889年日本实施町村制，现在的香芝市辖区在当时分属、、、四个行政区划；1956年这四个行政区划合併为香芝町，香芝的名称则是源自于1949年四个村共同成立的香芝中学校。1988年人口成长突破升格为市的五万门槛，因此在1991年升格为香芝市。1980年代，辖内东部与广陵町交界