北宋太宗淳化四年(993年),合肥县属淮南道庐州,为州治。宋太宗至道三年(997年),改道为路,合肥县属淮南路庐州,为州治。
宋神宗熙宁五年(1072年),淮南路分东西两路,后并又分,合肥属淮南西路庐州,为州治。宋朝庐州属保信军节度。南宋高宗绍兴初,庐州寄治巢县。绍兴十年(1141年),合肥为金朝占领,旋即收复。宋孝宗乾道五年(1169年),庐州仍治合肥。
元世祖至元十四年(1277年),升庐州为庐州路,隶淮西江北道,合肥属淮西道庐州路。至元二十八年(1290年),合肥县属河南江北行省庐州路。元泰定二年(1325年),合肥县仍属淮西道庐州路。元顺帝至正十二年(1352年),合肥县复属河南江北行省庐州路。至正二十四年(1363年),朱元璋占庐州,改路为府,置江淮中书行省于此,合肥县属江淮行省庐州府,不久改属江浙行省庐州府,为府治。
明太祖洪武元年(1368年),合肥改属中书省直隶庐州府,为府治。洪武十三年(1379年),合肥改属六部直隶庐州府,为府治。明成祖永乐十八年(1420年)置南京直隶,合肥属南京直隶庐州府,为府治。
清朝顺治二年(1645年),改南京直隶为江南省,合肥县属江南省庐州府,为府治。顺治十八年(1660年),设江南左右布政使司,江南左布政使司辖庐州等府、州。清朝康熙六年(1667年),江南左布政使司改为安徽布政使司,安徽正式建省,合肥县属安徽省庐州府。清朝咸丰三年到十一年(1853年-1861年),安徽巡抚治于合肥县。
民国元年(1912年),庐州府废,合肥县直属安徽省。民国三年(1914年),全省分为三道,合肥县属安庆道。
民国十七年(1928年),废道,合肥县直属安徽省。
民国二十一年(1932年),置行政督察区,合肥县属安徽省第三行政督察区。
民国二十七年(1938年)5月,日军侵占合肥县,国民政府将县政府撤至大潜山北麓鸽子笼圩子(今合肥肥西县铭传乡)。
民国二十九年(1942年),合肥县改属安徽省第二行政督察区。民国三十四年(1945年)8月复治合肥城。
民国三十四年(1945年)抗战胜利后,国民政府将安徽省省会迁至合肥县,合肥成为安徽省的省会。民国三十七年(1948年)12月,析、取合肥县西乡、南乡建立的肥西县;次年1949年2月1日再次析合肥县东乡、北乡为肥东县。
1949年1月21日,合肥县和平解放,同年2月,合肥设市。