地级市的前身,可以追溯到唐宋时期的"州",和明清时期的"府",下领县和散州(相当于今县级市)。它是一种省与县之间的二级行政单位,由一级行政单位的省(元明清时期称省,唐宋时期称道或路)所直领。民国初期,废府存县,各省置道,原府所辖各县划归于道,改省、府、县三级制为省、道、县三级制,1927年废道,改为省、县(市)二级制,并在原府治所在县,分出县城设市,地位与县平级。1932年,中华民国开始于省与县之间设置“行政督察区”,属于准行政区划单位,其管理机构行政督察专员公署是省政府派出机构。1949年10月1日,新中国成立后,改行政督察区为专区,1971年又改专区为地区,1980年代,地区与市合并,实行市管县体制改革,为当今地级市之肇始。市管县体制最早源于20世纪50年代早期。1950年,旅大行署区改为直辖市旅大市(1981年改名大连市),管辖金县(1984年改名金州区)、长山县(1953年改名长海县),改制为辽宁省辖市后,继续管辖金县和长海县。1951年,浙江省将省直辖的杭县(1958年撤销)划归杭州市管辖。1958年,河北省撤销“天津地区”,将武清、静海等12个县划归省辖天津市领导。1959年9月17日,第二届全国人大常委会第九次会议通过了《关于直辖市和较大的市可以领导县、自治县的决定》,对市管县体制作出了法律上的规定,直接推动了市管县体制的发展。1960年,全国已有52个市领导243个县,约占全国县建制总数的八分之一。这次市管县体制产生的契机是大跃进和人民公社运动,缺乏客观的经济文化基础,随之很快降温。1961年以后随着经济调整和整顿的开始,大量市管县县恢复原有体制,河北省恢复了全部专区和专员公署。至1966年全国管辖县的市降至25个,管辖的县数量不到1960年的三分之一,至此市管县体制经历了第一次大起大落。直到此时,省辖市的辖区范围内,仍以非农业人口为主,且多为省会城市或重要工业城市。1979年,国务院财经委员会派一批专家调研四川省产业结构问题,时任中国社会科学院财贸经济所所长刘明夫明确提出了“中心城市”的概念。1982年,中共中央第51号文发出了“改革地区体制、实行市领导县体制”的通知,首先在江苏试点1983年在全国试行。随后中央又发出《关于地市州党政机关机构改革若干问题的通知》,要求“积极试行地、市合并”,并把此作为1983年地方政府改革的一项重要内容。至此市管县体制开始在全国范围内推行,并且在国家的行政区划序列里,正式将市分为地级市和县级市。2011年8月22日,安徽宣布撤销地级巢湖市,并对原地级巢湖市所辖的一区四县行政区划进行相应调整,分别划归合肥、芜湖、马鞍山三市管辖。2019年1月9日,国务院批复同意山东省调整济南市、莱芜市行政区划,撤销莱芜市,其行政区划并入济南市。