西汉武帝元封五年(前106年)设青州刺史部,驻广县。东汉州名,辖郡、国十一,县六十五。治所临淄县,故城址在今山东淄博市临淄北。辖境相当于今山东临南以东的北部地区。西晋怀帝永嘉五年(311年)曹嶷弃广县,筑广固,为青州刺史治。东晋安帝隆安三年(399年)慕容德陷广固,定为南燕国都,这也是山东唯一一个作为朝代首都的地方。后刘裕灭南燕,夷广固,筑东阳城,置北青州刺史治于此。
北魏献文帝皇兴三年(469年)拔东阳城,仍为青州刺史治。孝明帝熙平二年(517年)增筑东阳城南郭,即南阳城。北齐文宣帝天保七年(557年)迁益都县治于东阳城,移青州府治于南阳城。隋为青州总管府治,后改为北海郡治。唐初复为青州总管府治,后又改为北海郡治。宋为京东东路路治。金为山东东路益都总管府治。元为山东东西道宣慰司治。明清时期,为青州府治。民国时期为益都县。中华人民共和国成立后归昌潍地区(今潍坊市)管辖,1986年撤县改为青州市。
2003年全市辖6个街道、15个镇,即王府街道、益都街道、昭德街道、王母宫街道、东坝街道、云门山街道、弥河镇、王坟镇、五里镇、庙子镇、邵庄镇、普通镇、东高镇、高柳镇、朱良镇、何官镇、口埠镇、东夏镇、谭坊镇、郑母镇、黄楼镇;山东青州经济开发区。
2007年,青州市对全市的行政区划进行重新调整,将19个镇、街道,整合为12个镇、街道。具体调整情况如下:撤销五里镇,将原五里镇的行政区域划归王府街道管辖,街道工作机关驻原五里镇工作机关驻地;撤销东高镇,将原东高镇的行政区域划归益都街道管辖,街道工作机关驻原东高镇工作机关驻地;撤销朱良镇,将原朱良镇的行政区域并入高柳镇,镇工作机关驻原朱良镇工作机关驻地;撤销普通镇,将原普通镇的行政区域并入邵庄镇,镇工作机关驻地不变;撤销口埠镇,将原口埠镇的行政区域并入何官镇,镇工作机关驻地不变;撤销郑母镇,将原郑母镇的行政区域并入谭坊镇,镇工作机关驻地不变;撤销王母宫街道,将原王母宫街道的大崔家、小崔家、孙家庄、大王庄、孟家炉、小田、冷门、董家等8个村,东夏镇的东侯庙、西侯庙、麻湾、西坡、东坡、张家楼、彭家湾、王岗、沙店、南于、大尹、李家庄、大赵务、巨弥、寨里等15个村并入黄楼镇,镇工作机关驻地不变;将王母宫街道的徐七里、王七联、裴桥、柳沟、东郎、西郎、姜家、王母宫、十八里、寺古、双庙、张孟口、南四、辛庄、侯古、房古、于古、义和、孟古、李官庄、范王、赵家、东李、张裴、胡桥、姜庙、韩家、蔡家、牛家、胡集、懒柳树、凌马、马氏村、朱刘马等34个村并入东夏镇,东夏镇工作机关驻原王母宫街道工作机关驻地。