东汉建武十三年（37年）省城阳国，其地併入琅邪郡。汉献帝建安三年（198年），曹操析琅邪郡、北海郡、东莱郡、东海郡等地置城阳郡、利城郡、昌虑郡。城阳郡领东武、莒、诸、姑幕、壮武、淳于、高密、昌安、平昌、夷安、安丘、黔陬，改属青州刺史部。郡治在东武县。西晋太康初，城阳郡移治莒县，领莒、姑幕、诸、淳于、东武、高密、壮武、黔陬、昌安、平昌十县。太康三年（282年），分莒、姑幕、诸、东武四县入东莞郡。晋惠帝元康末年（约299年），又分城阳郡其余数县置平昌郡、高密国，城阳郡遂废。