嘉十年（433年）割济南郡、泰山郡交界地为太原侨郡实土。隶属青州。寄治升城（今山东省济南市长清区西南），下辖太原1个侨县及祝阿（433年复置）、山茌（原属泰山郡，433年割属之）2个实县。孝建元年（453年），山茌县移属济北郡。泰始五年（468年）正月为北魏攻取。