秦末年，苻丕于此称帝；北魏末期，晋阳城成为尔朱氏和高氏遥控朝政的“霸府”所在，后成为东魏、北齐的别都和实际政治军事中心，此时晋阳城得到高氏政权大力营建；隋初为并州治所和晋王杨广封地，杨广对晋阳城进行进一步营建，后为唐国公封地。隋末继承唐国公的李渊于晋阳起兵即是此处。唐朝贞观十一年（637年），并州长史李勣筑东城，为太原县县治，西城则为晋阳县县治。武则天即位后升为北都，后并州长史崔神庆建中城，将东西两城连为一体。西北有晋阳宫。唐中宗废北都，唐玄宗开元十二年复为北都，天宝元年改“北京”，唐肃宗初年罢京号