今市区东北古城置平城县，并在境内修筑长城。西汉沿袭秦制，雁门郡属并州，代郡属幽州。白登之围发生于此。东汉汉明帝时，通光寺建成大同最早的佛教寺庙。
北朝.三国时期大同为乌桓、鲜卑等部族占据。两晋时，北部为鲜卑族地，南部为雁门郡地。北魏初期建都于此，称“代京”、“平城”。
隋唐.唐贞观十四年（640年）置云州，治定襄县，后改名云中县，即今大同市区。永淳元年（682年）废。开元二十年（732年）复置。天宝元年（742年）改云中郡。干元元年（758年）复为云州。