为北方游牧民族（北狄）居住地。战国初为代国，后并入赵地。赵武灵王初设平城，隶属代郡。
秦汉.秦朝大同东西分属雁门郡和代郡，今市区东北古城置平城县，并在境内修筑长城。西汉沿袭秦制，雁门郡属并州，代郡属幽州。白登之围发生于此。东汉汉明帝时，通光寺建成大同最早的佛教寺庙。
北朝.三国时期大同为乌桓、鲜卑等部族占据。两晋时，北部为鲜卑族地，南部为雁门郡地。北魏初期建都于此，称“代京”、“平城”。
隋唐.唐贞观十四年（640年）置云州，治定