西青磁窑、小站、左云贾家窑、广灵洗马庄等地先后发现多处旧石器遗址。春秋为北方游牧民族（北狄）居住地。战国初为代国，后并入赵地。赵武灵王初设平城，隶属代郡。
秦汉.秦朝大同东西分属雁门郡和代郡，今市区东北古城置平城县，并在境内修筑长城。西汉沿袭秦制，雁门郡属并州，代郡属幽州。白登之围发生于此。东汉汉明帝时，通光寺建成大同最早的佛教寺庙。
北朝.三国时期大同为乌桓、鲜卑等部族占据。两晋时，北部为鲜卑族地，南部为雁门郡地。北魏初期建都于此，称“代京”、“平城”。