I 386 begynte en av de viktigste periodene i Datongs historie. Det var da et av de kinesiske minoritetsfolkene, Xianbei 鲜卑, under Tuobaklanen (拓跋) klarte å forene størstedelen av Kina nord for Gulelven, og grunnla det nordlige Wei-dynasti (北魏) med Datong som hovedstad. I 494 ble hovedstaden flyttet fra Datong til Luoyang (洛阳) etter et opprør. I Datongs tid som hovedstad ble Datong ikke bare det nordlige Kinas politiske, økonomiske og kulturelle sentrum, men også en av verdens største metropoler der forskjellige kulturer fra India og fra sentralasiatiske land smeltet sammen med de kinesiske, noe som tydelig fremgår av utsmykningene i Yunganggrottene.