鄂尔多斯历史之前秦大禹建立国家后，把国家分为九州，此时的鄂尔多斯为雍州所辖，而鄂尔多斯的西南部则属渠搜国所管。成汤灭夏后，夏因君主的儿子獯鬻带着眷属逃到渠搜避难，从此之后，鄂尔多斯的西南部被獯鬻所统。商朝建立后，鄂尔多斯西南部被划为鬼方。
商朝灭亡之后玁狁民族的军事力量日渐强大，威胁着西周的安全，周宣王于公元前827年和822年，分别派大将南仲、尹吉甫两次进攻玁狁，并命令南仲在萨拉乌素河、榆溪河沿线要地筑城设防，历史上被称为朔方城，在今鄂尔多斯东北部置榆中。
公元前5世纪末，今鄂尔多斯东部的准格尔旗一带为魏国行政辖区，名上郡。公元前328年，魏被秦战败，魏把上郡割让于秦。此后，秦国杀掉义渠王，在鄂尔多斯西南部的鄂托克前旗、鄂托克旗及其相邻地区设置了北地郡，其余地域为楼烦等游牧部落的聚居区。
公元前306年，赵国打败林胡、楼烦，在鄂尔多斯东北部一带设置云中郡、九原郡。战国后期，鄂尔多斯东部地区一直为秦国所有。