郡所在的内蒙古河套地区，战国时称为河南地以及北假，是古国楼烦与白羊国所在地，多次侵寇赵国，后被赵国所灭，其地入赵。赵武灵王二十六年（前300年），赵国“攘地北至燕、代，西至云中、九原”，置九原郡，此为河套地区建置之始。
秦代.秦始皇三十三年（前214年），遣将军蒙恬“发兵三十万人北击胡，略取河南地”，「以为三十四县，城河上为塞」，号为“新秦”。秦末战乱，边地戍卒被调回中原，河南地又为匈奴夺。秦代后期所置郡名不可考，可能领有渠搜、临河、昫衍道、朐衍、高望、富平六县。Section