国后秦置河北郡，东晋义熙十三年（417年）晋将檀道济、沈林子自陕北渡黄河，攻克襄邑堡，后秦河北太守薛帛奔河东。胡三省注云：「襄邑堡在河北郡河北县，汉、晋属河东郡，秦分立河北郡。」河北县在今山西省芮城县北5里。元熙元年（419年）夏将叱奴侯提克蒲坂，毛德祖退守虎牢。河北当在此时弃守。北魏太和十一年（487年）河北郡移治大阳县（今山西省平陆县西南三门崃水库区）。东魏时属陕州，下领北安邑、南安邑、河北、太阳4县。隋朝开皇三年（583郡）废郡。