开皇六年（586年）析汲、获嘉两县置新乡县，治今新乡城区，属河南郡。《太平寰宇记》：以汲县新中乡简称新乡得名。唐初属义州，后属殷州。贞观元年（627年）改属卫州。北宋熙宁六年（1073年）废县为镇；元祐二年（1087年）复置新乡县，属卫州。元代属卫辉路。明、清属卫辉府。民国二年（1913年）废府存县，新乡县先后属豫北道、河北道。1932年属河南省第四行政督察区。1948年11月，析新乡县置新乡市。1949年4月，指定由解放军第47军解放新乡市，该军军长梁兴初已接到调任38军军长的命令，因执行解放新乡任务