县首次修筑县城，城址在今县城东。汉高帝十二年（公元前195年）置中牟侯国，元鼎五年（公元前112年）恢复中牟县。汉献帝建安五年（200年），曹操在中牟官渡以弱胜强，击败袁绍，为史上着名的“官渡之战”。三国时期中牟属曹魏司州，黄初四年（223年），曹操之孙曹楷迁中牟，封为中牟王。次年改封任城王，中牟复为县。两晋时期，中牟属司州荥阳郡。南北朝时期，先属南朝刘宋司州荥阳郡，后属北朝北魏，并入北豫州荥阳郡阳武县。景明元年（500年）复称中牟县。东魏天平元年（534年），北豫州广武郡从荥阳、中牟交界处划地置曲梁县，郡