阳郡，属豫州荥阳郡。大业二年（606年）废郲城（郏城）县，又移圃田县于中牟故城。唐武德元年（618年）复名中牟县。武德三年（620年）改中牟为牟州。武德四年（621年）废牟州，仍为中牟县，属管州。贞观元年（627年）中牟县改属汴州，龙朔二年（662年）属郑州。五代十国时，后梁时属东京开封府，后唐时属郑州，后晋、后汉及后周属东京汴州。北宋时属京畿开封府，金朝时属南京路开封府，元朝时属河南江北行省汴梁路。明清时期属河南省开封府。
近现代时期.中华民国时期，中牟县先后属河南省豫东道、河南