于豫州汝阴郡。惠帝分汝阴郡置新蔡郡，固始县改属之。东晋、南朝宋、北魏，境北部属汝阴郡宋县，南部属新蔡郡固始县，同辖于豫州。东魏，境北部属北扬州汝阴郡宋县，南部属豫州新蔡郡固始县。北齐、北周，北部属颍州陈留郡陈留县，南部属豫州广宁郡褒信县。隋开皇三年（583年），罢郡为州，境北部属颍州陈留县（后更名颍阳县），南部属沈州鱼同阳县。大业三年（607年）罢州为郡，北部属汝阴郡颍阳县，南部属淮阳郡鱼同阳县。唐贞观元年（627年），废颍阳，并入汝阴。武德初罢郡为州，天宝元年（742年）罢州为郡，干元