置上蔡县，并设汝阳县（今汝南县）。大业三年（607年）复为汝南郡，治汝阳县。唐武德四年（621年）复置豫州。天宝元年（742年）复改汝南郡，干元元年（758年）复为豫州。宝应元年（762年）为避唐代宗李豫讳，改豫州为蔡州，五代因之。宋于蔡州置淮康军。北宋大中祥符五年（1012年）因避宋圣祖赵玄朗之讳，改朗山县为确山县。南宋建炎二年（1128年）蔡州被金攻陷。金泰和八年（1208年）于蔡州置镇南军。金朝末年，金哀宗由汴梁迁都于蔡州。天兴三年（1234年），南宋与蒙古帝国联军攻陷蔡州城，金朝亡。元至元三十年