成王把蔡地封给蔡叔度之子蔡仲胡为国，定都于今上蔡县。春秋初期为蔡国地，后楚国日渐强大。蔡灵侯十二年（前531年），楚灭蔡。三年后蔡平侯复蔡国，并迁都吕亭（今新蔡县）。蔡昭侯二十六年（前493年），由于楚国逼迫，蔡国迁都寿州（即下蔡，今安徽省寿县）。战国时期，境内已大部分属楚，最终蔡国于蔡侯齐四年（前447年）被楚国吞并。秦朝设郡县制，境内大部属颍川郡，置上蔡、新蔡、平舆三县于今境。西汉高祖四年（前203年）置汝南郡，治上蔡县，隶属豫州刺史部；又于今确山县境内置朗陵、阳安、安昌三县。东汉汝南郡移治平舆县，