9年，隋灭南陈，统一天下。至隋炀帝时，隋朝政府对南北朝以来全国混乱的行政区划进行整理。大业二年（606年），迁上蔡县，在悬瓠城置汝阳县，属蔡州。唐朝时，以汝阳县、朗山县数县析置汝南县，此县仅存在二十多年。元朝时改蔡州为汝宁府。明清时，汝阳县仍隶汝宁府。辛亥革命后，全国废府州厅改县，汝宁府废。汝阳县不知何故改汝南县。中华民国时，汝南县为河南省辖县。1949年后，历属确山专区、信阳专区、驻马店专区、驻马店地区。1950年代时，曾短暂的设置汝南市，后由汝南县分置平舆县。2000年，驻马店地区改为驻马店市，仍隶