三国魏景初二年（238年）置，治所在汝阴县（在今安徽省阜阳市境）。属豫州。后废。西晋泰始二年（266年）复置。辖境相当今安徽省颍河流域以西和河南省新蔡、淮滨等县地。东晋咸康二年（336年）废，后又复置。隋朝开皇初年，废汝阴郡。大业及唐朝天宝、至德时又曾改颍州为汝阴郡，下辖汝阴县（今安徽省阜阳市）、颍上县（今安徽省颍上县颍河乡十二里店孜）、下蔡县（今安徽省凤台县）、沈丘县（今安徽省临泉县）。
汝阴国.西晋一度为汝阴国。