晋末年改为义阳郡，治所在平阳县（今河南省信阳市）。南朝宋时辖境包括今河南省信阳市、罗山县和桐柏县东部，湖北省广水市、大悟县、随州市的各一部分。南齐改为北义阳郡，南梁仍为义阳郡。北周改为宋安郡。历为司州、南司州治所，有平靖、武阳、黄岘三关之险。隋朝大业年间和唐朝天宝、至德年间一度把义州（唐为申州）改为义阳郡，下辖义阳县、钟山县、罗山县，仅包括今河南省信阳市、罗山县附近。