水回曲，其地平舒，梁宋吴楚之沖，齐鲁汴洛之道」的地理原因，其文化开明相当早。商周时期，即建立了妫姓的胡子国。秦朝始置汝阴县，汉属汝南郡。西晋置汝阴郡、郡治汝阴就在境内，北魏孝昌四年（523年）置颍州，隋设汝阴郡，宋设顺昌府，金朝时，复设颍州。清朝雍正十三年（1735年），颍州升为颍州府，设置附郭县——阜阳县。第二次国共内战时期，阜阳县在国民政府和中共政权之间数度易手。最终在1948年7月30日，中国人民解放军豫皖苏军区四分区独立三团进驻阜阳。中华人民共和国成立后，设立阜阳地区专员公署。1996年