府衙始建于元代。自秦昭襄王设南阳郡至隋朝以前，南阳皆有郡守（西汉景帝时改称太守）治所，即郡署。金正大三年（1226年）在南阳设申州（刺史治），为州署。元代至元八年（1271年）申州升为南阳府，为府署。但元代修建情况已不可考究。明代的洪武三年（1370年）同知（府佐官）程本初营建了府大堂及属官衙署。明代正统五年（1440年）同知汪重和成化年间的知府陈镒先后分别对府衙进行了大规模的重修。清代先后有辛炳翰等近十位知府参与府衙的重修、扩修。特别是光绪二十三年（1897年），在知府傅凤扬的倡导下，各州县的知县捐俸重修