Gates solgte sin eiendom i Virginia og friga sine slaver på oppfordring fra sin venn John Adams. Det aldrende paret trakk seg tilbake til en eiendom nord på Manhattan. Hans senere støtte til Jeffersons presidentkandidatur gjorde slutt på hans vennskap med Adams. Gates og hans kone forble aktive i New York Citys sosiale liv og han ble valgt til en periode i statsforsamlingen i 1800. Han døde 10. april 1806 og ble gravlagt i Trinity Church sin kirkegård på Wall Street.