Bei den Kongresswahlen des Jahres 1810 wurde McCoy im dritten Wahlbezirk von Virginia in das US-Repräsentantenhaus in Washington, D.C. gewählt, wo er am 4. März 1811 die Nachfolge von Jacob Swoope antrat. Nach zehn Wiederwahlen konnte er bis zum 3. März 1833 elf Legislaturperioden im Kongress absolvieren. In diese Zeit fiel unter anderem der Britisch-Amerikanische Krieg. Seit dem Amtsantritt von Präsident Jackson im Jahr 1829 wurde innerhalb und außerhalb des Kongresses heftig über dessen Politik diskutiert. Dabei ging es um die umstrittene Durchsetzung des Indian Removal Act, den Konflikt mit dem Staat South Carolina, der in der Nullifikationskrise gipfelte, und die Bankenpolitik des Präsidenten. In den Jahren 1829 und 1830 war McCoy auch Delegierter auf einer Versammlung zur Überarbeitung der Staatsverfassung von Virginia. Zwischen 1827 und 1829 führte er den Vorsitz im "Committee on Claims".