度竞选联邦众议员，但以500票之差不敌詹姆斯·加兹莱（）。1824年，哈里森当选联邦参议员并任职到1828年5月20日，国会其他西部议员友好地称他“七叶树”（），源自俄亥俄州同名树种。此外，哈里森还是1820和1824年的俄亥俄州总统选举人，分别支持詹姆斯·门罗和亨利·克莱。1828年，约翰·昆西·亚当斯总统任命哈里森出任驻大哥伦比亚全权公使，所以他辞去联邦参议员职务，于1828年12月22日抵达波哥大并任职到次年3月8日。哥伦比亚此时形势很不乐观，哈里森向国务卿汇报称该国正处无政府状态边缘，西蒙·玻利