I 1893 ble han valgt inn i Representantenes hus. Her satt han til 1907, da han måtte fylle et sete i Senatet etter en representant som hadde trukket seg der. Han var senator fra 1907, med unntak av årene 1913–1915, helt fram til 1929. Da trakk han seg for å innta visepresidentembetet under president Herbert Hoover.