Han ble utdannet jurist, og praktiserte som advokat fram til han fattet interesse for politikken og ble valgt inn i Senatet i 1898. Etter to perioder i Senatet ble han så valgt som Theodore Roosevelts visepresident i 1904, og inntok stillingen 4. mars 1905. I tiden etter visepresidentperioden fortsatte han arbeidet med politikken, og var blant annet med på å utforme det republikanske partiets politiske plattform i 1912. I 1916 prøvde han å bli nominert som Republikanernes presidentkandidat, men nådde ikke opp. Han ble i stedet nominert som visepresidentkandidat for Charles Evans Hughes, men i det påfølgende presidentvalget var det demokratenes presidentkandidat Woodrow Wilson som vant.