Po wybuchu wojny secesyjnej wstąpił do wojska, gdzie otrzymał stopień majora. Brał udział m.in. w bitwach pod South Mountain, Winchester, Fisher’s Hill i Cedar Creek. Za swoją postawę został awansowany na pułkownika, a następnie generała brygady. W 1864 roku, będąc nadal w czynnej służbie wojskowej, wystartował w wyborach do Izby Reprezentantów z Ohio. Wybory wygrał i zasiadał w Izbie Niższej w latach 1865–1867. Był zdecydowanym przeciwnikiem secesji, niewolnictwa i zwolennikiem impeachmentu prezydenta Johnsona oraz rozszerzenia praw dla czarnoskórych obywateli. W 1867 roku zrezygnował z zasiadania w Kongresie, gdyż kandydował na urząd gubernatora stanu Ohio. Wygrał wybory i pełnił swoje stanowisko przez dwie kadencje, od 1868 do 1872 roku. Wówczas przegrał kolejne wybory i powrócił do Cincinnati, a następnie do Fremont. Trzy lata później ponownie został kandydatem na gubernatora Ohio, którą to funkcję sprawował po raz trzeci w latach 1876–1877. W czerwcu 1876 roku, na konwencji Partii Republikańskiej w Cincinnati, w siódmym głosowaniu otrzymał nominację prezydencką. Kandydatem na wiceprezydenta został William Wheeler. Nominatem Partii Demokratycznej na prezydenta był gubernator stanu Nowy Jork Samuel J. Tilden.