Gresham innledet sin karriere som advokat i 1854, og allerede to år senere deltok han i republikanernes aller første presidentkampanje. Han giftet seg i 1858 med Matilda McGrain. I 1860 ble han innvalgt til Indiana House of Representatives, som er underhuset av delstatens lovforsamling. Han deltok så i den amerikanske borgerkrigen og ble såret og lammet under slaget ved Atlanta i 1864 som gjorde at Gresham ikke lenger var kapabel til aktiv tjeneste som brigadegeneral. Etter krigen arbeidet han som advokat i New Albany før han i 1869 ble utnevnt som dommer for United States District Court i Indiana av president Ulysses S. Grant.