学毕业后，在俄亥俄州的托莱多建立了自己的法律事务所。作为辉格党的一员，韦特赢得了俄亥俄州参议院的选举。作为奴隶制的反对者，他帮助建立了俄亥俄州共和党。他在阿拉巴马州担任法律顾问，并主持了1873年的俄亥俄州宪法大会。1873年5月，首席大法官萨蒙·波特兰·蔡斯去世，在内务部部长的支持下，格兰特于1874年1月提名了韦特。对相对不知名的韦特的提名在一些着名政治家中反响不佳，但参议院一致通过了韦特的提名，他于1874年3月就职。尽管一些人支持他的提名，他还是拒绝参加，认为最高法院不应该仅仅是通往更高职位的垫