Rhodes toimi Ohion kuvernöörinä kaksi kautta vuosina 1963–1971. Hän pyrki saamaan talouden vauhtiin laskemalla pienten yritysten veroprosenttia, ja aloitti suuria rakennushankkeita kuten kouluja ja lentokenttiä. 4. toukokuuta 1970 hän lähetti kansalliskaartin joukkoja rauhoittamaan mielenosoitusta, mikä aiheutti neljän ihmisen kuolemaan johtaneen Kentin osavaltionyliopiston verilöylyn. Hän toimi kuvernöörinä toiset kaksi kautta 1975–1983.