Davis hadde tjent noe på musikken sin, men ikke nok til å leve av. Han gikk derfor inn i politikken. Davis ble valgt til guvernør første gang i 1944, for Demokratene, med 52,6 % av stemmene. Han stilte til valg for en andre periode i 1960 med løfte om å kjempe for segregering i den offentlige skolen, og vant valget. I ettertid har han beklaget denne holdningen.