Før han gikk inn i politikken gjorde Davis suksess som musiker. Han spilte countrymusikk i stilen til Jimmie Rodgers, og bluessanger som og gospelmusikk. Davis er kjent for flere populære sanger, og den mest kjente er nok «You Are My Sunshine'», som ble Louisianas offisielle sang i 1977. Selv om han til sin død skal ha insistert på at han skrev den, er den skrevet av en Paul Rice, som spilte den inn sammen med sin bror Hoke, som solgte den til Davis. I 1999 ble «You Are My Sunshine» hedret med en . Davis opptrådte stadig i valgkampene han deltok i, og ble kjent som den «syngende guvernøren». Som guvernør hadde han faktisk en # 1 hitsingel i 1945: «There's a New Moon Over My Shoulder». Flere av sangene hans ble brukt i filmer, og Davis spilte i flere filmer.