Davis opplevde rasisme fra en tidlig alder da den høyreekstreme organisasjonen KKK truet med å skyte hans far, hvis jobb de mente var for avansert for en svart mann å ha. Etter ønske fra foreldrene hans, studerte Davis ved Howard University, men han droppet ut i 1939 for å begynne som skuespiller i New York, han begynte senere ved Columbia University School of General Studies. Hans skuespiller-karriere, som varte syv tiår, begynte i 1939 ved et teater i Harlem.