På begynnelsen av 1930-årene ble han kjent med Blind Boy Fuller. De gjorde sine første innspillinger for AMC i New York i juli 1935. I 1942 bosatte Davis seg i New York. Fra midten av 1950-årene gjorde han innspillinger for flere plateselskaper, og etterlot seg et rikholdig repertoar av blues-, ragtime og gospelmusikk.