Davis begynte ikke med friidrett før han var 26 år, han spilte i flere år basketball for University of Oregon. To år senere var han i sitt livs beste form, og vant gull på 400 meter under OL 1960 i Roma, foran tyskeren Carl Kaufmann og sørafrikaneren Malcolm Spence. I finaleløpet satte han ny verdensrekord med tiden 44,9, og ble dermed den første løperen som brøt 45-sekundersgrensen.