Davis vant i løpet av karrieren tre olympiske gullmedaljer. Under OL 1956 tok han gull på 400 meter hekk med tiden 50,1, og fire år senere gjentok han bedriften i Roma-OL, denne gang på tiden 49,3. Under disse lekene deltok han også på USAs vinnerlag på 4 x 400 m stafett, sammen med Jack Yerman, Earl Young og Otis Davis.