Kingsbury ble olympisk mester i roing under OL 1924 i Paris. Han var med på den amerikanske åtteren som vant gull foran Canada sølv og Italia på bronseplass. Deltakerne på den amerikanske åtteren besto av Kingsbury, Frederick Sheffield, Leonard Carpenter, Alfred Lindley, John Miller, James Rockefeller, Benjamin Spock, Alfred Wilson og Laurence Stoddard (styrmann).