Smith ble olympisk mester i svømming to ganger under OL 1948 i London. Han vant 400 meter fri med tiden 4.41,0 foran sin landsmann James McLane. Han var også med på det amerikanske laget som vant 4 x 200 meter fri med ny verdensrekord 8.46,0 foran Ungarn og Frankrike. De andre på laget var Walter Ris, James McLane og Wallace Wolf.