John jr. fulgte i sin fars fotspor og vant James E. Sullivan Award i 1947, som landets fremste amatøridrettsutøver. I likhet med sin far, som hadde tatt gull i Sommer-OL i 1920 og 1924, deltok John jr. i Sommer-OL i 1948, 1952 og 1956. I sistnevnte vant han bronse i singelsculler. Han gav medaljen sin til sin søster, i anledning bryllupet hennes i Monaco sju måneder tidligere. John jr. satt også i bystyret i Philadelphia, og gaten Kelly Drive er oppkalt etter ham.