Kelly ble olympisk mester i skyting to ganger under OL 1920 i Antwerpen. Han var med på det amerikanske laget som vant lagkonkurransen på 30 meter militærpistol foran Hellas og Sveits. De andre på laget var Karl Frederick, Louis Harant, Alfred Lane og James Snook. Han var også med på laget som vant 50 meter militærpistol foran Sverige og Brasil. De andre på laget var Raymond Bracken, Karl Frederick, Alfred Lane og James Snook.