Heida ble olympisk mester hele fem ganger under OL 1904. Individuelt vant han svingstang, hopp, bøylehest og kombinasjonen. Han var også med på laget til som vant mangekampen. I skranke kom han på andreplass bak landsmannen George Eyser.