Madsen ble olympisk mester i skyting under OL 1900 i Paris. Han vant 300 meter armégevær stående med 305 poeng foran norske Ole Østmo med 299 poeng. Det var tretti skyttere fra seks nasjoner som deltok i konkurransen som ble avviklet i perioden 3. til 5. august. Tolv år senere, under OL 1912 i Stockholm kom han på andreplass i den idividuelle skytingen 300 meter rifle bak Paul Colas fra Frankrike og i lagskytingen fikk han en bronsemedalje.