El 1924 va prendre part als Jocs Olímpics de Chamonix, on guanyà la medalla de bronze en la prova de salt amb esquís. En aquests mateixos Jocs disputà, sense sort, la combinada nòrdica i la cursa dels 18 quilòmetres d'esquí de fons. Amb tot, no va rebre la medalla en el seu moment per culpa d'un error a l'hora de sumar les puntuacions. No va ser fins al 1974 quan l'historiador esportiu noruec Jacob Vaage s'adonà d'aquest error. En el seu moment la medalla fou atorgada al noruec Thorleif Haug, que ja havia guanyat tres medalles d'or en aquests Jocs Olímpics. El 12 de setembre de 1974, amb 86 anys, Anders Haugen va rebre la medalla de bronze de mans d'Anna Maria Magnussen, la filla petita de Thorleif Haug.