Gunn ble olympisk mester i boksing, i vektklassen fjærvekt (57,15 kg), under OL 1908 i London. Han var da 37 år og 254 dager gammel og er den eldste som har vunnet en olympisk tittel i boksing.