Mack ble olympisk mester i turn to ganger i OL 1928 i Amsterdam. Han vant den individuelle konkurransen i hopp og han var med på det sveitssike laget som vant lagkonkurransen i mangekamp. Han kom på tredjeplass i svingstang. Åtte år senere, under OL 1936 i Berlin vant han fire sølvmedaljer og en bronse, tre individuelle sølv og et i lag; hopp, bøylehest og mangekamp både individuelt og i lag. Han kom på tredjeplass i frittstående.