Borg zette tussen 1921 en 1929 31 wereldrecords op zijn naam en won vijf olympische medailles in de jaren 1920 (1x goud, 2x zilver en 2x brons). Daarnaast won hij vijfmaal goud, tweemaal zilver en eenmaal brons op diverse afstanden vrije slag op de Europese kampioenschappen zwemmen. Op het EK zwemmen 1926 won hij met het Zweedse waterpoloteam ook een zilveren medaille.