Byberg var en utprega sprinter, og deltok i mindre grad i større sammenlagtmesterskap. Hans beste prestasjon er en delt sølvmedalje på 500 m under OL i St. Moritz i 1948, 0,1 s bak gullvinner Finn Helgesen. Byberg gikk i et seint par, og fikk sannsynligvis dårligere is enn de fleste av konkurrentene. Han var allikevel med i noen internasjonale allround mesterskap. Det uoffisielle Europamesterskapet i 1946 hvor han nok en gang var best på 500m, men gikk for dårlig på de andre distansene for å bli med på milløpet til slutt. Byberg deltok også under Arbeider-Europamesterskapene på henholdsvis Bislett (i 1935, rangert som nr. 13) og Frogner i 1936 hvor han fikk en 6.-plass sammenlagt. Nasjonalt i allround mesterskapene var Byberg å finne på pallen på 500m øverst i 1948 og på 2.-plass i 1947.