Høgset var selv sanger. Karrieren startet i gutteårene, da han var med i Sølvguttene. I voksen alder utga han flere soloinnspillinger med sanger av Henry Purcell, Georg Friedrich Händel, Edvard Grieg og Arne Nordheim.