Høgset stiftet i 1971 kammerkoret Grex Vocalis, som han dirigerte frem til koret ble nedlagt i 2019. Avslutningekonserten «Grex Vocalis – Finale» ble holdt på hovedscenen i Den Norske Opera. Han var dirigent for Den norske Studentersangforening i periodene 1982–1985 og 2012–2015 og for Norges ungdomskor (1987–2003). I perioder ledet han også Schola Cantorum og Den norske studentersangforening.