Det var på Voss at Eggen startet Orkesteret Fossegrimen i 1917, samt ledet skolens kor og komponerte flere musikkstykker.