Her kom Tveitt tidlig i kontakt med vokal folkemusikk og hardingfele. Gymnastiden hadde han på Voss hvor han ledet sitt eget orkester, , og hvor han forsøkte seg med sine første symfonier og operaer. Han fikk undervisning i både fiolin og klaver, og ble fulgt opp av Christian Sinding.