Los inicios musicales de Herbert fueron con el violín y en 1881 fue segundo violinista en la "Toronto Philharmonic Society".