Da Carl Arnold kom til Christiania begynte Kierulf å studere musikkteori hos ham. Arnold hjalp ham også til å få et stipendium for å studere i utlandet, først i København hos Niels W. Gade, senere i Leipzig hvor han i en alder av 35 år avsluttet sin konservatorieutdannelse.