Han var sønn av bonden Syver Sylfestsen og Anne Olsdatter Hørven (nå: Hyrve i Skjåk). Faren var en streng haugianer, og sønnen kom også til å utgi et verk om haugianismens historie (1833). Den første utdannelse ble gitt ham av stortingsmann og kirkesanger Lars Jensen fra Hedemarken. Omkring 1828 kom han til Trondheim, hvor han begynte i handelslære hos kjøpmann Ole H. Dahl, men han fant fort ut at dette yrket ikke passet ham, og ved blant andre stortingsmann Michel Grendahls hjelp fikk han råd til å studere. Så fikk han undervisning hos sogneprest N. B. Flood i Kvikne og hos adjunkt A. H. Kaurin i Trondheim, og kunne i 1835 ta artium med haud.