Svend Borchmann Hersleb var sønn av Jørgen Sverdrup Hersleb (1748 – 1819) og Anna Lydia Borchmann (1742 – 1786), og han vokste opp på Nord-Herøy gård i Herøy kommune, som nummer syv i en søskenflokk på ni. Sin første akademiske utdanning fikk han ved Trondhjems Latinskole, hvor han tok examen artium i 1802 og examen philosophicum i 1804. Den videre utdanningen foregikk i København på Valkendorfs Kollegium. Her var han ansatt som inspektør på lesesalen ved Det Kongelige Bibliotek i København, og han ble teologisk kandidat i 1807. Fra 11. april 1808 virket Hersleb som lærer ved Metropolitanskolen, og underviste der i religion og antropologi. Bostedet på den tiden var studenthjemmet ved Valkendorfs Kollegium, hvor han også seinere fikk en inspektørstilling. Han hadde da tilsyn med de andre beboerne på hjemmet, og på denne tiden opprettet han kontakt med Grundtvig, som flyttet inn som ferdig kandidat i 1808. Hersleb delte teologisk oppfatningen med Grundtvig på denne tiden, og var en uttalt motstander av rasjonalismen. Herslebs søskenbarn Peder Christian Hersleb Kjerschow (1786–1866) var også av sammen mening og ble senere biskop.