Sverdrup ble cand.theol. i 1869, og etter studier i Danmark ble han inspirert av folkehøyskoleideene til N.F.S. Grundtvig. I 1871 grunnla han Sogndal Folkehøgskule som han ledet frem til 1878. Hans folkehøyskole skilte seg fra den frilynte danske ved å ta i bruk lærebøker, innføre religionsundervisning og ha mindre lek i undervisningen.