På Herøy tok han seg av Ivar Aasens første utdanning fra 1833. Hos Thoresen lærte Aasen blant annet retorikk med Jacob Rosteds . Personen Thoresen og livet på prestegården er kjent blant annet gjennom Aasens opptegnelser. I Thoresens boksamling omfattet blant annet historieverk, leksikon, geografi, botanikk, grammatik og ordbøker. Thoresen skal ha tilbudt å føre Aasen frem til eksamen slik at han kunne begynne på universitetet, noe Aasen takket nei til. Aasen ble deretter i 1835 huslærer hos Thoresens svoger Ludvig Daae på Solnør.