Hans yndlingsforfatter var helt fra barneårene Ludvig Holberg, som han også delte fornavn og stamfar med. Til 200-årsjubileet for Holbergs fødsel i 1884 skrev han hans biografi for Selskabet for folkeoplysningens fremme, og samme år utga han et skrift , «Holbergs nære Aandsfrænde». Han følte seg som arvtaker av en dansk-norsk humanistisk tradisjon som strakte seg tilbake til renessansehumanistene, gjennom Holberg, Suhm og Werlauff frem til ham selv. Fra barndommen elsket han latinen, og han så med stor sorg på at latinen i løpet av hans levetid mistet stadig mer av sin betydning ved skolene og universitetet. Særlig var han glad i blomstrende middelalder- og renessanselatin. Han var dessuten en ivrig boksamler, og eide et bibliotek på 6 000 bind, som etter hans død ble innkjøpt av Drammens Folkebibliotek.