I sin selvbiografi har Pillarviken opplyst at han i ungdommen «lod sig leie til at digte Kjærlighedsviser for skuffede Piger», og at han måtte møte på prestens kontor og svare for virksomheten. Han diktet og utga også en samling egne sanger og dikt.