Herje er også forfatter av , bygdesang for øya Hitra. Han skrev to bøker beregnet for voksne, romanen (1936) og diktsamlingen (1943). Herje var en flittig kåsør i NRK radio, også i skolekringkastingen.