Som forfatter utga han fem romaner mellom 1967 og 1996, og var i sine bøker spesielt opptatt av dødens mysterium, av menneskets ensomme reise mot det store ukjente. Det er også temaet i romanen om den middelaldrende Nils Johan som langsomt mister kontakten med sin fysiske kropp, men i nærhet og sanselighet gjenopplever livet. Geir Uthaug beskrev i den 24. oktober 1984: «Borgens ord som bærer bildene er som glitrende perler, er lyspunkter i en kjede av harmonisk skjønnhet. Det er i virkeligheten en musikalsk kvalitet over dem som ellers bare opptrer i poesien: Ikke bare hver for seg som ytre, klingende toner, men det er noe i klangfargen som slår akkorder i ens eget sinn. Han behersker hele klaviaturet; dype grunntoner gir bakgrunnen til høye og smertelig lyse, og i mellomregisteret folder hans seg ut med en frodighet og innlevelse som vekker minner i oss selv».