Etter skolegang arbeidde Horgen først i skogbruket, først som tømmerfløter og -sorterer, deretter som formann hos et trelastfirma i Drammen. Fra 1898 dreiv han egen trelastforretning i Øvre Eiker. I tillegg dreiv han en gård på Horgen i Nedre Eiker fra 1900.