Holst avsluttet sin utdannelse allerede i 1. gymnasklasse ved Trondhjems katedralskole og begynte som ekspeditør i farens kolonialforretning, J.M. Holst Vin og Kolonialvarer Engros & Detail. I sine memoarer beskriver han seg selv, med hensyn til sine skolefaglige anlegg, som «lite receptivt anlagt for å kunne tilegne mig de teoretiske kunnskaber som må danne grunnlaget for en hvilken som helst tjener i vitenskapens rike». Hjembyen levnet han lite ære og beskrev denne som et «trangt sladrehull». I 1887/1888 hadde han et avgjørende utenlandsopphold, hvor han gikk handelsskole og virket som bokholder i Hamburg. Han skal ha gjort mottoet over inngangsporten til Hamburg-Amerikalinjen, , «Mitt virkeområde er hele verden», til en personlig ambisjon. Han var deretter handelsagent i Kristiania frem til 1892.