Haugland vokste opp på en gård på Stord. Haugland tok aldri utdanning utover allmennskolen, og som 16-åring dro han til Bergen for å prøve å finne seg en jobb. Han tok seg arbeid hos en landhandler og brukte tiden godt på å skaffe seg teoretisk og praktisk kunnskap. Etter 11 år vendte han tilbake til Stord og kjøpte og drev et gammelt vertshus på Leirvik. En tid var han òg engasjert i et rederlag som hadde skip i nordlandshandelen og drev fiske ved Island. Rundt midten av 1880-åra solgte Haugland eiendommen i Stord og flyttet til Kristiania, da han ble statsråd.