Han var sønn av gårdbruker Anders Olsen Haugum og Guru Pedersdatter Følstad, og overtok slektsgården Haugan (gnr. 139) på Inderøy i 1884. Før dette hadde han fullført fortsettelsesskolen, amtsskolen på Inderøy og vært elev ved folkehøgskolen til Hans Konrad Foosnæs og Lars Bentsen et par vintre i 1870-årene. Ole Haugum var gift med Julie Johannesdatter Mære fra Sparbu, datterdatter av stortingsmann Johan Kristian Schiefloe, og de fikk fire barn, hvorav to vokste opp.