Hauge var yngste sønn blant fem barn av Aasmund Jonsson Juvland (1802-1863) og Sigrid Jonsdotter Vaa (1818-1875). Også hans eldste bror het Jon Hauge d.e., derav skillet med den eldre (d.e.) og den yngre (d.y.). I 1884 giftet han seg med Gudbjørg Drotning (1867-1943). Det samme året utvandret han med hustru til USA. Der fikk de to sønner.