Han vokste opp på Ulsund på Ytre Vikna som sønn av gårdbruker Hans Danielsen Ulsund og hustru Ene Hansdatter Bondøy. Han hadde en eldre bror og to søstre. For folket på Ulsund var fiske en like viktig næringsvei som åkerbruk og husdyrhold. Siden 1860-årene hadde de også hatt vei til handelsstedet på Austafjord. Christian Ulsund giftet seg i 1892 med Mathilde Hermine Johansdatter Binnerøy, som kom fra et fiskerhjem i Viknas skjærgård.