Han var sønn av prost Kristen Nicolai Kristensen og Karoline Emilie Bjørnson, nevø av dikteren Bjørnstjerne Bjørnson og fetter av stortingsmann Erling Bjørnson. Han giftet seg i 1897 med Thora Nicoline «Line» Jensen fra Fredericia i Danmark. Han bodde en god stund i Klostergata 13 i Moss.