I 1880-årene traff han Caroline Gundersen, og i 1898 flytter han sammen med henne og søsteren Henriette til gården Bustangen på Tjøme i Vestfold.