Bergstrøm var født i København, men foreldrene, Sophie Marie Christensen og Johan Wilhelm Bergstrøm, brakte ham med til Borre i Vestfold, hvor han også ble konfirmert. Han ble den 14. april 1867 gift med Oline «Lina» Andrea Remsberg (19/8 1836.16/10 1916) fra Bergen. De fikk datteren Signe Jofrida (f. 28/5 1869), som 9/9 1898 ble gift med Ingebret Sæthre (f. 23/7 1871), og sønnen Ragnvald Bjørnstjerne (22/7 1871-4/3 1880).