Christensen ble født i Stavanger av byfogd og stortingsmann Halvor Olaus Christensen (1800–1891) og Inger Severine Holth (1805–1878). Han var sønnesønn av Eidsvollsmannen Christian Christensen Kollerud (1767–1833).