Han ble født i Moss som sønn av tollinspektør Nils Lynge Hansteen og hustru Severine Petronelle Clementin. Han hadde tre brødre som alle ble jurister, den mest kjente av dem høyesterettsassessor Philip Henrik Hansteen. Selv gikk han ut fra Kristianias katedralskole i 1830 og tok teologisk embedseksamen i 1836.