Johannes Benedictus Klingenberg vokste opp på Gjermundsnes på Veøy i Romsdalen hvor faren, Johan Nicolai Klingenberg (1777–1865), var fogd. Moren het Benedicte Sommerfeldt. Han startet som kadett på krigsskolen 16 år gammel i 1833.