Han var av en trondhjemsk embedsmannsslekt av dansk opphav. Foreldrene var overrettssakfører og ordfører Sverre Olafssøn Klingenberg og hustru Hilda Klingenberg, som var søskenbarn. Blant hans søsken var høyesterettsadvokatene og ordførerne Odd og Olaf Klingenberg, og topografen Kaare Klingenberg. Han giftet seg i 1906 med Ingeborg Kulseth.