Han tok artium ved Trondhjems katedralskole i 1864 og juridisk embedseksamen ved universitetet i 1867. Han var fullmektig hos prokurator Timme i Kristiania i et års tid før han i 1868 fikk bevilling som overrettssakfører og flyttet hjem til Trondhjem. I 1870 gikk han i kompaniskap med Jacob Lindboe og etablerte det advokatfirmaet som fortsatt eksisterer under navnet Bjerkan Stav. Lindboe gikk ut, men Klingenberg fortsatte alene og tok etter hvert opp sønnene Odd og Olaf i firmaet. De opparbeidet en allsidig sakførerforretning med sterke forbindelser til trøndersk næringsliv.