Klingenberg var medlem av Trondhjem bystyre, hvor han var varaordfører 1904–1906 og ordfører 1911–1916. Ved sammenslutningen av Trondhjems grunnlovsforening og Yngre konservatives forening til Trondhjems konservative forening (nå Trondheim Høyre) i 1901, ble Klingenberg foreningens første formann. Han var også medlem av Høyres sentralstyre 1908–1911. Han var innvalgt på Stortinget fra Trondhjem og Levanger, 2. krets Kalvskindet 1907–1909, og var da tilsluttet Samlingspartiet. Klingenberg var senere innvalgt som Høyre-representant fra 1. krets Bratøren og Ilen 1919–1921 og fra Trondhjem og Levanger som storkrets 1922–1924. Han var medlem av Stortingets sosialkomité 1907–1909, hvor han var formann 1919–1923, og av Stortingets fullmaktskomité 1919–1920.