Klingenberg var elev av Erika Nissen og deretter ved MH i Berlin. Han debuterte i Kristiania i 1896. Deretter virket han fra 1903 i USA, hvor han etter flere års lærergjerning i 1912 åpnet sin egen musikkskole, DKG Institute of Musical Art i Rochester, New York. Skolen vakte industrimannen George Eastmans interesse, at han i 1919 kjøpte hele skolen. I 1921 ble den gjort om til Eastman School of Music, med Klingenberg som skolens første rektor. Han ble værende i stillingen til 1923.