I likhet med de øvrige statsrådene i Abraham Berges regjering, ble Klingenberg stilt for riksrett 1926–1927, men ble frifunnet sammen med resten den 25. mars 1927. Saken var fra 1923 og gjaldt tildelelse av bevilgninger til Den norske Handelsbank uten å informere Stortinget, men alle ble frikjent (under dissens) ut ifra at de hadde handlet i beste mening.