Kleppe var en markant politiker av Stortingets på 1990-tallet. Han var arkitekten bak at Stortinget vedtok lik krigsinvalidepensjon, uavhengig av om den pensjonerte hadde vært dekksgutt eller kaptein i krigsårene 1939–1945. Kleppes forslag om fangeerstatning (100 000 kroner) til norske fanger i japansk-kontrollerte områder under den andre verdenskrigen fikk full tilslutning av Stortinget.