Kleppe var statsråd i Forsvarsdepartementet i Lars Korvalds regjering 1972–1973, og Kristian Halse møtte da i Kleppes sted på Stortinget. Som stortingsrepresentant var Kleppe medlem av Stortingets landbrukskomité.