Kleppe studerte kjemi ved Universitetet i Oslo (1955–1958) studerte videre ved University of Nebraska, USA (1958–1963) og fikk sin doktorgrad innen enzymologi i 1963. I årene etter arbeidet han ved Department of Biochemistry, University of Cambridge, Storbritannia, og ved Norsk Hydros Institutt for Kreftforskning i Oslo. I 1966 kom han til Biokjemisk institutt (nå del av Institutt for biomedisin), Universitetet i Bergen, som amanuensis. Han ble dosent i 1970 og professor i 1976. Professor Kleppe var medlem av EMBO og Det Kongelige Norske Videnskabers Selskap (Trondheim).