Kleppen deltog i de olympiska vinterspelen 1928 i Sankt Moritz i Schweiz. Han föll i båda sina två hopp i "Olympic Ski Jumping Hill" och slutade på 36:e plats. Landsmännen Alf Andersen och Sigmund Ruud vann en dubbel före Rudolf Burkert från Tjeckoslovakien. Kleppen var med i norska backhoppningslandslaget som åkte till OS-tävlingarna i Lake Placid i USA 1932 men var reserv under backhoppstävlingen i "Intervale Ski Jump Complex".