Kleppe hadde en borgerlig bakgrunn, men orienterte seg mot arbeiderbevegelsen etter å ha hatt Trygve Bull som lærer på middelskolen og meldte seg inn i AUF som 14-åring.