Klevenberg hadde utdannelse fra handels- og reklamebransjen blant annet i England og Tyskland. Han ble medlem av Nasjonal Samling i 1934 og hadde en rekke tillitsverv i partiet, blant annet som lagfører i Gjøvik, fylkespropagandaleder i Oppland og sveitfører i Rikshirden. I 1940 ble han stedfortredende leder av partiets presse- og propagandaavdeling, først under daværende «riksprogramsjef», minister Gulbrand Lunde, som omkom høsten 1942, og seinere under minister Rolf Jørgen Fuglesang. 15. april 1945 overtok Klevenberg stillingen som NS’ fylkesfører i Vest-Viken (F. O. 7, det vil si Vestfold).