I 1970-årene var Klein med på å etablere Sjálvstýrisflokkurins sentrale organisasjon samt ungdomsorganisasjonen Unga Sjálvstýri. Han var medlem av kommunestyret i Runavík 1984–1985, kultur- og samferdselsminister i Atli Dams fjerde og femte regjering 1985–1989, innvalgt på Lagtinget fra Eysturoy 1988–1998 og lagtingsformann 1993–1994. I 1994 brøt han med Sjálvstýrisflokkurin, og sørget slik for at Marita Petersens regjering mistet sitt flertall. Klein meldte seg inn i Kristiligi Fólkaflokkurin, som han representerte i sin siste periode på Lagtinget.