Kleist var minister for offentlige arbeider og transport under statsminister Lars Emil Johansen 1991–1995. Kleist var medlem av Landstinget 1995–1996, og har igjen vært medlem siden 2002. I Grønlands selvstyrekommisjon var han sekretær 2000–2001 og medlem 2004–2008. Han var medlem av Folketinget for Grønland 2001–2007, og ble valgt til formann i det sosialistiske separatistpartiet Inuit Ataqatigiit i 2007.