Han var leder i Sosialistisk Ungdom 1977–1980, partisekretær i SV 1981–1985, og leder for SV i perioden 1987–1997. Han var stortingsrepresentant fra Sør-Trøndelag fra 1989 til 1993 og fra Oslo fra 1993 til 2001. Solheims personlige rådgiver som SV-leder og stortingsrepresentant, var i flere år Thor Gjermund Eriksen, senere redaktør i Dagbladet.