Sachverhalt: A. Mit Eingabe vom 28. April 2008 erhob X._ beim Verwaltungsgericht des Kantons Thurgau Klage gegen den Kanton Thurgau mit dem Rechtsbegehren, dieser sei zu verpflichten, ihm einen Betrag von insgesamt Fr. 100'443.90 nebst Zins zu bezahlen. Er ersuchte um Gewährung der unentgeltlichen Prozessführung und verlangte den Ausstand des Präsidenten des Verwaltungsgerichts, Dr. P._. Mit Entscheid vom 21. Mai 2008 trat das Gericht auf das Ausstandsgesuch nicht ein und wies das Gesuch um unentgeltliche Rechtspflege ab. Überdies setzte es dem Kläger eine Frist zur Leistung eines Kostenvorschusses von Fr. 3'000.-- an. B. Mit Beschwerde vom 1. Juli 2008 beantragt X._ dem Bundesgericht, den Entscheid des Verwaltungsgerichts aufzuheben und sein Klagebegehren gutzuheissen. Er ersucht auch für das bundesgerichtliche Verfahren um Gewährung der unentgeltlichen Prozessführung. Der Kanton Thurgau beantragt die Abweisung der Beschwerde, das Verwaltungsgericht die Abweisung, soweit auf die Beschwerde einzutreten sei. Die Eidgenössische Steuerverwaltung, die ebenfalls zur Stellungnahme eingeladen wurde, hat auf Vernehmlassung verzichtet.