Sachverhalt:
A. Das Tiefbauamt des Kantons Thurgau ersetzte im Jahr 2005 die Kreuzung der Staatsstrassen Lommis-Märwil und Amlikon-Tobel ("Löwenkreuzung") im Dorfkern der Gemeinde Affeltrangen durch einen Kreisel. Für den Bau des Kreisels musste ein älteres, unbewohntes Haus abgebrochen werden.
X._ verfügt über ein Wohnrecht für die Liegenschaft Bahnhofstrasse 2 mit den Bauten Ass.-Nr. 216 (von ihm bewohnt) und Ass.-Nr. 217. Er wehrte sich gegen den Kreiselbau, weil er befürchtete, nach Abbruch des unbewohnten Hauses schutzlos dem Lärm und den Abgasen des Strassenverkehrs ausgesetzt zu sein. Seine Beschwerde wurde am 25. August 2004 vom Verwaltungsgericht des Kantons Thurgau abgewiesen; am 26. Mai 2005 wies das Bundesgericht auch seine staatsrechtliche Beschwerde ab (1A.275/2004).
B. Im August 2005 reichte X._ bei der Enteignungskommission des Kantons Thurgau eine Klage gegen den Kanton Thurgau ein, mit dem Antrag, dieser sei zu verpflichten, ihm Fr. 21'000 (nebst Zins) für diverse Nachteile zu bezahlen, die ihm aufgrund des Kreiselbaus entstünden. An der Hauptverhandlung vom 25. April 2006 vor der Enteignungskommission schlossen die Parteien einen gerichtlichen Vergleich ab. Danach verpflichtete sich der Kanton Thurgau, X._ "per Saldo aller Ansprüche aus den enteignungsrechtlichen Ansprüchen im Zusammenhang mit dem Strassenprojekt Kreisel Löwenkreuzung" Fr. 7'000 zu bezahlen.
C. Am 26. April 2007 reichte X._ bei der Enteignungskommission erneut eine Klage gegen den Kanton Thurgau (Tiefbauamt/Departement für Bau und Umwelt) ein und machte enteignungsrechtliche Ansprüche geltend. Er beantragte, der Kanton Thurgau sei zu verpflichten, ihm Fr. 15'000 zu bezahlen, damit er seine Hofausfahrt selbst verkehrssicher gestalten könne. Überdies beantragte er eine Entschädigung von Fr. 100'000 wegen Nachteilen, Verlusten und Einschränkungen am Nutzungsrecht der Liegenschaft, durch den Kreiselneubau und den Strassenverkehr. Der Kanton Thurgau sei zu verpflichten, die Lärmmessung vom 27. November 2006 an seinem Sitzplatz herauszugeben und bekanntzumachen, damit er vor der Hauptverhandlung schriftlich dazu Stellung nehmen könne. Andernfalls sei der für die Messung zuständige Herr Z._ als Zeuge vorzuladen und es seien die fehlenden Akten bei diesem beizuziehen. Weil die Lärmmessung vom 27. November 2006 nicht korrekt gewesen sei, verlange er eine Neumessung.
Mit Entscheid vom 17. Oktober 2008, der erst am 1. Oktober 2009 versandt wurde, trat die Enteignungskommission auf die Klage nicht ein, weil alle enteignungsrechtlichen Ansprüche zwischen den Parteien im Zusammenhang mit dem Strassenprojekt Kreisel Löwenkreuzung mit dem gerichtlichen Vergleich vom 25. April 2006 erledigt worden seien.
D. Dagegen erhob X._ am 27. Oktober 2009 Beschwerde beim Verwaltungsgericht des Kantons Thurgau. Dieses wies die Beschwerde sowie das Gesuch um Gewährung der unentgeltlichen Prozessführung am 23. Dezember 2009 ab und auferlegte dem Beschwerdeführer eine Verfahrensgebühr von Fr. 800.
E. Gegen den verwaltungsgerichtlichen Entscheid hat X._ Beschwerde ans Bundesgericht erhoben. Er beantragt die Aufhebung des angefochtenen Entscheids und die Rückweisung der Sache zu neuem Entscheid an ein unbefangenes Gericht. Der Vergleich vom 25. April 2006 sei nichtig zu erklären.
Das Departement für Bau und Umwelt, das Verwaltungsgericht und die Enteignungskommission beantragen Abweisung der Beschwerde.
In seiner Replik vom 14. August 2010 hält der Beschwerdeführer an seinen Anträgen fest.
Erwägungen:
1. Angefochten ist ein kantonal letztinstanzlicher Entscheid des Verwaltungsgerichts Thurgau betreffend Ansprüche aus materieller bzw. formeller Enteignung. Dagegen steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (Art. 82 ff. BGG). Da die Eintretensvoraussetzungen vorliegen, ist grundsätzlich auf die Beschwerde einzutreten, vorbehältlich rechtsgenügend begründeter Rügen (Art. 42 Abs. 2 BGG). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem Recht (Art. 106 Abs. 2 BGG). Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (vgl. BGE 134 II 244 E. 2.1 und 2.2 S. 245 f. mit Hinweisen).
Das Bundesgericht ist an den von der Vorinstanz festgestellten Sachverhalt gebunden, soweit dieser nicht offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 BGG beruht (Art. 105 und Art. 97 Abs. 1 BGG). Auch dies ist vom Beschwerdeführer substantiiert darzulegen und, soweit möglich, zu belegen. Vorbehalten bleibt die Berichtigung oder Ergänzung des Sachverhalts von Amtes wegen bei offensichtlichen Sachverhaltsmängeln im Sinne von Art. 105 Abs. 2 BGG, die dem Richter geradezu in die Augen springen (BGE 133 II 249 E. 1.4.3 S. 254 f.).
2. Das Verwaltungsgericht hielt fest, dass die Auswirkungen des Kreiselneubaus auf die Liegenschaft des Beschwerdeführers bereits Gegenstand der ersten Klage vom 29. August 2005 gewesen seien; bereits damals hätten die von ihm angeführten Problempunkte betreffend die Hofeinfahrt, die Verkehrssicherheit, die Bollensteinmauer entlang der Lommiserstrasse, die Nutzungseinschränkungen seiner Liegenschaft und die Lärmimmissionen Grundlage seiner Forderungen gebildet. Mit seiner erneuten Klage vom 26. April 2007 habe der Beschwerdeführer keine neuen Anspruchsgrundlagen, veränderte Verhältnisse oder eine geänderte Rechtslage geltend gemacht. Die Vorinstanz habe daher zu Recht festgestellt, dass die vom Beschwerdeführer mit Klage vom 26. April 2007 geltend gemachten Ansprüche mit dem gerichtlichen Vergleich vom 25. April 2006 abgehandelt worden seien.
Das Verwaltungsgericht hielt weiter fest, dass mit dem Vergleich vom 25. April 2006 eine umfassende Lösung der Auseinandersetzung bezüglich aller enteignungsrechtlichen Ansprüche erreicht werden sollte. Dies entspreche Sinn und Zweck der Formulierung "per Saldo aller Ansprüche aus den enteignungsrechtlichen Ansprüchen im Zusammenhang mit dem Strassenbauprojekt Kreisel Löwenkreuzung".
3. Der Beschwerdeführer macht zunächst geltend, das Verwaltungsgericht sei befangen, weil es - gleich wie das Tiefbauamt - eine Institution des Kantons Thurgaus sei, d.h. der beklagten Partei. Weiter wirft er dem Verwaltungsgericht Machtsmissbrauch, Willkür, Handeln gegen Treu und Glauben und wahrheitswidrige Begründungen vor.
Diese Rüge ist unbegründet, soweit darauf überhaupt einzutreten ist. Der Beschwerdeführer wusste schon bei Beschwerdeerhebung, dass es sich beim Verwaltungsgericht um ein kantonales Gericht handelt. Dies allein ist auch nicht geeignet, den Anschein der Befangenheit des Gerichts zu erwecken. Die Richter des Verwaltungsgerichts sind unabhängig von der Kantonsexekutive und namentlich vom Departement für Bau und Umwelt. Es ist gesetzliche Aufgabe des Verwaltungsgerichts, die Rechtmässigkeit von Akten der Kantonsverwaltung zu beurteilen und Urteile zu fällen, die erhebliche finanzielle Konsequenzen für den Kanton haben können. Es gibt keinen Anlass, an der Unbefangenheit und Neutralität des Verwaltungsgerichts auch in enteignungsrechtlichen Entschädigungsverfahren zu zweifeln.
Die vom Beschwerdeführer erhobenen Vorwürfe betreffend das vorliegende Verfahren sind haltlos, wie im Folgenden darzulegen sein wird.
4. Der Beschwerdeführer ist der Auffassung, seine erste Klage habe lediglich die Strom- und Wasserzufuhr zum Haus Ass.-Nr. 217 sowie die Abänderung der Hofzufahrt betroffen; diese Klagepunkte hätten nichts zu tun mit seiner heutigen Klage, die ganz andere Forderungen enthalte (Beseitigung der Unfallgefahr auf der Hauptstrasse unter Berücksichtigung des Anspruchs auf Gleichbehandlung mit seinem Nachbarn; Verweigerung der Akteneinsicht und Herausgabe der ihm vorenthaltenen Lärmmessung; Schadenersatz wegen Unbewohnbarkeit von Haus Ass.-Nr. 217 wegen übermässigem Strassenlärm und Luftverschmutzung). Die heutigen Forderungen seien daher durch den Vergleich nicht abgegolten.
4.1 Zunächst ist bereits fraglich, ob diese Rüge für den Ausgang des Verfahrens erheblich ist. Geht man mit den Vorinstanzen davon aus, dass mit dem Vergleich sämtliche, auch zukünftigen enteignungsrechtlichen Ansprüche im Zusammenhang mit dem Strassenprojekt Kreisel Löwenkreuzung abgegolten werden sollten, kommt es an sich nicht darauf an, ob die heutigen Ansprüche schon mit der ersten Klage geltend gemacht worden waren oder nicht.
4.2 Die Frage kann allerdings offen bleiben, weil auf die Rüge schon mangels genügender Begründung nicht eingetreten werden kann. Der Beschwerdeführer setzt sich mit den Erwägungen des Verwaltungsgerichts nicht auseinander, wonach insbesondere die Verkehrssicherheit der Hofeinfahrt, die Nutzungsbeschränkungen der Liegenschaft und die Lärmimmissionen bereits Gegenstand des ersten Klageverfahrens bildeten, und belegt seine Behauptungen nicht mit Hinweisen auf die Akten des ersten Klageverfahrens, wobei neben der Klageschrift auch die klägerische Eingabe vom 22. Oktober 2005 und der Inhalt der Einigungsgespräche in der Hauptverhandlung vom 25. April 2006 zu berücksichtigen wären. Auf seine diesbezüglichen Rügen kann daher schon mangels genügender Beschwerdebegründung nicht eingetreten werden.
4.3 Neu sind zwar unstreitig die Anträge hinsichtlich der Lärmmessungen aus dem Jahr 2006. Diese Anträge wurden jedoch im Zusammenhang mit der Klage auf enteignungsrechtliche Entschädigungsansprüche vom 26. April 2007 gestellt. Der Beschwerdeführer legt nicht dar, weshalb die Enteignungskommission diesen Anträge hätte stattgeben müssen, obwohl sie auf die Entschädigungsanträge nicht eintreten konnte. Dies ist auch nicht ersichtlich. Eine andere Frage ist, ob der Beschwerdeführer unabhängig von allfälligen Entschädigungsansprüchen (als Strassenanlieger) Anspruch auf Einsichtnahme in bestehende oder auf Vornahme zusätzlicher Lärmmessungen hat. Dies ist im vorliegenden Verfahren nicht zu beurteilen. Zuständig hierfür wäre auch nicht die Enteignungskommission, sondern das Baudepartement bzw. das Tiefbauamt.
4.4 Analoges gilt, soweit der Beschwerdeführer eine Verletzung des Rechtsgleichheitsgebots rügt, weil bei seinem Nachbarn ein Verkehrsspiegel für die Einfahrt in die Hauptstrasse installiert wurde, nicht aber bei ihm. Der Beschwerdeführer hat mit seiner Klage vor der Enteignungskommission nicht die Installation eines Spiegels, sondern eine enteignungsrechtliche Entschädigung verlangt. Ob die Installation eines Verkehrsspiegels zur Entschärfung der Gefährdungssituation geboten ist, und inwiefern insoweit ein Anspruch auf Gleichbehandlung mit dem Nachbarn besteht, war von der Enteignungskommission nicht zu prüfen und ist auch nicht Gegenstand des vorliegenden Verfahrens.
5. Der Beschwerdeführer macht weiter geltend, er sei bei Abschluss des Vergleichs über dessen Tragweite getäuscht worden. Er sei von der Enteignungskommission im Glauben gelassen worden, dass mit dem Vergleich nur die erhobene Klage und nicht weitere, zukünftige Forderungen erledigt würden. Wenn dem nicht so sei, so sei er in schwerer Weise getäuscht und hintergangen worden, weshalb er den Vergleich widerrufe. Den von ihm unterschriebenen handschriftlichen Vergleichstext habe er nicht entziffern können. Er habe nur das vernommen, was der Präsident der Enteignungskommission als Vergleichstext diktiert habe; das stehe aber nun nicht so im Vergleich.
5.1 Der Präsident der Enteignungskommission führt dazu in seiner Vernehmlassung aus, der Inhalt des gerichtlichen Vergleichs sei an der Hauptverhandlung vom 25. April 2006 mit den Parteien und insbesondere mit dem Beschwerdeführer besprochen worden; der handschriftliche Text sei den Parteien vor der Unterzeichnung wortwörtlich vorgelesen worden. Der Beschwerdeführer habe den Vergleich somit in vollständigem Wissen um dessen Inhalt unterzeichnet.
Es gibt keinen Grund, an den Ausführungen des Präsidenten der Enteignungskommission zu zweifeln: Der Beschwerdeführer hat den handschriftlich verfassten Vergleichstext unterschrieben; dieser stimmt mit der Abschrift im Abschreibungsbeschluss überein. Hätte eine Differenz zu dem vom Präsidenten vorgelesenen bzw. diktierten Fassung bestanden, hätte dies der Beschwerdeführer spätestens bei Erhalt des Abschreibungsbeschlusses bemerken müssen. Auch vor Verwaltungsgericht hat der Beschwerdeführer nicht behauptet, dass der Vergleichstext nicht mit der in der Hauptverhandlung vorgelesenen bzw. diktierten Fassung übereinstimme; er hat auch keinen Willensmangel geltend gemacht.
5.2 Schliesslich ist darauf hinzuweisen, dass die vom Beschwerdeführer neu eingeklagten Entschädigungsansprüche selbst dann vom Vergleich erfasst wären, wenn dieser im Sinne des Beschwerdeführers ausgelegt würde, d.h. nicht alle zukünftigen enteignungsrechtlichen Ansprüche, sondern nur die bereits im ersten Verfahren thematisierten Nachteile des neuen Kreisels für die Liegenschaft des Beschwerdeführers abgelten würde. Das Verwaltungsgericht hat dargelegt, dass alle vom Beschwerdeführer angeführten Problempunkte (Hofeinfahrt, Verkehrssicherheit, Bollensteinmauer, Nutzungseinschränkungen seiner Liegenschaft, Lärmimmissionen) bereits Gegenstand des ersten Verfahrens waren; dies wird vom Beschwerdeführer nicht substantiiert bestritten (vgl. oben, E. 4.2).
6. Schliesslich rügt der Beschwerdeführer, ihm sei in willkürlicher Weise die unentgeltliche Rechtspflege versagt worden. Dies sei ihm erst zusammen mit dem Endentscheid eröffnet worden. Er habe erwartet, dass über sein Gesuch noch vor dem Entscheid in der Hauptsache entschieden und ihm das Ergebnis mitgeteilt werde. Auch diesbezüglich sei ihm das Recht verweigert worden.
Der Beschwerdeführer nennt jedoch keine Bestimmung des kantonalen Rechts, die eine sofortige Behandlung des Gesuchs um unentgeltliche Rechtspflege, noch vor dem Entscheid in der Sache, vorschreiben würde. Dies ergibt sich auch nicht aus Art. 29 Abs. 3 BV.
Auch in der Sache ist die Versagung der unentgeltlichen Rechtspflege nicht zu beanstanden. Aufgrund des Vergleichs vom 25. April 2006 war die Beschwerde gegen den Nichteintretensentscheid der Enteignungskommission von vornherein aussichtslos.
7. Nach dem Gesagten erweist sich die Beschwerde als offensichtlich unbegründet, soweit darauf überhaupt eingetreten werden kann.
Da die Beschwerde aussichtslos war, ist auch das Gesuch um unentgeltliche Rechtspflege im bundesgerichtlichen Verfahren abzuweisen (Art. 64 Abs. 1 BGG). Dementsprechend trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG). Bei deren Festsetzung ist seinen finanziellen Verhältnissen Rechnung zu tragen.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3. Es werden keine Parteientschädigungen zugesprochen.
4. Dieses Urteil wird den Parteien, der Enteignungskommission und dem Verwaltungsgericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 9. September 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Féraud Gerber