Sachverhalt:
A. Die Politische Gemeinde Thundorf beabsichtigt, den westlichen Ortsrand mit dem Gestaltungsplan Ildbach zu erschliessen. Der Erschliessungs- und Überbauungsplan, der Planungsbericht und die Sonderbauvorschriften lagen öffentlich auf.
A._ und B._ erhoben beim Departement für Bau und Umwelt des Kantons Thurgau (DBU) Einsprache. Nach verfahrensrechtlichen Zwischenschritten wies das DBU die Einsprache am 23. November 2011 ab. Mit Entscheid vom 1. Dezember 2011 genehmigte es den Gestaltungsplan Ildbach, nahm allerdings von der Genehmigung den Bewirtschaftungsweg sowie die Ziff. 5.5 der Sonderbauvorschriften zur Ausnützung aus.
In der Folge hiess das Verwaltungsgericht des Kantons Thurgau die Beschwerde der Einsprecher am 5. September 2012 teilweise gut, hob Ziff. 5.9 Satz 2 der Sonderbauvorschriften für den Gestaltungsplan Ildbach auf und nahm von der verbindlichen Zusage der Gemeinde Kenntnis, den Ildbach im Gebiet der im Gestaltungsplan blau schraffierten Fläche zu öffnen.
B. Gegen dieses Urteil des Verwaltungsgerichts haben A._ und B._ beim Bundesgericht am 29. Oktober 2012 Beschwerde erhoben und beantragen, den angefochtenen Entscheid insoweit aufzuheben, als die Beschwerde abgewiesen und der Gestaltungsplan sinngemäss bestätigt worden war.
Die Politische Gemeinde Thundorf beantragt die Abweisung der Beschwerde. Denselben Antrag stellen das Departement für Bau und Umwelt und das Verwaltungsgericht, je unter Verweis auf den angefochtenen Entscheid.
Erwägungen:
1. Das angefochtene Urteil des Verwaltungsgerichts ist ein kantonal letztinstanzlicher Entscheid in einer Materie des öffentlichen Rechts, die unter keinen Ausschlussgrund fällt. Die Beschwerde ist rechtzeitig erhoben. Insoweit erweist sich die vorliegende Beschwerde in öffentlich-rechtlichen Angelegenheiten als zulässig (Art. 82 lit. a, Art. 83, Art. 86 Abs. 1 lit. d und Art. 100 Abs. 1 BGG).
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann laut Art. 95 lit. a BGG die Verletzung von Bundesrecht, einschliesslich von Bundesverfassungsrecht, geltend gemacht werden. Die Rüge der Verletzung von kantonalem Recht wird ausschliesslich anhand des Verfassungsrechts geprüft.
In der Beschwerdeschrift ist gemäss Art. 42 Abs. 2 BGG in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Die Verletzung von Grundrechten prüft das Bundesgericht nach Art. 106 Abs. 2 BGG nur, soweit solche Rügen präzis vorgebracht und begründet werden. Bei der Rüge der Verletzung von Art. 9 BV ist darzulegen, inwiefern der angefochtene Entscheid willkürlich erscheinen soll. Unbeachtlich sind blosse Verweisungen auf Ausführungen im vorinstanzlichen Verfahren, da in der Beschwerdeschrift selber darzulegen ist, inwiefern das angefochtene Urteil Bundesrecht verletzt (vgl. BGE 126 III 198 E. 1d). Ob diese Anforderungen erfüllt sind, wird im entsprechenden Sachzusammenhang zu prüfen sein.
Zur Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht ist gemäss Art. 89 Abs. 1 BGG berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat (lit. a), durch den angefochtenen Entscheid besonders berührt ist (lit. b) und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung besitzt (lit. c). Verlangt ist neben der formellen Beschwer, dass die beschwerdeführende Partei über eine spezifische Beziehungsnähe zur Streitsache verfügt und einen praktischen Nutzen aus der Aufhebung oder Änderung des angefochtenen Entscheids zieht. Die Nähe der Beziehung zum Streitgegenstand muss bei Bauprojekten insbesondere in räumlicher Hinsicht gegeben sein (BGE 137 II 30 E. 2.2.2 und 2.2.3 S. 33; Urteil 1C_236/2010 vom 16. Juli 2010 E. 1, ZBl 112/2011 S. 608; vgl. dazu ARNOLD MARTI, ZBl 112/2011 S. 604 ff.). In dieser Hinsicht zeigt sich, dass die Beschwerdeführer Eigentümer der Parzelle Nr. 398 sind, welche direkt an das Gestaltungsplangebiet angrenzt. Bei dieser Sachlage ist anzunehmen, dass die tatsächliche oder rechtliche Situation der Beschwerdeführer durch den Ausgang des Verfahrens beeinflusst werden kann. Damit ist ihre Legitimation, die im kantonalen Verfahren unbestritten war (vgl. Art. 111 BGG), im Sinne von Art. 89 Abs. 1 BGG gegeben.
2. Das Planungs- und Baugesetz des Kantons Thurgau (PBG/TG; Gesetzessammlung 700) umschreibt in den § 18 ff. den Gestaltungsplan. Nach § 18 dient dieser einer architektonisch guten, auf die bauliche und landschaftliche Umgebung und die besondern Nutzungsbedürfnisse abgestimmten Überbauung, Verdichtung oder Erneuerung sowie der angemessenen Ausstattung mit Anlagen zur Erschliessung oder im Nichtbaugebiet der Landschaftsgestaltung. Soweit erforderlich, legt der Gestaltungsplan gemäss § 19 Abs. 1 eine Reihe von Faktoren fest, namentlich 1) die Erschliessung, 2) Lage, Grösse und Gestaltung der Bauten und Anlagen ferner Art und Mass ihrer Nutzung sowie 3) die Bauweise. Nach § 19 Abs. 2 kann von der Regelbauweise oder den Vorschriften über den Wald- oder Gewässerabstand abgewichen werden, wenn dadurch gesamthaft ein besseres architektonisches und ortsbauliches Ergebnis erzielt wird und dieses im öffentlichen Interesse liegt.
Das umstrittene Gestaltungsplangebiet Ildbach umfasst eine Fläche von rund 2,2 ha. Es schliesst fünf Parzellen ganz und drei Parzellen teilweise ein. Massgebend sind der Erschliessungs- und Überbauungsplan und die Sonderbauvorschriften (SBV). Diese umschreiben den Zweck des Gestaltungsplans: Schutz des Landschafts- und Siedlungsbildes mit Sonderbauvorschriften und Planfestlegungen, Gestaltung und Aufwertung des Siedlungsrands West von Thundorf, haushälterische Bodennutzung. Im Übrigen ordnen die Bestimmungen von Ziff. 5 SBV insbesondere die Bebauung.
3. 3.1 Die Beschwerdeführer verweisen als erstes auf die Entstehungsgeschichte des umstrittenen Gestaltungsplans. Diese habe erhebliche Mängel aufgezeigt. Den von den Fachinstanzen erhobenen Einwänden und der sensiblen Lage des betroffenen Gebiets habe die Gemeinde nur zu einem kleinen Teil Rechnung getragen. Es sei ihr in erster Linie darum gegangen, für sich den Einzonungsgewinn zu erhöhen. In Anbetracht der vom Departement DBU und vom Verwaltungsgericht angebrachten Korrekturen sei vom ursprünglichen Gestaltungsplan nur wenig übrig geblieben.
Wie es sich damit verhält, ist im Hinblick auf die vorliegend umstrittenen Fragen nicht von Bedeutung. Für deren Beurteilung ist ausschliesslich vom Gestaltungsplan Ildbach auszugehen, wie er sich im Anschluss an die Entscheidungen des DBU und des Verwaltungsgerichts präsentiert. Das DBU nahm die Erhöhung der Ausnützung gemäss Ziff. 5.5 SBV und den Bewirtschaftungsweg gemäss Ziff. 7.3 SBV von der Genehmigung aus; die Erhöhung der Ausnützung trage nicht zu einem besseren architektonischen und ortsbaulichen Ergebnis bei. Das Verwaltungsgericht hob Satz 2 von Ziff. 5.9 SBV auf, mit der Folge, dass in Bezug auf Material- und Farbkonzept die Regelbauweise gilt. Schliesslich hat die Gemeinde im Laufe des verwaltungsgerichtlichen Verfahrens die Öffnung des Ildbachs verbindlich zugesichert (vgl. demgegenüber Ziff. 6.4 SBV).
3.2 Die Beschwerdeführer beanstanden zur Hauptsache, dass der Gestaltungsplan Abweichungen von der Regelbauweise und von den Vorschriften über den Wald- und Gewässerabstand mit sich bringe. Sie verkennen nicht, dass § 19 Abs. 2 PBG/TG solche Abweichungen zulässt, bestreiten indes das Vorliegen der gesetzlichen Voraussetzung, dass gesamthaft ein besseres architektonisches und ortsbauliches Ergebnis erzielt wird und dies im öffentlichen Interesse liegt. Überdies stellen sie in Abrede, dass die Abweichungen von der Regelbauweise gering seien und daher keine hohen Anforderungen an das bessere architektonische und ortsbauliche Ergebnis gestellt werden dürften.
Das Verwaltungsgericht ist im angefochtenen Entscheid zum Schluss gelangt, dass die Voraussetzung von § 19 Abs. 2 PBG/TG erfüllt sei. Es hat zusammenfassend festgehalten, dass die Gestaltungsvorschriften zu einer - wenn auch häufig nur geringen - Aufwertung des Gebiets führen. Dabei verwies es insbesondere auf die Öffnung des Ildbachs, die Beschränkung der Niveauunterschiede, die Anordnung der Dachfirste und die lockere Bepflanzung mit einzelnen Sträuchern entlang der Strassen und Wege. Eine Gefährdung des Ortsbildes Kirchberg sei in Anbetracht der grosszügigen Umgebungsschutzzone und der Distanz zwischen dem Gestaltungsplangebiet und dem äussersten Zipfel von Kirchberg nicht zu befürchten. Gesamthaft gesehen könnten die Voraussetzungen von § 19 Abs. 2 PBG/TG gerade noch als erfüllt betrachtet werden. Dies treffe umso mehr zu, als die Abweichungen von der Regelbauweise als gering bezeichnet werden könnten. Das Departement gelangte in seinem Genehmigungsentscheid zum Schluss, der Gestaltungsplan verfüge insgesamt über architektonische und ortsbauliche Qualitäten, die mitunter auf die Abweichungen von der Regelbauweise zurückzuführen seien.
3.3 Die Beschwerdeführer setzen sich mit den Erwägungen des Verwaltungsgerichts, wonach die Gestaltungsvorschriften zu einer - zugegebenermassen geringen - Aufwertung des Gebiets führen, nicht auseinander. Sie machen nicht geltend, das Verwaltungsgericht sei in Willkür verfallen, indem es mit Blick auf die Öffnung des Ildbachs, die Beschränkung der Niveauunterschiede, die Anordnung der Dachfirste und die lockere Bepflanzung mit einzelnen Sträuchern entlang der Strassen und Wege eine Aufwertung des Gebiets bejahte. Sie stellen diesen konkret dargelegten Mehrwert nicht einmal in Frage und beschränken sich darauf, die Voraussetzung von § 19 Abs. 2 PBG/TG für Abweichungen von der Regelbauweise und den Wald- und Gewässerabstand in appellatorischer und damit unzulässiger Weise zu bestreiten. Überdies vermögen sie nicht darzulegen, weshalb der Gestaltungsplan in Anbetracht des realisierten Mehrwerts nicht im öffentlichen Interesse liegen soll. Die dazu angebrachten Verweise auf die Rechtsschriften im kantonalen Verfahren sind, wie in E. 1 dargetan, nicht zu berücksichtigen.
Die Beschwerdeführer verweisen weiter auf die überaus sensible und heikle Lage des Gestaltungsplangebiets und dessen Nähe zu dem durch das ISOS-Inventar als wertvoll eingestuften Weiler Kilchberg. Auch in dieser Hinsicht setzen sie sich mit den Ausführungen des Verwaltungsgerichts nicht auseinander. Sie vermögen nicht darzulegen, dass das Verwaltungsgericht gegen das Willkürverbot verstosse, indem es den bereits bestehenden Schutz des Weilers Kilchberg in Form einer grosszügigen Umgebungsschutzzone als hinreichend und durch den umstrittenen Gestaltungsplan als nicht gefährdet bezeichnet. Sie begründen auch nicht, inwiefern übergeordnetes Bundesrecht verletzt sein soll und in welcher Hinsicht die Landschaft hätte geschont und Siedlungen sorgfältig eingeordnet werden müssen. Damit ist auch nicht dargetan, dass dem Gestaltungsplan wegen der Schutzwürdigkeit des Weilers Kilchberg öffentliche Interessen entgegenstehen würden.
Im Übrigen gehen die Beschwerdeführer auch auf die Ausführungen des Verwaltungsgerichts zu den einzelnen Sonderbauvorschriften (Pflichtbaulinie, Dachneigungen, Firstausrichtung, Quartierplatz, Einfriedung, Terraingestaltung; E. 4.3.1 ff.) nicht ein. Sie fügen lediglich an, dass mit der Nichtgenehmigung des Bewirtschaftungsweges auch die am östlichen Rand vorgesehene Baumallee entfalle. Diesem Umstand kommt allerdings keine Bedeutung zu, da das Verwaltungsgericht die Allee nicht in seine Betrachtung eingezogen hat.
Soweit die Beschwerdeführer die Annahme des Verwaltungsgerichts einer Aufwertung des Gestaltungsplangebiets bestreiten, erweist sich ihre Beschwerde von vornherein als unbegründet.
3.4 Das Verwaltungsgericht hat die Aufwertung des Gestaltungsplangebiets zwar als gering, hingegen unter dem Gesichtswinkel von § 19 Abs. 2 PBG/TG als hinreichend qualifiziert. Dabei hat es erwogen, dass die Abweichungen von der Regelbauweise gering seien.
Was die Beschwerdeführer dagegen vorbringen, vermag keine Willkür zu begründen.
Zum einen beschränken die Beschwerdeführer ihre Kritik auf die Unterschreitung der Waldabstandsvorschriften. Es ist indessen nicht willkürlich, die Gesamtheit der Abweichungen von der Regelbauweise zu betrachten: Dazu zählt die Unterschreitung des minimalen Gewässer- und Ufergehölzabstands von Anlagen und Klein- und Anbauten durch eine Baulinie (Ziff. 5.1 SBV), der allseitig kleine Grenzabstand von vier Metern (Ziff. 5.4 SBV) und die Gestaltungsvorschriften für Dachneigung, Dachausrichtung und Farbgestaltung (Ziff. 5.7, 5.8 und 5.9 SBV). Bei dieser Sachlage durfte die Unerheblichkeit der Abweichungen von der Regelbauweise ohne Willkür bejaht werden. Daran vermag nichts zu ändern, dass die Beschwerdeführer die Unterschreitung des Waldabstandes in unerheblicher Weise in einer Verhältniszahl von 40 % zum Ausdruck bringen.
Zum andern darf beachtet werden, dass § 19 Abs. 2 PBG/TG die Abweichung von der Regelbauweise in ein Verhältnis zum besseren architektonischen und ortsbaulichen Ergebnis setzt. Dabei ist die Annahme in keiner Weise willkürlich, dass bei erheblichen Abweichungen von der Regelbauweise der Nutzen im Sinne einer Kompensation umso grösser sein müsse. Gleichermassen darf willkürfrei angenommen werden, dass an den Nutzen geringere Anforderungen gestellt werden dürfen, wenn die Abweichungen von der Regelbauweise weniger gewichtig sind. Eine solche Auslegung und Anwendung von § 19 Abs. 2 PBG/TG ist nicht offensichtlich unhaltbar, steht in keinem Widerspruch zur tatsächlichen Situation, verletzt keinen unumstrittenen Rechtsgrundsatz und läuft dem Gerechtigkeitsgedanken nicht zuwider (vgl. BGE 137 I 1 E. 2.4 S. 5). Die Rüge der Verletzung von Art. 9 BV erweist sich in diesem Punkt als offensichtlich unbegründet.
3.5 Nach § 19 Abs. 1 PBG/TG hat der Gestaltungsplan, soweit erforderlich, eine Reihe von Festlegungen festzuhalten. Das Verwaltungsgericht hat dazu ausgeführt, dass im Falle einer grösseren Gesamtüberbauung mit erheblichen Abweichungen von der Regelbauweise und massiver Verdichtung die vorzeitige Festlegung von Lage, Grösse und Gestaltung der Bauten und Anlagen erforderlich wäre. Im vorliegenden Fall umfasst der Gestaltungsplan nur ein kleines Gebiet und sind die Abweichungen von der Regelbauweise gering. Es genüge daher, wenn die Parzellengrösse im Zeitpunkt der Baubewilligung bestimmt sei und die Gemeinde im Übrigen darauf achte, dass keine unzulässigen Ausnützungstransfers erfolgen.
Was die Beschwerdeführer dagegen einwenden, vermag keine willkürliche Auslegung und Anwendung von § 19 Abs. 1 PBG/TG zu belegen. Die darin einzeln aufgezählten möglichen Festlegungen stehen nach dem Wortlaut der Bestimmung unter dem Vorbehalt der Erforderlichkeit. Es hält daher vor Art. 9 BV stand, dass Gestaltungsplan und Sonderbauvorschriften im vorliegenden Fall nicht sämtliche Festlegungen im Sinne der genannten Vorschriften enthalten.
4. Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit überhaupt darauf eingetreten werden kann. Bei diesem Verfahrensausgang sind die bundesgerichtlichen Kosten den Beschwerdeführern aufzuerlegen (Art. 66 Abs. 1 BGG). Parteientschädigungen sind keine zuzusprechen (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdeführern auferlegt.
3. Dieses Urteil wird den Beschwerdeführern, der Politischen Gemeinde Thundorf, dem Departement für Bau und Umwelt des Kantons Thurgau und dem Verwaltungsgericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 18. Februar 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Merkli
Der Gerichtsschreiber: Steinmann