Sachverhalt: A. X._ ist in der Politischen Gemeinde Salenstein Eigentümerin der Parzellen Nrn. 6460 (im Ortsteil Fruthwilen) und 243 (Hinderburg). Die Parzelle Nr. 6460 ist nicht überbaut. Auf dem Grundstück Nr. 243 besteht ein Fachwerkhaus samt Ökonomiegebäude. Gemäss dem Zonenplan von 1982 befanden sich eine Teilfläche von Parzelle Nr. 6460 in der Wohnzone W2 und eine Teilfläche von Parzelle Nr. 243 in der Dorfzone. Mit einer Änderung des Zonenplans, die das Departement für Bau und Umwelt des Kantons Thurgau (DBU) am 14. Juli 2005 genehmigte, wurden von der Parzelle Nr. 6460 lediglich noch 550 m2 der Bauzone W2 und der Rest der Landschaftsschutzzone zugewiesen. Die Parzelle Nr. 243 (Hinderburg) und die nördlich angrenzende Parzelle Nr. 242 (Sichelweg) wurden mit Ausnahme eines Forststreifens im südlichen Teil von Parzelle Nr. 243 neu gesamthaft der Landschaftsschutzzone zugewiesen. Eine Beschwerde der Grundeigentümerin gegen diese Zonenplanänderungen wies das Verwaltungsgericht des Kantons Thurgau am 20. September 2006 ab. Dieser Entscheid erwuchs unangefochten in Rechtskraft. B. Am 18. Oktober 2007 reichte X._ bei der Enteignungskommission des Kantons Thurgau Klage ein mit dem Rechtsbegehren, die Politische Gemeinde Salenstein sei zu verpflichten, ihr den Betrag von Fr. 4'440'350.-- nebst 3,5% Zins seit 18. Oktober 2007 zu bezahlen. Mit der neuen Zonenplanung seien von den betroffenen Parzellen 4'689 m2 Bauland ausgezont und der Landschaftsschutzzone zugewiesen worden. Die Enteignungskommission wies die Klage mit Entscheid vom 30. September 2010 ab. Zur Begründung führte sie im Wesentlichen aus, das Baugebiet im Zonenplan von 1982 sei überdimensioniert gewesen. Damit entspreche dieser nicht den Anforderungen des Raumplanungsgesetzes des Bundes (RPG, SR 700). Die von der Politischen Gemeinde Salenstein vorgenommenen Zonenplanänderungen seien in Bezug auf die streitbetroffenen Parzellen somit als Nichteinzonungen zu qualifizieren, die grundsätzlich nicht zu entschädigen seien. Keine der drei Parzellen sei von einem Ausnahmetatbestand betroffen, der eine Entschädigung begründe. Gegen diesen Entscheid gelangte X._ an das Verwaltungsgericht. Sie brachte vor, der Zonenplan aus dem Jahr 1982 sei entgegen der Auffassung der Enteignungskommission RPG-konform gewesen. Wenn nun im Rahmen der Zonenplanrevision einzelne Liegenschaften aus dem Baugebiet ausgeschieden seien, handle es sich um entschädigungspflichtige Auszonungen. Aber selbst wenn eine Nichteinzonung angenommen würde, wäre eine volle Entschädigungspflicht der Politischen Gemeinde Salenstein gegeben. Entgegen den Darstellungen der Enteignungskommission sei ohne weiteres von der Bebaubarkeit der betreffenden Parzellen auszugehen. Das Verwaltungsgericht bejahte mit Urteil vom 26. Oktober 2011 das Vorliegen einer materiellen Enteignung in Bezug auf die Parzelle Nr. 6460 und wies die Sache zur Festsetzung der Entschädigung an die Enteignungskommission zurück. Im Übrigen wies es die Beschwerde ab. C. Gegen das Urteil des Verwaltungsgerichts vom 26. Oktober 2011 haben sowohl X._ (Verfahren Nr. 1C_573/2011) als auch die Politische Gemeinde Salenstein (Verfahren Nr. 1C_581/2011) beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten eingereicht. Während X._ eine zusätzliche Entschädigung aus materieller Enteignung für die Parzellen Nrn. 242 und 243 (Hinderburg) von mindestens Fr. 3'717'805.-- nebst Zins von 3.5% seit 18. Oktober 2007 verlangt, beantragt die Politische Gemeinde Salenstein in ihrer Beschwerde betreffend die Parzelle Nr. 6460 die Bestätigung des Entscheids der Enteignungskommission und die Abweisung des Entschädigungsanspruchs der Beschwerdeführerin. D. Zur Beschwerde von X._ stellen das Verwaltungsgericht, die Enteignungskommission und die Politische Gemeinde Salenstein Antrag auf Abweisung der Beschwerde. In weiteren Eingaben halten die Verfahrensbeteiligten an ihren Begehren fest. In Bezug auf die Beschwerde der Politischen Gemeinde Salenstein beantragen das Verwaltungsgericht und X._, die Beschwerde sei abzuweisen. Die Enteignungskommission schliesst auf Gutheissung der Beschwerde der Gemeinde. In weiteren Eingaben halten die Verfahrensbeteiligten an ihren Auffassungen fest. Das Bundesamt für Raumentwicklung ARE hat sich zu den beiden Beschwerden nicht vernehmen lassen. E. Eine Delegation des Bundesgerichts hat am 21. Juni 2013 einen Augenschein durchgeführt. Die Verfahrensbeteiligten hatten Gelegenheit, sich zum Protokoll des Augenscheins zu äussern.