Sachverhalt:
A.
B._, A._ und C._ sind die Kinder und Erben der 1999 bzw. 2002 verstorbenen Eheleute R.D._ und S.D._.
Im Nachlass befanden sich ein Landwirtschaftsbetrieb und ein Schloss mit Zugang zum Bodensee, welche in ersten Etappen der Erbteilung an A._ gingen. Sodann umfasste der Nachlass weiteres Vermögen und die vorliegend umstrittene Parzelle Nr. vvv Grundbuch U._ (nachfolgend "Seeparzelle"). Diese umfasst Uferbereich des Bodensees. Auf ihr stehen vier Ferienhäuschen aus Holz (Assek. Nr. www, xxx, yyy und zzz; "Badehäuschen A-D") mit Nebengebäuden. Für die Nutzung der Parzelle inkl. Häuschen bestand eine Konzession bis vorerst 30. April 2017.
B.
B.a. Am 23. September 2004 reichte B._ Klage auf Feststellung und auf Teilung des Restnachlasses ein. Soweit nachfolgend relevant beantragte er zudem eine Zuteilung der Seeparzelle an sich unter Anrechnung an seinen Erbanspruch, wobei C._ ein Benutzungsrecht einzuräumen sei. A._ verlangte mit Klageantwort vom 20. Dezember 2004 ebenfalls die Zuweisung der Seeparzelle an sich. C._ anerkannte die Klage von B._ und beteiligte sich in der Folge nicht mehr aktiv am Verfahren.
B.b. Mit Teilurteil vom 29. Juni 2005 wies das Bezirksgericht die Seeparzelle B._ zu einem Anrechnungswert von Fr. 153'000.-- und unter Einräumung des Nutzungsrechts zugunsten von C._ zu.
B.c. Am 23./24./28. Mai 2006 schlossen die Parteien bezüglich der übrigen strittigen Punkte einen Vergleich, den das Bezirksgericht genehmigte.
B.d. Das bezirksgerichtliche Urteil vom 29. Juni 2005 wurde erfolgreich angefochten. Es folgte ein Beweisverfahren mit mehreren gutachterlichen Schätzungen der Seeparzelle. Bezirks- und Obergericht beschäftigten sich wiederholt mit der Sache (Kostenrekurs vom 11. September 2006, Entscheid des Bezirksgerichts vom 8. Juli/19. Oktober 2009; Entscheid des Obergerichts vom 7. Oktober/8. Dezember 2010, Entscheid des Bezirksgerichts vom 3. Juni/23. Oktober 2013). Streitig war zuletzt nicht mehr die Zuweisung der Seeparzelle an B._ unter Einräumung des Nutzungsrechts zugunsten von C._, wohl aber der Anrechnungswert.
C.
C.a. Mit Teilurteil vom 20. Mai 2014 hiess das Obergericht eine weitere Berufung von A._ teilweise gut. Die Berufung von B._ wies das Obergericht ab. Es wies die Seeparzelle B._ zu einem Anrechnungswert von Fr. 1'334'000.-- zu; dies unter Anrechnung an seinen Erbanspruch und unter Einräumung eines durch Dienstbarkeit gesicherten, lebenslänglichen und unentgeltlichen Nutzungsrechts zu Gunsten von C._ für das Badehäuschen A. Weiter regelte es den Fall, dass die Konzession für die Badehäuschen und die weitere Nutzung der Parzelle im Jahr 2017 nicht im bisherigen Umfang und für mindestens 10 Jahre verlängert würde.
C.b. Auf die von A._ und B._ je gegen diesen Entscheid erhobenen Beschwerden trat das Bundesgericht mit Urteil vom 27. Juli 2015 nicht ein (BGE 141 III 395).
C.c. Mit Entscheid vom 18. Mai 2016 befasste sich das Bezirksgericht Kreuzlingen erneut mit der Angelegenheit, entschied über die noch offenen Fragen und verwies im Übrigen auf das Teilurteil des Obergerichts vom 20. Mai 2014. Beide Parteien erhoben wiederum Berufung.
D.
D.a. Am 17. November 2016 wies das Obergericht des Kantons Thurgau beide Berufungen ab, soweit es darauf eintrat. Es bestätigte die Zuteilung der umstrittenen Parzelle zu einem Anrechnungswert (Verkehrswert) von Fr. 1'334'000.-- an B._. Die von letzterem den beiden Geschwistern zu leistende Ausgleichszahlung setzte es auf je einen Drittel des Werts, d.h. Fr. 444'666.65 fest. Es bestätigte die Eventualregelung für den Fall, dass die Konzession für die Badehäuschen nicht verlängert würde. Es genehmigte eine von B._ und C._ geschlossene Vereinbarung betreffend Nutzung des Badehäuschens A vom 16./18. November 2015. Weiter regelte es die Teilung des Restnachlasses (Verwendung des Geldes der Konti Seeparzelle und Grabunterhalt sowie deren Auflösung) und die Kostenfolgen.
D.b. Diesen Entscheid ziehen sowohl B._ als auch A._ ans Bundesgericht weiter. B._ (Beschwerdeführer) beantragt mit Beschwerde vom 26. Januar 2017, die Seeparzelle sei ihm zum Anrechnungswert von Fr. 153'000.-- zuzuweisen und die Ausgleichszahlung auf je Fr. 51'000.-- festzusetzen. Den Geschwistern sei ein Gewinnbeteiligungsrecht bei Veräusserung der Parzelle während 20 Jahren nach Rechtskraft des Urteils einzuräumen. Für den Fall, dass der Anrechnungswert den Betrag von Fr. 153'000.-- massgeblich übersteigt, stellt er einen Eventualantrag zur Regelung des Vorgehens, wenn die Konzession für die Badehäuschen nicht verlängert würde.
A._ (nachfolgend der besseren Verständlichkeit halber Beschwerdegegner) verlangt mit Beschwerde vom 30. Januar 2017, es sei eine neue Verkehrswertschätzung der Seeparzelle vorzunehmen unter Ausserachtlassung von drei nicht geeigneten Vergleichsobjekten sowie unter Berücksichtigung seiner Einwendungen und der Wertsteigerung seit dem 24. Mai 2012. Die Seeparzelle sei dem Beschwerdeführer zum so ermittelten Verkehrswert, mindestens aber zum Anrechnungswert von Fr. 1'334'000.-- zuzuweisen.
D.c. Die Vorinstanz beantragt mit Schreiben vom 12. September 2017 die Abweisung der Beschwerden. Beschwerdeführer und Beschwerdegegner beantragen mit Vernehmlassungen vom 14. September resp. 13. Oktober 2017 die Abweisung der jeweils anderen Anträge. C._ (Beschwerdegegnerin) verzichtete auf eine Stellungnahme.
D.d. Der Beschwerdeführer liess am 17. Oktober 2017 mitteilen, dass die Konzession für die Bauten und Anlagen auf der Seeparzelle durch Entscheid des Departements für Bau und Umwelt des Kantons Thurgau vom 15. September 2017 für weitere 10 Jahre, d.h. bis 2027, erteilt worden sei, und reichte den betreffenden Entscheid ein.
D.e. Der Beschwerdeführer replizierte im von ihm eingeleiteten Beschwerdeverfahren mit Eingabe vom 2. November 2017.
E.
Das Bundesgericht holte die Akten der Vorinstanzen ein. Am 13. Juni 2018 reichte das Obergericht noch fehlende Akten nach.
Erwägungen:
1.
Beide Beschwerdeführer fechten dasselbe Urteil an und befassen sich mit demselben Streitgegenstand, weshalb es sich rechtfertigt, die Beschwerden zu vereinigen und in einem Urteil zu behandeln (Art. 71 BGG i.V.m. Art. 24 BZP).
2.
2.1. Die Beschwerden richten sich gegen einen Endentscheid einer letzten kantonalen Instanz, die als oberes Gericht in einer vermögensrechtlichen Zivilsache, deren Streitwert den gesetzlichen Mindeststreitwert von Fr. 30'000.-- übersteigt (Art. 74 Abs. 1 lit. b BGG), entschieden hat (Art. 72 Abs. 1, Art. 75 und Art. 90 BGG). Die Parteien sind zur Beschwerde berechtigt (Art. 76 Abs. 1 BGG) und die Beschwerdefrist ist eingehalten (Art. 100 Abs. 1 BGG). Insofern ist die Beschwerde in Zivilsachen gegeben.
2.2. Die Konzession für die Nutzung der Seeparzelle inkl. Bauten und Anlagen auf der Parzelle ist, wie erwähnt (Sachverhalt lit. D.d), durch Entscheid des Departements für Bau und Umwelt des Kantons Thurgau vom 15. September 2017 für weitere 10 Jahre, d.h. bis ins Jahr 2027, erteilt worden.
Somit ist das Beschwerdeinteresse nachträglich dahin gefallen, soweit es um die Frage geht, was zu geschehen hätte, wenn die Konzession im Jahr 2017 nicht um weitere 10 Jahre verlängert worden wäre. Keine der Parteien thematisiert die Zeitspanne nach 2027.
3.
3.1. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder sie mit einer vom angefochtenen Entscheid abweichenden Begründung abweisen (vgl. BGE 141 III 426 E. 2.4 S. 429 mit Hinweisen). Mit Blick auf die allgemeinen Begründungsanforderungen an eine Beschwerde (Art. 42 Abs. 1 und 2 BGG) behandelt es aber grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (BGE 143 V 208 E. 2 S. 209 mit Hinweis); es ist nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (BGE 143 V 19 E. 2.3 S. 24 mit Hinweis). Unerlässlich ist im Hinblick auf Art. 42 Abs. 2 BGG, dass die Beschwerde auf die Begründung des angefochtenen Entscheids eingeht und im Einzelnen aufzeigt, worin eine Verletzung von Bundesrecht liegen soll. Die beschwerdeführende Partei soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die sie im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen. Erfüllt eine Beschwerde diese Anforderungen nicht, ist darauf nicht einzutreten (BGE 140 III 115 E. 2 S. 116 mit Hinweisen).
3.2. Sodann ist das Bundesgericht grundsätzlich an den festgestellten Sachverhalt gebunden (Art. 105 Abs. 1 BGG). Entsprechende Feststellungen können nur gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; BGE 140 III 115 E. 2 S. 117; 137 III 226 E. 4.2 S. 2.3.4; je mit Hinweisen). Es gilt insoweit ein strenges Rügeprinzip (Art. 106 Abs. 2 BGG), d.h. das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen, während es auf ungenügend substantiierte Rügen und rein appellatorische Kritik am Sachverhalt nicht eintritt (BGE 142 III 364 E. 2.4 S. 368 mit Hinweisen).
4.
4.1. Der Beschwerdeführer erhebt einen formellen Einwand, der vorab zu prüfen ist. Er macht geltend, der Beschwerdegegner habe im allerersten Berufungsverfahren (Berufung vom 9. Januar 2006, Berufungsbegründung vom 6. März 2006) ein unzulässiges Rechtsbegehren eingeführt. Vor erster Instanz habe dieser selber die Zuweisung der Seeparzelle zum Anrechnungswert von höchstens Fr. 153'000.-- verlangt. Mithin hätten die Parteien übereinstimmend einen Verkehrswert von maximal Fr. 153'000.-- angenommen. Weil die Seeparzelle dann nicht dem Beschwerdegegner, sondern dem Beschwerdeführer zugeteilt worden sei, habe der Beschwerdegegner vor Obergericht neben den Anträgen auf öffentliche Versteigerung oder Realteilung den (neuen) Subeventualantrag gestellt, die Parzelle sei dem Beschwerdeführer zuzuteilen, aber zu einem Anrechnungswert von 1.6 Mio. Franken, mindestens aber 1 Mio. Franken. Dabei handle es sich um ein eigenständiges neues Rechtsbegehren, das sich auf eine neue Bewertungsgrundlage mit rund zehnmal höherem Verkehrswert stütze. Das damals anwendbare kantonale Prozessrecht (§ 228 und § 230 ZPO TG) habe dies nicht zugelassen, zumal das neue Begehren durch kein Novum, namentlich keinen konjunkturellen Mehrwert begründet gewesen sei. Das Obergericht hätte aus prozessualen Gründen nicht auf den neuen Antrag eintreten dürfen. Die Einholung einer Verkehrswertschätzung und eine Zuweisung zu einem höheren Wert als Fr. 153'000.-- sei schon deshalb nicht zulässig. Er rügt willkürliche Anwendung des kantonalen Prozessrechts durch das Obergericht, Verletzung des Grundsatzes von Treu und Glauben sowie des rechtlichen Gehörs (Letzteres weil sich das Obergericht mit seinen später diesbezüglich gemachten Ausführungen, namentlich in der Berufung vom 21. November 2013, nicht auseinandergesetzt habe) und Verstoss gegen das Rechtsmissbrauchsverbot durch den Beschwerdegegner.
Der Beschwerdegegner hält dem entgegen, dass der Beschwerdeführer seine Kritik schon in der damaligen Berufungsantwort hätte vorbringen müssen, was er aber nicht getan habe. Der Beschwerdeführer habe sogar selbst eine Schätzung und Zuweisung zum Verkehrswert verlangt. Zudem habe es sich bei seinem Subeventualantrag um eine Einschränkung des Klagebegehrens gehandelt, die durch den Prozessverlauf veranlasst gewesen sei.
4.2. In der Berufungsantwort vom 30. März 2006 stellte der Beschwerdeführer (damals Berufungsbeklagter 1) in der Tat das Eventualbegehren, "Die Parzelle Nr. vvv Grundbuch U._ sei dem Berufungsbeklagten 1 zum durch einen amtlich bestellten Sachverständigen endgültig festgestellten Anrechnungswert zuzuweisen. Im Übrigen sei das vorinstanzliche Teilurteil zu bestätigen." Dazu verwies er in der Berufungsbegründung auf Art. 617 ZGB. Im Hauptbegehren verlangte er die Abweisung der Berufung und Bestätigung des erstinstanzlichen Urteils. Es findet sich aber in der damaligen Rechtsschrift weder ein Antrag auf Nichteintreten - was bei unzulässiger Änderung des Rechtsbegehrens zu beantragen gewesen wäre - noch sonstwie ein Hinweis darauf, dass der Beschwerdeführer den (neuen) Antrag des Beschwerdegegners für unzulässig erachtet hätte. Er hätte dies aber bereits damals rügen müssen, um sich heute darauf berufen zu können. Auf die Rügen ist nicht weiter einzugehen.
5.
5.1. Für das Verständnis der weiteren Erwägungen ist es unabdingbar, die Vorgeschichte des Erbstreits der Parteien genauer zu beleuchten (vgl. auch Sachverhalt).
Nach dem Tod des Vaters R.D._ im Jahr 1999 schlossen die Parteien mit der Mutter S.D._ am 20. Juni 2000 einen Erbteilungsvertrag. Dieser sah unter anderem vor, dass die landwirtschaftliche Liegenschaft mit Landwirtschaftsbetrieb durch A._ übernommen würde. Für Mutter und Schwester wurde ein Wohnrecht im Schloss verankert. Auf S. 27 des Erbteilungsvertrages wurde sodann explizit geregelt, welcher Teil der Nachlassmasse unverteilt und Vermögen der fortgesetzten Erbengemeinschaft bleiben solle:
- Parz. aaa Schloss mit Umschwung Fr. 1'263'000.--
- Parz. vvv Strandboden mit Weekendhaus Fr. 153'000.-- (davon Strandboden Fr. 115'000.--,
Weekendhaus Fr. 38'000.--)
- Parz. unkult. Gebiet Fr. 1'000.--"
5.2. Nach dem Tod von S.D._ gab der Willensvollstrecker E._ bei J._ ein Verkehrswertgutachten in Auftrag, welches am 23. September 2004 erstattet wurde. Dieses bezifferte den Verkehrswert der noch zu verteilenden Grundstücke wie folgt:
Schloss Fr. 1'790'000.--
Seeanstoss Fr. 5'000.--
Seeparzelle Fr. 90'000.--
5.3. Am 12. November 2002 schlossen die drei Erben sodann einen "Vertrag betreffend partielle Erbteilung". Dieser sah die Versteigerung des Schlosses K._ Parzelle aaa unter den Erben vor. Gemäss Vertrag sollte der Erwerber zudem die Parzelle bbb (Seeanstoss) zu einem Anrechnungswert von Fr. 5'000.-- übernehmen. Gemäss Steigerungsbedingungen ebenfalls vom 12. November 2002 sollte der Zuschlag an den Höchstbietenden Erben gehen, sofern dessen Angebot nicht mehr als 10 % unter dem Schätzungswert des Verkehrswertgutachtens von J._ von Fr. 1'790'000.-- läge.
In der Folge ersteigerte der Beschwerdegegner die Liegenschaft Schloss K._ für Fr. 2'470'000.-- samt Seeanstoss für Fr. 5'000.--.
5.4. Als einzige (nicht verteilte) Liegenschaft aus der Nachlassmasse der Ehegatten D._ verblieb die vorliegend strittige Seeparzelle mit den Häuschen. Wie erwähnt leitete der Beschwerdeführer am 23. September 2004 Klage auf Feststellung und Teilung des Restnachlasses ein. Zum Verlauf des Verfahrens sei auf den Sachverhalt verwiesen. Das vor Vorinstanz massgebliche letzte Gutachten von H._ vom 24. Mai 2012 bezifferte den Verkehrswert auf Fr. 1'361'000.-- (Badeplatz Fr. 60'000.--; vier Badehäuschen einschliesslich Land Fr. 1'301'000.--).
6.
6.1. In der Hauptsache vertritt der Beschwerdeführer die Ansicht, gemäss übereinstimmendem Parteiwillen habe die Verkehrswertschätzung von J._ vom 10. August 2002 zu gelten, in welcher der Anrechnungswert der Seeparzelle auf Fr. 153'000.-- festgelegt worden sei. Die Schätzung sei vom Willensvollstrecker zwecks Durchführung der Teilung des gesamten im Nachlass D._ vorhandenen Grundbesitzes in Auftrag gegeben worden. Bereits für die Bewertung der Landwirtschaft in der ersten Etappe der Teilung des Gesamtnachlasses mit Zuweisung der Landwirtschaft an den Beschwerdegegner sei J._ (für ein erstes Gutachten) beigezogen worden. Weiter hätten im Erbteilungsvertrag vom 20. Juni 2000 alle Erben den auf S. 27 festgehaltenen Wert der Seeparzelle von Fr. 153'000.-- und für die Schlossparzelle den Wert von Fr. 1'263'000.-- anerkannt. Für die zweite Verkehrswertschätzung J._ vom 10. August 2002 sei wegleitend gewesen, dass der zu teilende Gesamtnachlass im Eigentum der Familie bleiben und Zuweisungen zur persönlichen Nutzung erfolgen sollten. J._ habe dort sowohl den Wert der Schlossliegenschaft mit dem Seeanstoss als auch der Seeparzelle ermittelt.
6.2. Der Beschwerdegegner hält dem in seiner Vernehmlassung entgegen, die Schätzung J._ sei bis heute bei der Teilung des Nachlasses der Familie D._ noch nie als Grundlage für eine partielle Teilung verwendet worden. Er habe namentlich das Schloss und die zugehörigen Parzellen nicht etwa zum Anrechnungswert gemäss J._ erhalten, sondern er habe diese zu einem viel höheren Preis ersteigert, was im Übrigen auch dem Beschwerdeführer offengestanden hätte. Die Parteien hätten bewusst mehrere partielle Erbteilungen vorgenommen, damit die unstreitigen Punkte hätten erledigt werden können. Im Erbteilungsvertrag mit der Mutter sei die Seeparzelle ausgeklammert bzw. die Teilung diesbezüglich aufgeschoben worden. Bei jeder partiellen Erbteilung sei der Modus neu festgelegt worden. Er verweist auf eine Vereinbarung vom 8. Juli 2002, wonach die Parteien vereinbart hätten, sowohl die Schlossparzelle als auch die Seeparzelle intern zu versteigern. Zudem habe der Beschwerdeführer in seiner Berufung vom 16. Dezember 2009 selber den Beweisantrag gestellt, dass eine Verkehrswertschätzung für die Seeparzelle anzuordnen sei. Also könne sich dieser nun nicht auf den Standpunkt stellen, dass keine Schätzung der Parzelle vorzunehmen resp. dass ihm die Parzelle ungeachtet des tatsächlichen Verkehrswerts zum Anrechnungswert von Fr. 153'000.-- zuzuweisen sei.
Der Beschwerdeführer hält in der Replik an seinen Anträgen und Ausführungen fest. Zum Dokument vom 8. Juli 2002 ergänzt er, dies sei lediglich eine nicht verbindliche "Absichtserklärung gegenüber dem Willensvollstrecker" gewesen.
6.3. In tatsächlicher Hinsicht hielt die Vorinstanz fest, die Schätzung J._ (2002) sei zwar im Auftrag der Erbengemeinschaft D._ erstellt worden. Dies sei aber nicht im Sinne einer im Voraus getroffenen Abmachung geschehen, dass die geschätzten Werte für die Erben verbindlich seien, sondern nur als Grundlage für die vereinbarte interne Versteigerung des Schlosses. Eine Vereinbarung unter den Erben, dass die Schätzung auch für die Bestimmung des Anrechnungswerts der Seeparzelle massgeblich wäre, ergebe sich nicht aus den Akten. Im Vertrag betreffend partielle Erbteilung vom 12. November 2005 (recte 2002; betr. Versteigerung Schloss K._, vgl. vorstehende E. 5.3) werde auch nicht vereinbart, dass diese Schätzung für weitere, spätere Teilungsschritte Bemessungsgrundlage für die Anrechnungswerte bilden sollte. Allein daraus, dass in den Steigerungsbedingungen für die Versteigerung des Schlosses K._ für das Mindestangebot auf das Gutachten J._ Bezug genommen werde, lasse sich eine solche Vereinbarung nicht ableiten.
6.4. Es ist vorauszuschicken, dass privaten Gutachten, wie vorliegend namentlich der Schätzung J._ vom 10. August 2002, kein Vertragscharakter zukommt. Privat eingeholte Bewertungsgutachten haben für die Erben nur dann verbindliche Wirkungen, wenn die sachverständige Person als Schiedsgutachter bestellt wurde, sich die Erben also vorgängig schriftlich verpflichtet haben, den Entscheid des Gutachters als verbindlich anzuerkennen (Thomas Weibel, in: Daniel Abt/Thomas Weibel, Praxiskommentar Erbrecht, 3. Aufl. 2015, N. 13 zu Art. 618 ZGB). Der Beschwerdeführer nennt kein solches Dokument, in welchem die Parteien vorab und schriftlich ihre Anerkennung der Schätzung verankert hätten. Soweit er dennoch einen übereinstimmenden Parteiwillen (Wille, dass die Schätzung J._ für alle nachfolgenden Teilungsschritte den Anrechnungswert bestimmen sollte) geltend macht, scheitert dies an der Tatsache, dass bereits die erste Teilungsetappe nach Erstellung des Gutachtens (Zuteilung des Schlosses et al.) mittels Versteigerung unter den Brüdern stattfand und die Liegenschaft K._ gerade nicht zum in der Schätzung angegebenen Wert den Eigentümer wechselte.
6.4.1. Soweit der Beschwerdeführer aus dem Erbteilungsvertrag vom 20. Juni 2000 folgert, der Anrechnungswert für die Seeparzelle sei darin (erb-) vertraglich auf Fr. 153'000.-- festgelegt worden, fehlt es an ausdrücklichen vorinstanzlichen Feststellungen zum mutmasslichen Parteiwillen der Vertragsparteien. Angesichts des gefällten Urteils muss die Vorinstanz aber von der Prämisse ausgegangen sein, dass es gerade keinen gemeinsamen Parteiwillen gab, dass die Seeparzelle in jedem Fall zu einem Wert von Fr. 153'000.-- an einen Erben hätte übergehen sollen. Der Beschwerdeführer müsste hier aufzeigen, dass es dem Willen der Parteien entsprochen hätte, im Erbteilungsvertrag nach dem Tod des Vaters bereits den Anrechnungswert für eine später nach dem allfälligen Tod der Mutter vorzunehmende Erbteilung festzulegen. Er vermag jedoch keine Stelle zu nennen, an welcher die Parteien dies geregelt hätten. Zu erwähnen ist, dass die Mutter zu diesem Zeitpunkt noch lebte und ebenfalls Vertragspartei war. Es findet sich vielmehr an mehreren Stellen der Hinweis, dass Vermögensveränderungen zwischen Todesdatum und Zeitpunkt der Erbteilung zu berücksichtigen bzw. die Werte per Datum der Erbteilung einzusetzen seien. Weiter wird im Vertrag ausdrücklich festgehalten, dass sowohl Schloss- als auch Seeparzelle "zur Zeit unverteilt" bleiben und "Vermögen der fortgesetzten Erbengemeinschaft" bilden würden, wobei dem Schloss ein Wert von Fr. 1'263'000.-- und der Seeparzelle derjenige von Fr. 153'000.-- beigemessen wurde (S. 27; je gemäss erster Schätzung J._).
6.4.2. In der Folge kam es zur zweiten Schätzung J._, welche für das Schloss Fr. 1'790'000.-- und für die Seeparzelle Fr. 90'000.-- ergab. Insofern ergibt sich bereits ein Widerspruch, da sich der Beschwerdeführer dennoch auf die erste Schätzung bezieht. Selbst wenn aber davon ausgegangen würde, dass die Parteien ursprünglich von den im Erbvertrag genannten Werten hätten ausgehen wollen, so haben die Parteien diesen Willen spätestens mit der Versteigerung des Schlosses aus den Angeln gehoben. Mit Vertrag betreffend partielle Erbteilung vom 12. November 2002 und Steigerungsbedingungen vom selben Datum regelten die Erben die interne Versteigerung des Schlosses. Das Schloss ging in der Folge nicht zum im Gutachten J._ festgelegten Wert (Fr. 1'263'000.-- gemäss erster Schätzung J._; Fr. 1'790'000.-- gemäss zweiter Schätzung J._) auf den Erben über, sondern zum in der Versteigerung vom Beschwerdegegner gebotenen Höchstwert (Fr. 2'470'000.--). Was die Erklärung betreffend anvisierte Versteigerung von Schloss und Seeparzelle vom 8. Juli 2002 angeht, kann die Frage nach deren Rechtsnatur und (ursprünglicher) Verbindlichkeit offengelassen werden, da keiner der Brüder auf deren Umsetzung in Bezug auf die Seeparzelle beharrte.
Zusammengefasst vermag der Beschwerdeführer nicht darzulegen, dass die Parteien für die Seeparzelle einen Anrechnungswert von Fr. 153'000.-- vereinbart hätten.
7.
7.1. Als letztes Argument, weshalb die Parzelle zum Anrechnungswert von Fr. 153'000.-- an ihn gehen müsse, macht der Beschwerdeführer eine Verletzung des Grundsatzes der Gleichbehandlung der Erben (Art. 610 ZGB) und von Art. 8 BV geltend. Der Grundsatz der Gleichbehandlung verlange, dass die Erben mit Bezug auf den gesamten Nachlass gleich behandelt würden. Diese hätten gleichen Anspruch auf Grundbesitz und, wenn eine entsprechende Teilung nicht möglich sei, auf entsprechenden wertmässigen Ausgleich. Referenzgrösse sei der Gesamtnachlass, ob in einem einzigen Schritt oder partiell geteilt werde. Der Beschwerdegegner habe fast den ganzen väterlichen Grundbesitz im Umfang von 42 ha mit Schlossliegenschaft und einem weiteren stattlichen Wohngebäude für insgesamt Fr. 3'420'000.-- erhalten, wogegen er sich die verbleibende Seeparzelle von rund 1,4 ha, wovon 8'000.-- m2 Seeboden, für Fr. 1'334'000.-- anrechnen lassen solle. Für diese letzte Etappe sei eine grundlegend andere Bemessungsgrundlage gewählt worden. Nämlich nicht mehr die vorsichtige Verkehrswertschätzung für die Zuweisung unter Familienmitgliedern zur eigenen Nutzung (er verweist auf das Gutachten J._), sondern ein utopischer Fantasiepreis für einen Verkauf an Dritte. Damit würden die Proportionen gesprengt. Er hätte dem partiellen Erbvertrag vom 12. November 2002 nie zugestimmt, wenn er nur schon mit der Möglichkeit einer grundlegend anderen Bewertung der Seeparzelle hätte rechnen müssen. Der Gleichbehandlungsgrundsatz verlange, dass er die Seeparzelle ebenso günstig erhalte, wie der Beschwerdegegner den grössten Teil des elterlichen Grundbesitzes.
7.2. Dem entgegnet der Beschwerdegegner, der Gleichbehandlungsgrundsatz sei lediglich qualitativer Natur. Indem der Beschwerdeführer ebenfalls in den Genuss einer Liegenschaft komme, seien sie sich in qualitativer Hinsicht gleichgestellt. Im Übrigen habe der Beschwerdeführer auch die Gelegenheit gehabt, die Schlossparzelle zu ersteigern. Sie hätten bei jeder der drei durchgeführten partiellen Erbteilungen die gleichen Rechte und Möglichkeiten gehabt, weswegen der Beschwerdeführer ihm keinen Vorwurf machen könne, wenn er mit dem Ergebnis nicht zufrieden sei. Er nimmt auf die Erklärung vom 8. Juli 2002 Bezug, wonach die Parteien sowohl die Schlossliegenschaft als auch die Seeparzelle hätten untereinander versteigern wollen. Die Parteien hätten bewusst mehrere partielle Erbteilungen vorgenommen, ergänzt er, damit die unstreitigen Punkte hätten erledigt werden können; bei jeder partiellen Erbteilung sei der Modus neu festgelegt worden.
7.3. Wie bereits erwähnt, bezeichnet der Beschwerdeführer das Dokument vom 8. Juli 2002 als blosse Absichtserklärung (E. 6.2 in fine); eine verbindliche Vereinbarung sei am 12. November 2002 nur betreffend die freiwillige Versteigerung der Liegenschaft K._ und den dazugehörigen Parzellen geschlossen worden. Er habe damals noch davon ausgehen können, dass er Schloss K._ übernehmen werde, wie dies durch die Eltern gedacht gewesen sei. Durch die spätere Entwicklung sei die Absichtserklärung obsolet geworden. Der Beschwerdegegner selbst habe mit Schreiben vom 4. Juni 2003 an Dr. L._ eine Versteigerung der Seeparzelle abgelehnt, habe die Erklärung also für nicht verbindlich gehalten. Er wirft sodann in die Waagschale, dass keiner der Erben die Liegenschaft K._ hätte ersteigern können, wenn diese nach dem Verkehrswert für einen Verkauf an Dritte hätte erworben werden müssen. Entsprechend dürfe auch von ihm nicht erwartet werden, dass er die Seeparzelle zu einem solch hohen Preis übernehmen müsse.
7.4. Es ist nicht von der Hand zu weisen, dass vorliegend der Beschwerdeführer weder wertmässig noch in Bezug auf den Charakter der zugewiesenen Grundstücke Ebenbürtiges erhalten hat.
Eine Verletzung des Grundsatzes der Gleichbehandlung der Erben ist trotzdem nicht gegeben. Wie vorstehend ausgeführt wurde, vermochte der Beschwerdeführer nicht nachzuweisen, dass gemäss dem Wille der Parteien die weitere Erbteilung auf der Berechnungsbasis des Erbteilungsvertrages oder des Gutachtens J._ durchzuführen gewesen wäre. Die Parteien haben vielmehr zwischenzeitlich ein anderes Vorgehen vereinbart und das Schloss versteigert. Die Parteien haben mithin den Modus verändert, wozu auch der Beschwerdeführer Hand resp. seine Unterschrift bot. Damit kann er nicht verlangen, dass für die Zuweisung der Seeparzelle das Rad der Zeit in den Stand des Erbvertrages aus dem Jahr 2000 zurückgedreht wird.
Fest steht schliesslich, dass der Beschwerdeführer im Jahr 2006 selbst einen Antrag auf Schätzung im Sinne von Art. 617 ZGB stellte (siehe vorstehend E. 4.2). Die Bestimmung sieht vor, dass Grundstücke den Erben zum Verkehrswert anzurechnen sind, der ihnen im Zeitpunkt der Teilung zukommt. Vor diesem Hintergrund kann er nun dem Obergericht nicht vorhalten, dass es Bundesrecht verletzt habe, weil es seinem Antrag nachkam.
Als Zwischenfazit kann festgehalten werden, dass die Vorinstanz kein Bundesrecht verletzte, indem sie eine (neue) Verkehrswertschätzung zur Bestimmung des Anrechnungswerts anordnete.
8.
8.1. Im Zusammenhang mit der Verkehrswertschätzung rügen Beschwerdeführer und Beschwerdegegner, die Vorinstanz habe durch die Anwendung von Art. 618 ZGB in dessen vor 2011 geltenden Fassung Bundesrecht verletzt.
Die Vorinstanz befand, es sei altes Recht anzuwenden, zumal der Erblasser unter Geltung des alten Rechts verstorben sei. Beschwerdeführer und Beschwerdegegner sind beide der Ansicht, es müsse neues Recht angewendet werden. Die Frage sei insofern entscheidend, als die Schätzung unter altem Recht - vorbehältlich grober Mängel - endgültig gewesen sei, während die Verkehrswertschätzung nach geltendem Recht der freien richterlichen Beweiswürdigung unterliege. Die Vorinstanz habe durch ihr Vorgehen Art. 618 ZGB und Art. 157 ZPO verletzt.
8.2. Gemäss Art. 617 Abs. 2 ZGB sind nicht landwirtschaftliche Grundstücke im Rahmen der Erbteilung nach dem Verkehrswert zu schätzen. Art. 618 ZGB regelt, wie dessen Randtitel erhellt, das Schatzungsverfahren. Während Art. 617 ZGB in der Revision unverändert blieb, änderte der Gesetzgeber Art. 618 ZGB per 1. Januar 2011 (siehe sogleich in E. 8.2.2).
Art. 618 Abs. 1 ZGB in der bis 31. Dezember 2010 geltenden Fassung (nachfolgend Art. 618 aZGB) lautete: "Können sich die Erben über den Anrechnungswert nicht verständigen, so wird er durch amtlich bestellte Sachverständige endgültig festgestellt." Art. 618 Abs. 1 ZGB in der am 1. Januar 2011 in Kraft getretenen Fassung lautet: "Können sich die Erben über den Anrechnungswert nicht verständigen, so wird er durch amtlich bestellte Sachverständige geschätzt."
8.2.1. Art. 618 aZGB sah vor, dass der Anrechnungswert, sofern sich die Erben darüber nicht verständigen können, durch amtlich bestellte Sachverständige endgültig festgelegt wird. Dass die Schätzung endgültig sein soll, bedeutet, dass sie nicht der freien richterlichen Beweiswürdigung im Erbteilungsprozess unterliegt. Hingegen ist damit nicht gesagt, dass die Schätzung unter allen Umständen endgültig sei. Leidet sie an Mängeln, welche nach den Prozessvorschriften des Bundes oder der Kantone als Nichtigkeitsgründe gelten, so kann die Expertise vom Richter aufgehoben und die Sache zu neuer Schätzung zurückgewiesen werden. Dasselbe gilt, wenn das Ergebnis der Schätzung auf unrichtigen rechtlichen Grundlagen beruht oder es offensichtlich ist, dass dieses unmöglich richtig sein kann. Derartige Mängel müssen beseitigt werden können (Urteil 5P.96/1990 vom 15. Juni 1990 E. 2, mit Hinweis auf BGE 58 II 406 S. 410 und 87 II 74 E. 3a S. 79; nicht veröffentlichte Urteile des Bundesgerichts vom 24. Februar 1966 i.S. C. gegen C. und vom 27. Juni 1985 i.S. T. und M. gegen B. und die übereinstimmende Lehre).
8.2.2. Die Änderung des Wortlauts der Bestimmung und damit die Streichung des Begriffs "endgültig" wurde mit der Einführung der eidgenössischen Zivilprozessordnung vorgenommen (vgl. Anhang 1 Ziff. II 3 der Zivilprozessordnung vom 19. Dezember 2008, in: AS 2010 1739 S. 1839). Die Änderung erfolgte, um das geltende Recht der ZPO anzupassen (vgl. Titel vor und zu Art. 402 ZPO: Anpassung von Gesetzen; Aufhebung und Änderung bisherigen Rechts). In der Lehre wird vor diesem Hintergrund zu Recht vertreten, dass unter neuem Recht die allgemeinen Bestimmungen der ZPO auch für Gutachten gemäss Art. 618 ZGB gelten sollten. Zu den anwendbaren Bestimmungen gehörten insbesondere Art. 157 und Art. 187 ZPO (Stéphane Spahr, in: Commentaire romand, Code civil II, 2016, N. 11 und Fn. 24 zu Art. 618 ZGB; Thomas Weibel, a.a.O., N. 8 f. zu Art. 618 ZGB). Art. 157 ZPO sieht vor, dass sich das Gericht seine Überzeugung nach freier Würdigung der Beweise bildet. Die Botschaft bezeichnet diesen Grundsatz der freien Beweiswürdigung als "ein Kernprinzip des modernen Prozessrechts" (vgl. Botschaft zur Schweizerischen Zivilprozessordnung vom 28. Juni 2006, in: BBl 2006 7221 ff., S. 7414 zu Art. 154 des ZPO-Entwurfs). Folgerichtig hat der Richter die Verkehrswertschätzung neu in Anwendung von Art. 157 ZPO frei zu würdigen (Thomas Weibel, a.a.O., N. 9 zu Art. 618 ZGB; a.A. Schaufelberger/Keller Lüscher, in: Basler Kommentar zum ZGB, 5. Aufl. 2015, N. 2 und 4 zu Art. 618 ZGB, die davon ausgehen, dass der Wert auch unter neuem Recht endgültig von der amtlich bestellten sachverständigen Person festgestellt wird). Wo ein Gutachten - nach neuem Recht - der freien Beweiswürdigung unterliegt, darf ein Gericht nur aus triftigen Gründen davon abweichen (BGE 138 III 193 E. 4.3.1 S. 198; siehe auch Thomas Weibel, a.a.O., N. 9 zu Art. 618 ZGB); es hat zu prüfen, ob sich auf Grund der übrigen Beweismittel und der Vorbringen der Parteien entsthafte Einwände gegen die Schlüssigkeit der gutachterlichen Darlegungen aufdrängen (BGE 138 III 193 E. 4.3.1 S. 198 f.).
8.2.3. Unter der freien Beweiswürdigung nach neuem Recht kommt also ein anderer Prüfungsmassstab zur Anwendung als unter dem alten Recht, wo der Richter vom Ergebnis des Gutachtens nur dann abweichen durfte, wenn die Schätzung an prozessualen Mängeln oder an anderen schwerwiegenden Fehlern litt (siehe vorstehende E. 8.2.1 und Urteil 5P.96/1990 vom 15. Juni 1990 E. 2).
8.3. Da die Änderung von Art. 618 ZPO prozessrechtlich motiviert war, müssen auch die entsprechenden übergangsrechtlichen Regelungen zur Anwendung kommen.
Gemäss Art. 404 Abs. 1 ZPO gilt für Verfahren, die bei Inkrafttreten dieses Gesetzes rechtshängig sind, das bisherige Verfahrensrecht bis zum Abschluss vor der betroffenen Instanz. Das Verfahren vor einer Instanz wird durch einen rechtskräftigen Endentscheid abgeschlossen. Wird ein Entscheid in einem Verfahren durch eine Rechtsmittelinstanz aufgehoben und zum Neuentscheid an die Vorinstanz zurückgewiesen, wird damit das Verfahren vor dieser Instanz nicht abgeschlossen, sondern in den Stand zurückversetzt, in welchem es sich vor der Ausfällung des angefochtenen Entscheids befunden hat. Demnach muss gemäss dem Grundsatz der Einheit der Instanz bei der Wiederaufnahme des Verfahrens nach einem Rückweisungsentscheid das bisherige Verfahrensrecht weiterhin Anwendung finden (vgl. Urteile 4A_471/2011 vom 17. Januar 2012 E. 3.3 und 4A_641/2011 vom 27. Januar 2012 E. 2.2; je mit diversen Hinweisen auf Lehre und Rechtsprechung; bestätigt in den Urteilen 5A_471/2012 vom 2. Juli 2012 E. 2; 4A_8/2012 vom 12. April 2012 E. 1; 4D_71/2011 vom 28. März 2011 E. 3.1).
Der Verweis auf bisheriges "Verfahrensrecht" umfasst alle anderen Gesetzesbestimmungen im Anhang der ZPO, die mit Inkrafttreten der ZPO aufgehoben wurden (Urteile 5A_754/2011 vom 2. Juli 2012 E. 2, nicht veröffentlicht in: BGE 138 III 520; 5A_203/2011 vom 5. September 2011 E. 4 mit Hinweis, nicht veröffentlicht in: BGE 137 III 421), wozu auch Art. 618 ZGB gehört.
8.4. Vorliegend prozessieren die Parteien seit dem Jahr 2004. Die Streitigkeit war mithin schon lange vor Inkrafttreten der ZPO rechtshängig. Sowohl Bezirks- als auch Obergericht fällten in der Sache (Teil-) Entscheide, die vor Inkrafttreten der ZPO datieren. Es kam zu mehreren Rückweisungen vom Obergericht an die erste Instanz (vgl. Sachverhalt lit. B.d). Den ersten (Teil-) Entscheid nach Inkrafttreten der ZPO fällte das Bezirksgericht am 3. Juni 2013. Die Frage der Anwendung neuen Rechts stellte sich für das Obergericht erstmals in seinem Berufungsentscheid vom 20. Mai 2014, wobei es sich noch nicht um einen Endentscheid handelte. Auch mit dem Rückweisungsentscheid des Bundesgerichts vom 27. Juli 2015 wurde das Verfahren nicht abgeschlossen, sondern weitergeführt, zumal gar nicht auf die Beschwerden eingetreten wurde.
Wie in vorstehender Erwägung aufgezeigt, gilt nach Art. 404 Abs. 1 ZPO für Verfahren, die bei Inkrafttreten der ZPO rechtshängig sind, das bisherige Verfahrensrecht bis zum Abschluss vor der betroffenen Instanz. Das heisst, dass vorliegend vor der ersten Instanz das kantonale Verfahrensrecht galt. Das zulässige Rechtsmittel richtet sich dann zwar nach der ZPO, sofern das Rechtsmittel nach Inkrafttreten derselben ergriffen wurde. Die materielle Beurteilung des neurechtlichen Rechtsmittels richtet sich allerdings wiederum nach altem Recht (BGE 138 I 1 E. 2.1 S. 2 f.). Damit galt im vorliegenden Fall im Rechtsmittelverfahren weiterhin Art. 618 aZGB mit dem auf prozessuale Mängel und andere schwerwiegende Fehler beschränkten Prüfungsmassstab (E. 8.2.1 und 8.2.3).
9.
9.1. Der mit der Expertise beauftragte H._ von der I._ AG erstattete seinen Bewertungsbericht am 7. Oktober 2011. Die Vorinstanz hielt im Urteil vom 17. November 2016 fest, dass der Experte selbst im April 2012 eine Aktualisierung anregte. Dies "aufgrund der Zusatzfragen der Parteien, der zusätzlich eingereichten Unterlagen, weiterer Abklärungen und der Preisentwicklung seit der Erstattung des Gutachtens". Die überarbeitete und vorliegend massgebende Fassung der Verkehrswertschätzung datiert vom 24. Mai 2012.
Die Seeparzelle ist gemäss Expertise eine 280 m lange, trapezförmige Parzelle entlang dem Bodenseeufer, davon 57 % Wasser und 32 % Waldgürtel. Die nutzbare Gartenanlage umfasse gemäss Grundbuch 10 % der Fläche, die Gebäude 1 %. Die Zufahrt mit PW sei nur beschränkt über das Schloss K._ und einen öffentlichen Seeweg mit Fahrverbot möglich. Es gebe einen Badeplatz und vier Gebäude aus den Jahren 1950 und 1957 sowie WC-Häuschen mit Gruben, wobei nur eines der WC-Häuschen versichert sei. Es handle sich um folgende vier Gebäude: Ferienhaus Assek Nr. www, Ferienhaus Nr. xxx, Badehaus Nr. yyy, Ferienhaus Nr. zzz. Die Gebäudeversicherung von Haus Nr. www laute auf M._ Erben (N._), diejenige von Haus Nr. xxx auf O._ (neu P._) und die Häuschen Nr. yyy und Nr. zzz seien trotz anders lautender Auskunft der Gebäudeversicherung im Eigentum der R.D._ Erben (nicht wie bei Nr. yyy angegeben A._ alleine). Der Experte fügt an, die Eigentumsfrage sei gerichtlich zu klären und werde im Verkehrswertgutachten ausser Acht gelassen resp. der Wert des Grundstückes einmal mit und einmal ohne die Badehäuser in Fremdbesitz ermittelt.
Der Experte ging nach der Vergleichswertmethode vor, wobei sechs Vergleichsobjekte herangezogen wurden. Die Berechnung ergab Fr. 229'000.-- für Ferienhaus Nr. www, Fr. 423'000.-- für Ferienhaus Nr. xxx, Fr. 273'000.-- für Badehaus Nr. yyy und Fr. 376'000.-- für Ferienhaus Nr. zzz sowie Fr. 60'000.-- für den Badeplatz. Alles in allem resultierte ein Marktwert von rund Fr. 1'360'000.--. Zur Plausibilisierung zog der Experte zwei weitere Methoden hinzu. Die hedonische Methode ergab eine Preisspanne von Fr. 1'020'000.-- bis Fr. 1'220'000.-- für die vier Häuschen und Fr. 60'000.-- für den Badeplatz, d.h. alles zusammen Fr. 1'080'000.-- bis Fr. 1'280'000.--, mithin einen Marktwert von rund Fr. 1'170'000.--. Die Praktikermethode ergab einen Wert von Fr. 1'410'000.--. Der Experte setzte so den Verkehrswert auf Fr. 1'350'000.-- fest. Er betonte, dass es sich hierbei um den unbelasteten Verkehrswert handle, also weder die Frage feste Bauten/Fahrnisbauten noch möglicherweise fremdes Eigentum berücksichtigt wurden.
Es folgt in der Schätzung die Berechnung des belasteten Verkehrswerts, bei der von Dritteigentum an den Badehäuschen Nr. www und xxx ausgegangen wird. Beim Objekt Nr. xxx erhebe P._ Anspruch auf das Eigentum. Die Eigentümerschaft von Objekt Nr. www sei gemäss Brief von N._ an P._ nicht im Klaren über ihren allfälligen Anspruch. Bei den beiden Teilobjekten werde nur der Landwert für unbebaubares Land mit der möglichen Nutzung als Badeplatz berücksichtigt, was einen Minderwert von rund Fr. 530'000.-- ergebe. Zudem sei der Wert des unentgeltlichen Nutzungsrechts von C._ an Badehaus Nr. zzz anhand deren Lebenserwartung zu berechnen und abzuziehen. Der Minderwert infolge ihres Nutzungsrechts sei auf Fr. 240'000.-- zu beziffern. Den (belasteten) Verkehrswert der Seeparzelle setzte der Experte so auf Fr. 580'000.-- fest.
Schliesslich zog der Experte noch die latenten Grundstückgewinnsteuern ab, was einen Verkehrswert von Fr. 1'334'000.-- unbelastet resp. Fr. 573'000.-- belastet ergab.
9.2. Die Vorinstanz stützt sich im Entscheid vom 20. Mai 2014 auf den unbelasteten Verkehrswert von Fr. 1'350'000.-- ab. In Bezug auf die beiden vom Experten erwähnten (möglichen) Dritteigentümer scheint die Vorinstanz davon auszugehen, dass der Wert der betroffenen Badehäuser infolge des Akzessionsprinzips in jedem Fall zum Wert hinzuzuzählen ist, begründet dies aber nicht weiter. Betreffend den vom Experten vorgeschlagenen Abzug für das Nutzungsrecht von C._ verweist die Vorinstanz auf übereinstimmende Anträge von Beschwerdeführer und Beschwerdegegner, den Wert des Nutzungsrechts nicht abzuziehen. Der Beschwerdeführer habe ausgeführt, der Wert des Nutzungsrechts sei nicht vom Wert der Liegenschaft abzuziehen, sondern von der C._ zustehenden Ausgleichszahlung. Später hat er dann auch hierauf verzichtet. Vor Bundesgericht wird kein Abzug mehr geltend gemacht für das Nutzungsrecht der Schwester. Umstritten ist nur noch die Qualifizierung als Fahrnis- oder feste Bauten sowie das behauptete Dritteigentum an zwei Häuschen.
9.2.1. Der Beschwerdeführer hält den von den Vorinstanzen übernommenen Schätzungswert schon deshalb für falsch, weil zu Unrecht davon ausgegangen worden sei, alle vier Badehäuser stünden im Eigentum der Erbengemeinschaft und seien ausserdem feste Bauten. Es handle sich um Fahrnisbauten und zwei seien in Dritteigentum. Hierbei handelt es sich korrekterweise nicht um einen Mangel der Schätzung im engeren Sinn, ermittelte der Experte doch zumindest im Hinblick auf die Eigentumsfrage einen belasteten und einen unbelasteten Wert. Jedenfalls ist der Beschwerdeführer der Ansicht, die Häuschen könnten weder aufgrund ihrer Bauweise, noch des Ausbaustandards, noch aufgrund der ursprünglichen Absicht der Bauherren etc. als feste Bauten qualifiziert werden. Würde ihm mittels Urteil das Eigentum an allen Häuschen zugesprochen, müsse er mit Ersatzansprüchen der Eigentümer der zwei betroffenen Häuschen rechnen. Es wird dabei nicht ganz klar, was das Ziel des Beschwerdeführers ist, ob er das Land und die vier Häuschen einfach zu einem tieferen Wert zugesprochen erhalten möchte oder nur das Land und zwei Häuschen. In letzterem Fall fehlen allerdings Ausführungen dazu, was in Bezug auf die letzten zwei Häuschen geschehen müsste. Da seine Einwendungen in jedem Fall unbegründet sind, braucht hierauf nicht weiter eingegangen zu werden.
9.2.2. Der Beschwerdegegner bestreitet die Ausführungen seines Bruders durchwegs und verweist insbesondere auf Grundbuch und Güterzettel. Auch die Badehäuser seien im Grundbuch eingetragen, wobei Fahrnisbauten gemäss Art. 677 Abs. 2 ZGB nicht hätten eingetragen werden dürfen. Die Erbengemeinschaft sei gemäss Auszug Eigentümerin von allen Häuschen. Alle Häuschen seien überdies gebäudeversichert, wobei Fahrnisbauten von der Thurgauer Gebäudeversicherung nicht versichert würden.
9.2.3. Angesichts der Feststellungen der Vorinstanz im Entscheid vom 20. Mai 2014 braucht auf die einzelnen Fragen nicht eingegangen zu werden. Die Vorinstanz hielt nämlich fest, der Beschwerdeführer habe die Badehäuser in der Klageschrift zwar als Fahrnisbauten bezeichnet. Gleichzeitig habe er aber zum Strandhäuschen Nr. yyy auf die Absicht der damaligen Vertragspartner auf eine dauerhaft angelegte Baute hingewiesen und ausgeführt, bereits sachenrechtliche Gründe sprächen dafür, dass dieses im Eigentum der Erbengemeinschaft als Grundeigentümerin stehe. Ferner habe er auf ein Schreiben des früheren Willensvollstreckers Dr. E._ vom 16. Mai 2001 hingewiesen, wonach das Strandhäuschen nicht als Fahrnisbaute qualifiziert werden könne. Es ist nicht zu beanstanden, dass sich die Vorinstanz auf die vom Beschwerdeführer selbst gemachten Ausführungen abgestützt hat, zumal er die vorinstanzlichen Feststellungen in seiner Beschwerde ans Bundesgericht nicht zu entkräften vermag, womit das Bundesgericht daran gebunden ist (Art. 105 Abs. 1 BGG). Er führt auch nicht aus, inwiefern Häuschen Nr. yyy sachenrechtlich anders zu behandeln wäre als die anderen drei Häuschen. Mit den kantonalen Instanzen ist daher von Dauerbauten auszugehen.
In Bezug auf das Eigentum an den Häuschen kann schliesslich auf den Konzessionsentscheid vom 15. September 2017 verwiesen werden, worin allein die "R.D._ Erben", p.A. der Rechtsvertreterin des Beschwerdeführers, als Eigentümer und Konzessionäre aufgeführt werden. Nachdem der Beschwerdeführer offenbar selbst die Erneuerung der Konzession beantragt hat, darf davon ausgegangen werden, dass er die Dritteigentümer angegeben hätte, wenn es solche gäbe. Die Beschwerde ist auch in diesem Punkt abzuweisen.
9.2.4. Vor diesem Hintergrund erübrigen sich die vom Beschwerdegegner gestellten Beweisergänzungsanträge (Gutachten u.A. zur Abklärung, ob die Badehäuschen als Ganzes abtransportiert und an einen neuen Standort verbracht werden können, ohne zerlegt oder zerstört zu werden zwecks Beweis von Dauerbauten; Zeugenbefragung und Einholung eines Vertrages aufgrund seiner Vermutung, bei Häuschen Nr. xxx sei nie ein Kaufpreis bezahlt worden), soweit diese überhaupt zulässig waren (Art. 99 BGG).
9.3. Sowohl Beschwerdeführer als auch Beschwerdegegner erheben weitere Kritik an der Schätzung, welche im Falle der Begründetheit zu einer Rückweisung und Neuschätzung führen müssten.
Nach Auffassung des Beschwerdeführers hat sich Experte H._ nicht an den Gutachtensauftrag der Vorinstanz gehalten. Er habe bei der Vergleichswertermittlung planungs- und baurechtliche Gegebenheiten missachtet und gerade nicht die verlangte vorsichtige Bewertung vorgenommen, sondern einen Liebhaberpreis ermittelt. Die Schätzung sei in Begründung und Ergebnis unhaltbar. Kein wohlhabender durchschnittlicher Käufer würde über eine Million zahlen für eine derartige Parzelle mit nicht zum Wohnen gedachten vier Häuschen, zumal hierzu auch keine Bank eine Hypothek gäbe. Wer so viel zahle sei kein gewöhnlicher Marktteilnehmer, sondern eben ein Liebhaber. Zudem habe der Experte nicht vergleichbare Objekte hinzugezogen. Der Experte habe "elementare Vorgaben des öffentlichen Rechts" verkannt.
9.3.1. Als erstes rügt der Beschwerdeführer dabei ein falsches Rechtsverständnis von der Konzessionspflicht, weshalb der Experte zu Unrecht davon ausgegangen sei, dass mit einer Erneuerung der Konzession gerechnet werden könne.
Nachdem die Konzession effektiv verlängert wurde (vgl. Sachverhalt lit. D.d und E. 2.2) ist auf diese Rüge nicht weiter einzugehen. Soweit er darüber hinaus alleine aufgrund der Tatsache, dass die Bauten konzessionspflichtig resp. die Baubewilligungen befristet sind, generell eine wertmindernde Wirkung geltend machen will, fehlt eine genügende Begründung, zumal in der Expertise auch Vergleichsobjekte mit Konzessionspflicht herangezogen wurden. Hierauf ist nicht einzutreten.
9.3.2. Sodann habe der Experte ein falsches Rechtsverständnis von der Bestandesgarantie gemäss Art. 24c Abs. 2 RPG, die gerade nicht anwendbar sei im Falle der Badehäuschen. Es komme willkürlicher Würdigung des Sachverhalts gleich, wenn die Vorinstanz sage, dass es vernachlässigbar sei, ob es eine Bestandesgarantie gebe oder nicht. Einen Gesetzesartikel, wonach die Bauten tatsächlich nicht mehr wiederhergestellt werden könnten, nennt der Beschwerdeführer allerdings nicht.
Im Entscheid betreffend Konzessionserteilung vom 15. September 2017 wird ausdrücklich darauf hingewiesen, dass die Bewilligung alle weiteren Bewilligungen insb. nach Art. 24 RPG, Gewässerschutzgesetz, Natur und Heimatschutzgesetz, Bundesgesetz über die Fischerei u.a. enthalte. Gemäss Art. 41 Abs. 1 RPV ist Art. 24c RPG auf Bauten und Anlagen anwendbar, die rechtmässig erstellt oder geändert worden sind, bevor das betreffende Grundstück Bestandteil des Nichtbaugebiets im Sinne des Bundesrechts wurde. Die Badehäuser wurden vor dem eidgenössischen RPG und, soweit ersichtlich, legal erstellt. Insofern liegt nicht auf der Hand, weshalb Art. 24c RPG nicht zur Anwendung kommen sollte. Die Frage kann offen gelassen werden, da der Beschwerdeführer die Kritik nur zur Begründung einwendet, dass die Vergleichsobjekte - auf welche Art. 24c RPG anwendbar sei - nicht vergleichbar seien. Hierauf ist im Zusammenhang mit der Kritik an den Vergleichsobjekten einzugehen (E. 9.4.1 f. hiernach).
9.3.3. Als Letztes argumentiert der Beschwerdeführer, der Experte habe nicht berücksichtigt, dass der Abstand von Wald und See nicht eingehalten sei, was für den Wert des Grundstücks von entscheidender, wertmindernder Relevanz sei. Er verweist auf bundesgerichtliche Rechtsprechung, um zu belegen, dass ein Wiederaufbau nicht möglich wäre. Die Nichtberücksichtigung dieser Tatsache stelle einen weiteren groben Fehler der Expertise dar.
Die Urteile, auf die sich der Beschwerdeführer bezieht, stammen aus den Jahren 1981 (BGE 107 Ib 233) und 1987 (in: ZBl 90/1989 S. 543). Damals stand der altrechtliche Art. 24 Abs. 2 RPG zur Diskussion, den es heute nicht mehr gibt. Die Bestimmung zur Besitzstandsgarantie gemäss Art. 24c RPG trat erst später, im Jahr 2000, in Kraft (resp. der genaue Wortlaut von Art. 24c Abs. 2 RPG erst am 1. November 2012). Er kann daher aus den zitierten Fällen nichts zu seinen Gunsten ableiten.
9.4. Sowohl Beschwerdeführer als auch Beschwerdegegner rügen die Auswahl der Vergleichsobjekte. Ersterer rügt den Beizug der vier teureren Objekte (hiernach), letzterer den Beizug der drei günstigeren (E. 9.5).
9.4.1. Der Beschwerdeführer rügt als groben Mangel, dass "sowohl unter planungsrechtlichen Gesichtspunkten als auch baurechtlich hinsichtlich Bausubstanz, Ausbaustandard, Parzellengrösse und Erschliessung ganz anders geartete Objekte zum Vergleich herangezogen" worden seien.
Die Vorinstanz hatte hierzu erwogen, der Beschwerdeführer erhebe Einwände betreffend Bausubstanz, Ausbaustandart, Parzellengrösse und Erschliessung, die allerdings keinen groben Fehler zu begründen vermöchten und sich in appellatorischer Kritik erschöpfen würden. Der Beschwerdeführer müsste mithin vorab aufzeigen, dass er vor der Vorinstanz seiner Rügepflicht nachgekommen ist. Mangels genügender Auseinandersetzung mit der vorinstanzlichen Feststellung, er hätte nur appellatorische Kritik erhoben, ist nicht weiter auf die Ausführungen hierzu einzugehen. Soweit er im Zusammenhang mit den baurechtlichen Vorschriften zudem die fehlende Konzessionspflicht von Vergleichsobjekten anvisiert, setzt er sich wiederum nicht mit den Erwägungen der Vorinstanz auseinander. Diese hatte nämlich festgehalten, der Experte habe bei der Schätzung angegeben, wo eine Konzessionspflicht bestehe und wo nicht und habe dies berücksichtigt. Auch in diesem Punkt kommt er seiner Rügepflicht nicht nach.
9.4.2. Der Beschwerdeführer moniert weiter, wie bereits vor der Vorinstanz, es seien Liebhaberwerte ermittelt worden.
Die Vorinstanz hielt im Urteil vom 20. Mai 2014 fest, der Beschwerdeführer habe angezweifelt, dass eine Verkehrswertschätzung "dieser einzigartigen Seeparzelle" überhaupt möglich sei, weil ein derartiges Objekt kaum je zum Verkauf stehe, kein Markt für solche Grundstücke bestehe und damit nur utopische Liebhaberpreise ermittelt werden könnten. Die Vorinstanz kam zur Erkenntnis, dass es durchaus einen Markt gebe, wenn er auch klein sei. Die Nachfrage sei höher als das Angebot, woraus hohe Preise resultierten. Das mache die Preise nicht zu Liebhaberpreisen und tue der Notwendigkeit einer Schätzung keinen Abbruch. Allerdings sei der Streubereich des Schätzungswerts grösser. Der Experte habe die Problematik erkannt und aus diesem Grund festgehalten, gewisse (andere) Methoden eigneten sich nicht (zu den gewählten Methoden siehe oben E. 9.1). Wo der Beschwerdeführer schliesslich rüge, vier Vergleichsobjekte dürften nicht herangezogen werden, weil ihnen Liebhaberwerte zugrunde lägen, fehle es an einer ausreichenden Begründung. Nur weil die Preise höher seien, liege noch kein Liebhaberwert vor. Der Experte habe auf die Fragen der Parteien hin Liebhaberwerte explizit verneint.
Die Wahl der Vergleichsmethode per se stellt der Beschwerdeführer vor Bundesgericht nicht mehr in Frage, womit dies nicht weiter zu prüfen ist. Er vertritt aber weiterhin die Ansicht, die vier teureren Vergleichsobjekte hätten nicht beigezogen werden dürfen. Diesbezüglich hätte er vorab aufzeigen müssen, dass die Feststellung der Vorinstanz, er hätte keine ausreichende Begründung zu den beanstandeten Objekten geliefert, verfehlt gewesen war. Der Frage braucht insofern nicht nachgegangen zu werden, als der Beschwerdeführer sich nicht mit den beiden anderen, zur Plausibilisierung herangezogenen, Methoden auseinandersetzt. Diese führten aber zu Ergebnissen in derselben Grössenordnung wie die Vergleichswertmethode unter Berücksichtigung der von ihm beanstandeten Objekte. Daher kann er von vornherein nicht behaupten, die Schätzung habe zu einem völlig falschen Ergebnis geführt, womit eine Verletzung von Art. 618 aZGB nicht dargetan ist.
9.5. Der Beschwerdegegner rügt für den Fall, dass der alte Art. 618 ZGB zur Anwendung kommt, der Schätzungsbericht sei mit groben Mängeln behaftet und im Ergebnis zweifellos in erheblichem Masse und offensichtlich unrichtig. Zwar sei die angewandte Vergleichswertmethode grundsätzlich nicht zu beanstanden, aber er habe von Anfang an darauf hingewiesen, dass drei der sechs berücksichtigten Vergleichsobjekte nicht in die Berechnung hätten miteinbezogen werden dürfen, weil der bezahlte Preis nicht dem Verkehrswert entsprochen habe (es handelt sich um die drei Objekte mit dem tiefsten Wert).
9.5.1. Das erste Vergleichsobjekt auf S. 20 des Schätzungsberichts zuoberst (U._, Parzelle Nr. ccc) sei von Eltern auf alle ihre Kinder übertragen worden. Der Preis von Fr. 240'000.-- sei ein Familienpreis gewesen. Das zweite Vergleichsobjekt S. 20 (U._, Parzellen Nr. ddd und eee) sei 2011 von Eltern an ihre beiden Söhne verkauft worden. Beim Preis von Fr. 270'000.-- habe es sich ebenfalls um einen Familienpreis gehandelt, zudem liege das Badehaus nicht direkt am See, sondern auf der anderen Seite eines Seeweges, von welchem Einsicht in das Badehaus bestehe. Das fünfte Vergleichsobjekt S. 20 (V._, Parzellen Nr. fff und ggg) habe die ursprüngliche Besitzerin zu einem massiv unter dem Verkehrswert liegenden Wert von Fr. 340'000.-- an eine Tochter vermacht. Die Tochter schätze den Wert heute auf über 1 Mio. Franken.
Die Vorinstanz habe seine Rüge willkürlich mit dem Argument vom Tisch gewischt, dass auch Übertragungen innerhalb der Familie herangezogen werden könnten, weil kein Familienmitglied benachteiligt werden wolle und auch da in aller Regel eine Verkehrswertschätzung gemacht werde, wenn auch wohl von einem vorsichtigen Marktwert ausgegangen werde. Der Beschwerdegegner fährt fort, der Durchschnitt der drei nicht zu berücksichtigenden Objekte habe Fr. 283'000.-- betragen, während der Durchschnitt der drei übrigen Vergleichsobjekte Fr. 1'230'000.-- betragen habe. Daher sei der geschätzte Wert in erheblichem Masse zu tief ausgefallen. Der Fehler sei für den Ausgang des Verfahrens entscheidend.
9.5.2. Vorab ist festzuhalten, dass die Vorinstanz grundsätzlich auf das Fachwissen der Gutachter vertrauen durfte und musste. Der Beschwerdegegner müsste, wie erörtert, grobe Fehler dartun (E. 8.2.1 und E. 8.2.3). Zur Untermauerung seiner Rügen beantragt er die Anhörung diverser Personen, Beizug von Auszügen und dergleichen. Nur beim ersten Vergleichsobjekt verweist er auf ein Dokument, nämlich eine E-Mail von T.Q._ und U.Q._ vom 16. Februar 2012. Diese hat er gemäss Beilagenverzeichnis zur Beschwerde an das Bundesgericht zwar einer Stellungnahme vom 1. März 2012 beigelegt. Dem Sachverhalt des angefochtenen Entscheids lässt sich aber nichts zu einem solchen Dokument entnehmen. Der Beschwerdegegner hätte also darlegen müssen, dass er die E-Mail bereits vor Vorinstanz diskutiert hat und diese rechtswidrig nicht darauf eingegangen wäre. Mangels entsprechender Ausführungen ist nicht weiter darauf einzugehen. Ähnlich verhält es sich bei den gestellten Beweisanträgen. Der Beschwerdegegner hat mithin keine Willkür der Vorinstanz dargetan.
9.5.3. Bei seinen weiteren Rügen gegen das Gutachten führt er nicht aus, inwiefern diese auch im Rahmen einer "endgültigen" Schätzung gemäss Art. 618 aZGB zu berücksichtigen wären, weshalb darauf nicht weiter einzugehen ist. Dasselbe gilt, soweit er die zur Plausibilisierung herangezogene Praktikermethode kritisiert. Seine Ausführungen erfolgen unter dem Titel der fehlenden Beweiswürdigung, ohne dass er das Vorliegen eines groben Mangels geltend macht (zu den unterschiedlichen Prüfungsschemata siehe oben E. 8.2.1 bis E. 8.2.3). Eine Verletzung der ZPO schliesslich fällt angesichts der Anwendung des alten Prozessrechts von vornherein ausser Betracht (E. 8.4).
9.5.4. Subsidiär argumentiert der Beschwerdegegner, die Feststellung des Sachverhalts beruhe auf Verletzung von Art. 29 Abs. 2 BV, da die Vorinstanz von ihm offerierte Beweise nicht angenommen habe. Die Vorinstanz habe sich mit verschiedenen Stellungnahmen von Immobilienexperten, die er eingereicht habe, nicht auseinandergesetzt, beantragte Zeugen nicht angehört und trotz Vorliegens eines Berechnungsfehlers die fehlerhafte Berechnung gestützt. Die Lektüre des Entscheids vom 20. Mai 2014 erhellt indes, dass die Vorinstanz sich durchaus mit den Argumenten und Beweisangeboten des Beschwerdegegners auseinandergesetzt hat, jedoch zu einer anderen Überzeugung gelangte als jener. Willkür im Ergebnis tut er keine dar. Die Rüge ist unbegründet.
9.6. Zusammengefasst hat keine der Parteien eine Verletzung von Art. 618 aZGB dargetan. Damit gehen auch die weiteren in Anknüpfung an die Auswahl der Vergleichsobjekte erhobenen Rügen der Parteien ins Leere (insbesondere Verletzung des Rechts auf Beweis nach Art. 152 ZPO, sowie des Anspruchs auf rechtliches Gehör nach Art. 53 ZPO und Art. 29 Abs. 2 BV).
Die grosse Bandbreite der Schätzungsvergleichswerte passt vielmehr in die Erwägung der Vorinstanz zur Charakteristik von Schätzungen bei selten zum Verkauf stehenden Grundstücken. Die Vorinstanz durfte sich auf das Fachwissen der Experten verlassen, die entsprechend dem Ziel einen Mittelwert zu finden, die Objekte ausgewählt hatten. Dieser Mittelwert war denn auch von Experten und Gericht anzustreben, und nicht, wie dies die Parteien wünschten, ein möglichst tiefer (Beschwerdeführer) oder ein möglichst hoher Wert (Beschwerdegegner).
10.
Schliesslich verlangt der Beschwerdegegner eine Neuschätzung aufgrund einer behaupteten Wertveränderung seit dem 24. Mai 2012 (vgl. Sachverhalt D.b zweiter Abschnitt). Er reicht (neu) eine Ausgabe "Immobilienmarkt Schweiz 2016/4" der I._ AG ein, wonach die Angebotspreise für Einfamilienhäuser seit Mitte 2012 mindestens 15 % gestiegen seien. Im Schätzungsbericht werde festgehalten, dass die Badehäuser der Nutzungsgruppe der Einfamilienhäuser am nächsten komme.
Soweit die Vorbringen überhaupt zulässig sind (Art. 99 BGG), vermögen sie keine Neuschätzung zu rechtfertigen. Die vom Beschwerdeführer eingebrachten Beweisangebote weisen keinen direkten Bezug auf zum Grundstück. Allgemeine Berichte über die Bodenpreisentwicklung sind aber zu wenig aussagekräftig oder jedenfalls nicht zwingend, um eine Änderung der vorgenommenen Schätzung herbeizuführen (vgl. hierzu Urteil 5P.96/1990 vom 15. Juni 1990 E. 4 und 5, wonach dies auch für vorhandene Kaufangebote gilt).
11.
Gestützt auf diese Erwägungen sind beide Beschwerden abzuweisen, soweit auf sie eingetreten werden konnte. Bei diesem Ausgang des Verfahrens werden Beschwerdeführer und Beschwerdegegner kosten- und entschädigungspflichtig, wobei von einer solidarischen Haftung abzusehen ist (Art. 66 Abs. 1 und Abs. 5 BGG). Der Beschwerdegegnerin sind keine Gerichtskosten aufzuerlegen. Für die von Beschwerdeführer und Beschwerdegegner im jeweils gegnerischen Beschwerdeverfahren eingereichten Vernehmlassungen sind keine Entschädigungen zuzusprechen (Art. 68 Abs. 1 BGG). Der Beschwerdegegnerin entstanden keine entschädigungspflichtigen Kosten.
Soweit die Kostenverteilung durch die kantonalen Instanzen auch unabhängig vom Resultat in der Hauptsache angefochten wird, ist kein Ermessensmissbrauch durch das Obergericht ersichtlich, womit es bei der Kostenverteilung gemäss den angefochtenen Entscheiden bleibt.
Demnach erkennt das Bundesgericht:
1.
Die Verfahren 5A_61/2017 und 5A_74/2017 werden vereinigt.
2.
Beide Beschwerden werden abgewiesen, soweit auf sie einzutreten ist.
3.
Die Gerichtskosten von insgesamt Fr. 20'000.-- werden Beschwerdeführer und Beschwerdegegner je zur Hälfte auferlegt.
4.
Die Parteikosten werden wettgeschlagen.
5.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 7. März 2019
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Herrmann
Die Gerichtsschreiberin: Friedli-Bruggmann