wird festgestellt und in Erwägung gezogen:
1.- W.L._, Gründer und einst Alleinaktionär der P._ AG, räumte dieser im Jahre 1984 auf einem Teil seines Grundstücks Nr. x ein selbstständiges und dauerndes Baurecht ein, das als eigenes Grundstück in das Grundbuch aufgenommen wurde (Nr. xx, beide Gemeinde Z._). Die P._ AG erstellte auf ihrer Parzelle Nr. xx ein Gebäude (Bauetappe I) und später auf der Parzelle Nr. x von W.L._ einen Anbau dazu, der im Juni 1990 vollendet war (Bauetappe II). Am 24. August 1988 hatte W.L._ einer ausländischen Unternehmung die Mehrheit seiner Aktien an der P._ AG verkauft und vereinbarungsgemäss die Geschäftsführung übernommen, diese dann aber 1989 niedergelegt.
Auf Klage der P._ AG bemass das Bezirksgericht See die von W.L._ zu leistende Entschädigung für das auf seinem Grundstück verwendete Material (Bauetappe II) auf Fr. 1'792'205. -- nebst 5% Zins seit dem 1. Januar 1996 (Urteil vom 24. Februar 1998). Diesen Betrag setzte das von W.L._ angerufene Kantonsgericht St. Gallen (III. Zivilkammer) auf Fr. 1'496'453. -- herab und wies die Klage im Mehrbetrag ebenfalls ab (Entscheid vom 10. Mai 1999). Dem Bundesgericht stellt W.L._ mit eidgenössischer Berufung den Antrag, das kantonsgerichtliche Urteil aufzuheben und die Sache an eine andere Kammer des Kantonsgerichts zurückzuweisen; Eventualbegehren lauten sinngemäss auf Abweisung der Klage, soweit sie einen bestimmten Maximalbetrag übersteige, der im "R/A 2" nicht und im "R/A 2.1" auf Fr. 810'400. -- beziffert wird. Das Kantonsgericht hat auf Gegenbemerkungen verzichtet. Eine Berufungsantwort ist nicht eingeholt worden.
Die gleichzeitig gegen das nämliche Urteil des Kantonsgerichts eingereichte Nichtigkeitsbeschwerde von W.L._ hat das Kassationsgericht des Kantons St. Gallen abgewiesen, soweit darauf eingetreten werden konnte (Beschluss vom 29. Februar 2000).
2.- Trotz Abweisung der Nichtigkeitsbeschwerde hat das Kassationsgericht die obergerichtliche Feststellung berichtigt, wonach es im Übrigen der Beklagte selber gewesen sei, "welcher als Geschäftsführer bzw. Verwaltungsrat der Klägerin im September 1989 den Werkvertrag mit der S._ AG unterzeichnet (...) und dieser bis Ende Oktober 1989 mehr als Fr. 1 Mio. überwiesen hatte (...)" (E. 1b S. 8 des obergerichtlichen Urteils). Gemäss Berichtigung waren "bis Ende Oktober erst Fr. 390'000. -- bezahlt" und ein Zahlungsauftrag über weitere Fr. 420'400. -- vor Ende Oktober vorbereitet und bis dahin unterzeichnet, diese Zahlung dann aber erst am 3. November 1989 belastet worden. Die festgestellte Aktenwidrigkeit hat das Kassationsgericht als für den Ausgang des Verfahrens nicht entscheidend betrachtet (E. 2 S. 5 f. des Beschlusses). Der berichtigte Sachverhalt ist für das Berufungsverfahren massgebend, ein Schriftenwechsel darüber hingegen nicht nötig (vgl. Art. 57 Abs. 4 OG; <ref-ruling> E. 2-4 S. 138 ff.). Der Beklagte nimmt zu dieser Aktenwidrigkeit in seiner Berufungsschrift Stellung und leitet daraus lediglich ab, sie lege offen, "wie die Vorinstanz den Schutzbehauptungen der Klägerin erliegt und daher gegen den Beklagten entscheidet" (AV 1 S. 11; vgl. AV 9 S. 30 ff.). Mangelnde Unabhängigkeit oder Unparteilichkeit des Richters ist ein Problem des kantonalen Rechts und des Verfassungsrechts und damit kein zulässiger Berufungsgrund; kantonales Recht bestimmt auch, welche Instanz im Fall einer Rückweisung die Sache neu zu beurteilen hat (Poudret/Sandoz-Monod, Commentaire de la loi fédérale d'organisation judiciaire, II, Bern 1990, N. 2.2 zu Art. 43 und N. 2.4 zu Art. 64 OG; zuletzt: <ref-ruling> E. 2 S. 93 f. und 220 E. 4a S. 222). Der auf eine Rückweisung an eine "andere Kammer" lautende Antrag des Beklagten ("R/A 1") ist insoweit unzulässig.
3.- Die Klägerin hat für ihren Anbau Material auf dem Boden des Beklagten verwendet, womit dieses Bestandteil des betreffenden Grundstücks geworden ist (<ref-law>). Findet keine Trennung von Material und Boden statt (Art. 671 Abs. 2 und 3 ZGB), so hat der Beklagte als Grundeigentümer die Klägerin als Materialeigentümerin zu entschädigen. Dabei macht <ref-law> die Höhe der zu leistenden "angemessenen Entschädigung" (Abs. 1) vom guten oder bösen Glauben der Beteiligten abhängig, indem er bestimmt, der Richter könne bei bösem Glauben des bauenden Grundeigentümers "auf vollen Schadenersatz erkennen" (Abs. 2) und bei bösem Glauben des bauenden Materialeigentümers "auch nur dasjenige zusprechen, was der Bau für den Grundeigentümer allermindestens wert ist" (Abs. 3). Während das Kantonsgericht vom guten Glauben beider Parteien ausgegangen ist, hält der Beklagte die Klägerin für bösgläubig, jedenfalls ab Ende Oktober 1989, so dass die Entschädigung nach Abs. 3 zu bemessen sei.
a) Der Unterschied zwischen den beiden Standpunkten liegt auf der Hand: Im gesetzlich nicht geregelten Fall der Gutgläubigkeit beider Parteien steht dem Materialeigentümer nach der Rechtsprechung ein Bereicherungsanspruch in der Höhe des durch die Verwendung des Materials dem Grundeigentümer angefallenen Mehrwertes zu (<ref-ruling> E. 6c S. 145 f.; Urteile des Bundesgerichts vom 19. Juli 1985, E. 3a, in: Rep 119/1986 S. 217, sowie vom 1. Mai 1997 und vom 10. Juni 1997, E. 2c und E. 4, in: ZWR 1998 S. 126 und S. 232), wohingegen im Falle des bösgläubig bauenden Materialeigentümers es nicht auf die objektive Wertsteigerung ankommt, die das Grundstück durch den Bau erfahren hat, sondern einzig auf das subjektive Interesse des Grundeigentümers am Bau (<ref-ruling> E. 6b S. 144; <ref-ruling> E. 3b/bb S. 253; vgl. Rey, Basler Kommentar, N. 9 und N. 10 zu <ref-law>; Steinauer, Les droits réels, II, 2.A. Bern 1994, S. 80 N. 1640d und N. 1640e).
b) Das Kantonsgericht hat festgehalten, dass im Gegensatz zur Bauetappe I bezüglich der Bauetappe II kein gültiger Baurechtsvertrag zustande gekommen sei. Es hat diese Feststellung auch später nicht relativiert, wo es auf Ausführungen des Beklagten über einen konkludent geschlossenen Gebrauchsüberlassungsvertrag eingegangen ist, sondern daraus lediglich gefolgert: "Beide Parteien durften damit in guten Treuen davon ausgehen, dass man sich noch einigen werde" (E. 1b S. 8, Hervorhebung beigefügt). Die kantonsgerichtliche Auffassung ist unmissverständlich: Der Einbau des Materials ist nicht auf Grund eines Vertrages zwischen dem Material- und dem Grundeigentümer, mithin der Klägerin und dem Beklagten, erfolgt; andernfalls - bei vertraglicher Grundlage also - wäre die Entschädigungsregelung gemäss <ref-law> ohnehin nicht zur Anwendung gelangt (<ref-ruling> E. 4a S. 138; Rey, N. 2 zu <ref-law>; Steinauer, a.a.O., S. 76 N. 1638b). Die Ansicht teilt der Beklagte, und es ist deshalb nicht nachvollziehbar, weshalb er trotzdem zu Unbestrittenem viel Worte verliert und über Seiten hinweg in Abrede stellt, einem Baurecht konkludent zugestimmt oder einen Gebrauchsüberlassungsvertrag formlos konkludent geschlossen zu haben. Er übersieht zudem, dass das Kantonsgericht antragsgemäss und ausdrücklich auf das Urteil des Zürcher Obergerichts verwiesen hat, wonach rechtskräftig feststehen soll, dass unter den Parteien kein gültiger Vertrag zustande gekommen ist.
c) Entscheidend für die Beurteilung der Gutgläubigkeit der Klägerin ist nicht gewesen, dass sie darum wusste, ohne vertragliche Grundlage auf fremden Boden zu bauen, sondern dass sie dennoch nicht im Bewusstsein handelte, etwas Unredliches zu tun, weil sie an das spätere Zustandekommen eines Baurechtsvertrages glaubte und mit vertretbaren Gründen daran glauben durfte (ausführlich: <ref-ruling> E. 6d und E. 7a S. 146 ff.); der Richter hat ihren guten Glauben immer dann gelten zu lassen, wenn sie in guten Treuen gehandelt hat, d.h. wenn unredliches, moralisch verwerfliches Verhalten ausgeschlossen erscheint (zuletzt: Urteil des Bundesgerichts vom 22. Februar 1993, E. 3, in: Rep 126/1993 S. 131; Steinauer, a.a.O., S. 78 N. 1639d mit weiteren Nachweisen).
Gründe dafür, dass die Klägerin, ohne den guten Glauben zu verlieren, den Erweiterungsbau beginnen und weiterbauen durfte, haben sich für das Kantonsgericht einerseits daraus ergeben, dass der Beklagte gestützt auf die Beilage 2 zur Aktienaufbewahrung vom 24. August selber ausgeführt habe, er habe davon ausgehen dürfen, dass die Klägerin Baurechts- und Pachtzinse mit oder ohne schriftlichen Vertrag bis mindestens in das Jahr 2014 zahlen werde, und dass es im Übrigen der Beklagte selber gewesen sei, der als Geschäftsführer bzw. Verwaltungsrat der Klägerin im September 1989 den Werkvertrag mit der S._ AG unterzeichnet und dieser bis Ende Oktober 1989 mehr als Fr. 1 Mio. (recte: Fr. 390'000. --) überwiesen habe. Andererseits hat das Kantonsgericht den Beklagten bei seiner Aussage behaftet, dass die Parteien nach Treu und Glauben davon hätten ausgehen dürfen, die Überlassung der Grundstücksparzelle habe nur gegen Entgelt erfolgen können.
Was der Beklagte dagegenhält, erschöpft sich oftmals in Diskussionen über Behauptungen der Klägerin, auf die das Kantonsgericht keinen Bezug genommen hat, steht über weite Strecken in keinem erkennbaren Zusammenhang mit den Erwägungen im angefochtenen Entscheid und setzt sich damit nicht einlässlich auseinander (Art. 55 Abs. 1 lit. c OG; <ref-ruling> E. 3 S. 748 f.). Seine Sachverhaltsrügen sind nicht geeignet, einen Rückweisungsantrag gemäss Art. 64 OG formell korrekt zu begründen (<ref-ruling> E. 5c/aa S. 357); er widerspricht vielmehr schlicht den kantonsgerichtlichen Tatsachenfeststellungen, die für das Bundesgericht verbindlich sind (Art. 63 Abs. 2 OG; BGE 77 II 138 E. 3 S. 144; vgl. zuletzt: <ref-ruling> E. 3 S. 223); Willkürrügen sind in einer Berufung ohnehin fehl am Platz (Art. 43 OG; <ref-ruling> E. 2 S. 93). Soweit über die offenkundigen Mängel der Berufungsschrift hinweggesehen werden wollte, liesse sich der Sachverhaltsdarstellung des Beklagten selbst entnehmen, dass die Klägerin gute Gründe für die Fortsetzung ihrer Bautätigkeit auch nach dem 31. Oktober 1989 und trotz einer gewissen Unsicherheit über das Zustandekommen eines Vertrags mit dem Beklagten hatte. Seinen eigenen Angaben gemäss sind die Verhandlungen über den Baurechtszins am genannten Termin offenkundig nicht abgebrochen worden, hat er doch selber zusätzlich offeriert, dass seine marktkonforme Offerte durch eine externe Expertise überprüft werden könnte, was die Klägerin akzeptiert haben soll, und sind auch unstreitig mindestens bis im Mai 1990 Einigungsvorschläge über die Höhe des letztlich allein streitigen Baurechtszinses ausgetauscht worden (vgl. nur S. 3 ff. S 1 bis 6 der Berufungsschrift). Haben aber nach dieser Darstellung ernsthafte Vertragsverhandlungen bis praktisch zur Bauvollendung im Juni 1990 stattgefunden, durfte die Klägerin in guten Treuen annehmen, sie sei berechtigt, mit ihrem Material auf dem Grundstück des Beklagten auch nach dem 31. Oktober 1989 weiterzubauen, weil ein Vertrag mit dem Beklagten durchaus noch zustande kommen könnte. Inwiefern ihr Handeln geradezu unredlich oder moralisch verwerflich sein könnte, ist auf Grund der behaupteten Umstände jedenfalls nicht ersichtlich, geschweige denn vom Beklagten ausreichend dargetan (Art. 55 Abs. 1 lit. c OG).
4.- Kann der Klägerin nach dem soeben Gesagten der gute Glaube insgesamt nicht abgesprochen werden, so hat sie gegenüber dem Beklagten im Rahmen ihrer Vermögenseinbusse grundsätzlich Anspruch auf Ersatz des Vermögenszuwachses, der dem Beklagten infolge der dem Aufwand der Klägerin zu verdankenden Erhöhung des objektiven Wertes des Baugrundstücks zugefallen ist. Dem Kantonsgericht hat hierüber eine Expertise vorgelegen.
a) <ref-law> gibt der beweispflichtigen Partei in allen Zivilstreitigkeiten einen bundesrechtlichen Anspruch darauf, für rechtserhebliche Sachvorbringen zum Beweise zugelassen zu werden, wenn ihr Beweisantrag nach Form und Inhalt den Vorschriften des kantonalen Rechts entspricht. Bundesrechtlich nicht geregelt, auch nicht durch <ref-law>, ist hingegen, mit welchen Mitteln der Sachverhalt abzuklären und wie das Ergebnis davon zu würdigen ist; die aus einem Beweisverfahren gewonnene Überzeugung des Richters, eine Tatsachenbehauptung sei bewiesen oder widerlegt, kann im Verfahren der eidgenössischen Berufung nicht überprüft werden (ausführlich: <ref-ruling> E. 2a S. 290 f.; zuletzt: <ref-ruling> E. 3c S. 223; <ref-ruling> E. 3a S. 79 mit Hinweisen). Die Parteien hatten im kantonalen Verfahren einvernehmlich einen Sachverständigen bezeichnet, auf dessen Gutachten das Kantonsgericht abgestellt hat, und zwar nicht unbesehen, sondern nach Verwerfung der vom Beklagten dagegen erhobenen Einwände. Die Vorbringen des Beklagten, die Expertise sei mangelhaft, können genauso wenig Gegenstand der Berufung bilden wie die Rüge, <ref-law> sei verletzt worden; Entsprechendes hat denn auch das Kassationsgericht geprüft (E. 12 S. 9 f.).
b) Nach welchem Massstab ein Gegenstand zu bewerten ist, entscheidet der Richter und nicht der Gutachter, der hingegen festlegt, welches der tatsächliche Wert des betreffenden Gegenstandes ist (z.B. aus dem Güterrecht: <ref-ruling> E. 3c S. 155; bei der Schadensberechnung: <ref-ruling> E. 3a S. 243). Das Kantonsgericht ist davon ausgegangen, der massgebende Verkehrswert werde aus den voneinander unabhängig berechneten Grössen "Realwert" und "Ertragswert" bestimmt. Aus der Sicht des Bundesrechts ist dieser Bewertungsmassstab nicht zu beanstanden, und was der Beklagte dazu ausführt, ist eine blosse Kritik an der gutachterlichen Schätzung (z.B. aus dem Güterrecht: <ref-ruling> E. 5c S. 6 f.).
c) Der Beklagte greift verschiedene Positionen heraus, die eine Herabsetzung der Entschädigung an die Klägerin bewirken müssten. Wiederkehrend macht er geltend, das Gericht ziehe aus der Expertise willkürliche bzw. nicht vertretbare Schlüsse. Diesbezüglich kann auf sämtliche Ausführungen des Beklagten nicht eingetreten werden: Schlüsse aus Gutachten gehören zur Beweiswürdigung, die im Verfahren der Berufung nicht überprüft werden kann (z.B. <ref-ruling> E. 2 S. 55). Dies einmal vorausgeschickt, braucht zu den einzelnen Punkten lediglich noch Folgendes gesagt zu werden:
aa) Das Kantonsgericht hat festgehalten, der Beklagte mache geltend, die Aufwendungen für die Trafostation dürften nicht in die Bewertung einbezogen werden, da dafür kein Bedarf bestehe (unter Hinweis auf S. 18 der Berufung). Der Beklagte wendet dagegen nicht ein, das Kantonsgericht habe sein Vorbringen oder seine Rüge im kantonalen Berufungsverfahren nicht seinem wahren Gehalt nach wahrgenommen. Sein heutiger Einwand, das Kantonsgericht habe übersehen, dass die Klägerin besonders beim Einbau der Trafostation nicht redlich gehandelt habe, stellt unter diesen Umständen eine neue und damit unzulässige Behauptung dar (Art. 55 Abs. 1 lit. c OG; <ref-ruling> E. I/3 S. 224; <ref-ruling> E. 2a S. 486). Die restlichen Ausführungen in diesem Punkt richten sich gegen die Beweiswürdigung.
bb) Nicht zu hören ist der Beklagte mit seinen Vorbringen betreffend "Unvermietbarkeit" und "Umfahrungsstrasse, Landpreisbewertung und willkürliche Zahlungen", da damit einzig aus der Expertise gezogene Schlussfolgerungen als nicht vertretbar kritisiert werden.
cc) Schreibt das kantonale Recht vor, der Richter dürfe seinem Urteil nur behauptete Tatsachen zugrunde legen, so kann es grundsätzlich auch die Anforderungen festlegen, welchen die Behauptung zu genügen hat. Solange es damit die Durchsetzung von Bundesrecht nicht vereitelt, darf nach kantonalem Prozessrecht unsorgfältige Prozessführung den Verlust des materiellen Anspruchs nach sich ziehen (<ref-ruling> E. 2d S. 340; <ref-ruling> E. 4 S. 30). Was der Beklagte unter den Titeln "Die unumgänglichen Aufwendungen für eine Voll- Vermietung" und "Kündigung der Räumlichkeiten ohne genügenden Grund" geltend gemacht hatte, hat das Kantonsgericht als "nicht nachvollziehbar", "nicht hinreichend substantiiert" o.ä. bezeichnet. Inwiefern diese Auffassung Bundesrecht verletzt, legt der Beklagte mit keinem Wort dar, sondern versucht nunmehr, dem Bundesgericht im kantonalen Verfahren offenbar Versäumtes auseinanderzusetzen; neu und unzulässig ist indessen, wovon sich im angefochtenen Entscheid nichts findet (z.B. <ref-ruling> E. 4a S. 13; <ref-ruling> E. 4b S. 389) und was das Kantonsgericht als nicht prozesskonform behauptet zurückgewiesen hat (z.B. <ref-ruling> E. 5 S. 302, zweiter Absatz, und 485 E. 1 S. 487).
5.- Die Berufung des Beklagten ist mehrheitlich unzulässig, teils unbegründet. Sie muss abgewiesen werden, soweit überhaupt darauf einzutreten ist. Der Beklagte wird bei diesem Verfahrensausgang kostenpflichtig (Art. 156 Abs. 1 OG).

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen, soweit darauf einzutreten ist, und der Entscheid des Kantonsgerichts St. Gallen (III. Zivilkammer) vom 10. Mai 1999 wird bestätigt.
2.- Die Gerichtsgebühr von Fr. 10'000. -- wird dem Beklagten auferlegt.
3.- Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen (III. Zivilkammer) schriftlich mitgeteilt.
_
Lausanne, 25. April 2000
Im Namen der II. Zivilabteilung des
SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Der Gerichtsschreiber: