Art. 8 und 9 BV (Grundeigentum), hat sich ergeben:
A.- Die Bürgergemeinde Sagogn erwarb mit Kaufvertrag vom 15. Mai 1528 vom Kloster Disentis die heute auf dem Gebiet der Politischen Gemeinde Laax liegende Alp St. Martin.
Die Grenzen dieser Liegenschaft wurden im Kauf- und Übertragungsakt wie folgt bezeichnet: "(Die Alp) stösst im Osten an die Schleuiser Alp Mughels, im Westen an die Alp derer (der Nachbarn) von Ruschein, im Süden am obern Stein (wohl Sur Crap) aus und ein, oberhalb bis zu den obersten (Berg-) Spitzen, von denen man nach Glarus hinunter sieht; es ist im Übrigen eine freie Alp, wie (Grenz-) Linien und Grenzsteine ausweisen" (Übertragung der Urkunde in die heutige Schriftsprache durch Prof. Otto P. Clavadetscher; Gutachten vom 20. April 1996). Umstritten ist die Grenzziehung der Alp nach Norden im Bereich des Vorabfirns. Nach Auffassung der Bürgergemeinde Sagogn erstreckt sich ihr Eigentum an der Alp auch auf den Vorabfirn bis zur Grenze zwischen den Kantonen Graubünden und Glarus; auf diesem alpwirtschaftlich nicht nutzbaren Land stehen verschiedene Bauten und Anlagen der Bergbahnen Crap Sogn Gion AG. Die Gemeinde Laax geht davon aus, dieses Gebiet stehe in öffentlichem Eigentum.
Im Rahmen der Grundbuchvermessung wurde das umstrittene Gebiet zur Alp St. Martin geschlagen und der Bürgergemeinde Sagogn zugewiesen. In Gutheissung einer Einsprache der Gemeinde Laax reduzierte die Markkommission Laax mit Entscheid vom 28. April 1994 die Fläche der Alp St. Martin namentlich um das Gebiet, auf welchem die Bauten und Anlagen der Bahnen stehen.
B.- Mit Klage vom 3. Juli 1995 gegen die Politische Gemeinde Laax ersuchte die Bürgergemeinde Sagogn um Feststellung, dass die Alp St. Martin "die Umgrenzung aufweist, wie sie in den Auflageplänen der Grundbuchvermessung Laax, Los 5, eingezeichnet ist, und sich somit namentlich die Baurechtsparzelle 22-13 gemäss L. + S.-Register, bzw. Nr. 1984 gemäss Grundbuchvermessung Laax, Los 5 (Bergstation Vorab der Luftseilbahn Crap Masegn-Fuorcla, Antriebsstation Sessellift und Doppelskilift Vorabgletscher, Bergrestaurant, Nebenbetriebe, Anlagen für Gondelbahn) innerhalb dieser Umgrenzung befindet" (Begehren 1). Eventuell sei festzustellen, dass die nördliche Grenze "von Punkt B nach Punkt D gemäss beiliegendem ... Situationsplan (grüne Linie) verläuft" (Begehren 2). Subeventuell sei die Grenze der Alp St. Martin nach richterlichem Ermessen festzusetzen (Begehren 3). Die Beklagte schloss ihrerseits auf Abweisung der Klage, soweit sie das klägerische Begehren 2 übersteige. Mit Urteil vom 3. September 1996 hiess das Bezirksgericht Glenner die Klage im Sinne des Hauptantrages (Begehren 1) gut. Es befand, die Bauten für die Bahnbetriebe stünden auf dem Boden der Alp St. Martin.
In Gutheissung der Berufung der Beklagten (und in Übereinstimmung mit dem Begehren 2 des Klägers) stellte das Kantonsgericht von Graubünden mit Urteil vom 14. Juli 1997 fest, "dass die nördliche Grenze des Grundstückes L. + S.-Register Parzelle 12, Plan 222, bzw. Grundstück 1982 gemäss Grundbuchvermessung der Gemeinde Laax, Los Nr. 5, von Punkt B nach Punkt D gemäss dem diesem Urteil beigehefteten Plan (grüne Linie) verläuft. " Nach diesem Entscheid liegen die Bahnbetriebsbauten nicht auf dem Gebiet der Alp St. Martin.
C.- Auf staatsrechtliche Beschwerde der Bürgergemeinde Sagogn hin hob das Bundesgericht den kantonsgerichtlichen Entscheid mit Urteil vom 9. April 1998 auf, weil ein nebenamtlicher Kantonsrichter als befangen betrachtet werden musste (<ref-ruling>). Die gleichzeitig erhobene Berufung schrieb es als gegenstandslos geworden ab (5C. 303/1997).
D.- Nach der Durchführung einer Hauptverhandlung hiess das neu zusammengesetzte Kantonsgericht die Berufung der Beklagten mit Urteil vom 31. Januar 2000 wiederum gut, hob das Urteil des Bezirksgerichts Glenner auf und stellte erneut fest, dass die nördliche Grenze des interessierenden Grundstückes von Punkt B nach Punkt D gemäss dem beigehefteten Plan (grüne Linie) verläuft.
E.- Die Bürgergemeinde Sagogn beantragt dem Bundesgericht mit staatsrechtlicher Beschwerde, das Urteil des Kantonsgerichts vom 31. Januar 2000 aufzuheben.
Die Politische Gemeinde Laax schliesst auf Abweisung der Beschwerde. Das Kantonsgericht hat auf Vernehmlassung verzichtet.
F.- Gegen das kantonsgerichtliche Urteil vom 31. Januar 2001 hat die Bürgergemeinde Sagogn beim Bundesgericht auch Berufung eingelegt (5C. 14/2001).

Das Bundesgericht zieht in Erwägung:
1.- Die Alp St. Martin gehört zum Finanzvermögen der Beschwerdeführerin, das im Aussenverhältnis dem Privatrecht untersteht (H. Rey, Basler Kommentar, ZGB Bd. II, N 20 f. zu <ref-law>). Da die Beschwerdeführerin vom angefochtenen Entscheid somit wie eine Privatperson betroffen ist, nicht in hoheitlicher Funktion tätig geworden ist und an der Alp St. Martin private Rechte nicht anders als jede Privatperson geltend macht, ist sie zur Führung der staatsrechtlichen Beschwerde wegen Verletzung verfassungsmässiger Rechte der Bürger (Art. 84 Abs. 1 lit. a OG) im Sinne von Art. 88 OG legitimiert (<ref-ruling> E. 2; <ref-ruling> E. 2 mit Hinw. ; W. Kälin, Das Verfahren der staatsrechtlichen Beschwerde,
2. Aufl. 1994, S. 213 und 270 f.).
2.- Im Rahmen des grundsätzlich zuerst zu behandelnden Beschwerdeverfahrens (Art. 57 Abs. 5 OG) ist zunächst zu prüfen, ob die erhobenen Rügen kantonales Recht oder Bundesrecht beschlagen (<ref-ruling> E. 1b). Auf die staatsrechtliche Beschwerde kann nur eingetreten werden, soweit die verfassungswidrige Anwendung von kantonalem Recht geltend gemacht wird (Art. 84 OG i.V.m. Art. 43 OG).
a) Die Anwendung von Bundesrecht betrifft die Frage, ob das am 15. Mai 1528 verurkundete Geschäft geeignet ist, die Vermutung von <ref-law> umzustossen, nach der an kulturunfähigem Land kein Privateigentum besteht. Dass solches begründet werden kann, setzt voraus, dass das kantonale Recht den rechtsgeschäftlichen Erwerb von kulturunfähigem Land zu Privateigentum ermöglichte (Art. 17 Abs. 1 SchlTZGB; vgl. <ref-ruling> E. 3b; <ref-ruling> E. 4 f.; <ref-ruling> E. 3 S. 79; <ref-ruling> E. 2b). Ob ein umstrittenes Gebiet unter die in <ref-law> aufgeführten Sachen zu subsumieren ist, bestimmt ebenfalls Bundesrecht (<ref-ruling> E. 6 S. 300 ff.).
Diese Punkte werden im vorliegenden Fall nicht in Frage gestellt. Von der Möglichkeit, dass kulturunfähiges Land im Kanton Graubünden in Privateigentum stehen kann, darf ausgegangen werden, weil Art. 118 EGzZGB/GB insoweit bloss auf <ref-law> verweist und das vor dem Zivilgesetzbuch geltende kantonale Recht den rechtsgeschäftlichen Erwerb von kulturunfähigem Land nicht ausschloss (§ 225 des bündnerischen Zivilgesetzbuches von 1862).
b) Im Hinblick auf die Beurteilung, ob der Nachweis gemäss <ref-law> erbracht ist, stellt sich jedoch die Frage, welches Gebiet die Rechtsvorgängerin der Beschwerdeführerin mit Urkunde vom 15. Mai 1528 erworben hat bzw. wie weit in den Norden die der Beschwerdeführerin gehörende Alp St. Martin reicht. In diesem Zusammenhang ist zu klären, nach welchem Recht die Urkunde auszulegen (lit. aa hiernach) und inwiefern dabei nach Sachverhalts- und Rechtsfragen zu unterscheiden ist (lit. bb hiernach).
aa) Fehlen im schweizerischen Privatrecht Übergangsbestimmungen, sind die intertemporalrechtlichen Grundsätze von Art. 1 ff. SchlTZGB anzuwenden (<ref-ruling> E. 5 S. 11 mit Hinw.). Diese Bestimmungen müssen auf dem Gebiet des schweizerischen Obligationenrechts umso mehr gelten (<ref-ruling> E. 2b und c S. 212), weil dieses formell den 5. Teil des schweizerischen Zivilgesetzbuches darstellt. Art. 1 SchlTZGB stellt den Grundsatz auf, dass neues Recht nicht rückwirkend angewendet werden darf (<ref-ruling> E. 2a S. 434; <ref-ruling> E. 4e S. 271; 495 E. 1 S. 496 f.). Daher kann das zu Beginn der Neuzeit geschlossene und vollzogene Geschäft vom 15. Mai 1528 nicht nach bundesrechtlichen Regeln ausgelegt werden (vgl. Meier-Hayoz, Berner Kommentar, N 139 f. zu <ref-law>). Beim damals geltenden Recht handelt es sich auch nicht um kantonales Recht im heute verstandenen Sinn, weil das Privatrecht entsprechend dem Zeitgeist des
19. Jahrhunderts n. Chr. im Kanton Graubünden (erstmals) mit der von Peter Conradin von Planta verfassten und 1862 in Kraft gesetzten Kodifikation vereinheitlicht wurde (EugenHuber, System und Geschichte des Schweizerischen Privatrechts,
4. Bd. Basel 1893, S. 195; F. Elsener, SPR I, S. 189 ff. insbes. 197 ff.; Liver, Berner Kommentar, N 38 der Einleitung vor <ref-law>).
Mit Berufung kann nicht gerügt werden, das unmittelbar durch Bundesprivatrecht abgelöste kantonale Recht sei verletzt worden (Art. 43 und 55 Abs. 1 lit. c OG; z.B. <ref-ruling> E. 3 S. 295; <ref-ruling> E. 4 S. 111 f.; <ref-ruling> E. 3 S. 272). Umso weniger kann mit diesem Rechtsmittel vorgebracht werden, noch früher (vor der Kodifikation von 1862) geltendes Recht sei nicht richtig angewendet worden.
bb) Bezüglich der Auslegung von Verträgen muss im Hinblick darauf, dass gewisse Rügen mit staatsrechtlicher Beschwerde (z.B. willkürliche Sachverhaltsermittlung) und andere mit Berufung (z.B. Auslegung eines Vertrages nach dem Vertrauensprinzip) vorzubringen sind, nach ständiger Rechtsprechung grundsätzlich zwischen Sachverhalts- und Rechtsfragen unterschieden werden (<ref-ruling> E. 3 S. 184; 363 E. II/5a S. 368; <ref-ruling> E. 4b S. 22 unten; <ref-ruling> E. 2a und 4c/aa S. 121 und 123; <ref-ruling> E. 6 S. 418).
Der Unterscheidung braucht keine Beachtung geschenkt zu werden, wenn das Bundesgericht beide Fragen in einem Verfahren und mit derselben Kognition prüfen muss. So verhält es sich hier:
Wird vor Bundesgericht eine Verletzung kantonalen Rechts gerügt, ist die staatsrechtliche Beschwerde gegeben (Art. 55 Abs. 1 lit. c und Art. 84 Abs. 2 OG); das Bundesgericht überprüft entsprechende Rügen bloss auf Willkür (z.B. <ref-ruling> E. 4c; <ref-ruling> E. 3). Dies muss nach dem Dargelegten umso mehr auch für die Auslegung der Urkunde vom 15. Mai 1528 und der darin festgehaltenen Willensäusserungen in rechtlicher Hinsicht gelten. Da Tatsachenfeststellungen letztinstanzlicher kantonaler Gerichte nur mit staatsrechtlicher Beschwerde wegen Willkür angefochten werden können (<ref-ruling> E. 4a S. 211; <ref-ruling> E. 4b S. 40; <ref-ruling> E. 1b), sind sämtliche Rügen gegen den angefochtenen Entscheid zur Frage, was die Beschwerdeführerin mit Urkunde vom 15. Mai 1528 erworben hat, im Beschwerdeverfahren unter dem Gesichtswinkel der Willkür zu prüfen. Das gilt auch für den Vergleich des vorliegenden Geschäfts mit anderen urkundlich nachgewiesenen aus der gleichen Epoche, wobei auch insoweit nicht zwischen Sachverhaltsermittlung und Rechtsanwendung unterschieden werden muss. Die Beschwerdeführerin spricht dem Bundesgericht in diesen Bereichen zu Unrecht freie Kognition zu.
3.- Das Kantonsgericht hat zunächst geprüft, inwieweit die drei in den Akten liegenden Privatgutachten berücksichtigt werden dürfen. Diejenigen der Professoren Meier-Hayoz und Soliva würden einen anderen Fall betreffen. Bezüglich der von Prof. Clausdieter Schott während des vorliegenden Verfahrens erstellten Expertise kommt das Gericht zum Schluss, sie dürfe insoweit nicht berücksichtigt werden, als darin Tatsachenbehauptungen erhoben worden seien. Denn die Beschwerdeführerin habe dieses Gutachten vom 9. November 1998 grundlos erst am 7. Januar 2000, kurz vor der zweiten Hauptverhandlung, eingereicht; Privatgutachten unterlägen in tatsächlicher Hinsicht dem Novenverbot. Jedoch dürften alle Gutachten insoweit berücksichtigt werden, als darin Rechtsstandpunkte vertreten würden.
a) Die Beschwerdeführerin erblickt im Umstand, dass auch das Kantonsgericht Vergleiche zu anderen Rechtsquellen gezogen hat, einen Widerspruch zu dieser Begründung. Da in der Beschwerdeschrift gemäss Art. 90 Abs. 1 lit. b OG detailliert und klar vorzubringen ist, inwiefern das kantonale Prozessrecht im Bereich des Novenverbots geradezu unhaltbar und krass dem Gerechtigkeitsempfinden zuwiderlaufend angewendet worden ist (<ref-ruling> E. 1c; <ref-ruling> E. 4a und b S. 270; <ref-ruling> E. 3a S. 373), kann auf ihre Rüge nicht eingetreten werden. Die Beschwerdeführerin führt weder die kantonale Norm an, die willkürlich angewendet worden sein soll (<ref-ruling> E. 2c S. 118), noch begründet sie, inwiefern eine Prozessregel unhaltbar zur Anwendung gelangt sein soll.
Soweit die Beschwerdeführerin im gleichen Zusammenhang geltend macht, das Kantonsgericht habe in der Literatur verwertete Urkunden zugelassen und die übrigen als verspätete Parteibehauptungen aus dem Recht gewiesen, so genügt sie Art. 90 Abs. 1 lit. b OG wiederum nicht, verweist sie doch bloss auf S. 12 des angefochtenen Urteils, wo das Kantonsgericht darlegt, weshalb die nördliche Grenzlinie der Alp St. Martin in tatsächlicher Hinsicht nicht hinreichend präzis umschrieben worden ist (vgl. dazu E. 4 hiernach).
b) Der Anspruch auf rechtliches Gehör garantiert der Beschwerdeführerin das Recht, an der Beweiserhebung mitzuwirken, Beweise beizubringen, sich zu diesen zu äussern und mit rechtserheblichen Vorbringen gehört zu werden, sofern diese rechtzeitig und prozesskonform geltend gemacht worden sind (<ref-ruling> E. 2 S. 242 ab Mitte; <ref-ruling> E. 2b S. 137; <ref-ruling> E. 4a S. 55). Zwar rügt die Beschwerdeführerin, mit der teilweisen Nichtberücksichtigung des Gutachtens von Prof.
Schott sei ihr Gehör verweigert worden. Jedoch rügt sie nicht, sie habe das Gutachten nach den massgeblichen Prozessregeln rechtzeitig eingereicht. Auch begründet sie nicht, weshalb das Gutachten von Clausdieter Schott trotz des Novenverbots zwingend als Ganzes hätte berücksichtigt werden müssen und welche rechtserheblichen Äusserungen im Gutachten übergangen worden sind (Art. 90 Abs. 1 lit. b OG). Sie beschränkt sich darauf, die im genannten Gutachten berücksichtigten Urkunden aufzulisten, und belegt nur, inwieweit diese schon vorher im kantonalen Verfahren beigezogen worden seien.
Dass diese in der Literatur erörterten Urkunden nach der Darstellung der Beschwerdeführerin nicht neu waren, entbindet diese nicht von der Pflicht, im Zusammenhang mit dem geforderten Beizug des Gutachtens begründete Rügen zu erheben (Art. 90 Abs. 1 lit. b OG). Jedoch kann auf die von der Beschwerdeführerin erhobenen Rügen eingetreten werden, mit denen sie Art. 90 Abs. 1 lit. b OG entsprechend auf urkundlich belegte Vergleichsfälle inhaltlich Bezug nimmt (E. 5b und 5c hiernach).
c) Schliesslich macht die Beschwerdeführerin erfolglos geltend, das Bundesgericht könne das Gutachten Schott von sich aus beiziehen und habe dieses insgesamt zu berücksichtigen.
Wohl darf das Bundesgericht ein Rechtsgutachten im staatsrechtlichen Beschwerdeverfahren miteinbeziehen, wenn die darin enthaltenen Begründungen in den wesentlichen Punkten die Rügebegründungen unterstützen (dazu <ref-ruling> E. 4b; <ref-ruling> E. 1). Ob das Gutachten Schott beigezogen werden darf, kann offen bleiben. Denn auch wenn es beachtet werden dürfte, könnte daraus nicht abgeleitet werden, der angefochtene Entscheid sei in der Sache willkürlich (dazu E. 5e hiernach).
4.- Offenbar zieht das Kantonsgericht daraus, dass Prof.
Clavadetscher im Gutachten vom 20. April 1996 den Vorab Pign erwähnt (S. 3 oben), in der Ergänzung vom 19. August 1996 aber von einer Grenze entlang dem Gletscherfirn ausgeht, die mit der Wasserscheide (S. 1 f.) und der später entsprechend gezogenen Kantonsgrenze übereinstimmt, den Schluss, für eine Grenzlinie oberhalb des alpwirtschaftlich nutzbaren Landes gebe es bei strenger Beachtung des Wortlauts der Urkunde vom 15. Mai 1528 zwei Varianten: Die eine Linie müsste vom Glarner Vorab (3'018 m) entlang dem Gletscherfirn Richtung Osten zum Crap Ner (2'718 m) und weiter zum unbenannten Spitz mit der Höhe von 2'740 m führen und würde mithin mit der Grenze zwischen den Kantonen Graubünden und Glarus übereinstimmen.
Die andere Linie läge weiter südlich, würde beim Bündner-Vorab (3'028 m) beginnen, über den Vorab Pign (2'897 m) laufen und durch eine Senke ebenfalls zum Crap Ner und zum Bergspitz mit der Höhe von 2'740 m führen. Das Kantonsgericht hat sich freilich keiner der beiden Varianten angeschlossen, sondern die Grenze fast parallel zur Luftlinie zwischen den Bergspitzen des Vorab Pign (2'897 m) und des Crap Ner (2'718 m), aber auf einer Höhe von ungefähr 2'500 m und damit deutlich weiter südlich gezogen mit der Folge, dass die Bergstation nicht mehr zum Gebiet der Alp St. Martin gehört. Es kommt zum Schluss, der Beschrieb der Grenze im Norden der Alp St. Martin sei alles andere als klar, weil die sogenannten Pertinenzformeln, mit denen die Liegenschaften bezüglich Umfang und Zugehör in den damaligen Urkunden umschrieben worden waren, mit Vorsicht zu werten seien; die erste Instanz habe sich zu sehr auf die Formulierung "oberhalb bis zu den obersten (Berg-) Spitzen, von denen man nach Glarus hinunter sieht" gestützt. Prof. Clavadetscher habe der Reihe der Bergspitzen entlang keine eindeutige Linie ziehen können, und der von ihm nicht widerspruchsfrei festgelegte Grenzverlauf stimme mit dem von der Beschwerdeführerin angegebenen nur bezüglich des Crap Ner (2'718 m) mit Sicherheit überein. Von dieser Bergspitze sehe man sicher nach Glarus hinunter. Die Grenzlinie lasse sich nicht zweifelsfrei ziehen, besonders unter Berücksichtigung des Umstandes, dass der Ausdruck "Spitz" nicht immer für den obersten Punkt, sondern häufig auch für eine Berghöhe ohne Gipfelform gebraucht worden sei.
a) Die Beschwerdeführerin erblickt Willkür im Umstand, dass das Kantonsgericht die Grenzlinie nicht entsprechend dem klaren Wortlaut der Urkunde festgelegt habe. Jeder Alpinist könne bestätigen, dass man von allen erwähnten Bergspitzen nur vom Glarner Vorab (3'018 m), vom Crap Ner (2'718 m) und vom weiter östlich davon liegenden Bergspitz mit der Höhe von 2'740 m auf die Glarner Landschaft hinab sehen könne; dass der Experte Clavadetscher den südlich gelegenen Vorab Pign erwähnt habe, spreche nicht gegen seinen Standpunkt, da er nach der Karte geurteilt habe. Die kantonsgerichtliche Argumentation mit dem Begriff "Spitz" sei willkürlich.
Da im fraglichen Grenzgebiet mehrere Gipfel stehen, die nicht nur in Ost-Westrichtung ausgerichtet, sondern auch in Nord-Südrichtung verschoben sind, ist die Rüge der Beschwerdeführerin durchaus verständlich. Diese verkennt aber, dass im Beschwerdeverfahren wegen Willkür neue tatsächliche Vorbringen ausgeschlossen sind (<ref-ruling> E. 4b S. 212; <ref-ruling> E. 4a). Das Bundesgericht kann somit nicht von sich aus feststellen, von welchen Bergspitzen (nebst dem Crap Ner; 2'718 m) freie Sicht nach Glarus besteht, weil die Verfassungsmässigkeit des angefochtenen Urteils nur nach Massgabe der Sach- und Rechtslage zur Zeit des angefochtenen Entscheids beurteilt werden darf (<ref-ruling> E. 4b S. 212; <ref-ruling> E. 3a S. 283 f.; 367 E. 1b S. 370; <ref-ruling> E. 1b).
b) Die Beschwerdeführerin argumentiert sodann, wenn man davon ausgehe, dass mit der Sicht nach Glarus die Bergspitzen zweifelsfrei bestimmt werden könnten, verfalle das Kantonsgericht in Willkür, wenn es den Grenzbeschrieb im Norden als unpräzis qualifiziere. Wollte man verlangen, dass Grenzbeschreibungen den Grundsätzen moderner Kartographie genügen müssten, wäre <ref-law> in keinem vergleichbaren Fall anwendbar und somit seines Sinnes beraubt.
Soweit sich die Beschwerdeführerin mit dieser Rüge zu Bundesrecht äussert, ist darauf nicht einzutreten (E. 2a hiervor). Sachlich mag die Rüge einiges für sich haben, doch scheitert sie letztenends daran, dass das Kantonsgericht die Grenze mit einer anderen Begründung nach Süden verschoben und tiefer gelegt hat (E. 5 hiernach). Gegen das so abgestützte Urteil ist mit der vorliegenden Rüge nicht aufzukommen, weil der angefochtene Entscheid auch dann bestehen bliebe, wenn diese Willkürrüge durchdringen würde (<ref-ruling> E. 4a Abs. 2 S. 211 mit Hinw. ; <ref-ruling> E. 5 S. 57).
c) Die Beschwerdeführerin wendet weiter ein, das Kantonsgericht habe sich fast vollständig über die Expertise Clavadetscher hinweggesetzt, indem es diese in unhaltbarer Weise auf die Ermittlung des Wortlautes der Urkunde vom 15. Mai 1528 reduziert und verkannt habe, dass der Experte zahlreiche Fragen der Parteien zum Grenzverlauf habe beantworten müssen. Aus den Antworten des Gutachters gehe zweifelsfrei hervor, dass das fragliche Gebiet, auf dem die Bergstation liege, zur Alp St. Martin gehöre. Das Kantonsgericht nehme wohl Bezug auf die Expertise, übergehe aber willkürlich die Feststellungen des Gutachters zum Grenzverlauf entlang den Bergspitzen.
Diese Rüge geht schon deshalb fehl, weil das Kantonsgericht durchaus zur Kenntnis genommen hat, dass Otto Clavadetscher unkultivierbares Land zur Alp St. Martin geschlagen, dessen Meinung aber als nicht überzeugend abgelehnt hat. Da der Experte im ersten Gutachten den Vorab Pign und im zweiten Gutachten die nördlich davon liegende Wasserscheide erwähnt, kann zudem auch nicht gesagt werden, es sei willkürlich, dem Gutachten Widersprüche zu entnehmen (vgl. E. 4 Abs. 1 hiervor). Jedenfalls darf von einem Gutachten in Fällen berechtigter Zweifel ohne Verletzung der Verfassung abgewichen werden (<ref-ruling> E. 1c S. 146 f.; vgl. 120 III 79 E. 2b S. 81 f.). Die Beschwerdeführerin verkennt, dass Willkür nicht bereits dann vorliegt, wenn einem Gutachten nicht gefolgt wird und eine andere Entscheidvariante möglich oder gar vorzuziehen wäre (<ref-ruling> E. 2a S. 88 mit Hinw. , <ref-ruling> E. 3a; <ref-ruling> E. 3a). Weiter ist auch in diesem Zusammenhang festzuhalten, dass das Kantonsgericht die Grenzlinie aus anderen Gründen südlich der Bergspitzen festgelegt hat.
5.- Das Kantonsgericht führt aus, im 16. Jahrhundert n. Chr. sei es immer wieder zu Grenzstreitigkeiten gekommen; daher sei es wichtig gewesen, die Grenzlinien genau festzulegen.
Es hat die nördliche Grenze weiter südlich von den Bergspitzen, ungefähr auf der Höhe von 2'500 m festgesetzt mit der Begründung, in den obersten, produktiv uninteressanten, zwischen Weide und Wasserscheide liegenden Regionen sei die Grenze nicht genau festgelegt worden, weil dieses Gebiet im Bewusstsein der Hirten und Bergbauern keine Rolle gespielt habe; dort seien auch keine Grenzstreitigkeiten aufgetreten, weil niemand an Gletschern und Geröllhalden interessiert gewesen sei. Man habe mit der Bezeichnung der Berggrate als Grenzlinie lediglich die Abgrenzung zur dahinter liegenden Alp anzeigen wollen. Auch aus den Pertinenzformeln werde ersichtlich, dass die Nutzungsrechte wesentlich gewesen seien, was Prof. Clavadetscher ebenfalls einräume.
Wohl sei denkbar, dass ausnahmsweise an kulturunfähigem Land und an Gletschern ein Interesse bestanden habe, jedoch sei dies hier nicht hinreichend ausgewiesen. Auch aus den verwendeten Paarformeln, über deren Aussagewert noch immer gestritten werde, könnten keine gegenteiligen Schlüsse gezogen werden. Denn man finde in Urkunden immer wieder Paarformeln, die im konkreten Fall sinnlos seien. Das Kantonsgericht sei schon früher der Meinung Livers und anderer Autoren gefolgt, wonach Paarformeln auch in Fällen benutzt worden seien, wo ihre Verwendung keinen Sinn gemacht habe. Aus den im vorliegenden Fall (zum Teil erweiterten) Paarformeln "Grund und Grat" sowie "Wunn, Weide und Wasserleitungen" könne nichts für ein über das Nutzungsinteresse hinaus gehendes Eigentum abgeleitet werden. Die Beschwerdeführerin habe den Beweis des Gegenteils nicht erbracht, mit dem die Vermutung gegen Privateigentum (<ref-law>) umgestossen werden könne.
a) Nach ständiger Rechtsprechung des Bundesgerichts hat die letzte kantonale Instanz willkürlich entschieden, wenn ihre Lösung offensichtlich im Widerspruch zur Gesamtsituation steht, wenn sie krass einseitig erscheint, wenn sie dem Gerechtigkeitsempfinden zuwiderläuft oder einen unumstrittenen Rechtsgrundsatz offensichtlich verletzt. Der angefochtene Entscheid muss geradezu unhaltbar erscheinen (<ref-ruling> E. 5b S. 134; <ref-ruling> E. 4b S. 40; <ref-ruling> E. 1b).
b) Die Beschwerdeführerin wendet zunächst ein, das Kantonsgericht habe willkürlich die Tatsache übergangen, dass in dieser Zeit Grenzen häufig entlang von Berggraten gezogen worden seien; auch belege der urkundlich nachgewiesene Streit zwischen Quinto und Faido von 1577 über die Grenzen ihrer Alpen beim Lukmanier, dass die Grenze durch die Spruchleute unter anderem über zwei Bergspitzen geführt worden sei, die später auch zur Kantonsgrenze zwischen Graubünden und dem Tessin geworden sei. Insoweit müsse dieser Fall mit dem zu beurteilenden gleichgesetzt werden, und das Kantonsgericht irre mit der Behauptung, über die Grenzen von kulturunfähigem Land sei nie gestritten worden.
Bereits weil es sich beim Lukmanier um einen Pass handelt, scheitert die Rüge der Beschwerdeführerin. Sie zeigt nicht auf, weshalb am hier betroffenen (Gletscher-) Gebiet gleiche Interessen bestanden haben sollten wie an einem Pass, der angesichts seiner Verbindungsfunktion offensichtlich bedeutende Interessen berührt. Sie legt nicht dar, dass der Pass auf vergleichbarer Höhe wie das hier strittige Gebiet liegt bzw. bezüglich der Vegetation vergleichbar sei. Es kann daher nicht gesagt werden, von diesem Grenzstreit müsse zwingend auf den vorliegenden geschlossen werden. Bei diesem Ergebnis kann offen bleiben, ob das Anführen dieses Beispiels gegen das Novenverbot verstösst.
c) Weiter macht die Beschwerdeführerin geltend, das Beispiel der um 1551 gekauften Alp Suvretta zeige, dass das kulturunfähige Gebiet zu einer Alp gehört habe. Denn der von den Spruchleuten auf 16 Gulden festgesetzte Preis sei auf Begehren des Veräusserers um 10 Gulden heraufgesetzt worden mit der Begründung, zur Alp gehörten nicht nur Weideplätze für Kühe, sondern auch das Gebirge samt "Gesuchtem und Ungesuchtem", mithin auch den höher liegenden Weidegründen für Schafe und dem kulturunfähigen Land.
Auch dieser Schluss drängt sich nicht geradezu auf, weil nicht gesagt werden kann, der Aufschlag sei zwingend (teilweise) für kulturunfähiges Land erfolgt. Die Beschwerdeführerin berichtet selbst, die Nachzahlung sei für von Schafen benutzbaren Weidegrund gezahlt worden. Dass dieses Gebiet über dem hier betroffenen bzw. vegetationsmässig ungünstiger liege, macht sie nicht geltend. Bei diesem Ergebnis braucht auch hier nicht geprüft zu werden, ob das Beispiel gegen das Novenverbot verstösst und aus diesem Grunde unbeachtlich ist.
d) Schliesslich rügt die Beschwerdeführerin, wenn die Anforderungen, die das Kantonsgericht an die Präzision der Umschreibung der Nordgrenze stelle, bei allen übrigen Grenzabschnitten angewendet würden, wäre die Urkunde vom 15. Mai 1528 ein Stück wertloses Papier, das gar kein Eigentum verschaffen könnte.
Da das Kantonsgericht insoweit unwidersprochen davon ausgeht, dass im Osten, Westen und Süden entweder Grenzsteine oder klare topographische Grenzmarken bestanden, kann die Beschwerdeführerin mit dieser Rüge Willkür nicht begründen.
Zwar ist nicht zu verkennen, dass die mit dem angefochtenen Entscheid gezogene Grenze auf der Höhe von ungefähr 2'500 m in der Urkunde vom 15. Mai 1528 keine ausdrückliche Stütze findet. Jedoch hat das Kantonsgericht der Beschwerdeführerin mit dieser an zwei Punkte anknüpfenden Grenzlinie ein klar umrissenes Gebiet zugesprochen. Die Urkunde vom 15. Mai 1528 ist somit offensichtlich nicht wertlos.
e) Das Kantonsgericht kann sich für seine Auslegung der Urkunde auf die Meinung des anerkannten Rechtshistorikers Peter Liver stützen, wonach in der fraglichen Zeit das Eigentum dort geendet habe, wo keine Nutzung mehr möglich gewesen sei (vgl. Peter Liver, Der Kultur nicht fähiges Land und das Strahlerrecht, in ZBJV 111/1975 S. 249 ff., insbesondere S. 253 ff.). Nach der bundesgerichtlichen Rechtsprechung ist die Grenze zum Willkürverbot in der Regel nicht überschritten, wenn sich die kantonalen Behörden in einer umstrittenen Frage auf die Lehrmeinung eines anerkannten Forschers berufen können, selbst wenn ihr die Mehrheit der Lehre widerspricht (<ref-ruling> E. 3b S. 252; vgl. 127 III 232 E. 2a a.E.; <ref-ruling> E. 4 S. 440 ff., insbes. S. 444; <ref-ruling> E. 3b). So ist es angesichts der Unsicherheiten, die jeder rechtshistorischen Erkenntnis anhaften, auch hier zu halten.
Der insoweit bloss allgemein erhobene (Art. 90 Abs. 1 lit. b OG) Willkürvorwurf verfängt daher nicht, obschon die Gutachten der beiden verschiedentlich zitierten Professoren, von denen einer zudem ein Parteigutachten erstellt hat, berechtigte Zweifel darüber aufkommen lassen, ob die Schlüsse von Prof. Liver im hier interessierenden Punkt zutreffen (vgl.
die Expertise von Otto Clavadetscher vom 20. April 1996, S. 3 und 5 f., sein Ergänzungsgutachten S. 1 f. und das Rechtsgutachten von Clausdieter Schott vom 9. November 1998, S. 13 ff., 20 ff. und 34 ff.). Aus dem Umstand, dass die Beschwerdeführerin mit ihrer Willkürrüge nicht durchdringt, darf somit nicht abgeleitet werden, das kantonsgerichtliche Urteil würde auch einer freien Überprüfung standhalten. Die staatsrechtliche Beschwerde ist so ausgestaltet, dass mit ihr die einheitliche Rechtsanwendung in der föderalistischen Schweiz in weiten Bereichen nicht sichergestellt werden kann (vgl. <ref-ruling> E. 2 S. 69 und W. Kälin, Das Verfahren der staatsrechtlichen Beschwerde, 2. Aufl. 1994, S. 7 f.).
6.- Das Kantonsgericht hat darin, dass die Beschwerdegegnerin in zahlreichen Baubewilligungsverfahren für Bauten der Bergbahnen Crap Sogn Gion AG ihren Eigentumsanspruch nicht geltend gemacht hat, keinen Verstoss gegen Treu und Glauben erblickt und hat keine darüber hinaus gehenden tatsächlichen Feststellungen getroffen.
a) Die Beschwerdeführerin vertritt im Ergebnis den Standpunkt, die Beschwerdegegnerin müsse sich das von ihrer Baubewilligungsbehörde geschaffene Vertrauen anrechnen lassen, sei diese doch davon ausgegangen, dass sie (die Beschwerdeführerin) Eigentümerin auch desjenigen Teils der Alp St. Martin sei, auf dem die bewilligten Personenbeförderungsanlagen stünden. Indem sie ausführt, dass seit 1966 zwischen ihr und den Bergbahnen Crap Sogn Gion AG zahlreiche Baurechtsverträge abgeschlossen worden seien und dass sie von der Baubewilligungsbehörde der Beschwerdegegnerin im Ergebnis als Eigentümerin des Baugrundes der bauberechtigten Bergbahnen Crap Sogn Gion AG behandelt worden sei, macht sie zwar sinngemäss geltend, die Beschwerdegegnerin sei beim Vertrauen, das ihre Baubehörde geschaffen haben zu behaften (zum aus der Verfassung fliessenden Anspruch auf Schutz des von den Behörden begründeten Vertrauens z. B. <ref-ruling> E. 3a S. 387; <ref-ruling> E. 9c S. 219 f.; <ref-ruling> E. 3b/cc S. 123). Indessen stellt sich hier nicht die Frage, ob die Baubewilligungsbehörde vom durch sie (angeblich) geweckten Vertrauen abgewichen ist, sondern darum, ob die Beschwerdegegnerin im Rahmen des vorliegenden Verfahrens gegenüber der Beschwerdeführerin treuwidrig oder rechtsmissbräuchlich von der Position abgerückt ist, welche die Baubehörde in den Bewilligungsverfahren angeblich eingenommen hatte. Dies erscheint als Frage der Anwendung von <ref-law> mit der Folge, dass die Rügen der Beschwerdeführerin im Berufungsurteil zu behandeln sind (dort E. 5b).
b) Die Beschwerdeführerin macht aus dem gleichen Grund erfolglos geltend, das Kantonsgericht habe Spekulationen nachgegeben und sie damit praktisch gezwungen, in Umkehrung der Beweislastregel von <ref-law> nachzuweisen, dass die Baubewilligungsbehörde die Eigentumsfrage abgeklärt habe:
Zum einen hätte diese Rüge mit Berufung vorgebracht werden müssen (Art. 43 Abs. 1 und Art. 84 Abs. 2 OG). Zum anderen stellt das Kantonsgericht im Ergebnis fest, eine Vertrauensgrundlage, auf die sich die Beschwerdeführerin berufen könnte, stehe nicht fest; somit hat es die Beschwerdeführerin die Folgen der Beweislosigkeit tragen lassen (<ref-law>).
7.- Bleibt die staatsrechtliche Beschwerde nach dem Dargelegten ohne Erfolg, wird die unterliegende Beschwerdeführerin gebührenpflichtig (Art. 156 Abs. 1 OG) und schuldet der Beschwerdegegnerin eine Parteientschädigung (Art. 159 Abs. 2 OG). Halbsatz 2 dieser Bestimmung und Art. 156 Abs. 2 OG sind hier nicht anwendbar, weil beide Parteien nicht in hoheitlicher Funktion tätig geworden sind und bloss ihre Vermögensinteressen auf dem Spiel stehen (<ref-ruling> E. 8 S. 103; <ref-ruling> E. 3 S. 230; <ref-ruling> E. 6 S. 240 e contrario).

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.- Die Gerichtsgebühr von Fr. 10'000.-- wird der Beschwerdeführerin auferlegt.
3.- Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 10'000.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien und dem Kantonsgericht von Graubünden (Zivilkammer) schriftlich mitgeteilt.
_
Lausanne, 30. August 2001
Im Namen der II. Zivilabteilung des
SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Der Gerichtsschreiber: