Entschädigung aus materieller Enteignung, hat sich ergeben: A.- Mit Tauschvertrag vom 20./23. Januar 1984 erwarb die Rhätische Bahn AG (RhB) von den Bergbahnen Brämabüel und Jakobshorn (BBBJ) die Parzelle Nr. 5756 im Gebiet "Geissloch", Davos-Platz. Der Tausch erfolgte unter der Bedingung, dass die Parzelle von der Wohnzone W3 in die Wohnzone W4 aufgezont werde. Die Gemeinde, die bei den Verhandlungen ihre Hilfe angeboten hatte, verpflichtete sich, für die Parzelle Nr. 5756 Erschliessungsanlagen zu erstellen und der RhB eine Baumehrkostenentschädigung zu leisten. Im Gegenzug räumte die RhB der Gemeinde ein Loipenerstellungs- und -benützungsrecht auf ihrer neuen Parzelle ein und verpflichtete sich zur Erstellung preisgünstiger Wohnungen für Ortsansässige. B.- Am 26. Februar 1984 beschlossen die Stimmberechtigten der Gemeinde Davos eine Teilrevision des Zonenplans "Dorf und Platz" vom 4. Dezember 1977. Diese Revision umfasste eine Korrektur der Bauzonenabgrenzung im Bereich der Parzelle Nr. 5756 und eine Aufzonung des Gebiets "Geissloch" von der Wohnzone W3 in die Wohnzone W4. Die Regierung des Kantons Graubünden genehmigte die Revision am 16. Juli 1984. Am 21. Dezember 1988 genehmigte die Gemeinde einen von der RhB und weitern Grundeigentümern ausgearbeiteten privaten Quartierplan. Am 6. November 1989 bewilligte sie das von der RhB bzw. ihrer Baurechtsnehmerin, der Pensions- und Hilfskasse der RhB (PHK) eingereichte Baugesuch zur Überbauung der Parzelle Nr. 5756 mit drei Mehrfamilienhäusern und einer unterirdischen Garage im unteren, westlichen Teil der Parzelle. In der Folge verzichtete die PHK aber auf die Ausführung des Vorhabens, so dass sich die RhB entschloss, die Parzelle Nr. 5756 zu verkaufen. Am 23. Februar 1993 schloss sie einen Kaufrechtsvertrag ab, bei welchem ein Preis von Fr. 4 Mio. vereinbart wurde. C.- Am 18. Juni 1992 erliess die Gemeinde einen Richtplan, welcher Grundlage für eine Totalrevision der kommunalen Nutzungsplanung von 1977 nach den Zielen und Grundsätzen des Bundesgesetzes vom 22. Juni 1979 über die Raumplanung sein sollte. Dieser Richtplan sah unter anderem vor, dass das Siedlungsgebiet nicht in bisher noch nicht überbaute Räume ausgedehnt werden, sondern eine Siedlungsverdichtung innerhalb des schon überbauten Gebiets stattfinden sollte. Die sich am Rand des überbauten Gebiets befindliche Parzelle Nr. 5756 wurde dem Bereich zugeordnet, für welchen Bauzonenkorrekturen vorgesehen waren. Am 29. Juni 1993 ordnete die Gemeinde zwecks Sicherung der Umsetzung der Richtplanung eine Bausperre an, welche unter anderem auch die Parzelle Nr. 5756 erfasste. Die von der RhB erhobene Beschwerde wurde letztinstanzlich vom Bundesgericht abgewiesen (Urteil 1P.304/1994 vom 2. Februar 1995). Am 1. Dezember 1996 hiessen die Stimmberechtigten der Gemeinde Davos unter anderem den revidierten Zonenplan "Davos-Platz" gut. Dieser beliess den untern (westlichen) Teil der Parzelle Nr. 5756 im Umfang von rund 1'833 m2 in der Bauzone und wies den obern (östlichen), am Hang befindlichen Teil im Umfang von rund 4'125 m2 der Landwirtschaftszone, überlagert von einer Wintersportzone, zu. Die von der RhB gegen diese Planungsmassnahme erhobene Beschwerde wurde von der Regierung des Kantons Graubünden am 23. Dezember 1997 abgewiesen. Zur Begründung führte die Regierung im Wesentlichen aus, gewichtige öffentliche Interessen sprächen für die Umzonung. Eine Überbauung würde die Langlaufloipe und das Übungsgelände des Geisslochlifts erheblich beeinträchtigen und einen unschönen Einschnitt in den Grün- bzw. Landwirtschaftsgürtel zwischen den überbauten Flächen in der Ebene und dem weiter oben am Hang sich hinziehenden Wald bilden. Den gegen diesen Entscheid erhobenen Rekurs wies das kantonale Verwaltungsgericht am 26. Mai 1998 ab. Das Urteil erwuchs in Rechtskraft. D.- Am 21. Dezember 1998 meldete die RhB eine Entschädigungsforderung wegen materieller Enteignung an. Sie verlangte von der Gemeinde Davos Fr. 4 Mio. , zuzüglich 5% Zins, zudem die Übertragung der ganzen Parzelle auf die Gemeinde. Das kantonale Verwaltungsgericht wies die Klage nach Vornahme eines Augenscheins am 21. September 1999 ab. E.- Gegen dieses Urteil hat die RhB am 10. November 1999 Verwaltungsgerichtsbeschwerde an das Bundesgericht erhoben. Sie beantragt im Wesentlichen, der angefochtene Entscheid sei aufzuheben und es sei festzustellen, dass sie infolge Auszonung der Parzelle Nr. 5756 materiell enteignet und voll zu entschädigen sei; überdies sei festzustellen, dass sie in ihrem durch den Tauschvertrag, die Umzonung und die Baubewilligung begründeten Vertrauen verletzt worden und daher (auch) gestützt auf Art. 4 der Bundesverfassung von 1874 (aBV) voll zu entschädigen sei; die zuständige Enteignungskommission sei mit der Festsetzung der Entschädigung zu beauftragen. Die Landschaft Davos Gemeinde und das Verwaltungsgericht beantragen, die Beschwerde sei abzuweisen, soweit auf sie eingetreten werden könne. Das Bundesamt für Raumplanung (heute: Bundesamt für Raumentwicklung) hat auf eine Stellungnahme verzichtet.