Entschädigung aus materieller Enteignung, hat sich ergeben:
A.- Die Erben X._, nämlich A._, B._, C._, D._, E._ und F._, waren Eigentümer der Parzelle Nr. 1939 im Gebiet Löchlimatt der Gemeinde Bottmingen. Das 2075 m2 umfassende Grundstück lag seinerzeit gemäss der Bodennutzungsordnung der Gemeinde Bottmingen aus dem Jahre 1951 in einer Zone, in der das Bauen grundsätzlich möglich war. 1966 wies die Gemeindeversammlung das Gebiet Löchlimatt einer grösseren Zone für öffentliche Werke und Anlagen zu.
Am 25. Mai 1987 stimmte die Einwohnergemeindeversammlung Bottmingen einem neuen Zonenplan Landschaft und am 9. April 1992 dem Zonenplan mit Zonenreglement Siedlung zu.
Gemäss dem Zonenplan Siedlung, der am 6. Juli 1993 vom Regierungsrat genehmigt und damit rechtskräftig wurde, verblieb die Parzelle Nr. 1939 in der Zone für öffentliche Anlagen und Werke. Deren Zweck, der seit 1972 "Schul- und kirchliche Bauten" gelautet hatte, wurde neu mit "Sport, Freizeit, Feuerwehr, Wohnheim" umschrieben.
Noch während der Erarbeitung des neuen Zonenplans, erstmals mit Schreiben vom 9. Mai 1990, hatten die Erben X._ den Gemeinderat Bottmingen ersucht, die Parzelle Nr. 1939 entweder der Bauzone zuzuweisen oder diese gegen Realersatz oder zum Baulandpreis zu erwerben. In der Folge aufgenommene Verhandlungen scheiterten wegen der unterschiedlichen Preisvorstellungen, so dass die Gemeinde im gegenseitigen Einvernehmen ein Enteignungsverfahren einleitete.
Die Gemeindeversammlung stimmte am 28. März 1994 der Ausübung des Enteignungsrechts im Hinblick darauf zu, dass die Parzelle Nr. 1939 mit den beiden Nachbarparzellen der römisch-katholischen Kirchgemeinde Binningen/Bottmingen in eine Landumlegung einbezogen werden solle, um ein geeignetes Baugrundstück für ein Behindertenheim zu schaffen. Am 26. Mai 1994 bewilligte das Enteignungsgericht des Kantons Basel-Landschaft der Gemeinde Bottmingen die vorzeitige Inbesitznahme des zu enteignenden Grundstücks.
Im anschliessenden Enteignungsverfahren sprach das Enteignungsgericht den Erben X._ eine Entschädigung für die Enteignung ihrer Parzelle von Fr. 62'250.-- zu, entsprechend einem Preis für Landwirtschaftsland von Fr. 30.--/m2, zuzüglich Zins seit dem 26. Mai 1994. Das Verwaltungsgericht des Kantons Basel-Landschaft setzte am 27. Januar 1999 in teilweiser Gutheissung einer Beschwerde der Erben X._ die Entschädigung auf Fr. 363'125.-- fest, zuzüglich des seit 16. Mai 1967 anlaufenden Zinses.
Gegen dieses Urteil gelangte die Einwohnergemeinde Bottmingen an das Bundesgericht, welches am 22. Dezember 1999 das angefochtene Urteil aufhob und die Sache zur Neubeurteilung im Sinne der Erwägungen an das Verwaltungsgericht zurückwies.
B.- Das Verwaltungsgericht des Kantons Basel-Landschaft führte einen weiteren Schriftenwechsel durch und verpflichtete die Gemeinde Bottmingen mit Urteil vom 28. Februar 2001, den Erben X._ für die Enteignung ihrer Parzelle Nr. 1939 eine Entschädigung von Fr. 930'185.-- zu bezahlen.
C.- Die Einwohnergemeinde Bottmingen hat gegen dieses Urteil am 18. Mai 2001 Verwaltungsgerichtsbeschwerde an das Bundesgericht erhoben. Sie beantragt, das angefochtene Urteil sei aufzuheben und jenes des Enteignungsgerichts vom 17. April 1997 zu bestätigen.
Die Erben X._ und das Verwaltungsgericht des Kantons Basel-Landschaft beantragen Abweisung der Beschwerde.
Das Bundesamt für Raumentwicklung hat auf Vernehmlassung verzichtet.

Das Bundesgericht zieht in Erwägung:
1.- a) Hinsichtlich der Eintretensvoraussetzungen und der Prüfungsbefugnis des Bundesgerichts kann auf das Urteil vom 22. Dezember 1999 verwiesen werden. Auf die Beschwerde ist ohne weiteres einzutreten.
b) Auf den beantragten Augenschein kann verzichtet werden, da sich der Sachverhalt mit hinreichender Klarheit aus den Akten ergibt.
2.- Im Urteil vom 22. Dezember 1999 hat das Bundesgericht festgestellt, das Enteignungsgericht habe die Frage offen gelassen, ob das Grundstück Nr. 1939 anlässlich der Revision der Ortsplanung in den Jahren 1992/1993 in die Bauzone hätte einbezogen werden müssen, falls es nicht für öffentliche Zwecke beansprucht worden wäre. Es hat daher das Verwaltungsgericht eingeladen, im formellen Enteignungsverfahren zu prüfen, ob in jenem Zeitpunkt ein Einzonungsgebot bestanden und die Zuweisung des Grundstücks zur Zone für öffentliche Anlagen und Werke (öW-Zone) die Eigentümer enteignungsähnlich getroffen habe.
In seinem zweiten Urteil vom 28. Februar 2001 hat das Verwaltungsgericht das Einzonungsgebot bejaht, weil die Parzelle Nr. 1939 im Jahre 1993 im weitgehend überbauten Gebiet gelegen habe. Dabei hat es sich auf die gefestigte Rechtsprechung des Bundesgerichtes zum Begriff des weitgehend überbauten Gebiets gestützt (<ref-ruling> E. 5a S. 424; s.a. <ref-ruling> E.6c/aa S. 334 f., 455 E. 6a S. 462 f.). Die Beschwerdeführerin stellt diese Rechtsprechung an sich nicht in Frage, ist jedoch der Auffassung, das Verwaltungsgericht habe die fraglichen Grundsätze im konkreten Fall unzutreffend angewendet.
a) Die Beschwerdeführerin stellt in den Vordergrund, dass die Parzelle Nr. 1939 im fraglichen Zeitpunkt einen kleinen Teil eines über 83'000 m2 umfassenden Gebietes bildete, das durch die Zuweisung zur öW-Zone der privaten baulichen Nutzung entzogen war. Dieser Betrachtungsweise ist nicht zu folgen. Durch die Zuweisung zur öW-Zone ist keine Einheit des fraglichen Gebietes geschaffen worden. Vielmehr ist diese Zone mit recht unterschiedlichen Nutzungen, darunter dem Schloss, einem Schulhaus und einem Freibad, einem Parkplatz sowie Anlagen zur Energieversorgung belegt, die nur teilweise der Auflockerung der Siedlungsstruktur bzw.
der Schaffung von Grünflächen zur Erhöhung der Siedlungsqualität dienen und zum Teil normale bauliche Elemente einer Siedlung darstellen. Das Verwaltungsgericht hat demgegenüber zu Recht betont, dass die Parzelle Nr. 1939 zusammen mit den angrenzenden Parzellen Nr. 1938, 1940 und 589 eine unüberbaute Einheit von rund 8'500 m2 bildet. Diese Fläche stösst nordöstlich an die Kernzone, nordwestlich an das eisenbahnähnlich ausgestaltete Tramtrassee, jenseits dessen das öffentliche Freibad liegt, südöstlich an die Therwilerstrasse und an eine dreigeschossige Wohnzone sowie südwestlich an eine locker überbaute öW-Zone, in der sich weiter südlich Anlagen der Energieversorgung befinden. Die Distanz der Parzelle der Beschwerdegegner zur Kernzone beträgt zwar rund 50 m statt, wie im angefochtenen Urteil angegeben, nur 30 m. Das ändert jedoch nichts daran, dass die zu betrachtenden Grundstücke in unmittelbarer Nachbarschaft zur Kernzone liegen. Somit kann von einer aus vier unüberbauten Parzellen bestehenden Baulücke gesprochen werden, die unmittelbar an das überbaute Land grenzt und eine relativ geringe Fläche aufweist. Festzustellen ist ferner, dass die die Baulücke bildenden Parzellen grundsätzlich erschlossen sind.
b) Die Beschwerdeführerin hebt hervor, dass die Parzelle der Beschwerdegegner an weitere unüberbaute Grundstücke in der öW-Zone, an eine Strasse und an einen Fussweg grenze, nicht hingegen an eine Bauzone. Bei dieser Argumentation wird übersehen, dass die Frage, ob eine Baulücke in weitgehend überbautem Gebiet vorliege, nach der Praxis gebietsbezogen, parzellenübergreifend zu beurteilen ist. Der Zustand eines Grundstücks ist in seiner Gesamtheit und in seinem Zusammenhang mit den Verhältnissen auf den unmittelbar benachbarten Parzellen wie auch in der weiteren Umgebung zu betrachten. Dem hat das Verwaltungsgericht Rechnung getragen, während die Beschwerdeführerin einerseits versucht, eine wie erwähnt nicht vorhandene Einheit der öW-Zone zu konstruieren, im Übrigen aber die Parzelle Nr. 1939 nur in Bezug zu den unmittelbar angrenzenden, zur Beurteilungszeit ebenfalls unüberbauten Parzellen stellt. Daraus ergibt sich indessen ein verzerrtes Bild. Mit Blick darauf, dass der fragliche Boden nahe der Kernzone und der Wohnzonen angrenzend an die Therwilerstrasse liegt, dass das westlich an Tramlinie, Birsig und Freibad anschliessende Gebiet ebenfalls zur Bauzone gehört und bebaut ist, und dass auch die südlich anschliessende öW-Zone - wenn auch lockere - Überbauungen aufweist, kann kein Zweifel daran bestehen, dass die im Streite liegende Parzelle zum geschlossenen Siedlungsbereich gehört und an der Siedlungsqualität teilhat.
c) Angesichts der geschilderten Situation hat das Verwaltungsgericht erklärt, die Parzelle Nr. 1939 wäre in die Bauzone eingezont worden, wenn sie nicht für öffentliche Werke benötigt worden wäre. Ihre Lage sei seit jeher für Bauzwecke bestens geeignet. Eine eigenständige landschaftliche Qualität komme ihr hingegen nicht zu.
Die Beschwerdeführerin bezeichnet diese Ausführungen als unzutreffend, hält ihnen aber im Wesentlichen nur entgegen, die Gemeindeversammlung habe den Antrag der Eigentümer, ihr Grundstück der Bauzone zuzuweisen, ausdrücklich abgelehnt; die Gemeinde hätte denn auch gewiss nicht einen Keil in das grosse, zusammenhängende öW-Gebiet geschlagen.
Dieser Einwand widerlegt nicht, dass das fragliche Gebiet der Bauzone zuzuteilen gewesen wäre, hätte die Gemeindeversammlung auf die Zuweisung zur öW-Zone verzichtet. Die Tatsache, dass die Gemeinde 1992/93 den bisherigen Zweck der öW-Zone zu Gunsten eines neuen (dem Bau des Behindertenheims) aufgab, steht dem Schluss nicht entgegen, dass sich die Zuweisung zur Bauzone aufgedrängt hätte, wenn kein Grund für den Einbezug in die öW-Zone vorgelegen hätte.
Dass im fraglichen Bereich inzwischen ein Wohnheim für Behinderte erstellt worden ist, ist übrigens nicht mehr, aber auch nicht weniger als ein Indiz dafür, dass sich dieses Gebiet für eine Wohnüberbauung eignet.
d) Zusammenfassend ist festzustellen, dass im massgeblichen Zeitraum 1992/93 die Parzelle Nr. 1939 gemeinsam mit den Parzellen Nr. 1938, 1940 und 589 eine Baulücke im weitgehend überbauten Siedlungsgebiet bildete, weshalb als Alternative zur Zuweisung in die öW-Zone sinnvollerweise nur ihre Aufnahme in die Bauzone in Betracht gefallen wäre.
Wies aber der fragliche Boden bei der Zuweisung zur öW-Zone grundsätzlich Baulandqualität auf und hat er diese durch die Zuweisung verloren, so ist dem im nachfolgenden Enteignungsverfahren dadurch Rechnung zu tragen, dass bei der Festsetzung der Entschädigung von Baulandpreisen ausgegangen wird.
3.- An diesem Ergebnis änderte übrigens nichts, wenn hier nicht nach der vom Verwaltungsgericht so genannten Zweistufenmethode, sondern allein nach den Prinzipien des formellen Enteignungsrechts vorgegangen würde. Wohl hat der Enteignungsrichter bei der Bewertung des enteigneten Landes grundsätzlich auf die am Stichtag bestehende tatsächliche und rechtliche Beschaffenheit des Bodens abzustellen. Von einer anderen als der in diesem Zeitpunkt geltenden Rechtslage darf und muss aber ausgegangen werden, wenn feststeht oder mit hoher Wahrscheinlichkeit anzunehmen ist, dass die rechtliche Situation des fraglichen Grundstücks ohne die Enteignung bzw. ohne dessen Verwendung für einen öffentlichen Zweck eine andere gewesen wäre. Vorwirkungen der Enteignung, die sich in planerischer Hinsicht niederschlagen, haben wie andere Vor- und Nachteile, die auf den Enteignungszweck zurückzuführen sind, bei der Ermittlung der Entschädigung ausser Acht zu bleiben. Sind solche Vorwirkungen festzustellen, ist vor der Schätzung zunächst zu prüfen, wie das enteignete Grundstück in Anwendung der raumplanerischen Grundsätze behandelt worden wäre, wenn es nicht für den Enteignungszweck vorbehalten worden wäre (vgl. <ref-ruling> E. 5b S. 25 f. mit Hinweisen, 119 Ib 366 E. 3a). Auch nach diesen Grundsätzen, die im kantonalrechtlichen Enteignungsverfahren zu beachten sind (<ref-ruling>), musste die Tatsache, dass die umstrittene Parzelle im Hinblick auf ihren Gebrauch für öffentliche Zwecke kurz vor der formellen Enteignung (wiederum) der öW-Zone zugewiesen worden ist, bei der Bestimmung des Verkehrswertes unberücksichtigt bleiben.
Dass und weshalb sie ohne diese Zweckbestimmung der Bauzone zugewiesen worden wäre und ihr daher bei der Entschädigungsbemessung Baulandwert zuzuerkennen ist, ist bereits erläutert worden.
4.- Soweit die Beschwerdeführerin erneut geltend macht, massgebender Zeitpunkt für die Frage des Einzonungsgebotes sei das Jahr 1987 gewesen und allfällige Entschädigungsansprüche für materielle Enteignung seien daher verwirkt, ist darauf nicht mehr einzugehen, da dieser Einwand mit Entscheid vom 22. Dezember 1999 zurückgewiesen worden ist.
5.- Zur Entschädigungshöhe hat das Bundesgericht im Urteil vom 22. Dezember 1999 festgestellt, dass die Beschwerdegegner den ersten Entscheid des Verwaltungsgerichts in dieser Sache hingenommen haben und deshalb im zweiten Entscheid in keinem Fall besser gestellt werden dürfen, als sie es aufgrund des ersten waren.
Das Verwaltungsgericht führt im angefochtenen Urteil aus, die Höhe der im ersten Urteil zugesprochenen Entschädigung belaufe sich auf Fr. 930'185.-- (bestehend aus einer Entschädigung für das Land von Fr. 363'125.-- zuzüglich Zins seit 16. Mai 1967). Der Preis für Bauland im Jahr 1993 liege in der Grössenordnung von Fr. 800.--/m2.
Da die Summe von Fr. 930'185.-- bei einer Entschädigung der Parzelle Nr. 1939 (2'075 m2) zu Baulandpreisen auch bei Anwendung der Zweistufentheorie auf jeden Fall überschritten würde, könne auf eine genaue Ermittlung der Entschädigungssumme verzichtet werden. Die Beschwerdeführerin wendet nichts gegen diese überzeugende Erwägung ein, so dass es bei der zugesprochenen Entschädigung von Fr. 930'185.-- sein Bewenden hat.
6.- Dem Ausgang des Verfahrens entsprechend sind die Kosten des bundesgerichtlichen Verfahrens der Beschwerdeführerin aufzuerlegen, die in Wahrnehmung ihres Vermögensinteresses gehandelt hat (Art. 156 Abs. 1 OG). Die Gemeinde ist ausserdem zu verpflichten, den Beschwerdegegnern eine angemessene Parteientschädigung zu bezahlen (Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.- Die Kosten von Fr. 10'000.-- werden der Beschwerdeführerin auferlegt.
3.- Die Beschwerdeführerin hat die Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 10'000.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Basel-Landschaft sowie dem Bundesamt für Raumentwicklung schriftlich mitgeteilt.
_
Lausanne, 9. November 2001
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Die Gerichtsschreiberin: