Gemeindeautonomie (Nichtgenehmigung der Ortsplanungsrevision), hat sich ergeben:
A.- An den Gemeindeversammlungen vom 10. Oktober 1997 und 18. Dezember 1998 beschlossen die Stimmberechtigten der
Gemeinde St. Antönien eine neue Ortsplanung mit namentlich dreizehn neuen Punktbauzonen innerhalb der Landwirtschaftszone, die jeweils neben einem bestehenden landwirtschaftlichen Heimwesen liegen und in denen gemäss Art. 46 des kommunalen Baugesetzes (BauG) ein freistehendes neues Wohn- oder Ferienhaus erstellt werden darf. Diese Zonen werden "Haus zum Hof" genannt.
B.- Die Regierung des Kantons Graubünden verweigerte den genannten Zonen am 13. April 1999 die Genehmigung, da sie dem Grundsatz der Siedlungskonzentration bzw. dem Verbot der Ausscheidung isolierter Kleinbauzonen entgegen stünden. Gegen diesen Beschluss führt die Gemeinde St. Antönien staatsrechtliche Beschwerde wegen Verletzung der Gemeindeautonomie sowie wegen Verstosses gegen das Willkürverbot und das Rechtsgleichheitsgebot (Verfahren 1P.298/1999). Der Beschluss der Regierung wurde ausserdem von den neun im Rubrum aufgeführten privaten Grundeigentümern mit Rekurs beim Verwaltungsgericht des Kantons Graubünden angefochten, welches das Rechtsmittel am 17. September 1999 abwies. Die Grundeigentümer führen gegen den Entscheid des Verwaltungsgerichts Verwaltungsgerichtsbeschwerde ans Bundesgericht (Verfahren 1A.256/1999) und beantragen die Aufhebung der Ziffern 1a, 2a und 5a des Beschlusses der Regierung, eventualiter sei das Urteil des Verwaltungsgerichts aufzuheben.
Das Verfahren 1P.298/1999, das bis zur Erledigung des kantonalen verwaltungsgerichtlichen Verfahrens sistiert wurde, ist am 11. November 1999 wieder aufgenommen worden.
Die Regierung beantragt die Abweisung der staatsrechtlichen Beschwerde und Nichteintreten auf die Verwaltungsgerichtsbeschwerde. Sofern die VerwaltungsgerichtsbeschwerdealsstaatsrechtlicheBeschwerdeentgegengenommenwerde, seisieabzuweisen. DasVerwaltungsgerichtbeantragtAbweisungderVerwaltungsgerichtsbeschwerde, soweitdaraufeinzutretensei. DieGemeinde St. Antönien beantragt Gutheissung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Raumplanung verzichtet unter Hinweis auf die Erwägungen der kantonalen Instanzen auf eine Stellungnahme.

Das Bundesgericht zieht in Erwägung:
1.- Angefochten sind einerseits der regierungsrätliche Nichtgenehmigungsbeschluss und andererseits der Entscheid des Verwaltungsgerichts über den dagegen gerichteten Rekurs. Die eingereichten Beschwerden beziehen sich weitgehend auf den gleichen Sachverhalt, enthalten praktisch gleichlautende Anträge und werfen die gleichen oder ähnliche Fragen auf. Es rechtfertigt sich daher, beide Verfahren zu vereinigen und die Beschwerden in einem Urteil zu behandeln (vgl. <ref-law> in Verbindung mit Art. 40 OG; <ref-ruling> E. 1a S. 368; <ref-ruling> E. 1 S. 162).
2.- Das Bundesgericht prüft die Zulässigkeit der bei ihm eingereichten Beschwerden von Amtes wegen und mit freier Kognition (<ref-ruling> E. 2a S. 16, 253 E. 1a S. 254, mit Hinweisen).
a) Eine Gemeinde ist zur Erhebung einer staatsrechtlichen Beschwerde wegen Verletzung ihrer Autonomie befugt, wenn sie durch den angefochtenen Entscheid in ihrer Eigenschaft als Trägerin hoheitlicher Gewalt berührt wird. Ob ihr im betreffenden Bereich tatsächlich Autonomie zusteht, ist keine Frage des Eintretens, sondern bildet Gegenstand der materiellen Beurteilung (<ref-ruling> E. 1b S. 226; <ref-ruling> E. 2a S. 204; <ref-ruling> Ia 214 E. 1a S. 216, mit Hinweisen). Hier ist die Gemeinde St. Antönien vom angefochtenen Beschluss als Raumplanungsorgan, d.h. als Trägerin hoheitlicher Gewalt, berührt und daher beschwerdelegitimiert.
b) Kantonal letztinstanzliche Entscheide über Nutzungspläne unterliegen grundsätzlich der staatsrechtlichen Beschwerde (Art. 34 Abs. 3 des Bundesgesetzes vom 22. Juni 1979 über die Raumplanung [RPG; SR 700]). Sind allerdings im Nutzungsplan enthaltene, auf Bundesverwaltungsrecht abgestützte Anordnungen umstritten oder wird das Fehlen solcher Anordnungen bemängelt, so erachtet die bundesgerichtliche Rechtsprechung die Verwaltungsgerichtsbeschwerde für zulässig, soweit der Nutzungsplan die Merkmale einer Verfügung im Sinne von <ref-law> erfüllt und kein Ausschlussgrund gemäss Art. 99 ff. OG gegeben ist (<ref-ruling> E. 1b S. 291; <ref-ruling> E. 1d S. 76, mit Hinweisen). Ferner sind Nutzungspläne mit Verwaltungsgerichtsbeschwerde anfechtbar, soweit geltend gemacht wird, mit ihrer Festsetzung werde Art. 24 RPG umgangen (<ref-ruling> E. 1b S. 291; <ref-ruling> E. 2b S. 12).
Der angefochtene Nichtgenehmigungsbeschluss bezieht sich auf die Zonen "Haus zum Hof", die im Rahmen der Ortsplanungsrevision ausgeschieden wurden. Das zulässige Rechtsmittel ist daher grundsätzlich die staatsrechtliche Beschwerde, wie sie die Gemeinde St. Antönien erhob. Die Verwaltungsgerichtsbeschwerde der privaten Grundeigentümer ist daher unzulässig und erfüllt auch nicht die Voraussetzungen der Rechtsprechung, die zu einer ausnahmsweisen Zulässigkeit dieses Rechtsmittels führen. Denn die umstrittene Ortsplanung stellt keine individuell-konkrete Verfügung im Sinne von <ref-law> dar und die zur Diskussion stehenden Zonen "Haus zum Hof" wurden ausserdem nicht genehmigt. Die Grundeigentümer vermögen mithin nicht geltend zu machen, mit dem umstrittenen Nichtgenehmigungsbeschluss werde Art. 24 RPG umgangen. Diese Vorschrift steht hier zwar zur Diskussion, da die kantonalen Behörden die Nichtgenehmigung unter anderem mit dem sog. Konzentrationsprinzip begründen. Dieser Grundsatz, wonach die Siedlungstätigkeit in Baugebieten zusammenzufassen und vom Nichtbaugebiet räumlich abzutrennen ist, ergibt sich jedoch in erster Linie aus Art. 1 RPG (Gebot der haushälterischen Nutzung des Bodens) sowie aus den Planungsgrundsätzen von Art. 3 RPG. Soweit die Eingabe der privaten Grundeigentümer die Eintretensvoraussetzungen der staatsrechtlichen Beschwerde erfüllt, kann sie allerdings als solche entgegengenommen werden, da die unrichtige Bezeichnung nicht schadet (<ref-ruling> E. 1a S. 224).
c) Die Beschwerdeführer sind als Eigentümer der Grundstücke, die als Standorte für die nicht genehmigten Zonen "Haus zum Hof" vorgesehen sind, in ihren rechtlich geschützten Interessen betroffen und damit zur Erhebung einer staatsrechtlichen Beschwerde befugt (Art. 88 OG). Sie beantragen die Aufhebung von Teilen des Regierungsratsbeschlusses, obwohl sich ihr Rechtsmittel formell gegen das diesen Beschluss bestätigende Urteil des Verwaltungsgerichts richtet. Insoweit ist auf ihre Beschwerde nicht einzutreten.
d) Die übrigen Voraussetzungen gemäss Art. 84 ff. OG sind bei beiden Beschwerden im Wesentlichen erfüllt (zu den Vorbehalten betreffend die Beschwerde der Gemeinde St. Antönien siehe unten E. 6). Auf die staatsrechtliche Beschwerde der Gemeinde St. Antönien ist somit grundsätzlich einzutreten und die Verwaltungsgerichtsbeschwerde der privaten Grundeigentümer ist als staatsrechtliche Beschwerde entgegenzunehmen, soweit auf sie einzutreten ist.
e) Auf den sowohl von der Gemeinde als auch von den privaten Beschwerdeführern beantragten Augenschein kann verzichtet werden, da sich der Sachverhalt mit hinreichender Klarheit aus den Akten ergibt.
I. Beschwerde der Gemeinde St. Antönien
(Verfahren 1P.298/1999)
3.- Die Gemeinde St. Antönien macht im Wesentlichen eine Verletzung der Gemeindeautonomie geltend.
a) Eine Gemeinde ist in einem Sachbereich autonom, wenn das kantonale Recht diesen nicht abschliessend ordnet, sondern ihn ganz oder teilweise der Gemeinde zur Regelung überlässt und ihr dabei eine relativ erhebliche Entscheidungsfreiheit einräumt (<ref-ruling> E. 8b S. 290; <ref-ruling> E. 2a S. 204). Wie das Bundesgericht schon mehrfach festgestellt hat, sind die Bündner Gemeinden beim Erlass ihrer Bau- und Zonenordnung in weiten Teilen autonom (<ref-ruling> E. 3c S. 454, mit Hinweisen).
b) Der geschützte Autonomiebereich kann sich auf die Befugnis zum Erlass oder Vollzug eigener kommunaler Vorschriften beziehen oder einen entsprechenden Spielraum bei der Anwendung des kantonalen oder eidgenössischen Rechts betreffen. Dabei überprüft das Bundesgericht die Anwendung von eidgenössischem oder kantonalem Verfassungsrecht frei; die Anwendung des übrigen Rechts überprüft es dagegen, ebenso wie die Feststellung des rechtserheblichen Sachverhalts, nur unter dem Gesichtswinkel der Willkür (<ref-ruling> E. 8c S. 291; <ref-ruling> E. 2a S. 204, mit Hinweisen). Willkür liegt nach der Rechtsprechung des Bundesgerichts nicht schon dann vor, wenn eine andere Lösung ebenfalls vertretbar erscheint oder sogar vorzuziehen wäre. Das Bundesgericht weicht vom Entscheid der kantonalen Instanz nur ab, wenn dieser offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (<ref-ruling> E. 3a S. 15, mit Hinweisen).
4.-Die Gemeinde sieht eine Verletzung ihrer Autonomie zunächst darin, dass die Regierung den Vorschriften des kantonalen Raumplanungsgesetzes (KRG) und des RPG betreffend die Einordnung von Bauten und Anlagen in die Landschaft zu wenig Rechnung getragen habe.
Die Regierung hat den Umstand, dass die Gemeinde St. Antönien von einer vorbestehenden, geschichtlich bedingten Streusiedlungsstruktur geprägt ist, nicht ausser Acht gelassen. Sie ist jedoch zum Schluss gelangt, das aus dem Gebot der haushälterischen Nutzung des Bodens abgeleitete Konzentrationsprinzip sei stärker zu gewichten als die landschaftsschützerischen Aspekte und verbiete unter den hier gegebenen Umständen eine Erweiterung der Bauzone in der vorgesehenen Art. Im Zentrum ihrer Überlegungen stand dabei, dass den Besonderheiten der traditionellen Streubauweise in Art. 23 und 24 der Verordnung vom 2. Oktober 1989 über die Raumplanung (RPV; SR 700. 1) Rechnung getragen werde, die Voraussetzungen für eine zum Ziel führende Anwendung dieser Vorschriften im vorliegenden Fall aber nicht gegeben seien.
Gegen diese sachliche und triftige Argumentation ist nichts einzuwenden. Sie verstösst nicht gegen das Willkürverbot. Dem Gebot der Einordnung in die Landschaft wird die Ortsplanung der Gemeinde St. Antönien auch ohne die umstrittenen Zonen "Haus zum Hof" gerecht, zumal die bestehenden traditionellen Höfe das Landschaftsbild doch gerade dadurch prägen, dass sie als einzelne Gebäude verstreut angeordnet sind.
5.- Gemäss der Gemeinde St. Antönien hat die Regierung ausserdem die bundesgerichtliche Rechtsprechung zum Konzentrationsprinzip falsch angewendet. Das Bundesgericht sei im kürzlich gefällten Entscheid betreffend die Gemeinde Ersigen (<ref-ruling>) vom grundsätzlichen Verbot der Streubauweise abgekommen. Kleinbauzonen seien nach dieser Rechtsprechung nur mehr insoweit verpönt, als dadurch das raumplanerische Ziel, die Siedlungstätigkeit in Bauzonen zusammenzufassen und die Streubauweise für nicht freilandgebundene Bauten zu verhindern, unterlaufen werde. Das Bundesgericht habe die in Frage gestandene Kleinbauzone trotz Art. 23 und 24 RPV geschützt.
Diese Rüge ist unbegründet. Die Regierung hat die Grundsätze des eidgenössischen Raumplanungsrechts und insbesondere die bundesgerichtliche Rechtsprechung zum Konzentrationsprinzip nicht willkürlich angewendet. Mit Blick auf das Konzentrationsgebot hat das Bundesgericht mehrmals - unter anderem im von der Beschwerdeführerin angerufenen Entscheid - entschieden, dass Kleinbauzonen im Allgemeinen unzweckmässig und mitunter gar gesetzwidrig sind (<ref-ruling> E. 3a S. 395; <ref-ruling> E. 3b S. 303; <ref-ruling> E. 2c S. 451). Kleinbauzonen sind allenfalls nur zulässig, wenn der tatsächliche Siedlungszusammenhang trotz allfälliger Bauzonenlücken im Zonenplan als bestehend angesehen werden kann, wie es in der Gemeinde Ersigen der Fall war, oder wenn mit ihnen die Erhaltung bestehender Bausubstanz bezweckt wird (siehe <ref-ruling> E. 2c S. 451; <ref-ruling> E. 5c S. 151). Vorliegend liegt keine dieser Voraussetzungen vor: Zum einen werden mit den Zonen "Haus zum Hof" keineswegs isolierte Bauzoneninseln geschaffen und zum andern geht es nicht um die Erhaltung von bestehenden Bauten, sondern gemäss dem klaren Wortlaut von Art. 46 BauG um die Erstellung neuer Wohn- oder Ferienhausbauten. Entgegen der Behauptung der Beschwerdeführerin kann dabei nicht gesagt werden, dass das Verbot der Schaffung isolierter Kleinbauzonen hier nicht zum Tragen kommen könne, da in den Gebieten Platz und Litzirüti Gebäudeansammlungen bestehen, die ohne weiteres als Siedlungskerne bezeichnet werden können. Schliesslich lassen sich die Zonen "Haus zum Hof" auch nicht auf die Vorschriften betreffend Zonen für Kleinsiedlungen ausserhalb der Bauzonen abstützen (vgl. hierzu Art. 18 Abs. 1 RPG i.V.m. <ref-law>), da sie die Voraussetzungen einer Kleinsiedlung keineswegs erfüllen (zu den Voraussetzungen für die Annahme einer Kleinsiedlung siehe BGE <ref-ruling> E. 3a S. 302, mit Hinweisen).
6.- Ob die übrigen Einwände, welche die Gemeinde St. Antönien gegen den Nichtgenehmigungsbeschluss ins Feld führt, die Begründungsanforderungen gemäss Art. 90 Abs. 1 lit. b OG erfüllen, kann offen bleiben. Denn sie sind unbegründet.
Die Lawinensituation, wie sie aus den im Zonenplan und Generellen Gestaltungsplan 1:2'000 eingezeichneten Gefahrenzonen hervorgeht, gebietet zunächst keine Bauzonenerweiterung in Form der verstreuten Zonen "Haus zum Hof". Viele der vorgesehenen Standorte befinden sich in der gleichen Gefahrenzone wie die Weiler Platz und Litzirüti. Neue Bauzonenreserven hätten daher ohne weiteres auch im Bereich der bestehenden Kernsiedlungen geschaffen werden können, was im Übrigen zumindest teilweise auch geschehen ist. Weiter ist der Einwand der Gemeinde, mit den geplanten Zonen "Haus zum Hof" könnten die Infrastruktur- und Unterhaltskosten pro Erschliessungseinheit auf mehr Köpfe verteilt werden, was den Bau der Anlagen überhaupt erst ermögliche, nicht stichhaltig. Die Kosten für die Erstellung der jeweiligen Kanalisationanschlüsse ist gerade tiefer, wenn die notwendigen Neubauzonen nicht verstreut, sondern im Bereich der bestehenden Siedlungskerne geschaffen werden. Hier befinden sich die Zonen "Haus zum Hof" in zum Teil sehr grosser Entfernung von der Kanalisationsleitung, so dass ein Anschluss sowohl der bestehenden Gebäude als auch allfälliger Neubauten kaum vorgesehen sein dürfte bzw. nur mit erheblichem Aufwand bewerkstelligt werden könnte (vgl. in diesem Zusammenhang den Generellen Erschliessungsplan 1:2'000). Eine verfassungswidrige Ungleichbehandlung liegt zudem nicht vor. Wie dem von der Regierung im verwaltungsgerichtlichen Beschwerdeverfahren eingereichten Zonenplan 1:1'000 "Weiler und Höfe" der Gemeinde Churwalden entnommen werden kann, handelt es sich bei sämtlichen von der Beschwerdeführerin erwähnten Zonen - es sind dies die Kernzonen Egga, Im Jfang/Lax, Pradaschier und Stettli - anders als hier um Weiler mit mehr als fünf bereits bestehenden Bauten. Dem von der Beschwerdeführerin erwähnten Problem der ungleichen Baulandverteilung kann zudem mit dem Mittel der Baulandumlegung (Art. 20 RPG) begegnet werden.
Es ergibt sich somit, dass die Regierung weder ihre Prüfungsbefugnis gemäss Art. 37 KRG überschritten noch die Vorschriften des RPG willkürlich angewendet noch gegen das Rechtsgleichheitsgebot verstossen hat. Eine Verletzung der
Gemeindeautonomie liegt nicht vor.
II. Beschwerde der privaten Grundeigentümer (Verfahren 1A.256/1999)
7.- a) Soweit die Beschwerdeführer die gleichen Rügen wie die Gemeinde St. Antönien erheben, kann auf die vorstehenden Ausführungen verwiesen werden. Es betrifft dies insbesondere die willkürliche Anwendung der Vorschriften betreffend die Einordnung von Bauten und Anlagen in die Landschaft und die bundesgerichtliche Rechtsprechung zum Konzentrationsprinzip.
b) Die Beschwerdeführer werfen dem Verwaltungsgericht darüber hinaus ein willkürliches Ausserachtlassen von Art. 3 des Bundesgesetzes vom 1. Juli 1966 über den Natur- und Heimatschutz (NHG; SR 451) vor. Dieser Vorwurf ist unbegründet. <ref-law> verpflichtet die Kantone, bei der Erfüllung von Bundesaufgaben dafür zu sorgen, dass heimatliche Landschafts- und Ortsbilder ungeschmälert erhalten bleiben. Dieses Gebot ist durch den angefochtenen Entscheid nicht verletzt worden, da die Nichtgenehmigung der Zonen "Haus zum Hof" wesensgemäss keine nachteiligen Veränderungen bestehender Landschaftsbilder zur Folge haben kann. Vielmehr würde bei der Schaffung von Neubauzonen in den Gebieten Platz und Litzirüti eine Siedlungskonzentration an einem Ort stattfinden, wo das Bild der typischen Walser- Streubausiedlung schon jetzt nicht mehr vorhanden ist.
Es liegt auch kein Verstoss gegen das Diskriminierungsverbot gemäss Art. 14 EMRK oder Art. 4 der alten Bundesverfassung vom 29. Mai 1874 bzw. Art. 8 Abs. 2 der Bundesverfassung vom 18. April 1999 vor. Dieses Verbot schützt Personen einer sozial bestimmten Minderheit nicht so sehr vor rechtsungleicher Behandlung, als vielmehr vor einem abwertenden oder herabwürdigenden Verhalten (Jörg Paul Müller, Grundrechte in der Schweiz, 3. Aufl. , Bern 1999, S. 395 f.). Davon kann beim angefochtenen Nichtgenehmigungsbeschluss keine Rede sein. Insbesondere kann nicht gesagt werden, dieser Beschluss bezwecke, die Volksgruppe der Walser entgegen ihrer Tradition zu zwingen, in dörflichen Strukturen zu leben.
c) Ein Verstoss gegen Treu und Glauben liegt ebenfalls nicht vor, ist doch, wie die Beschwerdeführer selbst einräumen, mit dem Inkrafttreten des RPG im Jahre 1980 eine neue Rechtslage entstanden, weshalb aus dem behördlichen Verhalten im Zusammenhang mit dem alten Zonenplan von St. Antönien keine schützenswerten Vertrauenspositionen entstanden sind (vgl. z.B. <ref-ruling> E. 3 S. 287 ff., mit Hinweisen). Schliesslich ist auch die Eigentumsgarantie nicht verletzt. Die Nichtgenehmigung beruht auf einer gesetzlichen Grundlage (Art. 37 KRG in Verbindung mit den oben dargelegten Vorschriften des RPG). Sie liegt im öffentlichen Interesse, wie es in den dargestellten Grundsätzen des RPG (Prinzip der haushälterischen Nutzung des Bodens und der Siedlungskonzentration) deutlich zum Ausdruck kommt, und ist überdies verhältnismässig. Letzteres ergibt sich bereits daraus, dass ein Grundeigentümer keinen Anspruch darauf hat, dass im Rahmen einer Zonenplanrevision sein in einer Nichtbauzone liegendes Land einer Bauzone zugewiesen wird.
8.- Die Beschwerden sind nach dem Gesagten abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang werden die unterliegenden privaten Beschwerdeführer kostenpflichtig (Art. 156 Abs. 1 OG). Der Gemeinde St. Antönien sind keine Gerichtskosten aufzuerlegen (Art. 156 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtlichen Beschwerden werden abgewiesen, soweit darauf eingetreten werden kann.
2.- Für das Verfahren 1P.298/1999 werden keine Gerichtskosten erhoben.
3.- Die Gerichtsgebühr von Fr. 3'000. -- für das Verfahren 1A.256/1999 wird den Beschwerdeführern Luzi Aliesch- Pleisch, Arnold Steiner-Flütsch, Andrea Brembilla, Andreas Flütsch-Willi, Ursula Meier-Flütsch, Christian Thöny-Luck, Edith Meier, Andreas Egli-Ladner und Felix Flütsch zur Bezahlung auferlegt.
4.- Dieses Urteil wird den Beschwerdeführern, der Regierung und dem Verwaltungsgericht des Kantons Graubünden,
Kammer 4, sowie dem Bundesamt für Raumplanung schriftlich mitgeteilt.
_
Lausanne, 12. April 2000
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Die Gerichtsschreiberin: