Gestaltungsplan Loren, hat sich ergeben:
A.- Das in der Gemeinde Uster liegende Gebiet Loren war nach der kommunalen Bau- und Zonenordnung vom 4. Juni 1984 überwiegend als Industriezone I4, teilweise als Gewerbezone G3 und als Wohnzone W3 und W4 eingezont. Eine Gemeindeinitiative, welche das Gebiet der Reservezone zuweisen wollte, wurde in der Volksabstimmung vom 17. Mai 1992 abgelehnt.
Am 10. Juli 1995 erliess der Gemeinderat Uster den öffentlichen Gestaltungsplan Loren mit dazugehörenden Vorschriften. Dieser Beschluss wurde in der Gemeindeabstimmung vom 22. Oktober 1995 bestätigt. Der Gestaltungsplanperimeter umfasst eine Fläche von rund 19 ha. Davon sind gemäss Gestaltungsplan rund 65% baulich nutzbar, während auf der nordwestlichen Seite gegen das Naturschutzgebiet Werriker-/ Glattenriet eine Freihaltefläche als Pufferzone im Umfang von rund 26% des Gestaltungsplangebiets vorgesehen ist.
Etwa gleichzeitig (am 20. Juni 1995) setzte der Stadtrat Uster den Quartierplan Loren fest. Darin wird die Feinerschliessung des Gebiets geregelt und eine Landumlegung vorgesehen, wonach die in der Pufferzone liegenden Grundstücke in das Eigentum der Stadt Uster übergehen. Nachdem kein Rekurs gegen den Quartierplan erhoben worden war, wurde er am 27. Oktober 1998 von der Baudirektion des Kantons Zürich genehmigt.
In der kommunalen Bau- und Zonenordnung vom 9. März 1998 (BZO), die der Regierungsrat am 6. Januar 1999 genehmigte, wurde das Areal Loren mit der Signatur "rechtsgültiger Gestaltungsplan" markiert, jedoch gleichwohl wie zuvor den Zonen I4, G3, W3 und W4 zugeteilt.
B.- A._ und vierzehn weitere Einwohner von Uster fochten den Gestaltungsplan am 8. Juli 1997 bei der Baurekurskommission III an, die den Rekurs am 15. April 1998 abwies. Dagegen erhoben A._, B._ und fünf weitere Personen Beschwerde an das Verwaltungsgericht des Kantons Zürich. Dieses wies die Beschwerde am 22. April 1999 ab. Die kantonale Baudirektion hatte zuvor am 20. Januar 1999 den Gestaltungsplan Loren genehmigt.
C.- A._ und B._ erhoben am 26. Juni 1999 Verwaltungsgerichtsbeschwerde an das Bundesgericht mit dem Antrag, den Entscheid des Verwaltungsgerichts und den Gestaltungsplan Loren aufzuheben und das Gebiet Loren einer Landwirtschaftszone, allenfalls einer Reservezone, zuzuweisen. Eventuell beantragen sie Zurückweisung an die Vorinstanz mit den Anweisungen, einen umfassenden Umweltverträglichkeitsbericht zu erstellen, den fehlenden Erschliessungsplan zu erstellen, die Ausnützung der Baubereiche massiv zu reduzieren und das Baugebiet auf das Zentrumsgebiet gemäss kantonalem Richtplan respektive auf eine Bautiefe entlang den bestehenden Wohnbauten Gschwaderstrasse zurückzunehmen. Verfahrensmässig beantragen sie die Durchführung eines
Augenscheins und eines zweiten Schriftenwechsels.
D.- Die Stadt Uster stellte am 19. August 1999 den Antrag, auf die Beschwerde nicht einzutreten, eventuell sie abzuweisen. Die Baurekurskommission III verzichtete auf eine Vernehmlassung. Das Verwaltungsgericht des Kantons Zürich beantragte, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Das gemäss Art. 110 Abs. 1 OG zur Vernehmlassung eingeladene Bundesamt für Umwelt, Wald und Landschaft (BUWAL) stellte den Antrag, die Beschwerde im Sinne seiner Erwägungen gutzuheissen, da die vorgesehene Pufferzone für das Flachmoorobjekt Glattenriet ungenügend sei.
E.- Die Vernehmlassung des BUWAL wurde den Beteiligten zur Äusserung zugestellt. Die Beschwerdeführer unterstützten mit Schreiben vom 18. Oktober 1999 die Stellungnahme des BUWAL und erneuerten ihren Antrag auf Gutheissung der Beschwerde. Die Baurekurskommission brachte am 4. Oktober 1999 Bemerkungen zur Vernehmlassung des BUWAL an. Das Verwaltungsgericht verzichtete auf eine Stellungnahme. Die Stadt Uster brachte mit Stellungnahme vom 4. November 1999 vor, mit dem Gestaltungsplan werde dem Flachmoorschutz genügend Rechnung getragen. Den Beschwerdeführern wurde Gelegenheit gegeben, in die der Stellungnahme der Stadt Uster beiliegenden Dokumente Einblick zu nehmen und sich dazu zu äussern.

Das Bundesgericht zieht in Erwägung:
1.- Das Bundesgericht prüft die Zulässigkeit der bei ihm eingereichten Beschwerden von Amtes wegen und mit freier Kognition (<ref-ruling> E. 1 S. 41, mit Hinweisen).
a) Gemäss Art. 34 Abs. 1 des Bundesgesetzes vom 22. Juni 1979 über die Raumplanung (RPG; SR 700) ist die Verwaltungsgerichtsbeschwerde im Bereich der Raumplanung auf letzte kantonale Entscheide über Entschädigungen als Folge von Eigentumsbeschränkungen und über Bewilligungen im Sinne von Art. 24 beschränkt. Alle anderen Entscheide können grundsätzlich nur mit staatsrechtlicher Beschwerde an das Bundesgericht angefochten werden (Art. 34 Abs. 3 RPG). Dies gilt namentlich für kantonale oder kommunale Zonenpläne. Eine Ausnahme besteht nach der bundesgerichtlichen Rechtsprechung allerdings, soweit ein Zonenplan eine Verfügung enthält, die sich auf unmittelbar anwendbares Bundesrecht stützt oder stützen sollte (<ref-ruling> E. 2c S. 14; André Jomini, Kommentar RPG, Zürich 1999, Art. 34 Rz. 27-29). Dies gilt namentlich, wenn die Anwendung des Bundesumwelt- oder -naturschutzrechts in Frage steht (<ref-ruling> E. 2 S. 234; <ref-ruling> E. 1b S. 75 f.).
aa) Streitobjekt ist im vorliegenden Verfahren der Gestaltungsplan Loren und damit ein kommunaler Nutzungsplan. Die Beschwerdeführer rügen überwiegend nicht die Verletzung von direkt anwendbarem Bundesrecht, sondern die Verletzung kantonalen Rechts. Das betrifft namentlich die Kritik, der Gestaltungsplan verstosse gegen den kantonalen Richtplan, die Leitlinien der kantonalen Raumplanung sowie die kantonalrechtlichen Bestimmungen über die zulässige Ausnützung und über die Erschliessung mit Strassen und öffentlichem Verkehr. Die Verletzung dieser Bestimmungen kann nur mit staatsrechtlicher Beschwerde geltend gemacht werden. Ebenso ist die Rüge, der Gestaltungsplan verstosse gegen Art. 15 RPG, mit staatsrechtlicher Beschwerde vorzubringen (Art. 34 Abs. 1 und 3 RPG).
bb) Fraglich ist indessen auch, ob der Gestaltungsplan den bundesrechtlichen Bestimmungen über den Moorschutz (Art. 24sexies Abs. 5 aBV, seit dem 1. Januar 2000: <ref-law>; Art. 23a ff. in Verbindung mit Art. 18a des Bundesgesetzes vom 1. Juli 1966 über den Natur- und Heimatschutz [NHG; SR 451]; Flachmoorverordnung vom 7. September 1994 [FlachmoorV. ; SR 451. 33]) genügt. Diese stellen direkt anwendbares Bundesrecht dar oder sind durch unmittelbar auf Bundesrecht gestützte kantonale Anordnungen zu konkretisieren, welche Gegenstand einer Verwaltungsgerichtsbeschwerde bilden können, auch wenn sie in der Form kantonalrechtlicher Pläne ergehen (<ref-ruling>, nicht publ. E. 1a sowie E. 3b S. 24; <ref-ruling> E. 2e S. 15 f. mit Hinweisen; Entscheid i.S. B. vom 29. November 1994, publ. in ZBl 97/1996 S. 122 E. 1a; Entscheid i.S. Pro Natura Suisse vom 1. Dezember 1998, URP 1999 S. 142, nicht publ. E. 2b; Karl Fahrländer, Kommentar NHG, Zürich 1997, Art. 18a Rz. 18). Insoweit ist die Verwaltungsgerichtsbeschwerde zulässig.
cc) Die Verwaltungsgerichtsbeschwerde ist sodann zulässig, soweit gerügt wird, es sei zu Unrecht die Durchführung einer Umweltverträglichkeitsprüfung unterlassen worden (<ref-ruling> E. 1b/bb S. 73, mit Hinweisen).
dd) Im Rahmen der Verwaltungsgerichtsbeschwerde kann nach der Rechtsprechung des Bundesgerichts auch die Verletzung von selbständigem kantonalen Recht gerügt werden, soweit dieses einen hinreichend engen Sachzusammenhang mit den als verletzt gerügten Bestimmungen des Bundesverwaltungsrechts aufweist (<ref-ruling> E. 1a/cc S. 92; <ref-ruling> E. 1b S. 75). Diese Rechtsprechung führt vorliegend aber nicht dazu, dass auch die gerügten Verletzungen des kantonalen Rechts oder des Raumplanungsgesetzes im Rahmen der Verwaltungsgerichtsbeschwerde beurteilt werden könnten. Die Rügen betreffend Verletzung des kantonalen Rechts stellen die Zulässigkeit des Gestaltungsplanes generell in Frage und zielen darauf ab, das Gebiet Loren völlig unüberbaut zu belassen. Demgegenüber kann die Rüge betreffend Verletzung der bundesrechtlichen Moorschutzvorschriften angesichts der konkreten Umstände von vornherein höchstens eine relativ geringfügige Änderung des Gestaltungsplanes zur Folge haben, nicht aber seine völlige Aufhebung. Es fehlt somit am geforderten engen Sachzusammenhang. Zudem liegt das Schwergewicht der erhobenen Rügen auf der Verletzung kantonalen Rechts. Es ist nicht der Sinn der erwähnten Rechtsprechung, für alle hauptsächlich kantonalrechtlichen Angelegenheiten den Weg der Verwaltungsgerichtsbeschwerde zu eröffnen, sobald in einem Detailpunkt eine bundesrechtlich geregelte Frage berührt ist.
ee) Insgesamt ist somit die Verwaltungsgerichtsbeschwerde vorliegend nur zulässig für die Fragen, ob die bundesrechtlichen Vorschriften über den Moorschutz und die Umweltverträglichkeitsprüfung verletzt sind. Sind die Voraussetzungen für eine Verwaltungsgerichtsbeschwerde nicht gegeben, so deutet das Bundesgericht das Rechtsmittel in eine staatsrechtliche Beschwerde um, sofern deren Voraussetzungen erfüllt sind.
b) Zu prüfen ist die Legitimation der Beschwerdeführer.
aa) Die Beschwerdeführer sind nicht Eigentümer eines im Gestaltungsplanperimeter liegenden Grundstücks. Sie gehören jedoch zur näheren Nachbarschaft und werden durch die geplante Überbauung östlich des Biotops "Brandschänki", die ihres Erachtens gegen bundesrechtliche Bestimmungen über den Moorschutz verstösst, mehr als jedermann betroffen. Sie sind daher zur Verwaltungsgerichtsbeschwerde legitimiert (Art. 103 lit. a OG).
bb) Zur staatsrechtlichen Beschwerde sind die Beschwerdeführer hingegen nur legitimiert, soweit sie geltend machen, die Planfestsetzung verletze sie in ihren eigenen verfassungsmässigen Rechten (Art. 84 Abs. 1 lit. a und Art. 88 OG), sei es, weil der Plan die Nutzung ihrer Liegenschaft beschränkt, sei es, weil durch ihn Normen, die auch dem Schutze der Nachbarn dienen, verletzt, geändert oder aufgehoben werden (<ref-ruling> E. 1b S. 364 f.; <ref-ruling> E. 1b S. 194; <ref-ruling> E. 2b S. 238; Entscheid i.S. R. vom 12. Oktober 1988, ZBl 90/1989 S. 274, E. 2b; Jomini, a.a.O., Art. 34 Rz. 58; Walter Kälin, Das Verfahren der staatsrechtlichen Beschwerde, 2. Aufl. , Bern 1994, S. 248 f., mit weiteren Hinweisen).
Als nachbarschützend gelten namentlich öffentlichrechtliche Immissionsschutzbestimmungen (<ref-ruling> E. 2a S. 116; <ref-ruling> E. 1b S. 89 f.) oder Vorschriften über die zulässige Ausnützungsziffer (<ref-ruling> E. 1b S. 20; <ref-ruling> E. 1e S. 462; <ref-ruling> E. 1b S. 90). Ebenso dienen die Bestimmungen über die Detailerschliessung im Sinne von Art. 19 RPG neben dem Schutz der Allgemeinheit auch demjenigen der unmittelbaren Nachbarn (<ref-ruling> E. 1c/bb S. 353 f.; <ref-ruling> E. 1b S. 90; <ref-ruling> E. 4b S. 172 f.). Dabei muss aber der beschwerdeführende Nachbar darlegen, dass und inwiefern er sich im Schutzbereich dieser Vorschriften befindet und durch die behaupteten widerrechtlichen Auswirkungen in seinen verfassungsmässigen Rechten verletzt wird (Art. 90 Abs. 1 lit. b OG; <ref-ruling> E. 3b S. 20; <ref-ruling> E. 2a S. 116, 232 E. 1a S. 234). Die Beschwerdeführer beschränken sich indessen darauf, in genereller Form zu beanstanden, die Überbauung der Loren würde zu Mehrimmissionen führen, ohne darzulegen, welche nachbarschützenden Vorschriften dadurch verletzt sein sollen, geschweige denn, inwiefern sie dadurch in ihren verfassungsmässigen Rechten verletzt werden. Ebenso kritisieren sie eine angeblich zu hohe Ausnützung, bringen jedoch nicht vor, gegen welche Bestimmung diese Ausnützung verstossen soll. Insofern könnte, auch wenn die Legitimation bejaht würde, auf die Beschwerde mangels rechtsgenüglicher Begründung nicht eingetreten werden. Bezüglich der Erschliessung führen die Beschwerdeführer hauptsächlich aus, die im Quartierplan Loren vorgesehenen Aufwendungen seien unzureichend und es würden weitere Kosten auf die Gemeinde zukommen. Diese Rügen hätten jedoch gegen den - inzwischen rechtskräftigen - Quartierplan vorgebracht werden müssen. Im Übrigen machen die Beschwerdeführer finanzielle Interessen des Gemeinwesens geltend, zu deren Schutz die staatsrechtliche Beschwerde Dritter nicht zulässig ist (nicht publiziertes Urteil des Bundesgerichts vom 18. Januar 1994 i.S. Sch. , E. 1e).
Ob die als verletzt gerügten kantonalen Vorschriften über die Erschliessung mit dem öffentlichen Verkehr dem Schutz der Nachbarn dienen, ist ebenfalls fraglich. Im Übrigen legen die Beschwerdeführer nicht dar, inwiefern sie in ihren verfassungsmässigen Rechten verletzt sein sollen, wenn das Verwaltungsgericht die Erschliessung mit einer Regional- und einer Ortsbuslinie als hinreichend betrachtete.
Die Grundsätze von Art. 15 RPG dienen einerseits dem öffentlichen Interesse, andererseits dem Interesse des betroffenen Grundeigentümers, nicht aber dem Schutz der Nachbarn. Diese können sich daher nicht unter Berufung auf Art. 15 RPG mit staatsrechtlicher Beschwerde dagegen wehren, dass ein Nachbargrundstück eingezont wird (in <ref-ruling> nicht publizierte E. 1a; Urteil des Bundesgerichtes vom 12. Oktober 1988, E. 2b, publiziert in ZBl. 90/1989 S. 274, nicht veröffentlichter Entscheid i.S. Sch. vom 18. Januar 1994, E. 1e). Gleiches gilt für das Gebot der nachhaltigen Entwicklung (Art. 2 Abs. 2 und Art. 73 der neuen Bundesverfassung vom 18. April 1999), das überdies im Zeitpunkt des angefochtenen Entscheids noch nicht in Kraft war.
cc) Das Rechtsmittel kann daher mangels Legitimation der Beschwerdeführer oder mangels rechtsgenüglicher Begründung auch nicht als staatsrechtliche Beschwerde entgegengenommen werden.
c) Grundsätzlich einzutreten ist dagegen, soweit die Verwaltungsgerichtsbeschwerde zulässig ist.
aa) Prozessgegenstand vor Bundesgericht kann jedoch nur sein, was bereits Gegenstand des kantonalen Verfahrens war. Das ist vorliegend einzig der Gestaltungsplan Loren, den die Beschwerdeführer fristgerecht angefochten haben. Hingegen kann auf das Begehren, das Gebiet Loren sei einer Landwirtschaftszone, allenfalls einer Reservezone, zuzuweisen, von vornherein nicht eingetreten werden. Das Gebiet Loren ist durch die rechtskräftige Bau- und Zonenordnung einer Bauzone zugewiesen. Würde der angefochtene Gestaltungsplan aufgehoben, so wäre automatisch die Bau- und Zonenordnung anwendbar (Stephan Eschmann, Der Gestaltungsplan nach zürcherischem Recht, Diss. Zürich 1984, S. 59). Wenn - wie die Beschwerdeführer und das BUWAL vorbringen - diese Ordnung inzwischen infolge Änderungen des Bundesrechts rechtswidrig geworden sein sollte, so hätte dies im Rechtsmittelverfahren gegen die Revision der kommunalen Bau- und Zonenordnung vom 9. März 1998 geltend gemacht werden müssen. Im Übrigen könnte eine Zuweisung der Loren in eine Landwirtschafts- oder Reservezone auch nach einer allfälligen Aufhebung des Gestaltungsplanes nur im Rahmen des ordentlichen Planungsverfahrens (§ 88 f. PBG) erfolgen, aber nicht durch das Bundesgericht angeordnet werden. Auf das Rechtsbegehren Nr. 3 kann daher nicht eingetreten werden.
bb) Dagegen spielt es für das Eintreten auf die Verwaltungsgerichtsbeschwerde keine Rolle, dass die Beschwerdeführer sich erstmals vor Bundesgericht auf den bundesrechtlichen Moorschutz berufen. Das Bundesrecht wendet im Verfahren der Verwaltungsgerichtsbeschwerde das Bundesrecht von Amtes wegen an, d.h. es ist nicht an die Begründung der Parteien gebunden (Art. 114 Abs. 1 OG in fine): Es kann die Beschwerde auch aus andern als den geltend gemachten Gründen gutheissen oder den Entscheid mit einer Begründung bestätigen, die von jener der Vorinstanz abweicht (<ref-ruling> E. 4a S. 117 mit Hinweis). Voraussetzung ist lediglich, dass die Frage zum Streitgegenstand gehört, d.h. zu dem (oder den) durch die angefochtene Verfügung geregelten und mit der Beschwerde beanstandeten Rechtsverhältnis(sen) (vgl. zur Veröffentlichung bestimmtes Urteil des EVG vom 14. Juni 1999 i.S. IVS, E. 1-2). Dies ist im vorliegenden Fall zu bejahen, da die Beschwerdeführer im kantonalen Verfahren die vollumfängliche Aufhebung des GestaltungsplansbeantragthabenundsichdabeiinsbesondereauchfüreineErweiterungderPufferzonezumSchutzderRiedfloraund-faunaeingesetzthaben.
d) Auf die Durchführung des von den Beschwerdeführern beantragten Augenscheins kann verzichtet werden, da der rechtserhebliche Sachverhalt mit hinreichender Klarheit aus den Akten hervorgeht.
e) Die Beschwerdeführer beantragen, sämtliche Stellungnahmen der Stadt Uster, die angeblich im Namen des Gemeinderates erfolgt sein sollen, seien aus dem Recht zu weisen, weil der Gemeinderat Uster zur vorliegenden Beschwerde nicht Stellung genommen und auch keinen Rechtsanwalt beauftragt habe. In der Tat ergibt sich sowohl aus den von den Beschwerdeführern vorgelegten Schreiben als auch aus den in den kantonalen Akten befindlichen Vollmachten, dass nicht der Gemeinderat (das Legislativorgan der Stadt Uster), sondern der Stadtrat (das Exekutivorgan) Rechtsanwältin Nadja Herz mit der Prozessvertretung beauftragt hat. Dies hat jedoch nicht zur Folge, dass die von Rechtsanwältin Herz verfassten Stellungnahmen unwirksam wären: vielmehr vertritt diese den Stadtrat, der seinerseits zur Prozessführung für die Stadt Uster befugt ist. Zu korrigieren ist daher lediglich das Rubrum, wonach die Stadt Uster durch den Stadtrat (und nicht durch den Gemeinderat) vertreten wird.
2.- Zu prüfen ist nach dem Gesagten, ob der Gestaltungsplan Loren die bundesrechtlichen Vorschriften über den Moorschutz verletzt.
a) Gemäss Art. 23a in Verbindung mit <ref-law> bezeichnet der Bundesrat die Moore von nationaler Bedeutung. Die Kantone ordnen deren Schutz und Unterhalt und treffen rechtzeitig die zweckmässigen Massnahmen. Gestützt darauf hat der Bundesrat die Flachmoorverordnung erlassen, welche in ihrem Anhang 1 die Flachmoore von nationaler Bedeutung aufzählt. Gemäss Art. 3 Abs. 1 Flachmoorverordnung legen die Kantone den genauen Grenzverlauf der Objekte fest und scheiden ökologisch ausreichende Pufferzonen aus. Die Objekte müssen gemäss Art. 4 der Verordnung ungeschmälert erhalten werden. Die Kantone treffen nach Art. 5 Abs. 1 die dazu geeigneten Schutz- und Unterhaltsmassnahmen. Insbesondere sorgen sie dafür, dass Pläne und Vorschriften, welche die zulässige Nutzung des Bodens im Sinne der Raumplanungsgesetzgebung regeln, mit dieser Verordnung übereinstimmen (Art. 5 Abs. 2 lit. a Flachmoorverordnung). Diese Massnahmen müssen innert drei Jahren seit Inkrafttreten der Flachmoorverordnung, das heisst bis zum 1. Oktober 1997, getroffen werden (Art. 6 Abs. 1 Flachmoorverordnung). b) Das Verwaltungsgericht hat sich mit dem bundesrechtlichen Moorschutz nicht auseinandergesetzt und auch keine entsprechenden Sachverhaltsfeststellungen getroffen. Der rechtserhebliche Sachverhalt ist damit offensichtlich unvollständig festgestellt (Art. 105 Abs. 2 OG). Indessen ist der Sachverhalt aufgrund des Schriftenwechsels im bundesgerichtlichen Verfahren liquid, so dass das Bundesgericht die sich stellenden Fragen selber beantworten kann.
c) Im Bundesinventar der Flachmoore von nationaler Bedeutung (Anhang 1 Flachmoorverordnung) ist das nordwestlich der Loren liegende Glattenriet als Objekt 2190 aufgeführt. Nach dem Kartenausschnitt 1:25'000 gemäss Bundesinventar umfasst dieses Objekt zwei Teile: Der grössere Teil ist weitgehend identisch mit dem bereits kantonalrechtlich geschützten Naturschutzgebiet Werriker-/Glattenriet. Am südöstlichen Rand grenzt die Bauzone gemäss kommunaler BZO an den Rand dieses Gebiets. Dessen südlichster Teil ragt gar dreieckförmig circa 60 Meter tief in die Bauzone hinein. Der streitige Gestaltungsplan sieht indessen am nordwestlichen Rand der Bauzone eine Pufferzone in Form einer Freihaltezone vor. Das gemäss Gestaltungsplan überbaubare Gebiet liegt im Allgemeinen mindestens 80 Meter von der Grenze des Moores entfernt. Ausgenommen ist einzig der in die Bauzone hineinragende südliche Zipfel, welcher in einem kleinen Teil praktisch bis an die vorgesehene Erschliessungsstrasse reicht.
Zweitens umfasst das Schutzobjekt gemäss Bundesinventar das kleinere Feuchtgebiet Brandschänki. Dieses liegt vollumfänglich innerhalb der Bauzone gemäss BZO. Im Gestaltungsplan wurde dieses Gebiet in die freizuhaltende Pufferzone eingewiesen. In seinem östlichsten Teil grenzt es auf einer Länge von ca. 30 Metern unmittelbar an das gemäss Gestaltungsplan überbaubare Gebiet (Zone G5) an. Auf einer abgewinkelten Länge von ca. 100 Metern im südlichen Teil ist es nur ca. 20 Meter vom überbaubaren Gebiet (G5 und G8) entfernt.
d) Die im Gestaltungsplan enthaltene Pufferzone bezweckt, der Verpflichtung von Art. 3 Abs. 1 Flachmoorverordnung nachzukommen. Der kommunale Gestaltungsplan ist grundsätzlich ein taugliches Mittel, um die bundesrechtlich vorgeschriebenen Pufferzonen zu gewährleisten. Er wurde von der Gemeinde auch innerhalb der durch Art. 6 Abs. 1 Flachmoorverordnung festgelegten Fristen erlassen. Dass das Inkrafttreten des Planes durch verschiedene Rechtsmittelverfahren verzögert wurde, ist nicht der Gemeinde anzulasten und ändert nichts daran, dass diese ihren Verpflichtungen nachgekommen ist. Sobald der Gestaltungs- und der Quartierplan Loren in Kraft gesetzt worden sind, soll auch die kantonale Schutzverordnung "Schutz von Natur- und Landschaftsschutzgebieten mit überkommunaler Bedeutung in der Stadt Uster und einem Teilgebiet von Gossau" vom 10. Juni 1993 angepasst werden, um neu das Feuchtgebiet Brandschänki zu erfassen (vgl. Schreiben des Amtes für Landschaft und Natur, Fachstelle Naturschutz, an die Stadt Uster vom 19. Oktober 1999).
e) Allerdings liegt das Feuchtgebiet Brandschänki selber nicht in einer eigentlichen Schutzzone, sondern ebenfalls in der Pufferzone. Das ist durch die Entstehungsgeschichte des Gestaltungsplanes erklärbar: Dieser basiert im Wesentlichen auf dem Raumplanungsbericht "Arbeitsplatzzone Loren", welcher im Mai 1994 abgeschlossen wurde. Zu dieser Zeit lag das Bundesinventar der Flachmoore erst in einem Entwurf von 1990 vor. In diesem Entwurf war das Biotop Brandschänki im Objekt 2190 noch nicht enthalten. Auch der südliche, in die Bauzone hineinragende Teil des Glattenriets war in diesem Entwurf nicht Teil des Objekts. Erst in der gegen Ende 1994 erlassenen definitiven Fassung wurde das Objekt erweitert und umfasste neu auch das Biotop Brandschänki. Es ist daher verständlich, dass die Gestaltungsplanung keine besondere Pufferzone gegenüber diesem Biotop enthielt. Das entbindet freilich nicht davon, die seither in Kraft getretene bundesrechtliche Regelung zu berücksichtigen, was gegebenenfalls auch im Rechtsmittelverfahren gegen den Plan erfolgen kann. Es ist daher zu prüfen, ob der Gestaltungsplan Loren den Anforderungen der Flachmoorverordnung genügt.
f) Die Pufferzone ist an sich nicht vorgesehen als Zone für die zu schützenden Moorobjekte selber, sondern für deren nähere Umgebung. Es wäre jedoch formalistisch, allein deswegen den Moorschutz als ungenügend zu beurteilen. Massgebend ist nicht, ob das Moorobjekt in einer Zone liegt, die formell Schutzzone genannt wird, sondern ob der erforderliche Schutz mit den für das Objekt geltenden Vorschriften erreicht werden kann.
Gemäss Art. 32 der Gestaltungsplanvorschriften dürfen in den Freihalteflächen weder ober- noch unterirdische Bauten und auch keine Parkplätze erstellt werden. In der Pufferzone sind nach Art. 33 der Gestaltungsplanvorschriften nur extensive Bewirtschaftungen erlaubt; Tätigkeiten, Vorkehren und Einrichtungen, die die Beschaffenheit des Bodens oder andere natürliche Verhältnisse nachteilig verändern können oder im Landschaftsbild störend in Erscheinung treten, sind nicht gestattet. Damit ist auch eine nachteilige Veränderung des in der Pufferzone gelegenen Flachmoorbiotops Brandschänki unzulässig. Für die Gestaltung, Bewirtschaftung und Pflege der Pufferzone erlässt der Stadtrat ein gesondertes Reglement. Dieses Reglement liegt nicht bei den Akten und ist nicht Anfechtungsobjekt. Der Stadtrat wird beim Erlass dieses Reglements der unterschiedlichen Schutzbedürftigkeit des eigentlichen Moorbiotops und der übrigen Pufferzone Rechnung zu tragen haben. Mit diesen Vorschriften kann grundsätzlich der bundesrechtlich verlangte Schutz des Flachmoores sichergestellt werden.
Dabei ist unerheblich, dass - wie das BUWAL kritisiert - das Teilobjekt Brandschänki nach der Nutzungszonenordnung immer noch in der Bauzone liegt. Denn der fragliche Gestaltungsplan gewährleistet die Freihaltung dieses Bereichs und ändert diesbezüglich die Nutzungszonenordnung bürgerverbindlich ab (§ 83 Abs. 1 PBG).
g) Fraglich kann einzig sein, ob die Pufferzone um das Feuchtobjekt Brandschänki genügend gross ist und insbesondere, ob es zulässig ist, dass das überbaubare Gebiet östlich auf einer kurzen Strecke bis unmittelbar an das Biotop heranreicht.
aa) Das Bundesrecht verlangt "ökologisch ausreichende" Pufferzonen, legt aber nicht näher fest, was darunter zu verstehen ist. Die naturwissenschaftliche Literatur unterscheidet hauptsächlich hydrologische Pufferzonen, Nährstoffpufferzonen sowie Pufferzonen gegen weitere Belastungen (Karin Marti/Regula Müller, Pufferzonen für Moorbiotope, BUWAL, Schriftenreihe Umwelt Nr. 213, Bern 1994, S. 5 ff.; Fahrländer, a.a.O., Art. 18a Rz. 44). Im Vordergrund steht der Schutz gegen Nährstoffeintrag, wofür das BUWAL einen besonderen Schlüssel herausgegeben hat (BUWAL, Pufferzonen- Schlüssel, Leitfaden zur Ermittlung von ökologisch ausreichenden Pufferzonen für Moorbiotope, Bern 1994, besonders S. 20 ff.; Urteil des Bundesgerichts vom 24. September 1996, URP 1996 S. 815, E. 7b). Die Ausgestaltung der Pufferzonen richtet sich nach den örtlichen Gegebenheiten und den konkreten Schutzbedürfnissen (zit. Urteil vom 24. September 1996, E. 7b). Zweck der Pufferzonen ist jedenfalls nicht primär die Vermeidung rein ästhetischer Auswirkungen auf das Moorumfeld (Entscheid i.S. B. vom 29. November 1994, publ. in ZBl 97/1996 S. 122, E. 5a). In der Pufferzone sind denn ausdrücklich auch Bauten zulässig, wenn sie das Schutzziel für das Moorobjekt nicht beeinträchtigen (Art. 5 Abs. 3 Flachmoorverordnung).
bb) Ein völliger Verzicht auf Pufferzonen neben Mooren von nationaler Bedeutung ist grundsätzlich unzulässig (<ref-ruling> E. 3b S. 24 f.). Indessen legen gemäss Art. 3 Abs. 1 Flachmoorverordnung die Kantone den genauen Grenzverlauf der Objekte fest. Das impliziert, dass die kartographische Darstellung im Bundesinventar im Massstab 1:25'000 noch nicht unmittelbar verbindlich den Umfang des Objekts angibt, sondern den Kantonen eine gewisse Entscheidbefugnis bei der genauen Festlegung der Objektgrenzen verbleibt (Fahrländer, a.a.O., Art. 18a Rz. 38). Die kantonale Festlegung darf nicht restriktiv sein und dazu führen, dass Objekte von nationaler Bedeutung geschmälert werden (Entscheid i.S. SBN vom 24. September 1996, publ. in URP 1996 S. 815, E. 8d). Sie kann aber die bundesrechtliche Umschreibung präzisieren, soweit diese unklar oder fehlerhaft ist. Insbesondere kann im kantonalen Verfahren, welches der Festlegung der genauen Grenzverlaufs dient, auch geprüft werden, ob die einzelnen Parzellen die materiellen Voraussetzungen erfüllen, um als Objekt von nationaler Bedeutung gelten zu können (Entscheid i.S. B. vom 29. November 1994, publ. in ZBl 97/1996 S. 122, E. 5a).
cc) Vorliegend ergibt sich aus der in den Akten liegenden Fotodokumentation, dass der östliche Teil des Biotops Brandschänki mit Familiengärten, Kleintierweiden und Kleinbauten belegt ist. Gemäss dem Gutachten der AquaTerra vom 6. Oktober 1999 bestehen diese Nutzungen schon seit über 20 Jahren; das Gelände sei an dieser Stelle mit Erddeponien und Schutt aufgeschüttet worden und liege deutlich höher als die westlich angrenzenden Flachmoorflächen. Dieser Befund wird von den Beschwerdeführern in ihrer Stellungnahme vom 11. Februar 2000 nicht bestritten. Dass - wie die Beschwerdeführer vorbringen - die bestehenden Bauten ohne Bewilligung errichtet worden seien, ändert an diesem Befund nichts. Das Gutachten kommt daher zum Ergebnis, die 1994 vom Bund festgesetzte Flachmoorbegrenzung sei in diesem Bereich klar fehlerhaft; dafür sei das Flachmoorgebiet in westlicher Richtung um eine vernässte Wiese mit Pfeifengras- und Kleinseggenbeständen zu erweitern, die wohl aus Versehen 1994 nicht in das Bundesinventar aufgenommen worden sei. Die Stadt Uster hat deshalb vorgeschlagen, die kantonale Naturschutzverordnung in diesem Sinne anzupassen, d.h. das aufzunehmende Feuchtgebiet Brandschänki in westlicher Richtung zu erweitern und in östlicher Richtung zu verkürzen. Diesem Vorschlag hat die Fachstelle Naturschutz des Amtes für Landschaft und Natur am 19. Oktober 1999 grundsätzlich zugestimmt, vorbehältlich der Zustimmung des BUWAL. Würden die Grenzen des Schutzobjekts in dieser Weise verändert, wäre auch östlich des Biotops Brandschänki eine unüberbaubare Pufferzone vorhanden: Mit Vollzug der Planung Loren in ca. 2 Jahren will die Stadt Uster die vorhandenen Gärten und Kleintiernutzungen aufheben und dort eine störungsfreie Übergangszone zur eigentlichen Moorfläche schaffen.
Selbst wenn es formell bei der im Bundesinventar eingezeichneten Biotopgrenze bleiben sollte, kann der Gemeinde Uster angesichts der konkreten Umstände nicht vorgeworfen werden, die Pufferzonengrenze in bundesrechtswidriger Weise festgelegt zu haben: Es ist nicht ersichtlich, dass durch die vorgesehenen Bauten das (in diesem Bereich zumindest erheblich beeinträchtigte) Schutzobjekt nachteilig verändert werden könnte, zumal von den im Bereich G5 vorgesehenen dichten Überbauungen kaum Nährstoffeinträge zu erwarten sind. Dass der gemäss Gestaltungsplan überbaubare Bereich auf einer kurzen Strecke von rund 30 Metern unmittelbar an die im Bundesinventar eingezeichnete Ostgrenze des Moorobjekts heranreicht, mag zwar aus ästhetischer Sicht als unbefriedigend erscheinen, kann aber unter den besonderen Umständen des vorliegenden Falles nicht als bundesrechtswidrig bezeichnet werden.
dd) Feuchtigkeits- und Moorgebiete können auch durch Beeinträchtigungen des Grundwasserhaushalts gefährdet werden. Das Verwaltungsgericht hat sich mit diesem Aspekt auseinandergesetzt und ist gestützt auf den Raumplanungsbericht Loren zum Ergebnis gekommen, der im Gestaltungsplan vorgesehene Trenngürtel sei ausreichend. Die Beschwerdeführer machen nicht substantiiert geltend, die dieser Beurteilung zugrunde liegende Sachverhaltsfeststellung sei offensichtlich unrichtig oder unvollständig, sondern begnügen sich, in allgemeiner Weise die vorliegenden Untersuchungen anzuzweifeln. Hinzu kommt, dass in den an das Feuchtgebiet angrenzenden Baubereichen G5 und G8 keine Untergeschosse zulässig sind (Art. 11 der Gestaltungsplanvorschriften), was einen zusätzlichen Schutz bewirkt. Die verwaltungsgerichtliche Beurteilung ist nicht bundesrechtswidrig.
h) Gesamthaft verstösst somit der angefochtene Gestaltungsplan nicht gegen Bundesrecht.
3.- a) In ihrem Eventualbegehren (Ziff. 4.1) beantragen die Beschwerdeführer die Erstellung eines umfassenden Umweltverträglichkeitsberichts. Solche Berichte sind bundesrechtlich im Rahmen einer Umweltverträglichkeitsprüfung gemäss Art. 9 des Bundesgesetzes über den Umweltschutz vom 7. Oktober 1983 (SR 814. 01; USG) vorgeschrieben (<ref-law>; Art. 7 ff. der Verordnung über die Umweltverträglichkeitsprüfung vom 19. Oktober 1988 [SR 814. 011; UVPV]). Soweit der Eventualantrag dahin zu verstehen sein soll, es hätte eine Umweltverträglichkeitsprüfung durchgeführt werden sollen, ist er offensichtlich unbegründet. Gemäss <ref-law> ist die Sondernutzungs- oder Detailnutzungsplanung das für die Umweltverträglichkeitsprüfung massgebliche Verfahren, sofern darin über ein UVP-pflichtiges Projekt entschieden wird und das Planverfahren eine umfassende Prüfung ermöglicht (vgl. <ref-ruling> E. 3b/bb S. 194 f.; <ref-ruling> E. 2 S. 74). Im vorliegenden Fall fehlt es bereits an der ersten Voraussetzung: Es wird von keiner Seite geltend gemacht und ist auch nicht ersichtlich, dass mit dem Gestaltungsplan über Anlagen entschieden würde, für welche eine Umweltverträglichkeitsprüfung durchzuführen ist (vgl. Anhang zur UVPV).
b) Auf die übrigen Eventualbegehren kann schon deshalb nicht eingetreten werden, weil sie ausschliesslich kantonalrechtliche Aspekte zum Gegenstand haben.
4.- Damit erweist sich die Verwaltungsgerichtsbeschwerde als unbegründet, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten den Beschwerdeführern unter solidarischer Haftung aufzuerlegen (Art. 156 Abs. 1 und 7 in Verbindung mit Art. 153 und Art. 153a OG). Eine Parteientschädigung an die obsiegende Stadt Uster wird nicht zugesprochen (Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.-Die Gerichtsgebühr von Fr. 4'000. - wird den Beschwerdeführern auferlegt.
3.- Es werden keine Parteientschädigungen zugesprochen.
4.-Dieses Urteil wird den Parteien, dem Verwaltungsgericht (3. Abteilung, 3. Kammer) und der Baurekurskommission III des Kantons Zürich sowie dem Bundesamt für Umwelt, Wald und Landschaft schriftlich mitgeteilt.
_
Lausanne, 8. März 2000
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Die Gerichtsschreiberin: