Sachverhalt:
A. Die Gemeindeversammlung Hinwil beschloss am 15. März 2010 eine Teilrevision ihrer Bau- und Zonenordnung (BZO) und erliess dabei neu eine Ziff. 2.11 über Mobilfunkanlagen. Diese lautet:
2.11 Antennenanlagen
2.11.1
Standorte für Mobilfunkanlagen bedingen eine umfassende Interessenabwägung. Gegeneinander abzuwägen sind insbesondere die orts- und raumplanerischen Interessen, die Interessen der Mobilfunknutzer und die Interessen der Mobilfunkbetreiber. Die Mobilfunkbetreiber sind verpflichtet, der Bewilligungsbehörde diejenigen Unterlagen einzureichen, die sie benötigt, um die Interessenabwägung und Standortsteuerung vorzunehmen und die Erfüllung der Standortvoraussetzungen zu prüfen.
2.11.2
Die Mobilfunkbetreiber sind verpflichtet, bestehende Standorte anderer Anbieter zu nutzen, sofern der Mitbenützung keine technischen beziehungsweise rechtlichen Gründe entgegenstehen und die Vermieterschaft einer Mitbenützung zustimmt.
2.11.3
Mobilfunkanlagen haben der Quartierversorgung zu dienen. In der Industrie- und Gewerbezone sowie in der Zone für öffentliche Bauten in denen stark und mässig störende Betriebe zulässig sind, können überdies auch Anlagen für die kommunale Versorgung erstellt werden.
2.11.4
Mobilfunkanlagen sind nur in folgenden Zonen und gemäss folgenden Prioritäten zulässig:
1. Priorität: Industrie- oder Gewerbezonen
2. Priorität: Zone für öffentliche Bauten in denen stark und mässig störende Betriebe zulässig sind
3. Priorität: Zentrumszone und Wohnzonen mit Gewerbeerleichterung
4. Priorität: Kernzonen
Erbringt der Betreiber den Nachweis, dass aufgrund von funktechnischen Bedingungen ein Standort ausserhalb der zulässigen Zonen erforderlich ist, ist eine Mobilfunkanlage auch in den übrigen Wohnzonen zulässig.
2.11.5
Die Betreiber erbringen den Nachweis, dass in den Zonen mit jeweils höherer Priorität keine Standorte zur Verfügung stehen. Deckt ein Standort Versorgungsgebiete der Landwirtschaftszone ab, hat der Betreiber auf Verlangen der Bewilligungsbehörde zusätzlich den Nachweis zu erbringen, dass kein Standort in der Landwirtschaftszone zur Verfügung steht.
2.11.6
Die Bewilligungsbehörde kann von den Mobilfunkbetreibern verlangen, dass innerhalb der Zonen mit gleicher Priorität Alternativstandorte geprüft werden.
2.11.7
Baugesuche für Mobilfunkanlagen im Bereich von Natur- und Heimatschutzobjekten sind bezüglich der Einordnung von einer externen Fachperson zu begutachten.
B. Hiergegen erhoben die Swisscom (Schweiz) AG und die Sunrise Communications AG mit separaten Eingaben Rekurs und verlangten, Ziff. 2.11 BZO sei aufzuheben. Mit Entscheid vom 27. Oktober 2010 vereinigte die Baurekurskommission III des Kantons Zürich die beiden Rekursverfahren und hiess sie teilweise gut. Sie hob Ziff. 2.11.1, 2.11.2 und 2.11.4 bis 2.11.6 auf und ergänzte Ziff. 2.11.7 BZO im Sinne der Erwägungen.
Gegen den Rekursentscheid erhob die Gemeinde Hinwil am 29. November 2010 Beschwerde an das Verwaltungsgericht des Kantons Zürich und beantragte, dieser sei aufzuheben, soweit die Rekurse gutgeheissen worden seien.
C. Nachdem die Baudirektion die Teilrevision der BZO bereits am 27. September 2010 im nicht angefochtenen Umfang genehmigt hatte, verweigerte der Regierungsrat mit Beschluss vom 4. Mai 2011 die Genehmigung von Ziff. 2.11 BZO mit Ausnahme der Ziff. 2.11.3 und 2.11.7 BZO. Zudem lud er die Gemeinde Hinwil ein, Ziff. 2.11.7 BZO im Sinn der Erwägungen der Baurekurskommission präzisierend zu ergänzen ("sofern die geplante Anlage visuell wahrnehmbar ist".
Gegen diesen Regierungsratsbeschluss erhob die Gemeinde Hinwil am 10. Juni 2011 ebenfalls Beschwerde an das Verwaltungsgericht mit dem Antrag, der Beschluss sei aufzuheben, soweit die Revision der Nutzungsplanung nicht genehmigt worden sei.
D. Das Verwaltungsgericht vereinigte beide Beschwerdeverfahren. Am 6. Dezember 2011 hiess es die Beschwerden teilweise gut, soweit sie mit Bezug auf Ziff. 2.11.7 nicht gegenstandslos geworden waren. Demgemäss hob es die Ziff. 2.11.1, 2.11.2, 2.11.5 zweiter Satz und 2.11.6 BZO auf und wies die Beschwerden im Übrigen ab.
E. Dagegen haben die Swisscom (Schweiz) AG (im Folgenden: Beschwerdeführerin 1) und die Sunrise Communications AG (im Folgenden: Beschwerdeführerin 2) mit separaten Eingaben vom 27. und vom 31. Januar 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht erhoben. Sie beantragen, der angefochtene Entscheid sei insoweit aufzuheben, als er die Ziff. 2.11.4 und Ziff. 2.11.5 erster Satz der BZO-Vorlage Hinwil für rechtmässig erkläre.
F. Das Verwaltungsgericht und die Gemeinde Hinwil beantragen die Abweisung der Beschwerden, soweit darauf einzutreten sei. Das Baurekursgericht schliesst auf Abweisung der Beschwerden. Die Baudirektion des Kantons Zürich hat auf eine Vernehmlassung verzichtet.
Die Beschwerdeführerin 2 beantragt in ihrer Replik die Einholung eines Fachgutachtens des Bundesamts für Kommunikation (BAKOM) zur Frage, wie sich ein Kaskadenmodell für Mobilfunkanlagen auf den Versorgungsauftrag der Konzessionärinnen sowie auf die Immissionslast auswirke.
G. Auf Antrag der Beschwerdeführerin 1 wurde ihrer Beschwerde mit Verfügung vom 14. März 2012 aufschiebende Wirkung zuerkannt.

Erwägungen:
1. Der angefochtene, kantonal letztinstanzliche Entscheid über eine kommunale Bau- und Zonenordnung ist ein Endentscheid (<ref-law>), gegen den grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht offensteht (<ref-law>). Die umstrittenen Bestimmungen der BZO Hinwil beschränken mögliche Standorte für Mobilfunksendeanlagen innerhalb des Gemeindegebiets. Die beschwerdeführenden Mobilfunkbetreiberinnen haben daher ein schutzwürdiges Interesse an der Aufhebung oder Änderung dieser Bestimmungen und sind zur Beschwerde legitimiert (<ref-law>). Da auch die übrigen Sachurteilsvoraussetzungen vorliegen, ist auf die Beschwerden einzutreten.
Diese betreffen dieselben BZO-Bestimmungen und richten sich gegen denselben Entscheid des Verwaltungsgerichts, weshalb es sich rechtfertigt, die Verfahren zu vereinigen.
2. In der vom Verwaltungsgericht bestätigten Fassung lautet Ziff. 2.11 BZO Hinwil wie folgt:
2.11 Antennenanlagen
2.11.1 [aufgehoben]
2.11.2 [aufgehoben]
2.11.3
Mobilfunkanlagen haben der Quartierversorgung zu dienen. In der Industrie- und Gewerbezone sowie in der Zone für öffentliche Bauten, in denen stark und mässig störende Betriebe zulässig sind, können überdies auch Anlagen für die kommunale Versorgung erstellt werden.
2.11.4
Mobilfunkanlagen sind nur in folgenden Zonen und gemäss folgenden Prioritäten zulässig:
1. Priorität: Industrie- oder Gewerbezonen;
2. Priorität: Zonen für öffentliche Bauten, in denen stark und mässig störende Betriebe zulässig sind;
3. Priorität: Zentrumszone und Wohnzonen mit Gewerbeerleichterung;
4. Priorität: Kernzonen.
Erbringt der Betreiber den Nachweis, dass aufgrund von funktechnischen Bedingungen ein Standort ausserhalb der zulässigen Zonen erforderlich ist, ist eine Mobilfunkanlage auch in den übrigen Wohnzonen zulässig.
2.11.5
Die Betreiber erbringen den Nachweis, dass in den Zonen mit jeweils höherer Priorität keine Standorte zur Verfügung stehen.
[Satz 2 aufgehoben]
2.11.6 [aufgehoben]
2.11.7
Baugesuche für Mobilfunkanlagen im Bereich von Natur- und Heimatschutzobjekten sind bezüglich der Einordnung von einer externen Fachperson zu begutachten, sofern die geplante Anlage visuell wahrnehmbar ist.
Nur noch die Ziff. 2.11.4 und 2.11.5 sind vor Bundesgericht streitig.
3. Die Beschwerdeführerinnen bestreiten zunächst die Regelungsbefugnis der Gemeinde.
3.1 Gemäss § 45 Abs. 1 des Zürcher Planungs- und Baugesetzes vom 7. September 1975 (PBG) erlassen die Gemeinden eine Bau- und Zonenordnung. Sie sind dabei an die Institute, Begriffe, Mess- und Berechnungsweisen sowie an die Mindestanforderungen des kantonalen Rechts gebunden, soweit es ihnen nicht ausdrücklich Abweichungen gestattet (Abs. 2). Die Bau- und Zonenordnung regelt die Überbaubarkeit und die Nutzweise der Grundstücke, soweit diese nicht abschliessend durch eidgenössisches oder kantonales Recht bestimmt sind (§ 46 Abs. 1 PBG).
Das Verwaltungsgericht hielt fest, dass der kantonale Gesetzgeber mit diesen Bestimmungen sowie den daran anschliessenden Bestimmungen über die Bauzonen (§§ 47 ff. PBG) klarstellen wollte, dass die Gemeinden ihre Bauzonen nur in die ausdrücklich zulässigen Zonenarten (§ 48 PBG) unterteilen und mit den ausdrücklich zulässigen Bauvorschriften (§§ 49 ff. PBG) versehen dürfen. Für die Legiferierung einer speziellen kommunalen Bestimmung betreffend Mobilfunkantennen bedürfe es daher einer ausdrücklichen Ermächtigung im Planungs- und Baugesetz. Dies wird von den Parteien nicht bestritten.
3.1.1 Gemäss § 78 PBG kann die Bau- und Zonenordnung für ganze Zonen oder gebietsweise Aussenantennen verbieten, sofern durch andere technische Einrichtungen gleichwertige Empfangsmöglichkeiten gewährleistet sind.
Die Baurekurskommission und der Regierungsrat erachteten diese kantonale Gesetzesbestimmung als genügende gesetzliche Ermächtigung für die strittige kommunale Regelung: § 78 PBG habe zwar bei dessen Erlass hauptsächlich Fernsehantennen geregelt, könne aber bei zeitgemässer Auslegung auch auf Mobilfunkantennen angewendet werden.
Das Verwaltungsgericht ging mit den Beschwerdeführerinnen davon aus, dass die Übertragung des auf Radio- und Fernsehempfangsantennen zugeschnittenen § 78 PBG auf Mobilfunkanlagen bereits am klaren Wortlaut der Bestimmung scheitern müsse: Als gleichwertige Empfangsmöglichkeit käme im Bereich der Mobilfunktelefonie wohl in allererster Linie das Telefonfestnetz infrage; dieses sei jedoch gerade nicht in der Lage, Signale an Mobilfunktelefone zu übermitteln oder solche Signale von einem Mobilfunktelefon zu empfangen.
3.1.2 Dagegen ging das Verwaltungsgericht davon aus, dass sich die angefochtene Regelung auf § 49a Abs. 3 erster Halbsatz PBG stützen könne. Danach kann für ganze Zonen, gebietsweise oder für einzelne Geschosse die Nutzung zu Wohnzwecken oder gewerblichen Zwecken zugelassen, vorgeschrieben oder beschränkt werden.
Nach Auffassung des Verwaltungsgerichts eröffnet diese Bestimmung den Gemeinden einen weiten Spielraum für die Umschreibung der zulässigen Nutzweisen. Diese dürften selbst innerhalb einer zulässigen Nutzungsart spezielle Nutzungen einschränken oder auch ausnützungsmässig privilegieren (vgl. E. 4.3 S. 8 des angefochtenen Entscheids mit Hinweis auf die Rechtsprechung des Verwaltungsgerichts). Demnach biete § 49a Abs. 3 PBG eine genügende Ermächtigungsgrundlage für die Gemeinden, um die Zulassung von Mobilfunkanlagen als spezifische Nutzung auf ihrem Gebiet zu regeln.
3.2 Die Beschwerdeführerinnen halten diese Auslegung von § 49a Abs. 3 PBG für willkürlich (<ref-law>); sie verletze das Legalitätsprinzip (Art. 5 Abs. 1 bzw. <ref-law>) sowie die Grundsätze der Gewaltenteilung (Art. 3 KV/ZH), der Rechtssicherheit und der genügenden Bestimmtheit des Rechtssatzes.
Sie sind der Auffassung, die Standortplanung von Mobilfunkanlagen habe keinen rechtsrelevanten Bezug zu Wohn- und Gewerbenutzungen. Nach der Praxis des Verwaltungsgerichts stelle eine gewöhnliche Mobilfunkanlage keinen Betrieb dar, sondern eine technische Infrastrukturbaute. Anderenfalls könnten die Gemeinden in der BZO auch gewöhnliche technische Bauten und Anlagen wie z.B. Reklameanlagen, Zeitungsboxen, Abfallsammelstellen und Solaranlagen ausschliessen, was abwegig wäre. Sinn und Zweck von § 49a Abs. 3 PBG sei es, konfliktträchtige Nutzungen zu entflechten oder aber Synergien nutzbar zu machen. Es gebe keinerlei Hinweise, dass der Gesetzgeber die Gemeinden ermächtigen wollte, Regelungen zur Mobilfunkinfrastruktur zu treffen.
Dass hierfür eine spezialgesetzliche Regelung notwendig sei, belege auch § 78 PBG, der eine ausdrückliche Regelung für Radio- und Fernsehantennen treffe. Es wäre Sache des kantonalen Gesetzgebers, auch für den Bereich der Mobilfunkanlagen eine entsprechende Regelung im PBG zu erlassen, um die Informationsfreiheit, eine minimale kantonale Einheitlichkeit und die Abstimmung mit den bundesrechtlichen Vorgaben zu gewährleisten.
Die Beschwerdeführerinnen geben zu bedenken, dass der Bund aufgrund der Komplexität der Materie und dem laufenden Bedürfniswandel auf den Erlass eines Sachplans für Mobilfunkanlagen verzichtet habe; der Ansatz, die Standorte "bottom up" via rund 2'500 Gemeinden festzulegen, sei erst recht verfehlt.
3.3 Die Gemeinde Hinwil ist weiterhin der Auffassung, dass sich ihre Regelung auf § 78 PBG stützen könne. Anwendbar sei aber auch § 49a Abs. 3 PBG: Während das PBG in seiner ursprünglichen Fassung sehr um die Vereinheitlichung der baurechtlichen Regelungen im Kanton bemüht gewesen sei, seien mit der Revision 1991 die kommunalen Regelungsbefugnisse erweitert worden (vgl. ROBERT WOLF/ERICH KULL, Das revidierte Planungs- und Baugesetz des Kantons Zürich, Bern 1992, Rz. 4 S. 10 ff.). Insbesondere habe ihnen der neu eingefügte § 49a Abs. 3 PBG die Möglichkeit eröffnet, für alle Zonenarten zusätzliche Nutzungsvorschriften zu erlassen. Diese Bestimmung spreche nicht von Betrieben, sondern umfassender von "gewerblichen Zwecken"; dieser Begriff sei weit zu verstehen (CHRISTOPH FRITZSCHE/ PETER BÖSCH/THOMAS WIPF, Zürcher Planungs- und Baurecht, 5. Aufl., Zürich 2011, S. 737), weshalb es nicht darauf ankomme, ob Mobilfunkanlagen als Betriebe zu qualifizieren seien. Die Formulierung "zu Wohnzwecken oder gewerblichen Zwecken" umfasst nach Auffassung der Gemeinde alle möglichen Nutzungen. Könne eine Gemeinde gestützt auf § 49a Abs. 3 PBG die Nutzung zu Wohnzwecken einschränken, sei es ihr auch unbenommen, in ihrer BZO gewisse der Wohnnutzung dienende Infrastrukturanlagen wie z.B. Mobilfunkantennenanlagen zu beschränken oder auszuschliessen.
3.4 Die Auslegung einer kantonalen Norm (hier: § 49a Abs. 3 PBG) überprüft das Bundesgericht grundsätzlich nur unter dem Blickwinkel des Willkürverbots (<ref-law>), auch wenn die Verletzung des Legalitäts- und des Gewaltenteilungsprinzips gerügt wird (<ref-ruling> E. 3.1 S. 5 mit Hinweisen).
Willkür liegt nach der Rechtsprechung nicht schon dann vor, wenn eine andere Lösung ebenfalls vertretbar erscheint oder sogar vorzuziehen wäre. Das Bundesgericht weicht vom Entscheid der kantonalen Instanz nur ab, wenn dieser offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (<ref-ruling> E. 2.2.2 S. 318 f. mit Hinweisen).
§ 49a PBG (eingefügt durch das Gesetz vom 1. September 1991; in Kraft seit 1. Februar 1992) gestattet den Gemeinden, für ganze Zonen, gebietsweise oder für einzelne Geschosse die Nutzung zu Wohnzwecken oder gewerblichen Zwecken zuzulassen, vorzuschreiben oder zu beschränken. Diese Formulierung ist sehr weit gefasst. Generelle Zielsetzung der PBG-Revision von 1991 war es, den Regelungsbereich der Gemeinden zu erweitern (Antrag des Zürcher Regierungsrats vom 11. Oktober 1989 zur Änderung des Planungs- und Baugesetzes, Zürcher Amtsblatt 1989 1750; so schon Urteil des Bundesgerichts 1P.697/1992 vom 16. Juni 1993 E. 4c, in: ZBl 94/1993 S. 560).
Kann die Gemeinde sowohl die Nutzung zu Wohnzwecken als auch zu betrieblichen Zwecken einschränken, erscheint es zumindest nicht willkürlich anzunehmen, dass sie auch die Möglichkeit hat, gewisse technische Bauten und Infrastrukturanlagen, die diesen Nutzung dienen, näher zu regeln und gegebenenfalls einzuschränken. Insofern können sich auch kommunale Regelungen über die Zulässigkeit von Mobilfunkanlagen in einzelnen Zonen willkürfrei auf diese Bestimmung stützen, vorausgesetzt, dass ein öffentliches Interesse an einer derartigen Regelung besteht (vgl. dazu unten, unten E. 5.4).
Die ausdrückliche Regelung für Radio- und Fernsehantennen in § 78 PBG stammt aus der Zeit vor der Einführung von § 49a Abs. 3 PBG und ist restriktiver formuliert (Gewährleistung gleichwertiger Empfangsmöglichkeiten). Die Interpretation des Verwaltungsgerichts, es handle sich nunmehr (nach Einführung von § 49a Abs. 3 PBG) um eine lex specialis zu dieser Bestimmung, ist jedenfalls nicht unhaltbar.
4. Die Beschwerdeführerinnen rügen weiter, Ziff. 2.11.4 und 2.11.5 BZO verletzten die in der Bundesfernmeldegesetzgebung konkretisierten öffentlichen Interessen an einer qualitativ guten, preiswerten und innovativen Mobilfunkversorgung und einem funktionierenden Wettbewerb zwischen den Mobilfunkanbietern sowie die konzessionsrechtlichen Vorgaben und seien daher bundesrechtswidrig. Zudem verletzten sie die Wirtschaftsfreiheit (<ref-law>), die Baufreiheit als Teil der Eigentumsgarantie (<ref-law>), die Informationsfreiheit (<ref-law>) sowie die persönliche Freiheit (<ref-law>) und widersprächen dem Grundsatz der Rechtsgleichheit (<ref-law>). Die für die Einschränkung dieser Grundrechte erforderlichen Voraussetzungen der gesetzlichen Grundlage, des überwiegenden öffentlichen Interesses und der Verhältnismässigkeit (<ref-law>) seien nicht gegeben.
Sie machen geltend, sie seien konzessionsrechtlich verpflichtet, eine bestimmte gesamtschweizerische Abdeckung zu gewährleisten, unter schwierigen radioplanerischen und umweltrechtlichen Rahmenbedingungen. In Zukunft würden deutlich mehr Standorte nötig sein: Das zu übertragende Datenvolumen verdopple sich alle 12 Monate; mit zunehmender Last nehme die Reichweite ab, weshalb das Netz verdichtet werden müsse. Die nächste Mobilfunkgeneration LTE erlaube zwar höhere Datenraten, jedoch sei die Reichweite der Funksignale aufgrund der höheren Frequenzen stark begrenzt. Die Sendeanlagen müssten daher möglichst nahe bei den Endkunden errichtet werden. Eine Versorgung aus grösserer Distanz führe rasch zu einer schlechteren Qualität.
Nach der bundesgerichtlichen Rechtsprechung müsse die Planung im Bereich Mobilfunk gestützt auf eine Gesamtschau aller erheblichen Probleme erarbeitet werden (<ref-ruling> E. 4.3.4 S. 329 oben). Vorliegend seien keine funktechnischen Abklärungen getroffen worden. Die Industrie- und Gewerbezone Hinwils liege am Rand der Bauzone und eigne sich nicht zur Abdeckung des gesamten Gemeindegebiets.
Die Regelung in Ziff. 2.11.4 Satz 2 und Ziff. 2.11.5 Satz 1 BZO sei zu unbestimmt. Es liege im Belieben der Baubehörde, die Anforderungen an den Nachweis, dass kein Standort in einer Zone höherer Priorität erforderlich sei, so hoch zu schrauben, dass innert vernünftiger Frist und mit zumutbarem Aufwand kein Wechsel in eine andere Zone erreicht werden könne. Die Bewilligung von Mobilfunkanlagen könne damit in unzumutbarer Weise erschwert bzw. verzögert werden.
Die Beschwerdeführerinnen bestreiten, dass ein überwiegendes öffentliches Interesse an der Beschränkung von Mobilfunkstandorten in Wohnzonen bestehe. Ihres Erachtens verursachen gesetzeskonform betriebene Mobilfunkanlagen weder ideelle Immissionen noch wirken sie sich wertmindernd auf Liegenschaften aus. Jedenfalls aber sei nicht nachvollziehbar, weshalb sich allfällige ideelle Immissionen trotz ähnlicher Aufenthaltszeiten in reinen Wohnzonen ungleich stärker auswirken sollten als in den Arbeitsplatzzonen. Ideelle Immissionen rührten von Immissionsängsten, die abschliessend (via Vorsorgeprinzip) in der NISV berücksichtigt seien; insofern bestehe keine Zuständigkeit der Gemeinde. Es sei auch widersprüchlich zu verlangen, dass Mobilfunkantennen der Quartierversorgung dienen (Ziff. 2.11.3 BZO), sie aber aus den Wohnzonen zu verbannen, in denen eine grosse Nachfrage an Mobilfunkdiensten bestehe.
Die Konzentration der Standorte in gewissen prioritären Zonen führe zu einer höheren Strahlenbelastung als bei einer dezentralen Anordnung. Es widerspreche dem Grundsatz der Lastengleichheit, Bewohner oder Arbeitnehmer in diesen Zonen stärkerer Strahlung auszusetzen, nur damit die Bewohner der übrigen Zonen mit Mobilfunk versorgt werden können, ohne die damit verbundene Infrastruktur sehen zu müssen. Die angefochtene Regelung sei Ausdruck einer gesellschaftlichen Entwicklung ("not in my backyard"-Prinzip), mit der man zwar von den Vorzügen einer Technik profitieren, ihre Nachteile aber anderen auferlegen wolle. Insofern wäre es - wenn überhaupt - sinnvoller, die Anbieter auf den unter Immissionsgesichtspunkten jeweils günstigsten Standort zu verpflichten.
Schliesslich sei kein öffentliches Interesse erkennbar, das den Bau sämtlicher, also nicht bloss visuell wahrnehmbarer Mobilfunkanlagen, erschwere.
5. Die angefochtene Regelung enthält ein sogenanntes Kaskadenmodell: Mobilfunkantennen sollen in erster Linie in den Industrie- oder Gewerbezonen (1. Priorität) und in Zonen für öffentliche Bauten, in denen stark und mässig störende Betriebe zulässig sind (2. Priorität) erstellt werden; in der Rangordnung folgen die Zentrumszonen und Wohnzonen mit Gewerbeerleichterung (3. Priorität) sowie die Kernzonen (4. Priorität) (Ziff. 2.11.4). In den übrigen Wohnzonen sind Mobilfunkantennen nur zulässig, wenn dies aufgrund von funktechnischen Gründen notwendig ist (Ziff. 2.11.5). Dabei sind in den Zonen 1. und 2. Priorität Anlagen zur Versorgung des ganzen Gemeindegebiets (oder grosser Teile davon) zulässig, in den übrigen Zonen nur Anlagen zur Quartierversorgung (Ziff. 2.11.3).
Dieses Modell weist grosse Ähnlichkeit mit der Regelung der Gemeinde Urtenen-Schönbühl auf, die das Bundesgericht vor kurzem als mit Bundesfernmelde- und -verfassungsrecht vereinbar erachtete (zur Veröffentlichung bestimmtes Urteil 1C_449 und 451/2011 vom 19. März 2012). Auf die Erwägungen dieses Urteils kann daher grundsätzlich verwiesen werden. Im Folgenden ist vor allem auf die Punkte einzugehen, in denen sich der Regelung der Gemeinde Hinwil von derjenigen Urtenen-Schönbühls unterscheidet.
5.1 Im Urteil vom 19. März 2012 ging das Bundesgericht davon aus, dass sich die (prioritären) Arbeitszonen der Gemeinde Urtenen-Schönbühl von ihrer Lage und ihrem Umfang her besonders gut für die Mobilfunkversorgung der Gemeinde eigneten. Sollten dennoch - aufgrund der Entwicklung der Technik, der Frequenzen und der Nachfrage - weitere Standorte benötigt werden, könnten hierfür - entsprechend dem Kaskadenmodell - auch Standorte in gemischten Zonen und sogar in reinen Wohnzonen beansprucht werden (Urteil 1C_449 und 451/2011 E. 6.6).
Die Gemeinde Hinwil verfügt über eine ausserordentlich grosse Industrie- und Gewerbezone, die allerdings im Nordwesten der Gemeinde konzentriert ist. Immerhin reicht sie bis ins Dorfzentrum hinein; dazu kommen die überwiegend zentral, in der Ortsmitte gelegenen Zonen 2. bis 4. Priorität. Die prioritären Zonen 1 - 4 machen rund zwei Drittel der gesamten Bauzonenfläche aus. Insofern ist mit dem Verwaltungsgericht davon auszugehen, dass in der Regel funktechnisch geeignete Standorte in den Zonen 1. - 4. Priorität verfügbar sein werden. Sollte dies nicht der Fall sein, können auch Standorte in den reinen Wohnzonen beansprucht werden.
5.2 Im Urteil betr. Urtenen-Schönbühl erachtete das Bundesgericht die angefochtene kommunale Regelung als formell-gesetzliche Grundlage für die Beschränkung der Grundrechte, namentlich der Wirtschafts- und der Informationsfreiheit. Sie sei nicht zu unbestimmt, sondern biete - bei der gebotenen verfassungs- und bundesrechtskonformen Auslegung und Anwendung - genügend Schutz vor unzumutbaren Anforderungen im Anwendungsfall: Der Gemeinde dürfe nicht unterstellt werden, die Bestimmungen verfassungs- bzw. bundesrechtswidrig zu handhaben (Urteil 1C_449 und 451/2011 E. 6.6, E. 7.2 und E. 8.3).
Entsprechendes gilt im vorliegenden Fall: Die Gemeinde hat vor Bundesgericht zugesichert, sie werde keine unzumutbaren Anforderungen an einen Zonenwechsel stellen; insbesondere werde der Nachweis des Scheiterns eines Enteignungsverfahrens nicht verlangt. Vielmehr genüge es, wenn die Gesuchstellerin glaubhaft mache, dass sie einen in Betracht kommenden Standort in einer prioritären Zone nicht zu zumutbaren Bedingungen mieten oder erwerben könne. Funktechnische Gründe für einen bestimmten Standort könnten z.B. mittels Abdeckungskarten erbracht werden.
Es wird Sache der Gemeinde Hinwil sein, ihre Bau- und Zonenordnung mit Augenmass anzuwenden und konstruktiv mit den Mobilfunkanbieterinnen zusammenzuarbeiten, um die Mobilfunkversorgung des Gemeindegebiets und Umgebung sicherzustellen. Das Verwaltungsgericht hat zu Recht auf die Möglichkeit der Gemeinde hingewiesen, gut geeignete kommunale Grundstücke in prioritären Zonen (insbesondere in den Zonen für öffentliche Bauten) für Mobilfunkanlagen zur Verfügung stellen, um die Beanspruchung von Zonen tieferer Priorität zu verhindern.
5.3 Hängen die Auswirkungen der angefochtenen Kaskadenregelung vor allem von ihrer Handhabung in der Praxis ab, erübrigt es sich, hierzu ein Gutachten des BAKOM einzuholen. Dies gilt auch hinsichtlich der Immissionslast: Diese wird (an Orten mit empfindlicher Nutzung) durch den Anlagegrenzwert und ansonsten durch den Immissionsgrenzwert begrenzt.
5.4 Während die Gemeinde Urtenen-Schönbühl besonderes Gewicht auf die Bündelung von Infrastrukturanlagen, insbesondere entlang den Autobahnen legte, kommt diesem Aspekt für Hinwil geringere Bedeutung zu (Oberlandautobahn und Forchautobahn verlaufen südlich der Stadt, abseits der Siedlungsgebiete). Der Gemeinde Urtenen-Schönbühl ging es aber ebenfalls um die Wahrung von Charakter und Qualität der Wohnzonen durch den Schutz vor ideellen Immissionen von Mobilfunkantennen. Dieses Anliegen verfolgt auch die Gemeinde Hinwil. Sie macht geltend, dass ein weit verbreitetes Unbehagen und Furcht vor einer zügellosen weiteren Verbreitung von Mobilfunkanlagen, namentlich in Wohnzonen, bestehe. Dabei mache es zumindest psychologisch durchaus einen Unterschied, ob die Mobilfunkanlagen unmittelbar vor den Augen stehen oder aber aus der Ferne strahlen.
Nach der bundesgerichtlichen Rechtsprechung darf bei der Ortsplanung grundsätzlich berücksichtigt werden, dass bestimmte Nutzungen oder Anlagen in der Bevölkerung (oder Teilen davon) unangenehme psychische Eindrücke erwecken und dazu führen, dass die Umgebung als unsicher, unästhetisch oder sonst wie unerfreulich empfunden wird (<ref-ruling> E. 4.3.2 und 4.3.2 S. 401 mit Hinweisen). Erfahrungsgemäss wird vor allem die Installation von Mobilfunkanlagen in Wohngebieten von Teilen der Bevölkerung als Bedrohung bzw. als Beeinträchtigung der Wohnqualität empfunden, wie zahlreiche Einsprachen, Petitionen und Initiativen belegen. Dass es sich um ein Anliegen der Bevölkerung handelt, ergibt sich auch aus der Tatsache, dass die neue Regelung der Gemeinde Hinwil an der Gemeindeversammlung vom 15. März 2010 mit offensichtlichem Mehr angenommen wurde.
Einsprachen und Beschwerden von Personen, deren Arbeitsort in der Nähe projektierter Antennen liegen, sind deutlich seltener, obwohl auch sie zur Beschwerde legitimiert wären (vgl. Urteile 1A.142/2001 vom 25. Februar 2002 E. 2.4 und 1A.230/2002 vom 23. Januar 2004 E. 3.1). Insofern ist die Annahme der Vorinstanz plausibel, dass sich ideelle Immissionen von Mobilfunkanlagen trotz ähnlicher Aufenthaltszeiten der Menschen in reinen Wohnzonen offensichtlich ungleich stärker auswirkten als in den Arbeitsplatzzonen.
Im Urteil 1C_449 und 451/2011 (E. 7.4.3) räumte das Bundesgericht ein, dass subjektive Ängste und Gefühle des Unbehagens keine tragfähige Grundlage für weitgehende Einschränkungen oder gar ein Verbot von im allgemeinen Interesse liegenden Infrastrukturanlagen bilden könnten. Es ging jedoch davon aus, dass die Wirtschafts- und Informationsfreiheit der Beschwerdeführerinnen durch die Kaskadenregelung der Gemeinde Urtenen-Schönbühl nur geringfügig eingeschränkt werde.
Die Regelung der Gemeinde Hinwil ist insofern strenger, als sie Mobilfunkanlagen zur Versorgung des gesamten oder grosser Teile des Gemeindegebiets nur in den Zonen 1. und 2. Priorität zulässt, d.h. in allen anderen Zonen (auch gemischten Zonen wie Zentrums- und Kernzonen) lediglich Anlagen zur Quartierversorgung zulässt. Ziff. 2.11.3 wird jedoch von den Beschwerdeführerinnen vor Bundesgericht nicht mehr angefochten und ist deshalb nicht zu prüfen. Mangels dahingehender Rüge ist auch nicht zu prüfen, ob gewisse Zonen ohne Wohnnutzung (wie z.B. Sport- und Erholungszonen) ebenfalls der Zone 1. oder 2. Priorität zugewiesen werden müssten (vgl. dazu Urteil 1C_449 und 451/2011 E. 3.2).
Im Übrigen ist die Regelung vergleichbar: Sie lässt - bei Nachweis eines entsprechenden Bedarfs - Mobilfunkanlagen in allen Bauzonen, einschliesslich in reinen Wohngebieten, zu, sofern sie der Quartierversorgung dienen (Ziff. 2.11.3 BZO). Insofern wird dem Bedürfnis der Mobilfunkbetreiberinnen nach kleinräumigen, möglichst nahe bei den Endkunden errichteten Sendeanlagen durchaus Rechnung getragen. Unter diesen Umständen ist die Interessenabwägung der Gemeinde nicht zu beanstanden.
5.5 Die Regelung der Gemeinde Urtenen-Schönbühl beschränkt sich auf Mobilfunkantennen, die ausserhalb von Gebäuden angebracht werden und von allgemein zugänglichen Standorten optisch wahrgenommen werden können. Dagegen findet die BZO der Gemeinde Hinwil grundsätzlich auf alle Mobilfunkantennen Anwendung (ausgenommen wohl Microzellen mit einer Leistung von weniger als 6 WERP ; vgl. angefochtenen Entscheid E. 8.3); die Einschränkung auf visuell wahrnehmbare Antennen bezieht sich nur auf Ziff. 2.11.7 BZO (Natur- und Heimatschutzobjekte).
Vor Verwaltungsgericht führte die Gemeinde aus, dass negative wirtschaftliche und psychologische Auswirkungen einer Mobilfunkanlage unabhängig davon bestehen können, ob diese unter einem Dach oder eingemantelt oder sonst wie sichtbar angebracht werde; allerdings sei sich der kommunale Gesetzgeber der Möglichkeit gebäudeinterner oder sonst wie kaschierter Mobilfunkantennen nicht bewusst gewesen (E. 5.1 S. 11/12 des angefochtenen Entscheids).
Das Verwaltungsgericht ging davon aus, dass die psychologische Wirkung visuell nicht wahrnehmbarer Antennen geringer sei; dennoch könne auch das blosse Wissen um eine solche kaschierte Anlage in der unmittelbaren Nachbarschaft unerwünschte Auswirkungen zeitigen (E. 5.2 S. 12/13 des angefochtenen Entscheids).
Dies mag zutreffen. Dennoch erscheint das öffentliche Interesse an der Verhinderung ideeller Immissionen in solchen Fällen derart gering, dass die Beschränkung der Standortwahl unverhältnismässig wird. Wie die Gemeinde selbst vorgebracht hat (vgl. oben, E. 5.4), macht es psychologisch einen Unterschied, ob die Mobilfunkanlage den Bewohnern unmittelbar vor Augen steht oder nicht. Es ist einzuräumen, dass auch kaschierte Mobilfunkanlagen Angst machen können, wenn man ihren Standort kennt und sich vor ihrer Strahlung fürchtet. Dies gilt aber in gleicher Weise für Mobilfunkanlagen in der Industrie- und Gewerbezone (d.h. in der Zone 1. Priorität), welche die Wohnzonen mitversorgen und deshalb mit nichtionisierender Strahlung belasten. Vorliegend geht es aber gerade nicht um den Schutz vor nichtionisierender Strahlung (für welche die Gemeinde nicht zuständig ist), sondern um den Schutz vor ideellen Immissionen. Diese knüpfen nicht an die Strahlungsintensität, sondern in erster Linie an den - für die Anwohner wahrnehmbaren - Antennenstandort an, der negative Empfindungen und Reaktionen hervorrufen kann.
In diesem Punkt ist die Beschwerde daher gutzuheissen und die angefochtene Regelung (d.h. Ziff. 2.11.4 und 2.11.5 BZO Hinwil) auf visuell wahrnehmbare Anlagen zu beschränken. Die Sache ist insoweit an die kantonale Genehmigungsbehörde, d.h. an den Regierungsrat des Kantons Zürich, zurückzuweisen, der die gebotene Ergänzung entweder selbst vornehmen oder durch die Gemeinde veranlassen kann.
5.6 Die Beschwerdeführerinnen machen schliesslich geltend, dass ihnen eine grosse Belastung drohe, wenn sie künftig beim Aufbau und Betrieb ihrer Netze u.U. Hunderte von unterschiedlichen kommunalen Regelungen ohne jegliche Abstimmung untereinander beachten müssten.
Dieser Zustand ist jedoch in der Schweiz der Normalzustand: Wer eine Baute oder Anlage innerhalb der Bauzone errichten will, muss nicht nur die einschlägigen bundes- und kantonalrechtlichen Bestimmungen, sondern auch die Bau- und Zonenordnung der jeweiligen Gemeinde respektieren. Grundsätzlich obliegt es den Gemeinden, im Rahmen der gesetzlichen und richtplanerischen Vorgaben über Art und Mass der Nutzungen im verfügbaren Raum, die Bedürfnisse von Bevölkerung, Wirtschaft und Umwelt möglichst konfliktfrei zu befriedigen (VLP-ASPAN, Einführung in die Raumplanung, Bern 2011, S. 35).
Das Bedürfnis der Gemeinden, auch für Mobilfunkanlagen eine gewisse Standortsteuerung vornehmen zu können, ist grundsätzlich anzuerkennen, sofern sie die Schranken, die sich namentlich aus der Fernmeldegesetzgebung ergeben, respektieren. Es ist zumindest nicht ausgeschlossen, dass dies zu einer Entschärfung der Konflikte um den Bau von Mobilfunksendeanlagen beitragen kann.
6. Nach dem Gesagten sind die Beschwerden teilweise gutzuheissen und ist die Sache zur Beschränkung der Kaskadenregelung (Ziff. 2.11.4 und 2.11.5) auf visuell wahrnehmbare Anlagen an den Regierungsrat zurückzuweisen. Im Übrigen sind die Beschwerden abzuweisen.
Bei diesem Ausgang des Verfahrens unterliegen die Beschwerdeführerinnen im Wesentlichen. Dies rechtfertigt es, ihnen die (leicht gekürzten) Gerichtskosten aufzuerlegen und ihnen keine Parteientschädigung zuzusprechen (Art. 66 und 68 BGG). Auch die Gemeinde hat praxisgemäss keinen Anspruch auf eine Parteientschädigung (<ref-law>;
Es rechtfertigt sich nicht, den verwaltungsgerichtlichen Kostenspruch abzuändern.

Demnach erkennt das Bundesgericht:
1. Die Verfahren 1C_51/2012 und 1C_71/2012 werden vereinigt.
2. In teilweiser Gutheissung der Beschwerden wird die Sache zur Beschränkung von Ziff. 2.11.4 und 2.11.5 BZO Hinwil auf visuell wahrnehmbare Mobilfunksendeanlagen an den Regierungsrat des Kantons Zürich zurückgewiesen. Im Übrigen werden die Beschwerden abgewiesen.
3. Die Gerichtskosten von Fr. 6'000.-- werden den Beschwerdeführerinnen zu gleichen Teilen (je Fr. 3'000.-- ) auferlegt.
4. Es werden keine Parteientschädigungen zugesprochen.
5. Dieses Urteil wird den Beschwerdeführerinnen, der Gemeinde Hinwil, der Baudirektion, dem Baurekursgericht, dem Regierungsrat und dem Verwaltungsgericht des Kantons Zürich, 3. Abteilung, 3. Kammer, schriftlich mitgeteilt.
Lausanne, 21. Mai 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Die Gerichtsschreiberin: Gerber