Sachverhalt:
A. X._ ist Eigentümer der Parzelle Kat.-Nr. 4475 an der Dorfstrasse 67 im Gebiet "Hell" in Wetzikon. Diese grenzt im nördlichen Teil an das Flachmoor von nationaler Bedeutung Nr. 2212 "Robenhauserriet/Pfäffikersee" (Anh. 1 der Verordnung vom 7. September 1994 über den Schutz der Flachmoore von nationaler Bedeutung [Flachmoorverordnung; SR 451.33]) sowie an das Hochmoor von nationaler Bedeutung Nr. 103 "Robenhauserriet/Pfäffikersee" (Anh. 1 der Verordnung vom 21. Januar 1991 über den Schutz der Hoch- und Übergangsmoore von nationaler Bedeutung [Hochmoorverordnung; SR 451.32], vgl. E. 3.2 des angefochtenen Entscheids).
Mit Verfügung Nr. 7028 vom 22. August 2007 änderte die Baudirektion die Verordnung zum Schutz des Pfäffikerseegebietes vom 27. Mai 1999 (im Folgenden: SchutzV) und setzte im Bereich "Hell" die Zonen neu fest. Die Parzelle Nr. 4475 wurde in einem Abstand von 15 m bis zum Flachmoor der Naturschutzumgebungszone II A und im Übrigen der hydrologischen Pufferzone II H1 zugewiesen.
Gleichentags erteilte die Baudirektion den Nutzungsberechtigten der Parzelle Nr. 4475 die Ausnahmebewilligung, die Naturschutzumgebungszone II A im bisherigen Rahmen weiter als Haus- und teilweise (bis zu einem Abstand von 10 m zum Flachmoor) als Gemüsegarten zu nutzen (Verfügung Nr. 7031).
B. X._ erhob gegen die Verfügung Nr. 7028 zunächst erfolglos Rekurs an den Regierungsrat und anschliessend Beschwerde an das Verwaltungsgericht des Kantons Zürich. Dieses wies die Beschwerde am 12. Oktober 2011 ab.
C. Gegen den verwaltungsgerichtlichen Entscheid hat X._ am 1. Dezember 2011 Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht erhoben. Er beantragt, das angefochtene Urteil sei aufzuheben und es sei auf die Festlegung einer Pufferzone auf dem Grundstück Nr. 4475 zu verzichten. Eventualiter sei das Verfahren zur Neubeurteilung an das Verwaltungsgericht oder an die Baudirektion des Kantons Zürich zurückzuweisen.
D. Das Verwaltungsgericht und der Schweizer Vogelschutzes SVS/BirdLife Schweiz beantragen, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Die Baudirektion Zürich schliesst auf Abweisung der Beschwerde. Der WWF hat sich nicht vernehmen lassen.
Das Bundesamt für Umwelt (BAFU) kommt in seiner Vernehmlassung zum Ergebnis, die Anordnung der Pufferzone sei zu Recht erfolgt.
In seiner Replik vom 25. April 2012 hält der Beschwerdeführer an seinen Anträgen fest.

Erwägungen:
1. Da alle Sachurteilsvoraussetzungen vorliegen, ist auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten einzutreten.
Der Beschwerdeführer beantragt die Durchführung eines Augenscheins, legt aber nicht dar, inwiefern erst der Entscheid des Verwaltungsgerichts dazu Anlass gibt (<ref-law>). Ohnehin ist das Bundesgericht an den von der Vorinstanz festgestellten Sachverhalt gebunden, soweit dieser nicht offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (Art. 105 und Art. 97 Abs. 1 BGG). Der Antrag ist daher abzuweisen.
2. Der Beschwerdeführer bestreitet zunächst, dass überhaupt eine rechtliche Verpflichtung zur Festlegung von Pufferzonen ausserhalb der eigentlichen Moorbiotope bestehe. Dies gelte namentlich für Siedlungsgebiete: Gemäss Art. 5 Abs. 3 Flachmoorverordnung und Art. 5 Abs. 2 Hochmoorverordnung seien Bauten, Anlagen und Bodenveränderungen in der Pufferzone, ausserhalb des eigentlichen Moorgebiets, zulässig, soweit sie das Schutzziel nicht beeinträchtigten. Art. 23b Abs. 3 des Bundesgesetzes über den Natur- und Heimatschutz vom 1. Juli 1966 (NHG; SR 451) gebiete ausdrücklich die Berücksichtigung der bestehenden Besiedlung; wenn dies schon bei der Festsetzung des Schutzgebiets gelte, dann umso mehr bei der Ausscheidung von Pufferzonen ausserhalb des Schutzgebiets.
2.1 Das Bundesgericht hat bereits im Urteil 1A.95/2000 vom 4. April 2001 (ebenfalls betreffend das Gebiet "Hell") festgehalten, dass die Kantone verpflichtet sind, ökologisch ausreichende Pufferzonen für die Moore von nationaler Bedeutung auszuscheiden, um eine ungeschmälerte Erhaltung der Schutzobjekte sicherzustellen (Art. 3 Abs. 1 i.V.m. Art. 4 und 5 Flachmoorverordnung; Art. 3 Abs. 1 i.V.m. Art. 4 und 5 Hochmoorverordnung); der Verzicht auf Pufferzonen sei bundesrechtswidrig (in <ref-ruling> nicht publizierte E. 6b/aa und bb; <ref-ruling> E. 3b S. 24 f.). Insbesondere könne eine bestehende oder beabsichtigte bauliche Nutzung den Verzicht auf Pufferzonen nicht rechtfertigen; vielmehr gehe das bundesrechtliche Moorschutzrecht der kantonalen und kommunalen Raumplanung vor. Dies bedeute indessen nicht zwingend, dass jede bauliche Nutzung verunmöglicht werde: Anders als innerhalb von Mooren und Moorlandschaften (<ref-law>) gelte in den Pufferzonen kein grundsätzliches Verbot von Bauten und Anlagen; diese seien vielmehr zulässig, sofern sie das Schutzziel nicht beeinträchtigen (Art. 5 Abs. 2 Hochmoorverordnung, Art. 5 Abs. 3 Flachmoorverordnung; Urteile 1A.264/1995 vom 24. September 1996, URP 1996 S. 815, E. 8a; 1A.135/1999 vom 8. März 2000, E. 2g/dd).
2.2 Entscheidend ist deshalb, ob die von der Baudirektion angeordneten Pufferzonen notwendig sind, um eine moorschutzverträgliche Nutzung des an das Flach- und Hochmoor angrenzenden Gebiets sicherzustellen, d.h. die Moorbiotope vor einer Gefährdung durch umgebende Nutzungen und den davon ausgehenden Belastungen zu schützen (KARIN MARTI/REGULA MÜLLER, Pufferzonen für Moorbiotope, Bern 1994, S. 5; BERNHARD WALDMANN, Der Schutz von Mooren und Moorlandschaften, Diss. Freiburg 1997, S. 174 ff.; zur Frage der formell-gesetzlichen Grundlage vgl. unten, E. 7.1). Dies ist im Folgenden zu prüfen.
2.3 Dabei ist zu unterscheiden zwischen dem 15 m breiten Streifen, der der Naturschutzumgebungszone II A zugewiesen wurde (unten E. 3-5), und der hydrologischen Pufferzone II H1 auf dem übrigen Grundstück (unten E. 6):
In der Naturschutzumgebungszone II A sind vor allem das Errichten von Bauten und Anlagen aller Art sowie Geländeveränderungen und Ablagerungen verboten. Weitere Verbote betreffen u.a. das Be- und Entwässern und das Einleiten von Abwässern, das Düngen und das Verwenden von Giftstoffen sowie andere Nutzungen als Streue- oder Dauerwiese (vgl. Ziff. 4.2 SchutzV).
In der hydrologischen Pufferzone II H1 sind grossvolumige unterirdische Bauten und Anlagen (wie Tiefgaragen) verboten. Kleinvolumige unterirdische Bauten und Anlagen wie Untergeschosse von Einfamilienhäusern können mit Bewilligung der Volkswirtschaftsdirektion erstellt werden, sofern nachgewiesen wird, dass sie in der Bauphase und im Betrieb zu keiner Beeinträchtigung der Moorhydrologie führen, insbesondere zu keinen Strömungsumlagerungen und Rückstaueffekten. Verboten sind weiter der Bau von Sicker- und Drainageleitungen, der Betrieb von Pumpen für permanente Wasserspiegelabsenkungen, das Ableiten von Niederschlagswasser, das Be- und Entwässern sowie das Einleiten von Abwässern und die Versickerung von verschmutztem Wasser (Ziff. 4.3bis SchutzV).
3. Die Baudirektion wies den direkt an das Hoch- und Flachmoorgebiet grenzenden 15 m breiten Streifen der Naturschutzumgebungszone II A zu, weil in diesem Bereich eine hydrologische Pufferzone, eine Nährstoff-Pufferzone und eine faunistische Pufferzone erforderlich seien (Mitbericht des Amts für Landschaft und Natur vom 29. Januar 2009 S. 2 f.).
Das Verwaltungsgericht bestätigte diese Festlegung. Gestützt auf den vom Bundesamt für Umwelt, Wald und Landschaft (BUWAL, heute: BAFU) herausgegebenen Pufferzonen-Schlüssel (Leitfaden zur Ermittlung von ökologisch ausreichenden Pufferzonen für Moorbiotope, Bern 1994) und das dazu erstellte Protokollblatt bejahte es die Notwendigkeit einer Nährstoff-Pufferzone, um die indirekte Düngung der Moore durch oberflächliche und oberflächennahe Nährstoffeinträge aus der direkten Umgebung zu verhindern. Dies rechtfertige die in Ziff. 4.2 SchutzV enthaltenen Verbote z.B. des Düngens, der Verwendung von Giftstoffen, von anderen Nutzungen als Streu- oder Dauerwiese oder des Aufforstens oder des Anlegens von Baumbeständen (vgl. E. 5.4 des angefochtenen Entscheids). Die Einschränkungen hinsichtlich Bauten und Anlagen seien dagegen im Sinne einer faunistischen Pufferzone geboten, um den angrenzenden Moorlebensraum vor weiteren Gefährdungen zu schützen (E. 5.5 des angefochtenen Entscheids).
4. Der Beschwerdeführer empfindet vor allem das Verbot von Bauten und Anlagen als erhebliche Einschränkung seines Eigentums, weshalb im Folgenden zunächst die Rügen im Zusammenhang mit der faunistischen Pufferzone zu prüfen sind.
4.1 Das Verwaltungsgericht ging mit der Baudirektion davon aus, dass im Innern der Moorfläche sowohl störungsempfindliche, bedrohte Vogelarten als auch sehr seltene, lichtsensible Insekten vorkommen. Zudem biete die grosse Moorfläche einen geeigneten Lebensraum für Arten mit grossem Arealbedarf, die besonders gefährdet seien. Es sei deshalb wichtig, dass am Rand des Moorbiotops eine ausreichende faunistische Pufferzone bestehe. Neue Infrastrukturen, wie z.B. Gartensitzplätze, Unterstände oder Pergolas führten zu einer Intensivierung der Nutzung unmittelbar neben dem Moor. Dies könne zu vermehrten und stärkeren Störungen (z.B. durch Bewegung oder Lärm, Lichtemissionen oder Schattenwurf) führen, die dem Schutzziel widersprechen würden.
Der dagegen erhobene Einwand des Beschwerdeführers, wonach der Einfluss der Besiedlung auf das Schutzgebiet aufgrund des bis an die Moorgrenze reichenden Siedlungsgebiets (inkl. die künftige Überbauung der Parzelle Nr. 5614) unabwendbar sei, überzeugt nicht: Gerade weil die Bauzone unmittelbar an die Grenze des Flachmoors reicht, ist es notwendig, wenigstens einen 15 m breiten Streifen von neuen Bauten und Anlagen und den damit verbundenen Störungen der Moorfauna freizuhalten. Wie der ZVS in seiner Vernehmlassung darlegt, ist dieser Abstand zum Siedlungsgebiet als Minimum anzusehen. Ob zum wirksamen Schutz der im Moor brütenden, besonders empfindlichen Vogelarten eine breitere faunistische Pufferzone notwendig gewesen wäre, kann im vorliegenden Verfahren nicht geprüft werden (vgl. <ref-law>). Gleiches gilt für die vom Beschwerdeführer aufgeworfene Frage, ob weitere Schutzmassnahmen (insbesondere zum Schutz der im Moor brütenden Vögel vor Katzen und Elstern) geboten wären.
4.2 Der Beschwerdeführer ist der Auffassung, es gebe mildere Mittel, um das Schutzziel zu erreichen: Es würde ausreichen, wenn im Baubewilligungsverfahren die Unbedenklichkeit geplanter Bauten und Anlagen aufgezeigt werden müsste. Gegebenenfalls könnte das Schutzziel mittels Auflagen (z.B. Verzicht auf Verglasungen, künstliche Beleuchtung, etc.) und mittels Schutzmassnahmen (Büsche, Hecken, etc.) erreicht werden.
Das Verwaltungsgericht ging davon aus, die Baudirektion sei nicht über das Notwendige hinausgegangen; eine gewisse Schematisierung der in der Naturschutzumgebungszone II A geltenden Verbote diene der Einfachheit des Vollzugs und sei zulässig.
Dem ist zuzustimmen: Zweck der faunistischen Pufferzone ist es, neuen Nutzungen mit den damit verbundenen Störungen im empfindlichen Randgebiet zum Moor zu vermeiden. Dazu erscheint das Verbot der Errichtung von Bauten und Anlagen geeignet und verhältnismässig. Durch Auflagen könnten einzelne Immissionen (z.B. Licht) zwar reduziert, nicht aber alle Störungen ausgeschlossen werden. Die vom Beschwerdeführer vorgeschlagenen Schutzmassnahmen sind in der Naturschutzumgebungszone II A (die grds. nur als Streu- und Dauerwiese genutzt werden kann) unerwünscht bzw. z.T. verboten (vgl. Ziff. 4.2 SchutzV: Verbot des Aufforstens oder des Anlegens von Baumbeständen). Zudem würde der Prüfungsaufwand (im Baubewilligungsverfahren) und der Kontrollaufwand (beim Vollzug) erheblich zunehmen.
Das Bauverbot erscheint daher erforderlich und - angesichts der sehr beschränkten Ausdehnung der Pufferzone (15 m) - ohne Weiteres verhältnismässig.
5. Der Beschwerdeführer bestreitet ferner die Notwendigkeit einer Nährstoff-Pufferzone. Allerdings legt er nicht dar, inwieweit er durch die diesbezüglichen Verbote noch beschwert ist, nachdem ihm gestattet wurde, die Naturschutzumgebungszone II A im bisherigen Rahmen als Haus- und teilweise sogar als Gemüsegarten zu nutzen (Verfügung Nr. 7031). Die Frage kann offenbleiben, wenn sich die Einwände ohnehin als unbegründet erweisen.
5.1 Der Beschwerdeführer bestreitet in erster Linie, dass ein Nährstoffeintrag von seiner Parzelle ins Moorgebiet stattfinde.
Der Regierungsrat hatte festgehalten, dass der am Moorrand liegende Graben bei hohen Seewasserständen immer wieder überflute, wodurch Nährstoffe aus dem Graben in das angrenzende Moor eingeschwemmt werden könnten; zudem könne das Schilf über Rhizome über viele Meter Nährstoffe aus dem Graben beziehen. Das Verwaltungsgericht folgerte aus diesen Feststellungen, dass ein Nährstoffeintrag in das Schutzgebiet tatsächlich stattfinde und nicht nur eine Möglichkeit darstelle (E. 5.4.3 S. 19 des angefochtenen Entscheids).
Der Beschwerdeführer bestreitet dies: Er ist der Auffassung, dass die Nährstoffe im Graben nicht von seinem Grundstück stammen, sondern aus anderen Quellen (vgl. dazu auch unten, E. 5.3). Ein Wasserzufluss von seiner Parzelle in die Moorrandzone sei gemäss dem hydrologischen Gutachten Haab (Roland Haab, Naturplan, Kurzgutachten über das Erfordernis von hydrologischen Pufferzonen im Gebiet Hell, Juni 2003, S. 8) nicht erstellt, sondern lediglich "nicht auszuschliessen".
Das ALN und das BAFU halten dazu fest, dass eine Nährstoff-Pufferzone immer dann auszuscheiden sei, wenn ein Nährstoffeintrag möglich erscheine und damit eine Gefährdung bestehe; die Auffassung des Beschwerdeführers, dass es hierfür konkreter Messungen und Nachweise bedürfe, sei nicht praxistauglich. Schon kleine Wassermengen mit hoher Nährstoffbelastung oder Einzelereignisse könnten einen grossen Einfluss auf das Moor haben.
Dem ist zuzustimmen: Der Verfassungsauftrag (<ref-law>) zum Schutz und zur ungeschmälerten Erhaltung von Mooren von nationaler Bedeutung setzt voraus, dass diese vor möglichen - und nicht nur vor bereits eingetretenen - Störungen geschützt werden. Dementsprechend darf gemäss dem Pufferzonen-Schlüssel des BUWAL auf die Ausscheidung einer Nährstoff-Pufferzone nur verzichtet werden, wenn aufgrund der konkreten Umstände keine Gefahr eines Nährstoffeintrags besteht. Vorliegend ist aufgrund der konkreten Nutzung der Parzelle des Beschwerdeführers (Haus- und Gemüsegarten) und des regelmässig überflutenden Moorgrabens ein Nährstoffeintrag möglich, weshalb eine Nährstoff-Pufferzone ausgeschieden werden muss.
5.2 Der Beschwerdeführer erhebt ferner verschiedene Rügen zur Berechnung der Breite der Nährstoff-Pufferzone gemäss dem Pufferzonen-Schlüssel.
Diese Rügen sind jedoch unsubstanziiert und vermögen die offensichtliche Unrichtigkeit der vorinstanzlichen Feststellungen nicht zu belegen (Art. 105 und Art. 97 Abs. 1 BGG). Dies gilt namentlich für das Vorhandensein eines schutzwürdigen Grosseggenrieds in den ersten 20-40 m des Moorgebiets, die Hangneigung von über 3 % und das Fehlen eines wirkungsvollen Schutzes durch den Randgraben.
Im Übrigen ergaben die Berechnungen gemäss Pufferzonen-Schlüssel eine Pufferzone von 15-50 m. Die gewählte Festlegung von nur 15 m Breite beruht bereits auf der Annahme günstiger Voraussetzungen bei allen nicht eindeutig beurteilbaren Kriterien. Insofern würde eine Korrektur bei einzelnen Ziffern des Protokollblatts nicht zwingend zu einer Änderung im Ergebnis (Pufferzonen-Breite) führen.
Der Beschwerdeführer behauptet, der Pufferzonen-Schlüssel sei auf die Landwirtschaftszone zugeschnitten und für die Anwendung im Siedlungsgebiet nicht geeignet. Dem ist entgegenzuhalten, dass in Ziff. 3 ausdrücklich die Nutzung als Garten vorgesehen ist; dies entspricht der jetzigen Nutzung des Parzellenteils, welcher der Naturschutzumgebungszone II A zugewiesen wurde.
5.3 Schliesslich rügt der Beschwerdeführer eine Verletzung des Rechtsgleichheitsprinzips (<ref-law>), weil andere Nährstoffeinträge in das Schutzgebiet nicht berücksichtigt worden seien. Insbesondere fliesse verschmutztes Oberflächenwasser vom Wendeplatz der Dorfstrasse direkt in den Entwässerungsgraben. Die Vorinstanzen hätten hier zu Unrecht den Bestandesschutz bejaht. Auch aus den Liegenschaften Dorfstrasse 64, 65 und 67 fliesse Dachwasser zumindest teilweise unversickert direkt in den Entwässerungsgraben.
5.3.1 Alle Grundstücke an der Grenze zum Flachmoor (einschl. Kat.-Rn. 65) wurden auf einer Breite von 15 m der Naturschutzumgebungszone II A und ganz oder überwiegend der hydrologischen Pufferzone II H1 zugeordnet, in der u.a. das Ableiten von Niederschlagswasser verboten ist (Art. 4.3bis SchutzV). Insoweit ist keine Ungleichbehandlung erkennbar.
5.3.2 Bei der Entwässerung der Dorfstrasse handelt es sich dagegen um eine vor Inkrafttreten der Moorschutzgesetzgebung bestehende Strassenanlage. Für diese genügt es nicht, sie einer Schutz- oder Pufferzone zuzuweisen; vielmehr müsste die Anlage saniert werden. Wie das ALN in seiner Vernehmlassung mitteilt, ist dies im Zusammenhang mit dem Quartierplan für das angrenzende Gebiet vorgesehen. Jedenfalls aber kann die bislang fehlende Sanierung dieser Strassenentwässerung nicht dazu führen, im Bereich der Parzelle des Beschwerdeführers auf die Festsetzung einer Nährstoff-Pufferzone zu verzichten.
6. Die hydrologische Pufferzone II H1 dient der Sicherung der Naturschutzzone vor unerwünschten Einwirkungen in den Wasserhaushalt. Sie soll die für das Moor unabdingliche Wasserversorgung sichern bzw. Beeinträchtigungen im Einzugsgebiet des Wasserhaushalts des Moors vermeiden.
6.1 Zur Klärung der hydrologischen Verhältnisse liess die Baudirektion durch Roland Haab, Naturplan, Zürich, im Juni 2003 ein Gutachten erstellen. Es kam zum Ergebnis, dass sich im Gebiet "Hell" eine Trennstromlinie befinde, die das potenzielle unterirdische Einzugsgebiet des Moorrandbereichs vom Einzugsgebiet des Aabachs trenne. Diese Trennstromlinie sei für die Gebiete "Heidacher" und "Zil" nachgewiesen, im Gebiet "Hell" ergebe sie sich aus der Extrapolation ihres Verlaufs im noch nicht mit Messungen belegten Bereich sowie aufgrund der Erkenntnisse aus der topografischen, geo- und moorhydrologischen Beurteilung (Gutachten S. 4). Der Gutachter gelangte zum Ergebnis, dass im streitbetroffenen Gebiet eine als Pufferzone B bezeichnete Zone auszuscheiden sei. Diese ziele nicht auf die Verhinderung von Bauten und Anlagen; ihr Ziel bestehe vielmehr darin sicherzustellen, dass künftige Bauten und Anlagen im Moorumfeld ohne Beeinträchtigung des Moorwasserhaushalts erstellt und betrieben würden. Dies beinhalte insbesondere Auflagen in Bezug auf die Grösse und Tiefe von Einbauten, Versickerungs- und Umsickerungsauflagen oder auch Auflagen betreffend Wasserhaltungsmassnahmen oder Überwachung des Moorwasserspiegels beim Bau (Gutachten S. 10 f.).
6.2 Das Verwaltungsgericht hielt fest, dass die Trennstromlinie im südlichen Teil der Parzelle Kat.-Nr. 4475 verlaufe, ihr exakter Verlauf jedoch nicht bekannt sei. Es sei nicht zu beanstanden, dass auf eine exakte Ermittlung der Trennstromlinie verzichtet und möglicherweise Flächen der hydrologischen Pufferzone zugewiesen worden seien, die sich südlich der Trennstromlinie befinden. Es habe ohne Weiteres im Ermessen der Baudirektion gelegen, eine gewisse schematische Zuweisung von Parzellen zu einer bestimmten Zone entlang der Parzellengrenze vorzunehmen. Dabei sei zu berücksichtigen, dass die gemäss Ziff. 4.3bis SchutzV geltenden Verbote nicht als besonders schwerwiegend einzustufen seien. Insbesondere könne der Beschwerdeführer beim Bau kleinvolumiger unterirdischer Bauten und Anlagen den Nachweis erbringen, dass diese zu keiner Beeinträchtigung der Moorhydrologie führen (E. 4.5 des angefochtenen Entscheids).
6.3 Der Beschwerdeführer hält die vollständige Zuweisung seiner Parzelle zur hydrologischen Pufferzone für bundesrechtswidrig und unverhältnismässig, weil der genaue Verlauf der Grundwasser-Trennstromlinie nicht bekannt sei. Die Behörde hätte zunächst den genauen Verlauf dieser Linie ermitteln müssen und nur den nördlich davon liegenden Teil der Parzelle der hydrologischen Pufferzone zuweisen dürfen.
6.4 Dem ist entgegen zu halten, dass dem Beschwerdeführer aus der Zuweisung seiner Parzelle in die hydrologische Pufferzone II H1 erst dann ein Nachteil entsteht, wenn er unterirdische Bauten und Anlagen erstellen will. Unter diesen Umständen macht es wenig Sinn, schon heute aufwendige Untersuchungen zur Ermittlung des genauen Verlaufs der unterirdischen Trennstromlinie anzustellen. Es erscheint vielmehr sinnvoll, die gebotenen Abklärungen ins Baubewilligungsverfahren zu verlagern, wenn Art, Umfang und Standort des Bauvorhabens bekannt sind und die zum Schutz des Moorhaushalts gebotenen Auflagen konkret festgelegt werden können.
7. Schliesslich rügt der Beschwerdeführer die Verletzung der Eigentumsgarantie, weil die Schutzzonen eine erhebliche Einschränkung seiner Eigentumsbefugnisse bedeuteten. Sie seien ohne formell-gesetzliche Grundlage angeordnet worden, seien zum Schutz des Moores nicht notwendig oder jedenfalls unverhältnismässig, angesichts des äusserst geringen Nutzens für das Schutzgebiet. Unverhältnismässig sei insbesondere das absolute Bauverbot in der Naturschutzumgebungszone II A, weil Auflagen und Schutzmassnahmen im Baubewilligungsverfahren genügen würden.
7.1 Die Einschränkungen des Eigentums des Beschwerdeführers wurden in der Verordnung zum Schutz des Pfäffikerseegebietes - d.h. einer Norm - und dem dazugehörigen Plan angeordnet. Die SchutzV stützt sich ihrerseits auf die bundesrechtlichen Bestimmungen zum Moorschutz (<ref-law>, <ref-law> i.V.m. Art. 18a, 18c und 18d NHG; <ref-law> i.V.m. Art. 16-19 NHV; Flachmoorverordnung und Hochmoorverordnung) sowie auf die §§ 203, 205 und 211 des Zürcher Planungs- und Baugesetzes vom 7. September 1975 (PBG/ZH). Zwar trifft es zu, dass die formell-gesetzlichen Bestimmungen zum Biotop- und Moorschutz recht abstrakt formuliert sind; im Bereich des Biotopschutzes ist es jedoch aufgrund der Vielfalt der in Betracht fallenden Biotope und der unterschiedlichen Schutzbedürfnisse schwierig, bereits auf Gesetzesstufe klare und bestimmte Regeln aufzustellen. In aller Regel wird es daher als genügend erachtet, wenn die Eigentumsbeschränkungen auf Verordnungsstufe präzisiert und unter Beachtung des Verhältnismässigkeitsprinzips angeordnet werden (KARIN SIDI-ALI, La protection des biotopes en droit suisse, Genève 2008, S. 115 ff.).
Für die Moorbiotope und ihre Pufferzonen ist insbesondere auf die detaillierten Vorgaben in Art. 3-5 Flachmoorverordnung und Hochmoorverordnung zu verweisen. Vorliegend stehen keine besonders schwerwiegenden Eigentumsbeschränkungen in Frage, die einer klaren formell-gesetzlichen Grundlage bedürften: Der Beschwerdeführer kann sein Grundstück im bisherigen Umfang zu Wohnzwecken nutzen; er kann sogar - unter Einhaltung von Auflagen zum Schutz des Moorwasserhaushalts - neue Bauten und Anlagen erstellen. Solche sind lediglich im 15 m breiten Streifen der Naturschutzumgebungszone ausgeschlossen. Diese Zone kann der Beschwerdeführer aufgrund der ihm erteilten Ausnahmebewilligung weiterhin als Hausgarten und z.T. sogar als Gemüsegarten nutzen.
7.2 Wie bereits oben (E. 3-6) dargelegt wurde, sind die Eigentumsbeschränkungen im Interesse des Moorschutzes - eines öffentlichen Interesses von grossem Gewicht und Verfassungsrang - geeignet, erforderlich und verhältnismässig. Mildere Massnahmen als die Zuweisung zur Naturschutzumgebungszone II A sind nicht ersichtlich (vgl. oben, E. 4.2). Auch die Zuweisung der gesamten Parzelle zu hydrologischen Schutzzone ist nicht zu beanstanden, wenn die zum Schutz des Wasserhaushalts des Moors effektiv notwendigen Auflagen im Baubewilligungsverfahren konkretisiert werden und somit auf dieser Stufe die Einhaltung des Verhältnismässigkeitsprinzips gewährleistet wird (oben E. 6.4).
8. Nach dem Gesagten ist die Beschwerde abzuweisen. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (<ref-law>) und hat keinen Anspruch auf eine Parteientschädigung (<ref-law>). Der SVS/Birdlife Schweiz ist nicht anwaltlich vertreten und daher praxisgemäss keinen Anspruch auf eine Parteientschädigung.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Es werden keine Parteientschädigungen zugesprochen.
4. Dieses Urteil wird dem Beschwerdeführer, der Baudirektion des Kantons Zürich, der Politischen Gemeinde Wetzikon, dem WWF Schweiz, dem Schweizer Vogelschutz SVS/BirdLife Schweiz, dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, 1. Kammer, sowie dem Bundesamt für Umwelt schriftlich mitgeteilt.
Lausanne, 21. Juni 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Die Gerichtsschreiberin: Gerber