Sachverhalt:
A. X._ ist Eigentümer der Parzelle Nr. 537 in Lengnau/AG ("Bleiwiese"). Diese wies ursprünglich eine Fläche von 16'625 m2 auf, wobei 4'000 m2 mit einem Kaufrecht belegt waren. Gemäss der Bauordnung Lengnau mit Zonenplan vom 27. Juni 1980 (genehmigt am 20. Oktober 1981; im Folgenden: BO 1980/81) lag die Parzelle in der Wohnzone 2 (W2), 2. Etappe. Ein ca. 10 m breiter Streifen entlang der Surb lag im Nichtbaugebiet.
B. Mit Schreiben vom 4. Dezember 1989 ersuchte der Gemeinderat Lengnau Y._, den Vater von X._ und damaligen Eigentümer der Parzelle Nr. 537, nichts zu unternehmen, das die in Vorbereitung stehende Baugebietsrevision der Gemeinde Lengnau erschweren könnte.
C. Am 25. März 1994 beschloss die Gemeindeversammlung Lengnau den neuen Bauzonenplan und die Bau- und Nutzungsordnung; diese wurden vom Grossen Rat des Kantons Aargau am 5. März 1996 genehmigt (BNO 1994/96). Entlang der Surb wurde eine 6 m breite Uferschutzzone ausgeschieden. Die Parzelle Nr. 537 wurde überwiegend der Wohnzone 3 (W3), 2. Erschliessungsetappe, mit Gestaltungsplanpflicht zugewiesen (§ 21 BNO). Der südwestliche Teil der Parzelle (3'000 m2) wurde der Zone für öffentliche Bauten und Anlagen (OE) zugeteilt.
D. Im Jahr 2003 musste X._ im Rahmen des Wasserbauprojekts "Surb - Massnahmen zur Verbesserung der Abflusskapazität Teile 2 und 3" entlang der Surb 870 m2 der Parzelle Nr. 537 an den Kanton Aargau abtreten, wobei diese Fläche als neue Parzelle Nr. 1951 abparzelliert wurde. Hierfür wurde er vom Kanton entschädigt.
E. Am 13. Januar 2005 wurde die mit dem Kaufrecht belastete Fläche als Parzelle Nr. 1958 abparzelliert.
F. Mit Eingabe vom 19. März 2004 verlangte X._ bei der Schätzungskommission nach Baugesetz des Kantons Aargau eine Entschädigung des Minderwerts der Parzelle 537 infolge der Landabtretung sowie der BNO 1994/96. Die Schätzungskommission führte einen Augenschein durch. Am 13. Juni 2006 trat sie auf das Begehren um Entschädigung für die Nutzungsbeschränkungen infolge der Landabtretung entlang der Surb nicht ein und wies das Begehren um Entschädigung für Nutzungsbeschränkungen infolge der Revision der BNO 1994/1996 ab. Das Begehren um Entschädigung wegen materieller Enteignung infolge Zuweisung eines Teils der Parzelle 537 zur Zone OE wurde "zur Zeit" abgewiesen, soweit darauf einzutreten sei.
G. Dagegen erhob X._ am 4. September 2006 Beschwerde an das Verwaltungsgericht des Kantons Aargau mit dem Antrag auf Aufhebung des Entscheids der Schätzungskommission, soweit diese eine Entschädigung des Minderwerts aufgrund § 21 Abs. 2 BNO sowie der Zuweisung von 3'000 m2 in die Zone OE verweigert hatte. Am 16. August 2007 wies das Verwaltungsgericht die Beschwerde ab, soweit es darauf eintrat, und gewährte X._ die unentgeltliche Rechtspflege.
H. Gegen den verwaltungsgerichtlichen Entscheid hat X._ am 26. September 2007 Beschwerde an das Bundesgericht erhoben. Er beantragt, die Entscheide des Verwaltungsgerichts und der Schätzungskommission seien aufzuheben und es sei ihm eine materielle Entschädigung zuzusprechen. Zudem sei ihm die unentgeltliche Rechtspflege zu gewähren.
I. Die Einwohnergemeinde Lengnau beantragt, auf die Beschwerde sei nicht einzutreten bzw. diese sei abzuweisen. Das Verwaltungsgericht und die Schätzungskommission haben auf eine Vernehmlassung verzichtet.
J. Das Bundesamt für Raumentwicklung (ARE) äussert sich in seiner Vernehmlassung zur Frage, ob die Zuweisung zur Zone OE 1994/96 eine materielle Enteignung darstelle. Den Beteiligten wurde Gelegenheit gegeben, dazu Stellung zu nehmen.
K. Mit Replik vom 17. Dezember 2007 hielt der Beschwerdeführer an seinen Anträgen fest. Am 22. Januar 2008 reichte er eine weitere Stellungnahme ein.

Erwägungen:
1. Gegen den angefochtenen, kantonal letztinstanzlichen Entscheid, mit dem das Verwaltungsgericht eine Entschädigungspflicht der Gemeinde Lengnau wegen materieller Enteignung verneinte, steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht offen (<ref-law>). Da alle Sachurteilsvoraussetzungen vorliegen, ist auf die Beschwerde grundsätzlich einzutreten.
Streitgegenstand vor Bundesgericht ist nur noch, ob der Beschwerdeführer eine Entschädigung wegen materieller Enteignung für die mit der BNO 1994/96 auferlegten Nutzungsbeschränkungen beanspruchen kann. Nicht mehr zu beurteilen ist dagegen die Entschädigung für den Minderwert der Parzelle Nr. 537 infolge der Landabtretung im Jahr 2003: Auf dieses Begehren ist die Schätzungskommission nicht eingetreten; dieser Teil ihres Entscheides wurde vom Beschwerdeführer vor Verwaltungsgericht nicht angefochten und kann deshalb auch vom Bundesgericht nicht mehr überprüft werden.
2. Der Beschwerdeführer macht zunächst geltend, bereits das Schreiben des Gemeinderats Lengnau vom 4. Dezember 1989 an seinen Vater habe eine materielle Enteignung bewirkt.
Das Verwaltungsgericht ging davon aus, im Jahr 1989 sei weder eine Planungszone noch eine Bausperre erlassen worden. Das Schreiben vom 4. Dezember 1989 sei weder als Verfügung bezeichnet worden, noch enthalte es eine eigentumsrelevante Verfügung, d.h. eine verbindliche und erzwingbare Anordnung im Sinne einer rechtsgestaltenden oder feststellenden Regelung der eigentumsrechtlichen Rechtsbeziehung.
Diese Erwägungen lassen keine Willkür erkennen. Soweit der Beschwerdeführer behauptet, sein Vater und er seien über die fehlende rechtliche Bedeutung des Schreibens getäuscht worden, ist fraglich, ob diese neue Tatsache im bundesgerichtlichen Verfahren berücksichtigt werden darf (<ref-law>). Die Frage kann jedoch offenbleiben, weil eine materielle Enteignung selbst dann zu verneinen wäre, wenn das Schreiben vom 4. Dezember 1989 eine Bausperre enthalten hätte.
Nach der bundesgerichtlichen Rechtsprechung stellen Bausperren und Planungszonen sachlich und zeitlich beschränkte Eigentumsbeschränkungen dar, die in der Regel keine Entschädigungspflicht nach sich ziehen (<ref-ruling> E. 4a S. 22 f. mit Hinweisen). Im vorliegenden Fall sind keine besonderen Umstände ersichtlich, die eine Ausnahme von diesem Grundsatz rechtfertigen könnten. Der Beschwerdeführer macht insbesondere nicht geltend, dass er oder sein Vater aufgrund des Schreibens der Gemeinde ein bewilligungsfähiges Bauvorhaben zurückgestellt oder andere nachteilige Dispositionen getroffen hätten.
3. Zu prüfen ist daher, ob die Zonenplanrevision 1994/96 eine materielle Enteignung bewirkte.
3.1 Die Schätzungskommission ging davon aus, die Parzelle Nr. 537 sei erstmals durch die Nutzungsordnung 1994/96 einer RPG-konformen Bauzone zugeteilt worden. Zwar liege die Parzelle im weitgehend überbauten Gebiet; sie hätte jedoch nicht kurzfristig aus eigener Kraft erschlossen werden können, weil sie weder verkehrsmässig erschlossen noch die Wasserversorgung und Abwasserentsorgung gesichert gewesen sei; überdies sei die Parzelle hochwassergefährdet. Bisher seien vom Beschwerdeführer und dessen Rechtsvorgängern auch keine namhaften Beträge für die Erschliessung aufgewendet worden. Aus diesem Grund hätte die Bleiwiese - so die Schätzungskommission - 1994/96 entschädigungslos einer Nichtbauzone zugewiesen werden können. Dann aber könne auch die Zuweisung des Landes in eine Bauzone mit Gestaltungsplanpflicht keine materielle Enteignung darstellen.
Hinsichtlich der Teilfläche von 3'000 m2, die der Zone OE zugewiesen wurde, müsse die Gemeinde spätestens 2011, bei der Erschliessung des Gebiets, entscheiden, ob sie den Abschnitt in der Zone OE übernehmen wolle oder nicht. Wenn ja, müsse sie ein formelles Enteignungsverfahren einleiten und den Beschwerdeführer zum Verkehrswert für Bauland entschädigen. Anderenfalls könne der Beschwerdeführer zu diesem Zeitpunkt eine Entschädigung wegen materieller Enteignung beanspruchen. Die Schätzungskommission wies das Entschädigungsgesuch deshalb als zur Zeit unbegründet ab.
In ihrer Stellungnahme zur Vernehmlassung des ARE führt die Schätzungskommission aus, dass die Wertsteigerung (vom Verkehrswert für Landwirtschaftsland zum Verkehrswert für Bauland) mangels einer gesetzlich geregelten Mehrwertabschöpfung grundsätzlich dem Eigentümer zugute komme. Die der bundesgerichtlichen Rechtsprechung zugrunde liegende Annahme, wonach der Zone OE zugewiesenes Land nicht mehr an der Baupreisentwicklung teilnehme, hält sie eigentumsrechtlich für fragwürdig, angesichts des unveränderten Eigentums des Beschwerdeführers, der Erschliessungspflicht der Gemeinde sowie der zentralen Lage der Streitfläche im Dorf. Im Übrigen bestehe die Möglichkeit, dass die Gemeinde, mangels konkreter eigener Nutzungsabsichten, den Abschnitt aus der Zone OE in eine privat nutzbare Bauzone umzone; in diesem Fall würde sich die Entschädigungsfrage nicht mehr stellen. Es sei daher sinnvoll, das Entschädigungsbegehren zur Zeit abzuweisen; dies belasse den Parteien einen Verhandlungsspielraum für das weitere Vorgehen.
3.2 Das Verwaltungsgericht liess offen, ob das Grundstück des Beschwerdeführers bereits nach der alten Zonenordnung in einer bundesrechtskonformen Bauzone gelegen habe, da die Zuweisung in die W3 jedenfalls keine materielle Enteignung bewirkt habe. Auch die Gestaltungsplanpflicht begründe keinen Anspruch auf Entschädigung, nachdem die Parzelle am Stichtag des Inkrafttretens der Nutzungsplanung 1994/95 mangels genügender Erschliessung nicht hätte überbaut werden können.
Hinsichtlich der Zuweisung des südwestlichen Teils der Parzelle Nr. 537 zur Zone OE ging das Verwaltungsgericht davon aus, dass der Beschwerdeführer eine Entschädigung zum Verkehrswert verlange. Diese falle nur im Falle einer formellen Enteignung in Betracht. Die Entschädigung werde deshalb im Verfahren betreffend formelle Enteignung festzulegen sein, falls die Gemeinde das ihr zustehende Enteignungsrecht ausübe. Nachdem der Beschwerdeführer auch keinen konkreten finanziellen Nachteil geltend mache, den er durch den Planungsstand seit 1996 erleide, sei sein Entschädigungsbegehren zur Zeit abzuweisen.
3.3 Das ARE macht dagegen geltend, mit der Zuweisung zur Zone OE sei der entsprechende Teil des Grundstücks faktisch unüberbaubar geworden. Ob dies einer Enteignung gleichkomme, könne schon heute beurteilt werden. Vieles spreche dafür, dass diese Zuweisung nicht als materielle Enteignung anzusehen sei: Die fehlende Erschliessung der Parzelle und die Berücksichtigung der auf dem Rest der Parzelle nicht nur verbleibenden, sondern erheblich erhöhten Bebaubarkeit wiesen in diese Richtung. Gehe man von einer ersten bundesrechtskonformen Nutzungsplanung 1994/1996 aus, stelle die Zuweisung zur Zone OE eine Nichteinzonung dar, was mit Blick auf die relativ grosse Fläche von 16'000 m2 und die Praxis des Bundesgerichts zur ausnahmsweisen Entschädigungspflicht (Kriterium der Lage im weitgehend überbauten Gebiet) ebenfalls eher gegen eine materielle Enteignung spreche.
3.4 Auch der Beschwerdeführer ist der Auffassung, die Frage der materiellen Enteignung dürfe nicht bis zur Durchführung eines formellen Enteignungsverfahrens aufgeschoben werden. Bereits mit der - zeitlich unbefristeten - Zuweisung zur Zone OE sei ihm die Möglichkeit einer eigenen Nutzung entzogen worden. Ob und wann die Gemeinde ihr Enteignungsrecht ausüben werde, sei völlig ungewiss. Er macht geltend, die Parzelle Nr. 537 hätte nach dem alten Zonenplan 1980/1981 jederzeit, unter Leistung der Erschliessungskosten, überbaut werden können.
4. Nach ständiger Rechtsprechung des Bundesgerichtes findet beim Einbezug von Bauland im enteignungsrechtlichen Sinn in eine Zone für öffentliche Bauten und Anlagen in jenem Zeitpunkt, in dem die Eigentumsbeschränkung formell in Rechtskraft erwächst, eine materielle Enteignung statt. In diesem Moment verliert das derart belastete Land seinen vormaligen Wert als Bauland; es hat nur noch einen Restwert, der bei nicht überbauten Grundstücken in der Regel dem landwirtschaftlichen Wert entspricht. Da es seit Inkrafttreten der Eigentumsbeschränkung kein Bauland mehr ist, macht das Grundstück keine Baulandpreissteigerungen mehr mit. Für die Berechnung der Entschädigung aus materieller Enteignung ist somit vom Landwert in jenem Zeitpunkt auszugehen, in dem die Eigentumsbeschränkung in Kraft getreten ist. Der Restwert, der dem Grundstück nach Inkrafttreten der Eigentumsbeschränkung verbleibt, macht die Preisänderung mit, die sich von diesem Zeitpunkt an für landwirtschaftlichen Boden ergibt. Wird das Enteignungsrecht erst Jahre nach der materiellen Enteignung ausgeübt, so hat die Entschädigung für die formelle Enteignung dem Wert im Zeitpunkt der formellen Enteignung zu entsprechen (sog. Zweistufentheorie; vgl. <ref-ruling> E. 10b S. 494 f. mit Hinweisen).
4.1 Der Grundeigentümer hat danach grundsätzlich die Wahl, ob er sofort nach Inkrafttreten der Zonenplanung eine Entschädigung aus materieller Enteignung verlangt, oder ob er erst im Zeitpunkt der formellen Enteignung eine Entschädigung nach den Grundsätzen der formellen und materiellen Enteignung beansprucht (sofern letztere nicht verwirkt oder verjährt sind; vgl. dazu Urteile 1A.127/1999 vom 22. Dezember 1999 E. 5 und 1A. 93/2001 vom 9. November 2001 E. 2 und 3, beide betreffend Bottmingen).
Es ist auch keine Bestimmung des kantonalen Rechts ersichtlich, die dieses Wahlrecht einschränken würde: Zwar kann der Träger des Rechts nach § 140 des Aargauer Gesetzes über Raumplanung, Umweltschutz und Bauwesen vom 19. Januar 1993 (BauG) die formelle Enteignung verlangen, wenn der Eingriff zu einer so schweren Beschränkung führt, dass ihm nach den Umständen nicht zuzumuten ist, Träger des Rechts zu bleiben. Er ist aber hierzu nicht verpflichtet, sondern kann den Entschädigungsanspruch wegen materieller Enteignung auch selbständig geltend machen (vgl. §§ 138 f. BauG). Etwas anderes wäre auch mit der Eigentumsgarantie nicht vereinbar (vgl. <ref-ruling> E. 6 S. 250).
4.2 Im vorliegenden Fall machte der Beschwerdeführer von Anfang an eine Entschädigung wegen materieller Enteignung aufgrund der Zuweisung von 3'000 m2 seiner Parzelle in die Zone OE geltend. Über diesen Anspruch kann schon heute entschieden werden, unabhängig davon, ob später noch eine formelle Enteignung stattfindet oder nicht. Massgeblicher Stichtag ist der Zeitpunkt des Inkrafttretens der Eigentumsbeschränkung, hier also die Genehmigung der Zonenplanung durch den Grossen Rat am 5. März 1996 bzw. dessen Publikation.
Die Tatsache, dass der Beschwerdeführer eine Entschädigung zum Verkehrswert für Bauland verlangt, rechtfertigt keine andere Beurteilung: Beantragt der Beschwerdeführer einen zu hohen Entschädigungsbetrag, so kann ihm ein niedrigerer Betrag zugesprochen werden; dagegen ist es unverhältnismässig, den Entschädigungsanspruch nur aus diesem Grund als zur Zeit unbegründet abzuweisen.
4.3 Nach dem Gesagten ist zu prüfen, ob die Zuweisung zur Zone OE eine materielle Enteignung darstellt. Dies wäre zu verneinen, wenn die gesamte Parzelle 1994/96 entschädigungslos einer Nichtbauzone hätte zugeteilt werden dürfen. Davon ging die Schätzungskommission in ihrem Entscheid aus; das Verwaltungsgericht hat sich zu dieser Frage jedoch nicht geäussert. Es rechtfertigt sich daher, die Sache insoweit an das Verwaltungsgericht zurückzuweisen.
5. Zu prüfen ist noch, ob das Verwaltungsgericht eine materielle Enteignung zu Recht verneint hat, soweit die Parzelle Nr. 537 der Zone W3 mit Gestaltungsplanpflicht zugewiesen worden ist.
5.1 Eine materielle Enteignung im Sinne von <ref-law> und Art. 5 Abs. 2 RPG liegt vor, wenn dem Eigentümer der bisherige oder ein voraussehbarer künftiger Gebrauch einer Sache untersagt oder in einer Weise eingeschränkt wird, die besonders schwer wiegt, weil der betroffenen Person eine wesentliche aus dem Eigentum fliessende Befugnis entzogen wird. Geht der Eingriff weniger weit, so wird gleichwohl eine materielle Enteignung angenommen, falls einzelne Personen so betroffen werden, dass ihr Opfer gegenüber der Allgemeinheit unzumutbar erscheint und es mit der Rechtsgleichheit nicht vereinbar wäre, wenn hierfür keine Entschädigung geleistet würde. In beiden Fällen ist die Möglichkeit einer künftigen besseren Nutzung der Sache indessen nur zu berücksichtigen, wenn im massgebenden Zeitpunkt anzunehmen war, sie lasse sich mit hoher Wahrscheinlichkeit in naher Zukunft verwirklichen. Unter besserer Nutzung eines Grundstücks ist in der Regel die Möglichkeit seiner Überbauung zu verstehen (<ref-ruling> E. 6a S. 487; <ref-ruling> E. 4a S. 423).
Wird bei der erstmaligen Schaffung einer raumplanerischen Grundordnung, welche den verfassungsrechtlichen und gesetzlichen Anforderungen entspricht, eine Liegenschaft keiner Bauzone zugewiesen, so liegt gemäss der Rechtsprechung des Bundesgerichts eine Nichteinzonung vor, und zwar auch dann, wenn die in Frage stehenden Flächen nach dem früheren, der Revision des Bodenrechts nicht entsprechenden Recht überbaut werden konnten. Die Nichteinzonung in eine Bauzone löst grundsätzlich keine Entschädigungspflicht aus (<ref-ruling> E. 6b S. 487 f.; <ref-ruling> E. 4a S. 328 f.; je mit Hinweisen).
Sie treffen den Eigentümer nur ausnahmsweise enteignungsähnlich, etwa dann, wenn er überbaubares oder grob erschlossenes Land besitzt, das von einem gewässerschutzrechtlichen generellen Kanalisationsprojekt (GKP) erfasst wird, und wenn er für die Erschliessung und Überbauung seines Landes schon erhebliche Kosten aufgewendet hat, wobei diese Voraussetzungen in der Regel kumulativ erfüllt sein müssen. Sodann können weitere besondere Gesichtspunkte des Vertrauensschutzes so gewichtig sein, dass ein Grundstück unter Umständen hätte eingezont werden müssen. Ein Einzonungsgebot kann ferner zu bejahen sein, wenn sich das fragliche Grundstück im weitgehend überbauten Gebiet befindet. Aufgrund solcher Umstände lässt sich annehmen, der Eigentümer habe am massgebenden Stichtag mit hoher Wahrscheinlichkeit mit einer aus eigener Kraft realisierbaren Überbauung seines Landes rechnen dürfen (<ref-ruling> E. 2.2. S. 221; <ref-ruling> E. 4a S. 434; je mit Hinweisen).
5.2 Das Verwaltungsgericht liess offen, ob die Zuweisung der Parzelle zur W3 als Umzonung oder als Einzonung zu qualifizieren sei. Jedenfalls bleibe eine wirtschaftlich sinnvolle und gute Nutzung der Liegenschaft möglich, weshalb keine Enteignung vorliege.
Dies gelte auch unter Berücksichtigung der Gestaltungsplanpflicht. Die Bleiwiese sei am Stichtag nicht grob erschlossen gewesen. Die zwei Stichstrassen, die vom Dorfzentrum her an das Grundstück heranführen, entsprächen nicht den Vorgaben des VSS. Ein Anschluss an die bestehende Wasserleitung in der Bodenstrasse setze ein Durchleitungsrecht über eines der Nachbargrundstücke voraus. Auch für die abwassermässige Erschliessung müsse privates Land in Anspruch genommen werden. Der Beschwerdeführer hätte daher am Stichtag nicht mit hoher Wahrscheinlichkeit mit einer aus eigener Kraft realisierbaren Überbauung seines Grundstücks rechnen dürfen.
5.3 Diese Feststellungen werden vom Beschwerdeführer nicht bestritten. Er wirft der Gemeinde vielmehr vor, die strassen- und wassermässige Erschliessung der Bleiwiese nicht rechtzeitig an die Hand genommen zu haben. Er legt jedoch nicht dar, inwiefern die Gemeinde damals verpflichtet gewesen sei, die Bleiwiese alsbald zu erschliessen. Dies ist auch nicht ersichtlich: Gemäss BO 1980/82 lag das Gebiet in der Wohnzone 2. Etappe, d.h. im zusätzlichen Baugebiet. Vor dessen Umwandlung in definitives Baugebiet war die Gemeinde nach damaligem Recht zu keinerlei finanziellen und Leistungen an die Erschliessung verpflichtet (vgl. § 36 Abs. 2 BO 1980/82). Ob die Gemeinde nach der Zuweisung der Parzelle Nr. 537 zur Zone OE bzw. zur Zone W2 ihrer Erschliessungspflicht rechtzeitig nachgekommen ist, ist nicht Gegenstand des vorliegenden Verfahrens; dieses beschränkt sich auf Entschädigungen für Nutzungsbeschränkungen infolge der Revision der BNO 1994/1996.
5.4 Entgegen der Auffassung des Beschwerdeführers wird die Überbaubarkeit der Parzelle auch nicht auf unbestimmte Zeit hinausgeschoben: Die Gemeinde ist verpflichtet, das Gebiet innerhalb von 15 Jahren seit Inkrafttreten des Nutzungsplans, d.h. bis ins Jahr 2011, zu erschliessen (Art. 15 und 19 RPG; § 33 BauG). In diesem Zeitpunkt ist auch mit der Erarbeitung eines Gestaltungsplans zu rechnen. Im Übrigen steht es dem Beschwerdeführer frei, sein Grundstück schon vorher auf eigene Kosten zu erschliessen (§ 37 BauG) und selbst einen Gestaltungsplanentwurf auszuarbeiten (§ 21 Abs. 3 BauG). Von beiden Möglichkeiten hat der Beschwerdeführer bisher keinen Gebrauch gemacht.
5.5 Das Verwaltungsgericht hat sodann dargelegt, dass die Baubeschränkungen entlang der Surb (Gewässerabstand, naturnaher Grünstreifen gemäss § 21 Abs. 2 BNO) nicht weitergehen als diejenigen, die bereits in der BO 1980/82 vorgesehen waren (Nichtbaugebiet von 10 m entlang der Surb). Insoweit hat die BNO 1994/96 keine zusätzliche Nutzungseinschränkung bewirkt.
6. Nach dem Gesagten ist die Beschwerde teilweise gutzuheissen, soweit das Verwaltungsgericht die Frage der Entschädigungspflicht wegen materieller Enteignung durch Zuweisung von 3'000 m2 der Parzelle Nr. 537 zur Zone OE 1994/96 offengelassen hat. Insoweit ist der angefochtene Entscheid aufzuheben und die Sache zu neuer Beurteilung an das Verwaltungsgericht zurückzuweisen. Im Übrigen, soweit der Beschwerdeführer eine Entschädigung für das Schreiben des Gemeinderats Lengnau vom 4. Dezember 1989 sowie für die Zuweisung seiner Parzelle in die Zone W3 verlangt, ist die Beschwerde abzuweisen.
Nachdem das Verwaltungsgericht die Bedürftigkeit des Beschwerdeführers festgestellt hat und dessen Beschwerde nicht von vornherein aussichtslos war, ist dem Beschwerdeführer die unentgeltliche Rechtspflege zu gewähren (<ref-law>). Es sind demnach keine Gerichtskosten zu erheben. Die in ihrem amtlichen Wirkungskreis teilweise obsiegende Gemeinde hat keinen Anspruch auf eine Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen und das Urteil des Verwaltungsgerichts des Kantons Aargau, 4. Kammer, vom 16. August 2007 wird aufgehoben, soweit es die Beschwerde gegen Disp.-Ziff. 1.3 des Entscheids der Schätzungskommission nach Baugesetz des Kantons Aargau vom 13. Juni 2006 abweist. Die Sache wird zu neuer Prüfung des Begehrens um Entschädigung wegen materieller Enteignung infolge Zuweisung von 3'000 m2 der Parzelle Nr. 537 zur Zone OE an das Verwaltungsgericht zurückgewiesen.
Im Übrigen wird die Beschwerde abgewiesen.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Es werden keine Kosten erhoben.
4. Es werden keine Parteientschädigungen zugesprochen.
5. Dieses Urteil wird dem Beschwerdeführer, der Einwohnergemeinde Lengnau, der Schätzungskommission nach Baugesetz, dem Verwaltungsgericht des Kantons Aargau, 4. Kammer, und dem Bundesamt für Raumentwicklung schriftlich mitgeteilt.
Lausanne, 14. März 2008
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Féraud Gerber