Sachverhalt:
A. A._, B._, C._, D._ und die Erbengemeinschaft Z._ sind Miteigentümer der Parzelle Nr. 239 im Gebiet Bündt, Teufen.
Die 29'640 m2 grosse Parzelle liegt gemäss dem Zonenplan der Gemeinde Teufen vom 22. Februar 1995 teilweise in der zweigeschossigen Wohnzone W2b (rund 10'000 m2) und teilweise in der zweigeschossigen Wohnzone W2a (rund 11'000 m2); der Rest (im Bereich des Waldabstands) ist einer Grünzone zugeteilt.
Die Parzelle liegt ferner im Geltungsbereich des Quartier- und Gestaltungsplanes Bündt vom 19. April 2002. Dieser regelt die Erschliessung und bestimmt die Baubereiche A1-A3 sowie B1 und B2. Für das Gebiet B1 ist eine Terrassenhausüberbauung vorgesehen, während der Baubereich B2 mit sechs Mehrfamilienhäusern (A-F) überbaut werden soll.
B. Am 8. Oktober 2004 ersuchte die X._ AG mit Einwilligung der Grundeigentümer für den Baubereich B2 um Bewilligung des Abbruchs des dort bestehenden Mehrfamilienhauses sowie des Neubaus von sechs Mehrfamilienhäusern mit 32 Wohnungen und einer Tiefgarage mit 52 Plätzen.
Am 1. April 2005 erteilte die Baubewilligungskommission Teufen die Abbruch- und Baubewilligung und wies die gegen das Vorhaben erhobenen Einsprachen ab.
C. Nach erfolglosem Rekurs an den Gemeinderat Teufen erhoben die Strassenkorporation M._ und weitere Einsprecher Rekurs an das Departement Bau und Umwelt des Kantons Appenzell Ausserrhoden (DBU). Dieses wies den Rekurs am 6. April 2006 ab, soweit es darauf eintrat.
D. Hierauf gelangten die Einsprecher mit Beschwerde an das Verwaltungsgericht des Kantons Appenzell Ausserrhoden. Dieses führte einen Augenschein durch und hiess die Beschwerde am 24. Januar 2007 gut. Es hob den Rekursentscheid sowie die Baubewilligung für die im Baubereich B2 geplanten sechs Mehrfamilienhäuser auf. Das Verwaltungsgericht stellte fest, dass der für das Bauvorhaben massgebende Quartier- und Gestaltungsplan Bündt im Baubereich B2 eine Bauweise erlaube, welche einer mehr als geringfügigen Änderung des Zonenplans von Teufen gleichkomme. Weil das für eine solche Änderung von Gesetzes wegen erforderliche Referendum nicht durchgeführt wurde, sei der Quartier- und Gestaltungsplan Bündt im Umfang seines Baubereichs B2 nichtig.
E. Gegen den verwaltungsgerichtlichen Entscheid erhoben die X._ AG und die Grundeigentümer einerseits und die Politische Gemeinde Teufen andererseits Beschwerde an das Bundesgericht. Sie beantragen, das angefochtene Urteil sei aufzuheben und der Entscheid des DBU zu bestätigen.
F. Die Beschwerdegegner beantragen, die Beschwerde der privaten Beschwerdeführer sei abzuweisen; auf die Beschwerde der Gemeinde Teufen sei nicht einzutreten, eventualiter sei sie abzuweisen. Das Verwaltungsgericht schliesst auf Abweisung beider Beschwerden. Das DBU beantragt deren Gutheissung.
Im zweiten Schriftenwechsel halten die Parteien an ihren Rechtsbegehren fest.

Erwägungen:
1. Gegen den kantonal letztinstanzlichen Entscheid des Verwaltungsgerichts steht grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (<ref-law>).
1.1 Die Beschwerdeführer des Verfahrens 1C_284/2007 sind als Baugesuchstellerin und als Grundeigentümer zur Beschwerde gegen den angefochtenen Entscheid legitimiert, mit dem die Baubewilligung aufgehoben und der der Baubewilligung zugrunde liegende Quartier- und Gestaltungsplan Bündt für nichtig erklärt wurde (<ref-law>).
1.2 Die Beschwerdegegner sind der Auffassung, auf die Beschwerde der Gemeinde könne nicht eingetreten werden, weil diese am bisherigen Verfahren nicht als Partei teilgenommen habe; zudem vertrete der Gemeinderat nicht die Interessen der politischen Gemeinde Teufen, d.h. der Stimmbürger, sondern nur seine eigenen unberechtigten Autonomieansprüche.
Gemeinden und andere öffentlich-rechtliche Körperschaften sind zur Beschwerde berechtigt, wenn sie die Verletzung von Garantien rügen, die ihnen die Kantons- oder die Bundesverfassung gewährt (<ref-law>). Die Politische Gemeinde Teufen handelt im Bereich ihrer hoheitlichen Befugnisse als Baubewilligungs- und als Planungsbehörde. Sie ist insoweit zur Beschwerdeführung gegen den verwaltungsgerichtlichen Entscheid legitimiert, mit dem die von ihrer Baukommission erteilte Baubewilligung und der von ihrem Gemeinderat beschlossene Quartierplan aufgehoben bzw. für nichtig erklärt worden sind. Ob und inwieweit ihr tatsächlich Autonomie zusteht, ist nicht eine Frage des Eintretens, sondern der materiellen Beurteilung (<ref-ruling> E. 1.1 S. 412 mit Hinweisen).
Das Erfordernis der formellen Beschwer i.S.v. <ref-law> muss bei den besonderen Beschwerderechten gemäss Abs. 2 nicht erfüllt sein. Im Übrigen ergibt sich aus den Akten, dass die Gemeinde Teufen im verwaltungsgerichtlichen Verfahren eine Vernehmlassung eingereicht und einen Antrag auf Abweisung der Beschwerde gestellt hat.
1.3 Da auch die übrigen Sachurteilsvoraussetzungen vorliegen, ist auf beide Beschwerden einzutreten.
2. Die von der Baubewilligungskommission Teufen bewilligten sechs Mehrfamilienhäuser (A-F) entsprechen den Vorgaben des Quartier- und Gestaltungsplans Bündt; dagegen widersprechen sie den Regelbauvorschriften des Zonenplans für die Zone W2b insofern, als sie mehr als zwei Vollgeschosse und mehr als drei talseits sichtbare Geschosse aufweisen (Haus F: drei Vollgeschosse; Häuser A-E: vier Vollgeschosse; je mit einem talseits sichtbaren Kellergeschoss). Das Verwaltungsgericht ging davon aus, diese Abweichung sei so erheblich, dass sie der Zustimmung der Stimmbürger bedurft hätte; die Nichtdurchführung der Urnenabstimmung sei ein schwerwiegender Verfahrensfehler, der zur Nichtigkeit des Quartier- und Gestaltungsplans führe.
Die Beschwerdeführer halten diese Auffassung für unhaltbar und willkürlich.
2.1 Die Beschwerdeführer des Verfahrens 1C_284/2007 rügen eine Verletzung der Eigentumsgarantie (<ref-law>), weil sie bei Bejahung der Nichtigkeit des Quartier- und Gestaltungsplans Bündt ihr Bauvorhaben nicht realisieren könnten. Verletzt sei auch das in <ref-law> verankerte Vertrauensschutzprinzip, weil die Beschwerdeführer bei Einreichung des Baugesuchs auf die Rechtsbeständigkeit des vom Gemeinderat erlassenen und vom Regierungsrat genehmigten, seit 2 1⁄2 Jahren in Kraft stehenden Quartier- und Gestaltungsplan hätten vertrauen dürfen. Dessen angebliche (von den Beschwerdeführern bestrittene) Fehlerhaftigkeit hätten sie auch nicht erkennen können. Aufgrund dieses Vertrauens hätten die Beschwerdeführer viel Zeit und Geld für die Ausarbeitung des Baugesuchs aufgewendet; dieser Aufwand werde bei Nichtigerklärung des Quartier- und Gestaltungsplans unnütz und könne nicht wieder rückgängig gemacht werden.
Ob sich eine Eigentumsbeschränkung auf eine gesetzliche Grundlage stützen kann, prüft das Bundesgericht grundsätzlich (von besonders schweren Eingriffen abgesehen) nur unter dem Blickwinkel des Willkürverbots. Frei prüft es dagegen das öffentliche Interesse sowie die Verhältnismässigkeit eines Eingriffs (<ref-ruling> E. 3b S. 120 f.). Die verfassungsrechtlichen Aspekte des Vertrauensschutzes prüft das Bundesgericht frei; dagegen prüft es einfachgesetzliche Ausprägungen des Grundsatzes von Treu und Glauben grundsätzlich nur mit Willkürkognition (<ref-ruling> E. 3a S. 334).
2.2 Die Politische Gemeinde Teufen rügt eine Verletzung ihrer Planungsautonomie durch die Nichtigerklärung des von ihrem Gemeinderat erlassenen Quartier- und Gestaltungsplans und der daraus folgenden Aufhebung der Baubewilligung.
Eine Gemeinde ist in einem Sachbereich autonom, wenn das kantonale Recht diesen nicht abschliessend ordnet, sondern ihn ganz oder teilweise der Gemeinde zur Regelung überlässt und ihr dabei eine relativ erhebliche Entscheidungsfreiheit einräumt (<ref-ruling> E. 2a S. 8 mit Hinweisen).
Die Gemeinden des Kantons Appenzell Ausserrhoden sind zur Ortsplanung, einschliesslich der Sondernutzungsplanung, zuständig. Dabei steht ihnen ein relativ grosses Planungsermessen und damit Autonomie zu. Zum Zeitpunkt des Erlasses des Quartier- und Gestaltungsplans Bündt ergab sich dies aus den Art. 20 ff. und Art. 39 ff. des Gesetzes über die Einführung des Bundesgesetzes über die Raumplanung vom 28. April 1985 (EGzRPG). Dieses Gesetz bleibt für die Beurteilung von Richt-, Schutz- und Nutzungspläne massgebend, die vor Inkrafttreten des neuen Baugesetzes (Gesetz über die Raumplanung und das Baurecht vom 12. Mai 2003; [BauG]) genehmigt worden sind (Art. 123 Abs. 2 BauG).
Art. 51 EGzRPG bestimmt, dass das Baureglement und die Nutzungspläne der Urnenabstimmung zu unterbreiten sind (Abs. 1); die Annahme von Sondernutzungsplänen (Baulinien-, Quartier- und Gestaltungspläne) kann jedoch durch das Baureglement in die Zuständigkeit des Gemeinderats gelegt werden (Abs. 2). Von dieser Möglichkeit hat die Gemeinde Teufen Gebrauch gemacht (Art. 7 Abs. 1 Baureglement vom 22. Februar 1995 [BauR]), mit der ausdrücklichen Befugnis, in Sondernutzungsplänen von den Regelbauvorschriften gemäss Baureglement und Zonenplan abzuweichen (Art. 23 Abs. 1 BauR).
Unter diesen Umständen wird die der Gemeinde zustehende Autonomie beim Erlass von Sondernutzungsplänen grundsätzlich vom Gemeinderat ausgeübt. Insofern kann sich die Gemeinde mittels Autonomiebeschwerde dagegen zur Wehr setzen, dass das Verwaltungsgericht einen vom Gemeinderat erlassenen Sondernutzungsplan für nichtig erklärt, unter falscher Anwendung der den betreffenden Sachbereich regelnden Bestimmungen des kommunalen, kantonalen oder eidgenössischen Rechts. Die Verletzung kantonalen Bau- und Planungsrechts kann das Bundesgericht allerdings nur unter dem Blickwinkel des Willkürverbots prüfen (<ref-ruling> E. 1.1 S. 69 f.; <ref-ruling> E. 1 S. 93; je mit Hinweisen).
2.3 Im Folgenden ist daher zunächst zu prüfen, ob das Verwaltungsgericht die kantonalen Bestimmungen betreffend die Sondernutzungsplanung willkürlich ausgelegt und angewendet hat bzw. die Voraussetzungen für die Nichtigkeit des Gestaltungs- und Quartierplans willkürlich bejaht hat, und schon aus diesem Grund eine Verletzung der Eigentumsgarantie bzw. der Gemeindeautonomie vorliegt. Ist dies zu verneinen, muss der angefochtene Entscheid zusätzlich unter dem Blickwinkel des verfassungsmässigen Rechts auf Vertrauensschutz überprüft werden.
3. Streitig ist, inwieweit vom Gemeinderat erlassene Sondernutzungspläne vom Zonenplan bzw. den für die jeweilige Zone geltenden Regelbauvorschriften abweichen dürfen. Nach Art. 23 Abs. 1 BauR gelten die Regelbauvorschriften nur, sofern in Sondernutzungsplänen nichts anderes bestimmt wird. Nach Auffassung des Verwaltungsgericht widerspricht diese Blankodelegation an den Gemeinderat jedoch den verfahrensrechtlichen Vorgaben in Art. 51 Abs. 3 EGzRPG und den restriktiveren Bestimmungen des Planinhalts gemäss Art. 43 Abs. 3 und Art. 45 Abs. 2 i.V.m. Art. 39 EGzRPG. Diese Bestimmungen lauten:
Art. 51 Änderungen
[...]
3 Geringfügige Änderungen können an Baulinien-, Quartier- und Gestaltungsplänen ohne öffentliche Auflage, an Zonenplänen auch ohne Abstimmung vorgenommen werden, wenn die von ihnen direkt betroffenen Grundeigentümer und die Mehrheit der Eigentümer der angrenzenden Grundstücke sich mit ihnen einverstanden erklärt haben.
Art. 39 Sondernutzungspläne
1 Sondernutzungspläne regeln die Überbaubarkeit von Teilgebieten der Gemeinde in Ergänzung oder Verfeinerung der ortsplanerischen Grundordnung.
2 als Sondernutzungspläne gelten
a) Baulinienpläne,
b) Quartierpläne,
c) Gestaltungspläne.
[...]
Art. 43 Quartierplan
1 Der Quartierplan regelt die Erschliessung und die besondere Bauweise eines Teilgebiets mit Sonderbauvorschriften.
2 Sonderbauvorschriften dürfen dem Zweck der Zone nicht widersprechen. Im Baureglement ist festzulegen, ob und wie weit geringfügige Abweichungen von der ordentlichen Ausnützung zulässig sind (Mehr- oder Minderausnützung). Die Immissionsvorschriften sind in jedem Falle einzuhalten.
3 Durch Sonderbauvorschriften können insbesondere geregelt werden:
a) Bauweise (offen, geschlossen),
b) Anordnung und Gliederung der Bauten,
c) Grösse und Abstände der Bauten,
d) Firstrichtung und Dachformen,
e) Materialwahl und Fassadengestaltung,
f) Ausstattung mit Gemeinschaftsanlagen, Parkplätzen und Kinderspielplätzen,
g) Anordnung, Gestaltung und Bepflanzung der Freiräume,
h) Freihaltung von Aussichtspunkten und -lagen,
i) Nutzungsintensität, soweit nicht in den Zonenvorschriften festgelegt.
[...]
Art. 45 Gestaltungsplan
1 Der Gestaltungsplan bezweckt eine architektonisch besonders gute Gesamtüberbauung.
2 Er bestimmt die Überbauung einer oder mehrerer Parzellen bis ins projektmässige Detail; er kann insbesondere Anzahl, Art, Situation, äussere Abmessung und weitere Einzelheiten wie Fassadengestaltung, Freiraumgestaltung usw. der zu erstellenden Bauten und Anlagen festlegen. Im Rahmen von Art. 43 Abs. 2 kann von Zonen- und Quartierplänen abgewichen werden.
3.1 Das Verwaltungsgericht ging davon aus, dass nur geringfügige Änderungen von Zonenplänen ohne Referendum vorgenommen werden dürften (Art. 51 Abs. 3 EGzRPG). Geringfügig seien nach der Praxis des Planungsamts nur Zonenplanänderungen, die eine kleine Fläche bis ca. 2'000 m2 betreffen, keine Änderung des dem Zonenplan zugrunde liegenden Konzepts bewirken und überdies von untergeordnetem öffentlichem Interesse seien. Diese Schranken seien auch beim Erlass von Sondernutzungsplänen zu beachten, die von den Vorgaben des Zonenplans abweichen.
Das Verwaltungsgericht nahm an, dass Quartier- und Gestaltungspläne, welche die Überbaubarkeit von Teilgebieten der Gemeinde in Ergänzung oder Verfeinerung der ortsplanerischen Grundordnung regeln (Art. 39 Abs. 1 EGzRPG), nichts enthalten dürften, was bereits im Zonenplan und Baureglement bestimmt worden sei oder hätte bestimmt werden müssen. Dementsprechend bestimme Art. 43 Abs. 3 a.E. EGzRPG, dass die in lit. a-i erwähnten Planelemente in Sondervorschriften nur geregelt werden können, "soweit nicht in den Zonenvorschriften festgelegt" (Abs. 3 a.E.). Sei - wie im vorliegenden Fall - die Geschosszahl in den Zonenvorschriften festgelegt worden, könne sie in einem Quartierplan nicht abweichend geregelt werden.
Der Quartier- und Gestaltungsplan Bündt umfasse allein schon im Baubereich B2 eine Fläche von wenigstens 7'500 m2. In diesem Bereich würden zwar die Grenz- und Gebäudeabstände sowie die Baumassenziffer der Zone W2b eingehalten; in Abweichung von der Regelbauweise (zwei Vollgeschosse) werde jedoch eine Bauweise mit vier bzw. drei Vollgeschossen gestattet. Diese Abweichung vom Zonenplan sei nicht als geringfügig zu qualifizieren und hätte daher der Urnenabstimmung unterstellt werden müssen.
3.2 Die Beschwerdeführer und das DBU sind dagegen der Auffassung, Art. 51 Abs. 3 EGzRPG bezwecke lediglich eine verfahrensmässige Erleichterung für Zonenplanänderungen; dagegen sei er auf den Erlass von Sondernutzungsplänen von vornherein nicht anwendbar. Der zulässige Inhalt von Sondernutzungsplänen ergebe sich allein aus den Art. 39 ff. EGzRPG, insbesondere den Art. 43 und 45 EGzRPG.
Danach dürften Sonderbauvorschriften lediglich dem Zweck der Zone und den Immissionsvorschriften nicht widersprechen; ob und inwieweit geringfügige Abweichungen von der ordentlichen Ausnützung zulässig sind, sei im Baureglement festzulegen (Art. 43 Abs. 2 EGzRPG). Nach Art. 43 Abs. 3 lit. c könnten durch Sonderbauvorschriften insbesondere die Grösse und Abstände der Bauten geregelt werden; dazu gehöre auch die Geschosszahl. Die Beschränkung "soweit nicht in den Zonenvorschriften festgelegt" in Art. 43 Abs. 3 lit. i beziehe sich nur auf die Nutzungsintensität und nicht auf sämtliche in Art. 43 Abs. 3 EGzRPG genannten Planinhalte.
Die Beschwerdeführer verweisen sodann auf Art. 45 Abs. 2 EGzRPG, wonach Gestaltungspläne im Rahmen von Art. 43 Abs. 2 ausdrücklich von Zonen- und Quartierplänen abweichen dürfen.
Die "Ergänzung oder Verfeinerung der ortsplanerischen Grundordnung" i.S.v. Art. 39 Abs. 1 EGzRPG sei als Anpassung der ortsplanerischen Grundordnung an die besonderen Bedürfnisse und Verhältnisse des konkreten Planungsgebiets zu verstehen. Diese könnten verlangen, die Regelbauvorschriften zu überschreiten, z.B. um bauliche Nutzungen zu konzentrieren und grössere Freiflächen zu erhalten.
Es liege im Wesen von Sonderbauvorschriften zu Gestaltungsplänen, Abweichungen von den allgemeinen baupolizeilichen Bestimmungen zu ermöglichen. Wären die Regelbauvorschriften verbindlicher Rahmen für Sondernutzungspläne, würde dieses Planungsinstrument seine Bedeutung weitgehend verlieren, weil nur noch einzelne gestalterische Aspekte und untergeordnete planerische Details geregelt werden könnten.
Die Beschwerdeführer verweisen sodann auf Art. 23 BauR, wonach die Regelbauweise und damit auch die Geschosszahlen nur insoweit gelten, als in Sondernutzungsplänen nichts anderes bestimmt werde. Die Bürgerschaft habe somit dem Gemeinderat die Kompetenz eingeräumt, im Rahmen von Sondernutzungsplänen von der Regelbauordnung, insbesondere auch von der Geschossigkeit, abzuweichen.
Dies bedeute nicht, dass völlig unbeschränkt von der Regelbauweise abgewichen werden könne; vielmehr bestünden bei übermässigen Abweichungen Anfechtungsmöglichkeiten, wie der bundesgerichtliche Entscheid 1P.270/2005 vom 26. September 2005 (betr. Kanton Thurgau) belege. Im vorliegenden Fall liege jedoch eine massvolle Abweichung vor: Die Regelbauvorschriften liessen neben den Vollgeschossen zusätzlich Untergeschosse und Dachgeschosse einschliesslich Attikageschosse zu (Art. 10 Abs. 1 BauR), weshalb Bauten zugelassen seien, die talseits dreieinhalbgeschossig in Erscheinung treten (vgl. Skizze im Anhang zu BauR S. 35). Demgegenüber lasse der Quartierplan Bündt ein zusätzliches Vollgeschoss und die Erweiterung des Dachgeschosses zu; letzteres halte den für Attikageschosse geforderten 45° Winkel von Süden her ein und trete daher in der massgebenden Optik als zurückversetztes Attikageschoss in Erscheinung.
Schliesslich bestreiten die Beschwerdeführer, dass die Voraussetzungen für die Nichtigkeit des Quartier- und Gestaltungsplans vorliegen. Selbst wenn dieser an einem besonders schweren Mangel leiden sollte, wäre dieser Mangel jedenfalls nicht offenkundig oder leicht erkennbar gewesen. Dabei sei zu berücksichtigen, dass der Quartier- und Gestaltungsplan "Bündt" im Genehmigungsverfahren durch das kantonale Planungsamt umfassend geprüft und vom Regierungsrat vorbehaltlos genehmigt worden sei.
3.3 Die privaten Beschwerdegegner wenden dagegen in erster Linie ein, dass die meisten Neubaugebiete der Gemeinde Teufen mit einer Quartierplanpflicht belegt seien. Es wäre stossend, wenn die differenzierten Festlegungen der Ortsplanung 1994 bei den Wohnzonen, mit niedrigerer Bauweise (W2a, W2b) entlang den exponierten Hängen, durch Sonderbauvorschriften unbeschränkt überschritten werden könnten. Dies gelte umso mehr, als nicht alle Stimmbürger, sondern nur eine begrenzte Anzahl von Anstössern zur Einsprache gegen Sondernutzungspläne legitimiert seien (Art. 91 EGzRPG).
4. Die von den Beschwerdeführern und dem DBU vertretene Auslegung der Art. 39 ff. und 51 EGzRPG entspricht Wortlaut und Systematik des Gesetzes besser als diejenige des Verwaltungsgerichts: Die differenzierte Regelung in Art. 43 Abs. 2 und 3 sowie Art. 45 Abs. 2 EGzRPG würde unterlaufen, wenn für Flächen über 2'000 m2 jede Abweichung von den Regelbauvorschriften untersagt wäre bzw. eine Zonenplanänderung voraussetzen würde. Der Zusatz in Art. 43 Abs. 3 lit. i ("soweit nicht in den Zonenvorschriften festgelegt") bezieht sich von seiner systematischen Stellung her klar auf die Nutzungsintensität und nicht auf sämtliche Planinhalte; dafür spricht auch der Zusammenhang mit Abs. 2, wonach nur Abweichungen von der ordentlichen Ausnützung (Mehr- oder Minderausnützung) einer Grundlage im Baureglement bedürfen.
Ob die Auslegung des Verwaltungsgerichts willkürlich ist, kann jedoch offen bleiben, weil jedenfalls die Annahme der Nichtigkeit des Quartier- und Gestaltungsplans Bündt nicht vor <ref-law> standhält.
5. Nach ständiger Rechtsprechung ist die Nichtigkeit eines Nutzungsplans nur anzunehmen, wenn der Mangel besonders schwer ist, wenn er offensichtlich oder zumindest leicht erkennbar ist und wenn zudem die Rechtssicherheit durch die Annahme der Nichtigkeit nicht ernsthaft gefährdet wird (<ref-ruling> E. 2c S. 219 mit Hinweisen).
Der Gemeinderat Teufen wie auch das für das Bau- und Planungsrecht zuständige Departement des Kantons sind heute noch von der Rechtmässigkeit des Quartier- und Gestaltungsplans Bündt überzeugt und können sich hierfür, wie oben dargelegt wurde, auf gute Argumente stützen.
Unter diesen Umständen kann keine Rede davon sein, dass der angebliche Mangel des Quartier- und Gestaltungsplans Bündt offenkundig oder zumindest leicht erkennbar gewesen sei. Die diesbezügliche Annahme des Verwaltungsgerichts ist vielmehr willkürlich.
Die Nichtigerklärung des Quartier- und Gestaltungsplans Bündt und die darauf gestützte Aufhebung der Baubewilligung verletzt daher die Eigentumsgarantie und die Gemeindeautonomie.
6. Dies führt zur Gutheissung der Beschwerden und zur Aufhebung des angefochtenen Entscheids. Die Sache wird an das Verwaltungsgericht zurückgewiesen, um - ausgehend von der Gültigkeit des Quartier- und Gestaltungsplans Bündt - neu zu entscheiden.
Bei diesem Ausgang des Verfahrens werden die privaten Beschwerdegegner kosten- und entschädigungspflichtig (Art. 66 und 68 BGG). Die in ihrem amtlichen Wirkungskreis obsiegende Gemeinde Teufen hat keinen Anspruch auf eine Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerden werden gutgeheissen und der Entscheid des Verwaltungsgerichts von Appenzell Ausserrhoden, 2. Abteilung, vom 24. Januar 2007 wird aufgehoben. Die Sache wird zu neuer Beurteilung im Sinne der Erwägungen an das Verwaltungsgericht zurückgewiesen.
2. Die Gerichtskosten von insgesamt Fr. 4'000.-- werden den privaten Beschwerdegegnern auferlegt.
3. Die Beschwerdegegner haben die Beschwerdeführer des Verfahrens 1C_284/2007 für das bundesgerichtliche Verfahren mit insgesamt Fr. 4'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Departement Bau und Umwelt des Kantons Appenzell Ausserrhoden und dem Verwaltungsgericht von Appenzell Ausserrhoden, 2. Abteilung, schriftlich mitgeteilt.
Lausanne, 15. April 2008
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Féraud Gerber