Sachverhalt:
A. Am 1. Juli 2002 bewilligte die Baupolizeikommission der Stadt St. Gallen das Baugesuch des Architekten X._ für ein fünfstöckiges, turmartiges Einfamilienhaus mit Flachdach (sogenanntes Baumhaus) auf der Parzelle Nr. ... in St. Gallen. Die Liegenschaft befindet sich in der Wohnzone W3a, im Bereich des Überbauungsplans Greifenacker vom 17. Juni 1921 bzw. 3. Juni 1954.
Am 4. September 2003 ging das Eigentum an der Parzelle Nr. ... auf die Eheleute Y._ über.
B. Anlässlich einer Rohbaukontrolle vom 6. Dezember 2004 stellte die Baupolizeibehörde fest, dass die bewilligte Höhe des Dachrandes um 36 cm überschritten wurde.
Am 20. Dezember 2004 reichten X._ sowie die Eheleute Y._ ein Korrekturgesuch für die bereits ausgeführte Erhöhung des Gebäudes um 36 cm ein. Dagegen erhoben zwei Nachbarn Einsprache. Die Baupolizeikommission und das Baudepartement entschieden am 21. Januar 2005 bzw. am 13. Februar 2006, es lägen keine Gründe vor, welche die Erteilung einer Ausnahmebewilligung rechtfertigen würden; dagegen erachteten sie die Wiederherstellung des ursprünglichen Zustands als unverhältnismässig.
Die Nachbarn wie auch X._ erhoben dagegen Beschwerde beim Verwaltungsgericht des Kantons St. Gallen. Dieses wies die Beschwerde von X._ am 14. September 2006 ab; in Gutheissung der Beschwerde der Nachbarn wies es die Eheleute Y._ als Grundstückseigentümer an, die Höhe des Wohnhauses auf das in der Baubewilligung vom 1. Juli 2002 festgelegte Mass zu reduzieren.
Das Bundesgericht schützte dieses Urteil mit Entscheid vom 13. April 2007 (Verfahren 1P.708/2006 und 1P.710/2006).
C. Am 31. August 2007 ersuchten die Eheleute Y._ die Stadt St. Gallen um Bewilligung eines vergrösserten Gebäudevolumens, womit der für die Gebäudehöhe massgebliche Niveaupunkt hangaufwärts verschoben worden wäre. Die Baupolizeibehörde wies das Gesuch am 16. November 2007 ab und verlangte von den Gesuchstellern ein Korrekturgesuch für die Wiederherstellung des rechtmässigen Zustands. Das Baudepartement wies den dagegen erhobenen Rekurs am 11. September 2008 ab. Die dagegen erhobene Beschwerde ans Verwaltungsgericht wurde am 10. Oktober 2008 zurückgezogen.
D. Am 28. Januar 2008 verlangten die Eheleute Y._ von der Stadt St. Gallen die Aufhebung des Überbauungsplans für den Greifenacker. Der Stadtrat wies das Gesuch am 7. April 2008 ab. Das Baudepartement wies den dagegen erhobenen Rekurs am 30. November 2008 ab.
E. Am 14. November 2008 reichten die Eheleute Y._ das im Beschluss vom 16. November 2007 verlangte Rückbaugesuch ein. Als Projektverfasser unterzeichneten die Firma X._ AG und die Z._ GmbH. Als Baubeginn wurde der 1. April 2008 angeführt.
Am 24. November 2008 erfolgte die Bauanzeige. Gleichentags wurde den Eigentümern und der Firma X._ AG mit B-Post mitgeteilt, dass die Auflage vom 26. November bis 9. Dezember 2008 dauere. Auf Wunsch der Firma X._ AG stellte das Amt für Baubewilligungen dieser das Orientierungsschreiben per E-Mail vom 18. Dezember 2008 nochmals zu. Am 19. Dezember 2008 und 6. Januar 2009 rügte die Firma X._ AG, sie habe vom Orientierungsschreiben und von der Auflage keine Kenntnis erhalten und beantragte, die Ausschreibung sei neu anzusetzen.
Am 9. Januar 2009 bewilligte die Baubewilligungskommission das Korrekturgesuch; mit den Bauarbeiten sei binnen dreier Monate nach Rechtskraft der Verfügung zu beginnen. Für den Fall der Nichtbefolgung wurde die Ersatzvornahme angedroht.
F. Mit Eingabe vom 3. Februar 2009 erhob die Firma X._ AG Rekurs beim Baudepartement mit dem Antrag, der Beschluss vom 9. Januar 2009 sei aufzuheben und es sei zusammen mit allen Parteien in einer Mediation nach einer Lösung zu suchen, welche die Reduktion der Gebäudehöhe um 38 cm vermeide, jedoch gleichzeitig die Rechtmässigkeit der Baute sicherstelle bzw. wiederherstelle.
Am 4. Februar 2009 erhoben auch Eheleute die Y._ Rekurs an das Baudepartement mit dem Antrag, die Baubewilligung sei ohne Ansetzung einer Frist, eventualiter mit einer längeren Frist, zu erteilen.
Mit Entscheid vom 8. April 2009 trat das Baudepartement auf den Rekurs der Firma X._ AG nicht ein, weil diese zum Rekurs nicht legitimiert sei. Den Rekurs von den Eheleute Y._ wies das Departement am 11. Mai 2009 ab. Auf einen von der Firma X._ AG erhobenen "Anschlussrekurs" trat das Departement nicht ein.
Gegen den Nichteintretensentscheid vom 8. April 2009 erhob die Firma X._ AG Beschwerde an das Verwaltungsgericht des Kantons St. Gallen. Dieses wies die Beschwerde am 14. Mai 2009 ab, soweit darauf einzutreten sei.
G. Gegen diesen Entscheid hat die Firma X._ AG am 9. Juni 2009 Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht erhoben. Sie beantragt, der angefochtene Entscheid sei aufzuheben; auf ihren Rekurs gegen den Beschluss der Baubewilligungskommission der Stadt St. Gallen vom 9. Januar 2009 sei einzutreten und es sei dieser Beschluss aufzuheben. Im Rahmen einer Mediation sei eine Lösung zu erarbeiten, welche eine Reduktion der Gebäudehöhe um 38 cm vermeidet, jedoch gleichzeitig die Rechtmässigkeit der Baute sicherstelle bzw. wiederherstelle.
Das Verwaltungsgericht schliesst auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Die Baubewilligungskommission und das Baudepartement beantragen Abweisung der Beschwerde. In ihrer Replik vom 10. September 2009 hält die Beschwerdeführerin an ihren Anträgen fest.
H. Bereits am 7. April 2009 hatte X._ um Revision des bundesgerichtlichen Urteils vom 13. April 2007 ersucht. Er machte geltend, die gesamten Rückbaukosten würden aufgrund von Schätzungen durch Experten nun auf rund Fr. 480'000.-- zu stehen kommen, was nicht mehr verhältnismässig sei. Diese Kosten seien erst mit dem Rückbauentscheid (Baubewilligung vom 9. Januar 2009) und den hierauf eingeholten Schätzungen evident geworden; in den früheren Verfahren habe er keinen Anlass gehabt, die vom kantonalen Hochbauamt genannte Summe von Fr. 200'000.-- zu verifizieren resp. zu bestreiten.
Das Bundesgericht wies das Revisionsgesuch am 20. April 2009 ab, soweit es darauf eintrat, weil kein Revisionsgrund im Sinne von Art. 123 Abs. 2 lit. a BGG vorliege. Schon im kantonalen Verfahren wie auch vor Bundesgericht sei die Verhältnismässigkeit der Wiederherstellung des rechtmässigen Zustandes ein zentraler Punkt gewesen, weshalb der Gesuchsteller und die Grundstückseigentümer jeden Grund gehabt hätten, die Kostenschätzung des Hochbauamts in Abrede zu stellen und konkrete Zahlen zu präsentieren, um die von ihnen behauptete Unverhältnismässigkeit zu belegen. Die heute präsentierten Expertenberichte hätten ohne Weiteres bereits im damaligen Zeitpunkt eingeholt werden können (Urteil 1F_9/2009, E. 2).
Erwägungen:
1. Der angefochtene, kantonal letztinstanzliche Entscheid bestätigt einen Nichteintretensentscheid des Baudepartements. Soweit die Beschwerdeführerin diesen Nichteintretensentscheid anficht und geltend macht, auf ihren Rekurs sei einzutreten, ist sie zur Beschwerdeführung legitimiert (Art. 89 Abs. 1 BGG). Nicht einzutreten ist dagegen auf ihre Rügen in der Sache, da insoweit noch kein kantonal letztinstanzlicher Entscheid vorliegt.
2. Das Verwaltungsgericht verneinte zum einen die Legitimation der Beschwerdeführerin. Diese sei (Mit-)Erstellerin eines Werkes, welches u.a. Grundlage für die Baubewilligung sei. Die Erstellung eines Werkes bzw. die Ausarbeitung eins Bauprojekts beschlage das privatrechtliche Verhältnis zwischen Auftraggeber und Beauftragte. Selbst wenn die Bauherrschaft der Beschwerdeführerin damit drohe, ihr die Kosten des Rückbaus zu überwälzen (was nicht belegt worden sei), so würde ihr dies keine Legitimation zur Anfechtung des Bewilligungsentscheides verschaffen. Das öffentliche Baurecht bezwecke nicht die Wahrung der Vermögensinteressen des Architekten gegenüber dem Auftraggeber bzw. Baugesuchsteller. Dass der Architekt subjektiv und aus dem Blickwinkel als Ersteller eine enge Beziehung zum Werk habe, ändere daran nichts.
Zum anderen erachtete das Verwaltungsgericht das Vorgehen der Beschwerdeführerin als rechtsmissbräuchlich. Diese habe das dem Korrekturgesuch zugrunde liegende Projekt mitverfasst und vorbehaltslos mitunterzeichnet. Wenn sie nun gegen die behördliche Bewilligung dieses Projekts Rekurs erhebe, so könne dies nicht anders als mit der Absicht einer weiteren Verzögerung der Herstellung des rechtmässigen Zustands erklärt werden. Dies verstosse gegen Treu und Glauben und verdiene keinen Rechtsschutz. Über die Verhältnismässigkeit des Rückbaus im Lichte der mutmasslichen Kosten sei vom Bundesgericht abschliessend entschieden worden; diese Frage könne nicht mehr zum Gegenstand des Vollzugsverfahrens gemacht werden.
3. Die Beschwerdeführerin ist dagegen der Auffassung, sie habe als Planverfasserin und eigentliche Erstellerin ein so enges eigenes Verhältnis zum Bauobjekt, dass sie Parteistellung beanspruchen könne. Sie weist darauf hin, dass sie in den baurechtlichen Verfahren bis 2007 stets als Partei beteiligt gewesen sei, obwohl sie (bzw. X._) seit dem Verkauf des Grundstücks im Jahre 2003 nicht mehr Bauherrschaft gewesen sei. Die Beschwerdeführerin macht geltend, sie habe ein eigenes ideelles Interesse daran, dass das von ihr entworfene Haus nicht gekürzt resp. "verstümmelt" werde.
Ein Rechtsmissbrauch liege nicht vor, weil erst aufgrund des Entscheids vom 9. Januar 2009 die Risiken und die Kosten des Rückbaus von Experten hätten ermittelt werden können. Insofern müsse es zulässig sein, die Unverhältnismässigkeit des Rückbaus noch im Vollzugsverfahren geltend zu machen.
4. Gemäss Art. 111 Abs. 1 BGG (Einheit des Verfahrens) muss sich derjenige, der zur Beschwerde ans Bundesgericht berechtigt ist, auch am Verfahren vor allen kantonalen Vorinstanzen als Partei beteiligen können. Die Beschwerdebefugnis darf somit im kantonalen Verfahren nicht enger umschrieben werden als vor Bundesgericht.
4.1 Zur Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht ist berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat, durch den angefochtenen Entscheid besonders berührt ist und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung besitzt (Art. 89 Abs. 1 BGG). Verlangt ist somit neben der formellen Beschwer (lit. a), dass der Beschwerdeführer über eine spezifische Beziehungsnähe zur Streitsache verfügt (lit. b) und einen praktischen Nutzen aus der Aufhebung oder Änderung des angefochtenen Entscheids zieht (lit. c). Die Nähe der Beziehung zum Streitgegenstand muss bei Bauprojekten insbesondere in räumlicher Hinsicht gegeben sein. Ein schutzwürdiges Interesse liegt vor, wenn die tatsächliche oder rechtliche Situation des Beschwerdeführers durch den Ausgang des Verfahrens beeinflusst werden kann (BGE 133 II 409 E. 1.3 S. 413 mit Hinweisen). Die Voraussetzungen von Art. 89 Abs. 1 lit. b und lit. c BGG hängen eng zusammen; insgesamt kann insoweit an die Grundsätze, die zur Legitimationspraxis bei der Verwaltungsgerichtsbeschwerde nach Art. 103 lit. a des früheren Organisationsgesetzes vom 16. Dezember 1943 (OG) entwickelt worden sind, angeknüpft werden (BGE 133 II 249 E. 1.3 S. 252 f., 353 E. 3 S. 356 f., 400 E. 2.2 S. 404 f.).
4.2 Besondere Anforderungen an die Beziehungsintensität werden gestellt, wenn das Rechtsmittel von einem Dritten zugunsten des Verfügungsadressaten erhoben wird (Drittbeschwerde "pro Adressat"): Ergreift der Verfügungsadressat selbst kein Rechtsmittel, so kommt die Legitimation des Dritten ausserhalb förmlicher gesetzlicher Anerkennung nur in Betracht, wenn der Dritte ein selbstständiges, eigenes Rechtsschutzinteresse an der Beschwerdeführung für sich in Anspruch nehmen kann (BGE 130 V 560 E. 3.5 und 3.6 S. 565 f. mit Hinweisen zu Literatur und Rechtsprechung). Hierfür muss dem Dritten aus der streitigen Verfügung ein unmittelbarer Nachteil erwachsen; bloss mittelbare, faktische Interessen an der Aufhebung oder Änderung der Verfügung reichen hingegen nicht aus (BGE 130 V 560 E. 4 S. 566; Bernhard Waldmann, Basler Kommentar zum BGG, Art. 89 Rz. 29).
4.3 Bereits im Urteil BGE 99 Ib 377 E. 1 S. 379 entschied das Bundesgericht, dass der Architekt - wie auch Bauunternehmen und Handwerker - grundsätzlich nur ein mittelbares, wirtschaftliches Interesse an der Erteilung der Baubewilligung habe und daher nicht zur Anfechtung befugt sei, wenn das Bauvorhaben nicht (vollständig) bewilligt werde (so auch WALDMANN, a.a.O; FRANÇOIS RUCKSTUHL, Der Rechtsschutz im zürcherischen Planungs- und Baurecht, ZBl 86/1985, S. 295). ISABELLE HÄNER (Die Beteiligten im Verwaltungsverfahren und Verwaltungsprozess, Zürich 2000, Rz. 765 S. 355) bejaht das Beschwerderecht der Architekten oder Bauunternehmers, wenn die Baubewilligung nach Abschluss der Verträge so aufgehoben oder geändert wird, dass ein Teil der Baute nicht mehr erstellt werden kann, und dem Architekten oder Bauunternehmer daraus ein Schaden entsteht.
4.4 Noch nicht entschieden wurde bisher die Frage, ob der Architekt als Urheber eines (Bau)Werks befugt ist, sich gegen dessen Entstellung zu wehren, beispielsweise durch eine Rückbauverfügung (zum Urheberpersönlichkeitsrecht des Architekten vgl. BGE 120 II 65 E. 8 S. 67 ff. und Urteil 4C.154/1996 vom 5. November 1996 E. 5, in: sic! 4/1997 S. 381 und JdT 1997 I 253).
Im vorliegenden Fall ist jedoch bereits rechtskräftig über die Verpflichtung zum Rückbau des Baumhauses entschieden worden. Streitgegenstand des Rekursverfahrens war somit nicht mehr das "ob", sondern nur noch das "wie" des Rückbaus. Das hierfür eingereichte Korrekturgesuch der Grundeigentümer sieht vor, dass die Dachkonstruktion geändert und damit die Gebäudehöhe auf das zulässige Mass korrigiert werden soll. Dieses Gesuch mit den von der Beschwerdeführerin verfassten Pläne wurde von der Baubehörde unverändert bewilligt. Insofern ist nicht ersichtlich, inwiefern die Beschwerdeführerin durch die Baubewilligung beschwert wird und ein schutzwürdiges Interesse an deren Anfechtung hat.
Im Übrigen hat die Beschwerdeführerin in ihrem Rekurs keine ästhetischen, sondern ausschliesslich Kostengründe gegen das Korrekturprojekt geltend gemacht. Über die Verhältnismässigkeit der Kosten des Rückbaus ist jedoch bereits abschliessend entschieden worden, wie das Verwaltungsgericht zutreffend dargelegt hat.
4.5 Soweit die Beschwerdeführerin geltend macht, ihr sei bis 2007 Parteistellung im kantonalen Verfahren zugebilligt worden, trifft dies nicht zu: Partei der früheren Verfahren war nicht die Beschwerdeführerin als juristische Person, sondern X._ als natürliche Person. Dieser war als Baugesuchsteller zur Beschwerdeführung legitimiert, auch nachdem das Eigentum am Grundstück auf die Eheleute Y._ übergegangen war (vgl. bundesgerichtliches Urteil 1P.708 und 710/2006 vom 13. April 2007 E. 1.5). Dagegen wurde das Korrekturgesuch vom 24. November 2008 nicht von der Beschwerdeführerin, sondern von den Grundeigentümern Eheleute Y._ gestellt; dementsprechend wird die Beschwerdeführerin in der Baubewilligung vom 9. Januar 2009 nicht als Gesuchstellerin, sondern (nur) als Planverfasserin genannt.
4.6 Nach dem Gesagten durfte das Verwaltungsgericht die Rekurslegitimation der Beschwerdeführerin ohne Verletzung von Bundesrecht verneinen.
5. Die Beschwerde erweist sich damit als unbegründet und ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens trägt die Beschwerdeführerin die Gerichtskosten und hat keinen Anspruch auf eine Parteientschädigung (Art. 66 und 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdeführerin auferlegt.
3. Es werden keine Parteientschädigungen zugesprochen.
4. Dieses Urteil wird der Beschwerdeführerin, der Politischen Gemeinde St. Gallen, dem Baudepartement und dem Verwaltungsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 6. Oktober 2009
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Féraud Gerber