Sachverhalt:
A. Y._ und Z._ sind Eigentümer der Parzellen Nrn. 169 und 172 im Weiler Reggenschwil in der Gemeinde Mörschwil. Am 21. Oktober 2008 bewilligte der Gemeinderat von Mörschwil ihr Baugesuch für die Errichtung eines Mehrfamilienhauses mit sechs Wohnungen auf den in der Kernzone Höfe gelegenen Teilen der Parzellen Nrn. 169 und 172. Gleichzeitig wies er die Einsprachen gegen das Baugesuch, darunter diejenige von X._, ab.
Das Baudepartement des Kantons St. Gallen wies am 12. Juni 2009 den Rekurs von X._ gegen die während des Rekursverfahrens abgeänderte Baubewilligung - die übergrosse Kniestockhöhe wurde reduziert - ab.
Am 24. Februar 2010 wies das Verwaltungsgericht des Kantons St. Gallen die Beschwerde von X._ gegen diesen Departementsentscheid ab.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiärer Verfassungsbeschwerde beantragt X._, diesen Entscheid des Verwaltungsgerichts aufzuheben, das Baugesuch abzuweisen und die Baubewilligung aufzuheben. Ausserdem ersucht er, seiner Beschwerde aufschiebende Wirkung zuzuerkennen.
C. Am 20. Mai 2010 erkannte der Präsident der I. öffentlich-rechtlichen Abteilung der Beschwerde aufschiebende Wirkung zu.
D. Das Verwaltungsgericht, das Baudepartement, die Gemeinde Mörschwil sowie Y._ und Z._ beantragen in ihren Vernehmlassungen, die Beschwerde abzuweisen.
X._ hält in seiner Replik an der Beschwerde fest.
Erwägungen:
1. Gegen den angefochtenen, kantonal letztinstanzlichen Entscheid über eine Baubewilligung steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (Art. 82 ff. BGG). Mit ihr kann die Verletzung von Bundesrecht und damit auch von Bundesverfassungsrecht gerügt werden (Art. 95 BGG; BGE 133 II 249 E. 1.2.1); für die subsidiäre Verfassungsbeschwerde bleibt kein Raum. Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen, verfügt als unmittelbarer Nachbar über eine spezifische Beziehungsnähe zur Streitsache und könnte aus der Aufhebung oder Änderung des angefochtenen Entscheids einen praktischen Nutzen ziehen, z.B. wenn der aus seiner Sicht störende Neubau nicht bewilligt würde; er ist damit zur Beschwerde befugt (Art. 89 Abs. 1 BGG). Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Beschwerde einzutreten ist, soweit sie den (für Verfassungsrügen qualifizierten) gesetzlichen Begründungsanforderungen genügt (Art. 42 Abs. 2, Art. 106 Abs. 2 BGG; BGE 134 II 214 E. 2, 133 II 396 E. 3.2).
Nach Art. 109 Abs. 2 lit. a und 3 BGG entscheidet die Abteilung in Dreierbesetzung mit summarischer Begründung über eine offensichtlich unbegründete Beschwerde.
2. Der Beschwerdeführer rügt eine willkürliche Anwendung des kommunalen Baurechts sowie eine Verletzung seines rechtlichen Gehörs.
2.1 Nach den Regelbauvorschriften gemäss Art. 5 des Baureglementes der Gemeinde Mörschwil vom 23. Dezember 1994 (BauR) sind in der Kernzone Höfe 2 Vollgeschosse und ein Dachgeschoss zulässig. In Bezug auf das Untergeschoss wird unter dem Stichwort "Ausbau" vermerkt: "Für gewerbliche Zwecke gestattet". Für die maximale Gebäudehöhe und -länge sowie die Firsthöhe wird auf Art. 7 BauR verwiesen. Dieser ist mit "Kernzone" betitelt und lautet: "Die Bauten haben sich bezüglich Stellung, Gebäudehöhe, Gebäudelänge, Traufhöhe, Firsthöhe, Geschosszahl, Dachform, Dachgestaltung, Fassadengestaltung und Materialien dem Dorf-, Hof- und Strassenbild gut einzuordnen."
2.2 Das umstrittene Bauprojekt weist ein als Garage und Keller genutztes Untergeschoss, zwei Vollgeschosse und ein Dachgeschoss auf. Der Beschwerdeführer macht geltend, nach der klaren gesetzlichen Regelung sei ein Untergeschoss nur für gewerbliche Zwecke gestattet, weshalb die Zulassung eines als Garage und Keller dienenden Untergeschosses unhaltbar sei.
Für das Verwaltungsgericht erlaubt Art. 5 BauR in der Kernzone Höfe, Untergeschosse zu Gewerbezwecken zu nutzen (angefochtener Entscheid E. 3.1.3 S. 10 ff.). Es legt in sorgfältiger Auslegung, auch unter Bezugnahme auf das kantonale Baugesetz, dar, dass "Erstellung" und "Ausbau" nicht gleichbedeutend sind und Art. 5 BauR entgegen der Auffassung des Beschwerdeführers keineswegs so zu verstehen ist, dass in der Kernzone Höfe Untergeschosse nur zulässig sind, wenn sie gewerblichen Zwecken dienen, sondern dass es in dieser Zone zulässig ist, Untergeschosse gewerblich zu nutzen. Diese Auslegung ist, entgegen den Ausführungen des Beschwerdeführers, mit dem Wortlaut von Art. 5 BauR ohne Weiteres vereinbar und zudem naheliegend, da es sachlich kaum zu rechtfertigen wäre, in dieser Kernzone nur gewerbliche genutzte Untergeschosse zuzulassen. Von einer willkürlichen Auslegung von Art. 5 BauR kann jedenfalls keine Rede sein. Schlechterdings unerfindlich ist, inwiefern das Verwaltungsgericht die verfassungsrechtlich geschützte Autonomie der Gemeinde Mörschwil verletzt haben sollte, indem es deren Entscheid schützte. Der Beschwerdeführer begründet diese Rüge denn auch nicht in einer den gesetzlichen Anforderungen genügenden Weise, weshalb darauf nicht einzutreten ist.
2.3 Der Beschwerdeführer rügt, das Verwaltungsgericht hätte bei der Prüfung der korrekten Anwendung der in Art. 7 BauR enthaltenen positiven Ästhetikklausel nicht einfach die Argumentation der Vorinstanzen und Behörden übernehmen dürfen, sondern wäre verpflichtet gewesen, sich damit vertieft auseinanderzusetzen. Dazu hätte die Durchführung eines Augenscheins gehört. Das Verwaltungsgericht habe daher seinen in Art. 29 Abs. 2 BV verankerten Anspruch auf rechtliches Gehör verletzt, indem es seinen Antrag auf Durchführung eines solchen ablehnte.
Das Verwaltungsgericht hat im angefochtenen Entscheid nachvollziehbar begründet, weshalb es auf einen Augenschein verzichtete (E. 2 S. 7. f.). Der Beschwerdeführer setzt sich damit nicht auseinander und verletzt damit seine Begründungspflicht. Auf die Gehörsverweigerungsrüge ist nicht einzutreten.
3. Die Beschwerde erweist sich somit als offensichtlich unbegründet und ist im Verfahren nach Art. 109 Abs. 2 lit. a BGG abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, der Politischen Gemeinde Mörschwil, dem Baudepartement des Kantons St. Gallen und dem Verwaltungsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 26. August 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Störi