Sachverhalt:
A. Am 1. März 2007 reichten Y._ und Z._ der Baukommission der Gemeinde Metzerlen-Mariastein ein Baugesuch für ein Einfamilienhaus auf der Parzelle Nr. 2136 ein. X._, wohnhaft auf der benachbarten Parzelle Nr. 1486, erhob gegen das Vorhaben Einsprache bei der Baukommission. Gegen deren Entscheid legte er beim Bau- und Justizdepartement und schliesslich beim Verwaltungsgericht des Kantons Solothurn Rechtsmittel ein. Das Verwaltungsgericht hiess die Beschwerde gut und hob die Baubewilligung auf.
In der Folge wurde am 13. Dezember 2007 ein überarbeitetes Baugesuch öffentlich aufgelegt. Wiederum erhob X._ Einsprache. Mit Entscheid vom 9. Februar 2008 hiess die kommunale Baukommission die Einsprache teilweise gut. Sie erteilte die Baubewilligung, verband sie indessen mit verschiedenen Auflagen. Eine dagegen gerichtete Verwaltungsbeschwerde wies das kantonale Bau- und Justizdepartement mit Entscheid vom 21. Juli 2008 ab. Darauf erhob X._ Verwaltungsgerichtsbeschwerde. Das Verwaltungsgericht des Kantons Solothurn wies das Rechtsmittel mit Urteil vom 25. September 2008 ab, soweit es darauf eintrat.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht vom 29. Oktober 2008 beantragt X._ in erster Linie, der Entscheid des Verwaltungsgerichts sei aufzuheben.
Die Baukommission beantragt in ihrer Vernehmlassung die Abweisung der Beschwerde. Y._ und Z._ als Beschwerdegegner, das Bau- und Justizdepartement sowie das Verwaltungsgericht schliessen auf Abweisung der Beschwerde, soweit darauf einzutreten ist. Das Bundesamt für Umwelt (BAFU) untersucht in seiner Vernehmlassung das Bauvorhaben auf die Einhaltung der Lärmschutzvorschriften hin und stellt fest, die massgebenden Bestimmungen des Umweltschutzrechts des Bundes seien eingehalten worden. Mit Schreiben vom 31. Januar 2009 reichte der Beschwerdeführer dem Bundesgericht unaufgefordert eine weitere Stellungnahme ein.
Mit Präsidialverfügung vom 21. November 2008 wurde das mit der Beschwerde verbundene Gesuch um aufschiebende Wirkung im bundesgerichtlichen Verfahren abgewiesen.
Erwägungen:
1. 1.1 Dem angefochtenen Urteil des Verwaltungsgerichts liegt ein Beschwerdeverfahren über eine baurechtliche Bewilligung zu Grunde. Nach Art. 34 Abs. 1 RPG (SR 700) gelten für die Rechtsmittel an die Bundesbehörden die allgemeinen Bestimmungen über die Bundesrechtspflege. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach Art. 82 lit. a BGG steht auf dem Gebiet des Raumplanungs- und Baurechts zur Verfügung. Das Bundesgerichtsgesetz enthält keinen Ausschlussgrund (Art. 83 BGG). Angefochten ist ein Entscheid einer letzten kantonalen Instanz (Art. 86 Abs. 1 lit. d BGG). Unter dem Vorbehalt der im Folgenden darzulegenden Voraussetzungen der Beschwerdelegitimation (Art. 89 Abs. 1 BGG) und der hinreichend begründeten Rügen (Art. 42 Abs. 2 und 106 Abs. 2 BGG) ist auf die Beschwerde einzutreten.
1.2 Art. 89 Abs. 1 BGG verankert drei Voraussetzungen für die Legitimation zur Beschwerde in öffentlich-rechtlichen Angelegenheiten. Der Beschwerdeführer muss vor der Vorinstanz am Verfahren teilgenommen oder dazu keine Möglichkeit erhalten haben (lit. a). Er muss durch den angefochtenen Entscheid oder Erlass besonders berührt sein (lit. b) und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung haben (lit. c). Die von lit. b geforderte Nähe der Beziehung zum Streitgegenstand muss bei Bauprojekten insbesondere in räumlicher Hinsicht gegeben sein. Ein schutzwürdiges Interesse im Sinne von lit. c liegt vor, wenn die tatsächliche oder rechtliche Situation des Beschwerdeführers durch den Ausgang des Verfahrens beeinflusst werden kann. Dies bedeutet, dass der Beschwerdeführer nur die Überprüfung des Bauvorhabens im Lichte jener Rechtssätze verlangen kann, die sich rechtlich oder tatsächlich auf seine Stellung auswirken. Dieses Erfordernis trifft beispielsweise nicht zu bei Normen über die innere Ausgestaltung der Baute auf dem Nachbargrundstück, die keinerlei Auswirkungen auf die Situation des Beschwerdeführers haben. In jedem Fall kann aber der Beschwerdeführer die Verletzung von Parteirechten rügen, deren Missachtung auf eine formelle Rechtsverweigerung hinausläuft (BGE 133 II 249 E. 1.3.1 und 1.3.2 S. 252 f. mit Hinweisen).
Der Beschwerdeführer hat vor der Vorinstanz am Verfahren teilgenommen. Er ist als direkter Nachbar durch den angefochtenen Entscheid besonders berührt. Ob ein schutzwürdiges eigenes Interesse des Beschwerdeführers besteht, ist vorliegend zumindest bezüglich jener Rügen zu bejahen, welche hinreichend begründet wurden (Art. 42 Abs. 2 und 106 Abs. 2 BGG). Im Übrigen kann die Frage offen gelassen werden.
1.3 Nach Art. 42 Abs. 2 BGG ist in der Begründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Dies setzt voraus, dass sich der Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheids auseinandersetzt. Zwar wendet das Bundesgericht das Recht grundsätzlich von Amtes wegen an (Art. 106 Abs. 1 BGG). Das setzt aber voraus, dass auf die Beschwerde überhaupt eingetreten werden kann, diese also wenigstens die Begründungsanforderungen von Art. 42 Abs. 2 BGG erfüllt.
Strengere Anforderungen gelten, wenn die Verletzung von Grundrechten (einschliesslich der willkürlichen Anwendung von kantonalem Recht und Willkür bei der Sachverhaltsfeststellung) geltend gemacht wird. Dies prüft das Bundesgericht nicht von Amtes wegen, sondern nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Für derartige Rügen gelten die gleichen Begründungsanforderungen, wie sie gestützt auf Art. 90 Abs. 1 lit. b OG für die staatsrechtliche Beschwerde gegolten haben. Die Beschwerdeschrift muss die wesentlichen Tatsachen und eine kurz gefasste Darlegung darüber enthalten, welche verfassungsmässigen Rechte bzw. welche Rechtssätze inwiefern durch den angefochtenen Erlass oder Entscheid verletzt worden sind. Das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen. Auf rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein. Wird eine Verletzung des Willkürverbots geltend gemacht, muss anhand der angefochtenen Subsumtion im Einzelnen dargelegt werden, inwiefern der Entscheid an einem qualifizierten und offensichtlichen Mangel leidet (BGE 134 II 244 E. 2.1 und 2.2 S. 245 f. mit Hinweisen).
1.4 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Die Behebung des Mangels muss für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substanziiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 97 Abs. 1 bzw. Art. 105 Abs. 2 BGG gegeben sind. Der Beschwerdeführer kann sich dabei nicht damit begnügen, den bestrittenen Feststellungen eigene tatsächliche Behauptungen gegenüberzustellen oder darzulegen, wie die Beweise seiner Ansicht nach zu würdigen gewesen wären. Vielmehr hat er klar und substanziiert aufzuzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (BGE 133 III 462 E. 2.4 S. 466 f. mit Hinweis).
Der Beschwerdeführer beschreibt den Sachverhalt aus eigener Sicht. Die Ausführungen der Vorinstanz hält er für ungenügend bzw. falsch. Da er indessen nicht darlegt, inwiefern die tatsächlichen Feststellungen im angefochtenen Entscheid offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen, ist auf das Vorbringen nicht einzutreten.
1.5 Der Beschwerdeführer rügt eine Verletzung des Anspruchs auf rechtliches Gehör (Art. 29 Abs. 2 BV). Es sei ihm im Einspracheverfahren verweigert worden, Kopien der Verfahrensakten zu erstellen. Das Verwaltungsgericht habe ihm zwar die Akten schliesslich zugesandt, doch seien diese nicht komplett gewesen und hätten zudem von ihm nicht "fristengleich" bearbeitet werden können. Deshalb sei auch die Rechtsgleichheit verletzt (Art. 8 BV).
Die Vorinstanz führt in dieser Hinsicht aus, der Einsprecher habe keinen Anspruch darauf, sich Kopien der Akten für das Heimstudium anfertigen zu lassen. Es habe ihm die Originalakten zur Einsichtnahme angeboten und Kopien davon zugestellt. Mit seiner Forderung nach weiteren Unterlagen mache er öffentliche Interessen geltend. Dazu sei er nicht legitimiert.
Der Beschwerdeführer setzt sich mit den Ausführungen der Vorinstanz nicht auseinander (vgl. Art. 42 Abs. 2 und 106 Abs. 2 BGG). Auf seine Rüge ist deshalb nicht einzutreten.
1.6 In seiner Beschwerde vom 2. August 2008 an das Verwaltungsgericht verlangte der Beschwerdeführer, die Auflage einer Bauherrenhaftpflichtversicherung mit zusätzlicher Deckung von geotechnischen Schäden sei wieder vollumfänglich herzustellen. Die Vorinstanz stellt diesbezüglich fest, die Versicherungspolice befinde sich bei den Akten. Normalerweise genüge eine Bauversicherung der Gebäudeversicherung. Als Auflage sei zusätzlich verfügt worden, dass die Empfehlungen umzusetzen seien, welche die A._ AG im Rahmen ihrer Bauuntersuchung abgegeben habe.
Vor Bundesgericht rügt der Beschwerdeführer, es werde im aktuellen Baubewilligungsverfahren eine Bauherrenhaftpflichtversicherung ohne Deckung von geotechnischen Schäden zugelassen. Gegenüber der ersten Baubewilligung vom 30. Mai 2007 stelle dies eine Einschränkung dar, die willkürlich sei.
Nach der ständigen Praxis des Bundesgerichts liegt Willkür in der Rechtsanwendung vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist; dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (BGE 132 III 209 E. 2.1 S. 211; 131 I 467 E. 3.1 S. 473 f.; je mit Hinweisen).
Der Beschwerdeführer zeigt nicht auf, inwiefern der angefochtene Entscheid in diesem Sinne willkürlich sein soll. Weder geht er auf die Erwägungen der Vorinstanz ein noch führt er aus, auf welche Bestimmung des kantonalen Rechts er sein Vorbringen stützt. Mit dem blossen Hinweis darauf, dass die aufgehobene Baubewilligung vom 30. Mai 2007 eine weitergehende Auflage enthalten habe, kommt er seiner qualifizierten Begründungspflicht gemäss Art. 106 Abs. 2 BGG nicht nach. Auf die Rüge ist deshalb nicht einzutreten.
2. 2.1 Nach Ansicht des Beschwerdeführers wurde das Baugespann nicht korrekt aufgestellt. Um die künftige Gestalt von Haus und Unterstand korrekt abzubilden, wären seiner Ansicht nach acht Eckstangen notwendig gewesen. Auf dem Foto der Baukommission seien indessen nur deren sieben zu sehen. Auch die Terrainauffüllungen seien nicht dargestellt worden. Der Beschwerdeführer erblickt darin eine Grundrechtsverletzung, insbesondere eine willkürliche Anwendung von § 7 Abs. 1 der kantonalen Bauverordnung vom 3. Juli 1978 (BGS 711.61).
2.2 2.2.1 § 7 Abs. 1 der kantonalen Bauverordnung hat folgenden Wortlaut:
Bei Neubauten, An- und Aufbauten sowie Terrainauffüllungen ist im Zeitpunkt der Einreichung des Baugesuches ein Baugespann zu errichten, durch welches die künftige Gestalt und räumliche Ausdehnung des Baues sowie der Terrainauffüllungen dargestellt werden. Das Niveau des Erdgeschosses muss aus dem Baugespann ersichtlich sein.
Das Verwaltungsgericht sah diese Bestimmung als nicht verletzt an. Es ist zu prüfen, ob es dabei § 7 Abs. 1 der kantonalen Bauverordnung willkürlich ausgelegt hat.
2.2.2 Die Errichtung eines Baugespanns soll das Bauvorhaben veranschaulichen. Das Baugespann gibt dem Nachbarn einen Hinweis auf mögliche Beeinträchtigungen durch die Baute. Dieser darf sich darauf verlassen, dass die wesentlichen Abmessungen ersichtlich sind. Über den exakten Umfang der Baute und der Terrainveränderungen kann sich der Nachbar dagegen mit Hilfe der öffentlich aufliegenden Pläne orientieren (vgl. § 8 der kantonalen Bauverordnung).
Das strittige Bauprojekt besteht aus einem Wohnhaus und einem Unterstand. Der Unterstand soll an das Wohnhaus herangebaut werden. Dabei überragt er eine Ecke des Wohnhauses um einen halben Meter. Auf dem Foto der Baukommission ist ersichtlich, dass in diesem Bereich die vierte Ecke des Unterstands nicht ausgesteckt wurde. Indessen ist aufgrund der Anordnung der drei Holzlatten, welche die übrigen Ecken markieren, und der an diesen angebrachten Winkeln ohne Weiteres ersichtlich, wo die fehlende Holzlatte stehen sollte.
Anders verhält es sich mit den Terrainauffüllungen. Das erwähnte Foto lässt diesbezüglich keine Markierungen erkennen. Indessen fragt es sich, ob die fehlerhafte Profilierung auch dann zu einer Aufhebung des angefochtenen Entscheids führt, wenn der Mangel sich nicht nachteilig auf die Rechts- und Interessenwahrnehmung des Nachbarn ausgewirkt hat. Im vorliegenden Fall erlaubt es das Baugespann, sich ein Bild von den wesentlichen räumlichen Ausdehnungen des Bauprojekts zu machen. Die geplante Terrainauffüllung ist von eher geringem Ausmass. Sie überschreitet nach den Plänen nur an einer Stelle die Höhe von 1 m.
Es ist nicht ersichtlich und wird vom Beschwerdeführer auch nicht geltend gemacht, dass er durch die ungenügende Profilierung in seiner Interessenwahrnehmung beeinträchtigt worden ist. Eine Aufhebung des angefochtenen Entscheids und die damit verbundene Notwendigkeit der erneuten Aussteckung erschiene als formalistischer Leerlauf (vgl. BGE 133 I 201 E. 2.2 S. 204 f. mit Hinweisen). Auch wenn die Aussage der Vorinstanz, das Foto des Baugespanns mute korrekt an, kaum nachvollziehbar ist, so erweist sich aus den genannten Gründen deren Entscheid im Ergebnis nicht als geradezu unhaltbar.
Die Rüge der willkürlichen Anwendung von § 7 Abs. 1 der kantonalen Bauverordnung ist deshalb abzuweisen. Der Beschwerdeführer macht in diesem Zusammenhang weitere Grundrechtsverletzungen geltend, welche er jedoch nicht weiter begründet. Darauf ist nicht einzutreten (Art. 42 Abs. 2 und 106 Abs. 2 BGG).
3. 3.1 Der Beschwerdeführer rügt, in der Baubewilligung vom 9. Februar 2008 werde bezüglich der Schallschutzmassnahmen für die Wärmepumpe pauschal auf die Empfehlungen des Amts für Umwelt des Kantons Solothurn verwiesen. Erforderlich sei, konkrete Massnahmen anzuordnen, welche die Vorgaben der Lärmschutz-Verordnung vom 15. Dezember 1986 (LSV; SR 814.41) erfüllten. Schliesslich sei die der Lärmbelastung zugrunde gelegte Distanz falsch. Statt 6 m seien es 5.75 m.
Die Baukommission erklärte die vom Amt für Umwelt mit Schreiben vom 7. Februar 2008 empfohlenen Schallschutzmassnahmen für die Wärmepumpe zum Bestandteil der Baubewilligung. Das Amt für Umwelt hatte rechnerisch die Einhaltung des für die Nachtzeit geltenden Planungswerts überprüft und eine Überschreitung festgestellt. Es empfahl, entweder einen Schalldämpfer am Ausblaskanal anzubringen oder eine leisere Wärmepumpe einzubauen. Beide Massnahmen werden im Schreiben näher ausgeführt.
3.2 Der Beschwerdeführer legt nicht dar, weshalb die der Belastungsgrenzwertberechnung zugrunde gelegte Distanz falsch sein soll. Darauf ist nicht einzutreten (Art. 42 Abs. 2 BGG).
3.3 In Bezug auf die in die Baubewilligung übernommenen Empfehlungen des Amts für Umwelt ist Art. 7 Abs. 1 LSV zu beachten. Danach sind die Lärmemissionen einer neuen ortsfesten Anlage nach den Anordnungen der Vollzugsbehörde so weit zu begrenzen, als dies technisch und betrieblich möglich sowie wirtschaftlich tragbar ist (lit. a; vgl. auch Art. 11 Abs. 2 USG [SR 814.01]) und dass die von der Anlage allein erzeugten Lärmimmissionen die Planungswerte nicht überschreiten (lit. b; vgl. auch Art. 23 USG). Im Bereich des Lärmschutzes gelten somit die Voraussetzungen der Einhaltung der Planungswerte und der vorsorglichen Emissionsbegrenzung kumulativ. Auch wenn ein Projekt die Planungswerte einhält, ist deshalb anhand der in Art. 11 Abs. 2 USG und Art. 7 Abs. 1 lit. a LSV genannten Kriterien zu prüfen, ob das Vorsorgeprinzip weitergehende Beschränkungen erfordert (BGE 124 II 517 E. 4b S. 521 f. mit Hinweisen). Daraus folgt, dass sich die Baubewilligungsbehörde nicht darauf beschränken darf, dem Baugesuchsteller die Auswahl zwischen verschiedenen, die Planungswerte einhaltenden Projektvarianten zu gewähren. Vielmehr hat sie sich für jene Massnahme zu entscheiden, welche im Rahmen des Vorsorgeprinzips und des Verhältnismässigkeitsprinzips (Art. 5 Abs. 2 BV) den besten Lärmschutz gewährleistet. Dies kann auch dazu führen, dass verschiedene Lärmschutzmassnahmen kumulativ anzuordnen sind. Vorliegend käme etwa die Kombination einer leiseren Wärmepumpe mit einem Schalldämpfer am Ausblaskanal in Betracht.
Die Rüge des Beschwerdeführers erweist sich als begründet. Die Beschwerde ist in diesem Punkt gutzuheissen und die Sache an die Baukommission zurückzuweisen, welche im Sinne der vorangehenden Erwägung einen neuen Entscheid zu treffen hat (Art. 107 Abs. 2 BGG).
4. 4.1 Sinngemäss macht der Beschwerdeführer eine willkürliche Anwendung der Brandschutzrichtlinie "Schutzabstände, Brandabschnitte" von 2003 geltend, welche von § 50 Abs. 1 Ziff. 6 der Verordnung des Kantons Solothurn zum Gebäudeversicherungsgesetz vom 13. Januar 1987 (BGS 618.112) für verbindlich erklärt wird. Gemäss Ziff. 2.4.1 lit. a dieser Richtlinie beträgt der Schutzabstand zwischen Einfamilienhäusern 7 m, wenn beide benachbarten Aussenwände eine brennbare äusserste Schicht aufweisen. Vorliegend wird dieser Wert nach Ansicht des Beschwerdeführers um 1.45 m unterschritten. Eine Ausnahme gemäss Ziff. 2.3 Abs. 4 der Richtlinie bestehe nicht. Nach dieser Bestimmung sind für den Fall, dass baurechtlich erforderliche Abstände als Schutzabstände nicht genügen, aber nicht vergrössert werden können, Massnahmen zu treffen, die einen Brandübergriff verhindern. Der Beschwerdeführer macht geltend, es handle sich beim strittigen Bauvorhaben um einen Neubau, der sowohl anders platziert als auch verkleinert werden könne. Die Voraussetzung für eine Ausnahme von einem Schutzabstand von 7 m sei deshalb nicht erfüllt.
Im angefochtenen Entscheid wird ausgeführt, dass es nicht Sache des Nachbarn sei, die brandschutzrechtlichen Eigenschaften der Fassade zu prüfen. Dasselbe gelte für die Auflagen der Gebäudeversicherung.
4.2 In der Baubewilligung vom 9. Februar 2008 wird verfügt, die Stellungnahmen der Solothurnischen Gebäudeversicherung vom 29. März 2007 und vom 5. April 2007 seien Bestandteil der Baubewilligung. Die beiden Dokumente beschränken sich in Bezug auf die vorliegende Frage darauf, das Projekt ohne Korrektur zu genehmigen und gleichzeitig auf die Notwendigkeit hinzuweisen, einzeln aufgeführte Brandschutzauflagen zu erfüllen. Hinsichtlich der Schutzabstände bestehen diese Vorgaben jedoch lediglich aus einer teils sinngemässen Wiedergabe von Ziff. 2.3 Abs. 4 und Ziff. 2.4.1 der erwähnten Brandschutzrichtlinie und einer beispielhaften Aufzählung einiger als geeignet erachteter Massnahmen im Sinne der erstgenannten Bestimmung. Eine Anwendung der relevanten Normen auf den konkreten Fall fehlt. Von einer Auflage im Sinne einer konkreten, vollstreckbaren Anordnung kann nicht gesprochen werden. Da es nicht Sache des Bundesgerichts ist, dieses Versäumnis nachzuholen, ist das Urteil des Verwaltungsgerichts aufzuheben und die Sache zu neuem Entscheid an die Baukommission zurückzuweisen (Art. 107 Abs. 2 BGG; vgl. auch BGE 130 I 16 E. 5.4 S. 25).
5. 5.1 Der Beschwerdeführer fordert, es sei gemäss § 5 der kantonalen Bauverordnung eine Beschattungsstudie durchzuführen. Der Entzug von Licht und Sonne durch die geplante Baute führe zu einer Verletzung von Art. 684 ZGB. Die Vorinstanz hält dem entgegen, der Entzug von Licht und Sonne werde bereits durch die Abstandsvorschriften verhindert.
5.2 Gemäss § 5 Abs. 2 der kantonalen Bauverordnung kann die Baubehörde auf Kosten des Bauherrn zusätzliche Unterlagen verlangen, wozu beispielsweise auch Studien über die Beschattung nachbarlicher Liegenschaften gehören. Der Beschwerdeführer legt nicht dar, inwiefern diese Bestimmung willkürlich angewendet worden sein soll (Art. 42 Abs. 2 und 106 Abs. 2 BGG). Auf die Rüge ist nicht einzutreten.
5.3 In Bezug auf die Rüge der Verletzung von Art. 684 ZGB ist der Vorbehalt von Art. 686 ZGB zu beachten. Danach sind die Kantone befugt, die Abstände festzusetzen, die bei Grabungen und Bauten zu beobachten sind (Abs. 1). Auch bleibt ihnen vorbehalten, weitere Bauvorschriften aufzustellen (Abs. 2). Während früher die meisten Kantone von dieser Gesetzgebungskompetenz Gebrauch gemacht und in ihren Einführungsgesetzen zum ZGB Abstands- und weitere Bauvorschriften als kantonales Privatrecht erlassen haben, hat seither das kantonale öffentlich-rechtliche Baurecht diese Vorschriften weitestgehend verdrängt (BGE 129 III 161 E. 2.4 S. 164 mit Hinweisen). Dies warf die Frage nach dem Verhältnis zwischen Art. 684 ZGB und dem öffentlichen Baurecht auf. Bereits vor Ergehen des zitierten Bundesgerichtsentscheids war in der Rechtsprechung anerkannt, dass das öffentliche Baurecht einerseits ein Indiz für den Ortsgebrauch im Sinne von Art. 684 Abs. 2 ZGB darstellt und dass andererseits im Sinne der Einheit der Rechtsordnung Bundeszivilrecht und kantonales öffentliches Recht harmonisierend auszulegen sind. In Weiterführung dieser Rechtsprechung entschied das Bundesgericht, dass der privatrechtliche Immissionsschutz insoweit hinter das öffentliche Baurecht zurückzutreten habe, als man es mit detaillierten Zonenordnungen und Baureglementen zu tun habe. Nur diese vermöchten der übergeordneten Zielsetzung der Raumplanung (vgl. Art. 1 RPG) und dabei insbesondere dem Grundsatz der rationalen, das ganze Siedlungsgebiet umfassenden Planung (vgl. Art. 3 RPG) zu genügen. Werde daher das Vorliegen einer übermässigen Einwirkung im Sinne von Art. 684 ZGB mit dem Argument verneint, das Bauvorhaben entspreche den massgebenden öffentlich-rechtlichen (Bauabstands-)Normen, und handle es sich dabei um Vorschriften, die im Rahmen einer detaillierten, den Zielen und Planungsgrundsätzen des Raumplanungsrechts entsprechenden Bau- und Zonenordnung erlassen worden seien, bedeute das in aller Regel keine Vereitelung von Bundesrecht (BGE 129 III 161 E. 2.6 S. 165 f. mit Hinweisen).
Vor diesem Hintergrund verletzte das Verwaltungsgericht kein Bundesrecht, indem es eine übermässige Einwirkung im Sinne von Art. 684 ZGB mit dem Verweis auf die öffentlich-rechtlichen Abstandsvorschriften verneinte. Die Grenz- und Gebäudeabstände werden im Kanton Solothurn in §§ 22 ff. der kantonalen Bauverordnung geregelt. Der Beschwerdeführer behauptet nicht, sie seien vorliegend nicht eingehalten worden. Die Rüge der Verletzung von Art. 684 ZGB wegen Entzugs von Licht und Sonne erweist sich demnach als unbegründet.
6. Zusammenfassend ergibt sich, dass die Beschwerde teilweise gutzuheissen ist (E. 3 und 4 hiervor). Der angefochtene Entscheid ist aufzuheben und die Sache zur neuen Beurteilung im Sinne der Erwägungen an die Baukommission der Gemeinde Metzerlen-Mariastein zurückzuweisen. Es obliegt dem Verwaltungsgericht, die Kosten- und Entschädigungsfolgen für das vorangegangene Verfahren neu zu regeln, weshalb die Angelegenheit diesbezüglich an die Vorinstanz zurückzuweisen ist (Art. 107 Abs. 2 BGG). Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
Bei diesem Ausgang des Verfahrens tragen der Beschwerdeführer und die Beschwerdegegner die Gerichtskosten im Umfang ihres Unterliegens (Art. 66 Abs. 1 und 4 BGG). Weder die nicht anwaltlich vertretenen Parteien noch die Gemeinde Metzerlen-Mariastein, die in ihrem amtlichen Wirkungskreis gehandelt hat, haben Anspruch auf eine Parteientschädigung (Art. 68 Abs. 1-3 BGG; BGE 133 III 439 E. 4 S. 446 mit Hinweis).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen. Der angefochtene Entscheid wird aufgehoben und die Angelegenheit zur neuen Beurteilung im Sinne der Erwägungen an die Baukommission der Gemeinde Metzerlen-Mariastein zurückgewiesen.
Die Angelegenheit wird zur neuen Beurteilung der Kosten- und Entschädigungsfolgen an das Verwaltungsgericht des Kantons Solothurn zurückgewiesen.
Im Übrigen wird die Beschwerde abgewiesen, soweit darauf eingetreten wird.
2. Die Gerichtskosten von Fr. 3'000.-- werden im Umfang von Fr. 2'000.-- dem Beschwerdeführer, im Umfang von Fr. 1'000.-- den Beschwerdegegnern auferlegt.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird den Parteien, der Gemeinde Metzerlen-Mariastein, Baukommission, dem Bau- und Justizdepartement sowie dem Verwaltungsgericht des Kantons Solothurn und dem Bundesamt für Umwelt schriftlich mitgeteilt.
Lausanne, 12. Mai 2009
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Dold