Sachverhalt:
A. X._ war seit dem 15. April 1985 bei der Eidgenössischen Materialprüfungs- und Versuchsanstalt für Industrie, Bauwesen und Gewerbe (EMPA) als technischer Fachspezialist (Ing. HTL) in der Gruppe Brandlabor tätig. Mit Verfügung vom 13. Juni 2006 kündigte die EMPA den Arbeitsvertrag auf den 31. Dezember 2006, stellte X._ frei und entzog einer allfälligen Beschwerde die aufschiebende Wirkung. Grund für diese Massnahmen war ein seit Mitte 1999 schwelender Konflikt zwischen X._ und einem weiteren Mitarbeiter der EMPA (A._), welchem deswegen ebenfalls gekündigt wurde.
Im Juli 2006 reichte X._ gegen die Kündigung Einsprache bei der Direktion der EMPA sowie Beschwerde bei der Beschwerdekommission der Eidgenössischen Technischen Hochschule (ETH-Beschwerdekommission) ein. Er beantragte die Aufhebung der Kündigung und die Fortführung des Arbeitsverhältnisses. Eventualiter verlangte er, es sei ihm entweder eine andere zumutbare Stelle anzubieten oder eine Entschädigung in der Höhe von mindestens zwei Jahreslöhnen auszurichten.
Die EMPA ihrerseits beantragte bei der ETH-Beschwerdekommission die Feststellung der Gültigkeit der ausgesprochenen Kündigung und die Abweisung der Beschwerde.
Mit Präsidialverfügung vom 29. Dezember 2006 stellte die ETH-Beschwerdekommission die aufschiebende Beschwerdewirkung wieder her und wies die EMPA an, X._ bis zum Verfahrensabschluss den Lohn auszurichten. Gleichzeitig bestätigte sie dessen Freistellung. Eine von der EMPA dagegen erhobene Beschwerde wies das Bundesverwaltungsgericht mit Urteil vom 29. März 2007 ab.
Mit Verfügung vom 3. Juli 2007 wies die ETH-Beschwerdekommission den Antrag der EMPA auf Feststellung der Gültigkeit der Kündigung ab (Ziff. 1), hielt im Dispositiv fest, dass die Lohnfortzahlungspflicht mit Eintritt der Rechtskraft des vorliegenden Urteils ende (Ziff. 2), verpflichtete die EMPA, X._ eine Abgangsentschädigung von 24 Monatslöhnen, abzüglich des bezahlten Lohnes ab dem 1. Januar 2007, auszurichten (Ziff. 3) sowie eine Parteientschädigung von CHF 22'761.-- zu bezahlen (Ziff. 5).
X._ beschwerte sich in der Folge gegen die Verfügung der ETH-Beschwerdekommission beim Bundesverwaltungsgericht. Er beantragte die Ergänzung der angefochtenen Verfügung dahingehend, dass die EMPA zu verpflichten sei, ihm die bisherige oder eine andere zumutbare Stelle anzubieten; im ersten Fall unter Anrechnung der Entschädigung, im letzteren ohne Anrechnung der Entschädigung. In verfahrensmässiger Hinsicht beantragte er, während des Verfahrens sei die Freistellung aufzuheben, und es sei ihm die frühere oder eine andere zumutbare Arbeit zuzuweisen.
Die EMPA erhob gegen die Verfügung der ETH-Beschwerdekommission ebenfalls Beschwerde beim Bundesverwaltungsgericht und beantragte die Aufhebung der Ziffern 1, 2, 3 und 5 der angefochtenen Verfügung. Des Weitern sei festzustellen, dass die erfolgte Kündigung des Arbeitsvertrages gültig erfolgt sei. Evenualiter sei sie zu verpflichten, X._ eine Abgangsentschädigung von 12 Monatslöhnen zu bezahlen, gegen Verrechnung des Bruttolohnes ab dem 1. Januar 2007.
Das Bundesverwaltungsgericht vereinigte die Verfahren unmittelbar nach Eingang der Beschwerden.
Mit Zwischenentscheid vom 3. Oktober 2007 wies das Bundesverwaltungsgericht das Gesuch um Aufhebung der Freistellung während des Beschwerdeverfahrens ab.
Mit Urteil vom 11. April 2008 hiess das Bundesverwaltungsgericht die Beschwerde der EMPA gut und hob den Entscheid der ETH-Beschwerdekommission vom 3. Juli 2007 auf. Dagegen wies es die Beschwerde von X._ ab und wies die Streitsache zur Festsetzung der Parteientschädigung für das vorinstanzliche Verfahren an die ETH-Beschwerdekommission zurück. Zur Begründung führte das Bundesverwaltungsgericht im Wesentlichen aus, X._ habe die Aufträge nicht immer selbständig abgewickelt, wiederholt seinen fehlenden Willen zur Zusammenarbeit kundgetan und mehrfach gegen die ihm im Rahmen eines Disziplinarverfahrens aufgetragenen Verhaltensregeln gegenüber einem Mitarbeiter, A._, verstossen. Ausserdem habe er die Arbeitsziele nicht mehr erreicht, den Betriebsablauf gestört und das Vertrauensverhältnis zu seinen Vorgesetzten erschüttert. Nach Ansicht des Bundesverwaltungsgerichts hätten genügend Gründe für eine Kündigung wegen Mängeln in der Leistung und im Verhalten vorgelegen. Vor dem Aussprechen der Kündigung sei X._ rechtsgenüglich verwarnt worden. Die Kündigung sei demnach rechtmässig erfolgt.
B. X._ hat gegen das Urteil des Bundesverwaltungsgerichts beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten erhoben. Neben der Aufhebung des angefochtenen Entscheids beantragt er, die EMPA sei zu verpflichten, ihm die bisherige oder eine andere zumutbare Arbeit anzubieten. Im Übrigen sei der Entscheid der ETH-Beschwerdekommission zu bestätigen. Allenfalls sei die Angelegenheit zur Neuentscheidung an das Bundesverwaltungsgericht zurückzuweisen. Eventualiter sei festzustellen, dass die Kündigung widerrechtlich bzw. nichtig bzw. missbräuchlich sei, und die Sache an die Vorinstanz zurückzuweisen; alles unter Kosten- und Entschädigungsfolgen. Ferner ersucht der Beschwerdeführer um Erteilung der aufschiebenden Beschwerdewirkung sowie darum, dass für die Dauer des Verfahrens der bisherige Zustand - Anstellung bei der EMPA mit Freistellung - angeordnet und eventuell die EMPA verpflichtet werde, ihn sofort und vorsorglicherweise einzustellen.
C. Die EMPA ersucht um Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Die ETH-Beschwerdekommission schliesst unter Verweis auf ihren in der Sache ergangenen Entscheid auf Gutheissung der Beschwerde. Das Bundesverwaltungsgericht hat auf Vernehmlassung zur Beschwerde verzichtet. Der Beschwerdeführer hat unter Aufrechterhaltung seiner Anträge repliziert. Das Bundesverwaltungsgericht hat zur Replik Stellung genommen und beantragt Beschwerdeabweisung. Die EMPA hat unter Aufrechterhaltung ihrer Anträge dupliziert. Ferner ersucht sie darum, dass die beim Bundesgericht eingereichte Vernehmlassung der ETH-Beschwerdekommission aus dem Recht gewiesen werde. Diese hat auf die Einreichung einer Duplik verzichtet.
D. Mit Verfügung vom 23. Juni 2008 wies der Präsident der I. öffentlich-rechtlichen Abteilung des Bundesgerichts das Gesuch um aufschiebende Beschwerdewirkung bzw. um Erlass einer anderen vorsorglichen Massnahme ab.
Erwägungen:
1. 1.1 Das angefochtene Urteil des Bundesverwaltungsgerichts betrifft ein öffentlich-rechtliches Arbeitsverhältnis, d.h. eine öffentlich-rechtliche Angelegenheit (Art. 82 lit. a BGG). Mit dem Begehren, die EMPA sei zu verpflichten, dem Beschwerdeführer die bisherige oder eine andere zumutbare Stelle anzubieten, sind zukünftige Lohnforderungen verbunden, weshalb es sich um eine vermögensrechtliche Sache handelt und ein Ausschlussgrund nicht vorliegt (Art. 83 lit. g BGG). Das Streitwerterfordernis von 15'000 Franken ist erfüllt (Art. 51 Abs. 1 lit. a, Art. 85 Abs. 1 lit. b BGG). Die Beschwerde ist damit - unter Vorbehalt rechtsgenüglich begründeter Rügen - zulässig.
1.2 Beruht der angefochtene Entscheid auf mehreren selbständigen Begründungen, die je für sich den Ausgang des Rechtsstreits besiegeln, so verlangt die bundesgerichtliche Rechtsprechung zu Art. 42 Abs. 2 BGG, dass der Beschwerdeführer darlegt, inwiefern jede von ihnen Recht verletzt. Andernfalls kann auf die Beschwerde nicht eingetreten werden (BGE 133 IV 119 E. 6 S. 120).
Vor Bundesverwaltungsgericht rügte der Beschwerdeführer, sein Anspruch auf rechtliches Gehör sei verletzt worden, weil er im vorinstanzlichen Verfahren vor der ETH-Beschwerdekommission keine Gelegenheit gehabt habe, zu einer Eingabe der Gegenpartei Stellung zu nehmen. Das Bundesverwaltungsgericht erachtete die Rüge als unbegründet, weil der Beschwerdeführer erstens das Dokument zur Stellungnahme erhalten und zweitens sich im gerichtlichen Verfahren zu materiellrechtlichen Punkten geäussert habe, wodurch die beanstandete Gehörsverletzung ohnehin als geheilt zu betrachten wäre. Vor Bundesgericht setzt sich der Beschwerdeführer nur mit der ersten, nicht auch mit der zweiten Begründung der Vorinstanz auseinander. Auf die Beschwerde ist daher in diesem Punkt nicht einzutreten.
1.3 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1 BGG). Bei Sachverhaltsrügen werden strenge Anforderungen an die Begründung der Beschwerde gestellt. Es genügt nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten, sondern es ist in der Beschwerdeschrift detailliert darzulegen, inwiefern die Feststellungen offensichtlich unrichtig bzw. unter Verletzung einer verfahrensrechtlichen Verfassungsvorschrift zustande gekommen sind. Das Bundesgericht prüft nur rechtsgenügend vorgebrachte, klar erhobene und, soweit möglich, belegte Rügen; auf rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein (BGE 133 II 249 E. 1.4.3 S. 255).
Ob diese Anforderungen an die Beschwerdebegründung im vorliegenden Fall erfüllt sind, wird nachfolgend im Zusammenhang mit den einzelnen Rügen geprüft.
2. 2.1 Der Beschwerdeführer rügt, das Bundesverwaltungsgericht habe den Entscheid der ETH-Beschwerdekommission in Verletzung des Verschlechterungsverbots (Verbot der reformatio in peius) zu seinem Nachteil abgeändert. Dabei bemängelt er, die Vorinstanz habe die Rechtmässigkeit der Kündigung auf einen neuen Kündigungsgrund gestützt. Die EMPA habe die Kündigung wegen Verhaltensmängeln ausgesprochen, während das Bundesverwaltungsgericht von allgemeinen arbeitsrechtlichen Pflichtverletzungen und Leistungsmängeln ausgehe.
2.2 Nach Art. 37 des Bundesgesetzes vom 17. Juni 2005 über das Bundesverwaltungsgericht (Verwaltungsgerichtsgesetz, VGG; SR 173.32) richtet sich das Verfahren vor dem Bundesverwaltungsgericht nach dem VwVG, sofern dieses Gesetz nichts anderes besagt. Art. 62 Abs. 2 VwVG bestimmt, dass eine angefochtene Verfügung zuungunsten einer Partei abgeändert werden darf, soweit diese Bundesrecht verletzt oder auf einer unrichtigen oder unvollständigen Feststellung des Sachverhalts beruht; wegen Unangemessenheit darf die angefochtene Verfügung nicht zuungunsten einer Partei geändert werden, ausser im Falle der Änderung zugunsten einer Gegenpartei.
2.3 Aus der Kündigungsverfügung ergibt sich, dass dem Beschwerdeführer gestützt auf die Gründe von Art. 12 Abs. 6 lit. a-c des Bundespersonalgesetzes vom 24. März 2000 (BPG; SR 172.220.1) gekündigt wurde und diesem nicht nur Verhaltens-, sondern (zumindest implizit) auch Leistungsmängel vorgeworfen wurden. Mängel im Verhalten oder in der Leistung stellen einen Kündigungsgrund nach Art. 12 Abs. 6 lit. b BPG dar. Die Vorinstanz erachtete diesen Kündigungsgrund als erfüllt. Sie bejahte nicht nur Verhaltens-, sondern auch Leistungsmängel, wobei sie den Sachverhalt gestützt auf die Akten teilweise ergänzte. Dies ist ohne Weiteres zulässig. Die Frage, ob der Kündigungsgrund der Verletzung einer wichtigen gesetzlichen oder vertraglichen Pflicht (Art. 12 Abs. 6 lit. a BPG) ebenfalls gegeben ist, liess die Vorinstanz offen, da sich die Rechtmässigkeit der Kündigung ihrer Ansicht nach bereits aus Art. 12 Abs. 6 lit. b BPG ergibt. Inwiefern sie dabei die Position des Beschwerdeführers verschlechtert resp. das VwVG verletzt haben soll, ist nicht ersichtlich. Die Beschwerde ist in diesem Punkt unbegründet.
3. 3.1 Der Beschwerdeführer erhebt diverse Rügen gegen die tatsächlichen Feststellungen im angefochtenen Urteil.
3.2 Das Bundesverwaltungsgericht geht von folgendem Sachverhalt aus: Es habe seit Jahren ein Konflikt zwischen dem Beschwerdeführer und einem weiteren Mitarbeiter des Brandlabors, A._, bestanden. Im Jahr 2002 habe die EMPA deshalb eine externe Beratungsfirma zwecks Teamcoaching beigezogen. Die Beratungsfirma sei zum Schluss gekommen, dass die Fronten verhärtet und die beiden Mitarbeiter zur gegenseitigen Annäherung nicht bereit seien. Die EMPA habe dem Beschwerdeführer noch im selben Jahr verschiedene Verhaltensregeln auferlegt, welche unter anderem folgende Anweisung enthalten hätten: "Ich gehe immer von konkreten Situationen und eigenen Wahrnehmungen aus, Aussagen Dritter verbreite ich nicht weiter (ich verhindere die Entstehung von Gerüchten und Mobbing jeglicher Art)". Der Beschwerdeführer habe gegen diese Verhaltensanweisungen verstossen, indem er negative Aussagen von ehemaligen Kollegen zur Person von A._ gesammelt habe. Er habe damit gezielt die Vorgesetzten davon zu überzeugen gesucht, dass A._ eine untragbare Person sei.
Ab Ende 2003 seien verschiedene Besprechungen durchgeführt worden. In den dazugehörigen Aktennotizen sei wiederholt festgehalten worden, dass die Spannungen, welche zwischen dem Beschwerdeführer und A._ bestünden, für die Auftragsabwicklung im Forschungs- und Dienstleistungsbereich hinderlich seien und der Produktivität schaden würden. Der Konflikt habe sich ausserdem nachteilig auf das Team "Brandlabor" ausgewirkt. Die EMPA habe daraufhin von den Konfliktparteien eine selbständige Auftragsabwicklung ohne Einbezug des Vorgesetzten verlangt. Die beiden Mitarbeiter seien dieser Aufforderung jedoch nicht nachgekommen, sondern hätten miteinander nicht mehr kommuniziert und auf diese Weise die Zusammenarbeit verunmöglicht. Als Folge davon habe das gesamte Team unter dem Konflikt zu leiden gehabt. Auch der reibungslose Ablauf der anfallenden Arbeiten sei teilweise nicht mehr gewährleistet gewesen, weil sich die Auseinandersetzungen jeweils an Bagatellen entzündet hätten und eine Tendenz bestanden habe, kleinste Ungereimtheiten aufzubauschen. Dies habe sich mit der Struktur des Brandlabors, welches sich aus nur fünf Mitarbeitern zusammensetze, nicht vertragen.
Im Nachgang zu einer erneuten Eskalation im Jahr 2004 sei das gesamte Team zur Arbeitssituation befragt worden. Sämtliche Mitarbeiter hätten erklärt, sie hätten mit den beiden am Konflikt beteiligten Mitarbeitern keine persönlichen Probleme, würden aber die bestehende Konfliktsituation als sehr belastend empfinden. Gegen beide Mitarbeiter sei daraufhin im Rahmen eines Disziplinarverfahrens am 18. August 2004 ein Verweis ausgesprochen worden. Der Verweis habe verschiedene Verhaltensregeln sowie die Androhung der Kündigung im Falle einer Zuwiderhandlung enthalten. Die den Beschwerdeführer betreffenden Verhaltensregeln hätten gelautet: Selbständige Auftragsabwicklung mit A._ ohne Einbezug des Vorgesetzten; grössere Toleranz gegenüber A._, d.h. insbesondere keine übertriebene Kritik an dessen Arbeit, keine Fehler suchen oder provozieren, Fehler nicht aufbauschen; loyales Verhalten gegenüber dem Brandlabor, dem Vorgesetzten und den Mitarbeitenden.
Im Dezember 2004 sei die Stimmung im Team weiterhin als schlecht bezeichnet worden, obschon die beiden Mitarbeiter zu diesem Zeitpunkt aufgrund der Krankheit von A._ kaum mehr miteinander zu tun gehabt hätten. Diese Situation habe eine wirksame Überprüfung der im Verweis formulierten Ziele verunmöglicht. Die Personalabteilung habe sich deshalb im April 2005 entschlossen, die Vertrauensstelle für das Bundespersonal beizuziehen. Gestützt auf deren Bericht seien den beiden Mitarbeitern folgende Lösungsvarianten vorgeschlagen worden: Anknüpfung an die im Verweis vom 18. August 2004 enthaltenen Verhaltensregeln (Variante A); freiwillige oder angeordnete Versetzung einer der beiden Mitarbeiter (Varianten B und C). Der Beschwerdeführer habe sich für die Variante A entschieden und eine entsprechende Erklärung unterzeichnet.
Im Anschluss daran habe die EMPA ein Teamcoaching durch eine externe Beratungsfirma veranlasst. Diese habe allerdings grosse Zweifel am Erfolg eines Coaching geäussert.
Am 22. März 2006 habe sich der Beschwerdeführer durch seinen Anwalt vernehmen lassen. In diesem Brief habe er die EMPA aufgefordert, A._ unverzüglich zu entlassen, da dieser die alleinige Schuld am Konflikt trage. Daraufhin habe sich die EMPA entschlossen, sich von den beiden Mitarbeitern zu trennen.
3.3 Der Beschwerdeführer stellt die Konfliktsituation in einem anderen Licht als die Vorinstanz dar. Dabei zitiert er aus den Erwägungen des Entscheids der ETH-Beschwerdekommission betreffend das Verhalten A._s gegenüber weiteren Mitarbeitern. Damit und mit seinen weiteren Ausführungen will der Beschwerdeführer aufzeigen, dass nicht ihn, sondern A._ die Schuld an den zahlreichen Auseinandersetzungen treffe, er lediglich dessen Opfer gewesen sei und die Arbeitgeberin es versäumt habe, rechtzeitig in den Konflikt einzugreifen. Mit der Sachverhaltsdarstellung im angefochtenen Urteil setzt sich der Beschwerdeführer hingegen nicht auseinander. So zeigt er nicht auf, inwiefern die diversen ihm zur Last gelegten Verstösse gegen Verhaltensanweisungen, welche die Arbeitgeberin zwecks Beruhigung der Konfliktsituation erlassen hatte, tatsachenwidrig sein sollten.
Weiter bestreitet der Beschwerdeführer, die Arbeit nicht selbständig erledigt, die Zusammenarbeit verweigert, den Betriebsablauf gestört und die Arbeitsziele nicht erreicht zu haben. Als Beweis legt er vor Bundesgericht zum einen eine Standortbestimmung gemäss Mitarbeitergespräch vom 23. Oktober 2003 (unterzeichnet am 9. Dezember 2004) ins Recht, wonach er die "Anforderungen erfüllt" oder die "Anforderungen übertroffen" habe und sein Verhalten gegenüber Vorgesetzten als "sehr loyal" und gegenüber Kollegen als "sehr gut" bezeichnet worden sei. Zum andern stützt er seine Behauptung auf ein angeblich am 20. Juni 2006 ausgestelltes Zwischenzeugnis. Dieses stellt die grosse Fachkompetenz des Beschwerdeführers in den Vordergrund und bestätigt, dass dessen Verhalten "gegenüber Vorgesetzten und Dritten [...] freundlich, zuvorkommend und korrekt" gewesen sei.
Es kann hier offen bleiben, ob die Berufung auf die erwähnten Dokumente zulässig ist oder ob es sich um unzulässige Noven (vgl. Art. 99 Abs. 1 BGG) handelt, da der Beschwerdeführer daraus ohnehin nichts zu seinen Gunsten ableiten kann. Die Standortbestimmung vom 23. Oktober 2003 steht nicht in Widerspruch zu den ab Ende 2003 erstellten Aktennotizen, wonach der Konflikt zwischen dem Beschwerdeführer und A._ das Team belaste und sich negativ auf die Arbeitsziele und den Betriebsablauf auswirke. Dass der besagte Konflikt in der Standortbestimmung nicht erwähnt wurde, bedeutet nicht, dass die Feststellungen der Vorinstanz zum Konflikt zwischen dem Beschwerdeführer und A._ offensichtlich falsch wären. Das erwähnte Zwischenzeugnis sprach sich über die gesamte Anstellungszeit, somit über einen Zeitraum von rund 20 Jahren aus. Wenn darin die mit dem Konflikt in Zusammenhang stehenden, ab Ende 2003 registrierten Leistungseinbussen nicht erwähnt wurden, war dies zum Vorteil des Beschwerdeführers. Daraus kann nicht abgeleitet werden, dass die Sachverhaltsfeststellungen im angefochtenen Urteil, wonach der Konflikt den Betriebsablauf gestört und der Produktivität geschadet habe, nicht vertretbar wären. Hinzu kommt, dass das Verhältnis des Beschwerdeführers gegenüber Mitarbeitern (A._) im Zwischenzeugnis nicht erwähnt wurde, sondern sich ausdrücklich auf sein Verhalten gegenüber Vorgesetzten und Dritten beschränkte. Auch in diesem Punkt ist nicht ersichtlich, inwiefern die tatsächlichen Feststellungen der Vorinstanz zum Verhalten des Beschwerdeführers gegenüber A._ offensichtlich falsch wären.
Die Sachverhaltsrügen des Beschwerdeführers erweisen sich als unbegründet. Die tatsächlichen Feststellungen im angefochtenen Urteil sind für das Bundesgericht demnach verbindlich (Art. 105 Abs. 1 BGG).
4. 4.1 Der Beschwerdeführer vertritt den Standpunkt, die EMPA habe nicht alles Zumutbare unternommen, um die konfliktbelastete Situation zu verbessern und habe dadurch ihre Fürsorgepflicht verletzt. Zur Stützung seiner Ansicht beruft sich der Beschwerdeführer auf den Entscheid der ETH-Beschwerdekommission, wonach die Arbeitgeberin den Konflikt jahrelang habe schwelen lassen, keine geeigneten Massnahmen ergriffen und die Führungskräfte (Gruppenleiter) im Stich gelassen habe. Weiter beruft sich der Beschwerdeführer auf die Einschätzung der Situation durch den Vertreter der Vertrauensstelle des Bundespersonals. Dieser habe eine klare Stellungnahme der Vorgesetzten zur Konfliktsituation vermisst und das Verhalten der Arbeitgeberin ebenfalls als mangelhaft beurteilt.
4.2 Gleich wie den privaten trifft auch den öffentlichen Arbeitgeber gegenüber den Arbeitnehmenden eine Fürsorgepflicht (Art. 328 OR i.V.m. Art. 6 Abs. 2 BPG sowie Art. 4 Abs. 2 lit. b und g BPG). Daraus ergibt sich, dass der Arbeitgeber im Falle einer Störung des Betriebsklimas alle zumutbaren Massnahmen ergreifen muss, um die Lage zu entspannen (BGE 125 III 70 E. 2c S. 74). Ein Arbeitgeber, der einen Konflikt zwischen seinen Mitarbeitern in Verletzung seiner Fürsorgepflicht schwelen lässt, kann in der Folge nicht geltend machen, der Konflikt schade der Arbeit, um die am Konflikt beteiligten Mitarbeiter zu entlassen (vgl. die Urteile des Bundesgerichts 4C.189/2003 vom 23. September 2003 E. 5.1 und 4C.253/2001 vom 18. Dezember 2001 E. 2 und 3).
4.3 Die Vorinstanz ist der Auffassung, dass sich die EMPA um die Lösung des Konflikts zwischen dem Beschwerdeführer und A._ hinreichend bemüht hat. Gemäss den verbindlichen Sachverhaltsfeststellungen im angefochtenen Entscheid zog die EMPA zweimal (in den Jahren 2002 und 2005) eine externe Beratungsunternehmung zwecks Teamcoaching bei, führte während Monaten regelmässig Gruppengespräche, befragte die übrigen Mitarbeiter des Brandlabors, führte mit den Konfliktbeteiligten Einzelgespräche, gab dem Beschwerdeführer zweimal (in den Jahren 2002 und 2004) konkrete Verhaltensanweisungen, zog schliesslich die Vertrauensstelle für das Bundespersonal hinzu und unterbreitete den Beteiligten Vorschläge zur endgültigen Beilegung ihres Streits.
Mit diesen Bemühungen hat die Arbeitgeberin ihre Fürsorgepflicht erfüllt. Sie unternahm über einen längeren Zeitraum diverse Schritte, um die Situation im Brandlabor zu entspannen. Dabei handelte es sich um Massnahmen, die geeignet waren, den Konflikt zwischen den Mitarbeitern zu entschärfen. Es ist weder ersichtlich noch zeigt der Beschwerdeführer auf, was die EMPA vernünftigerweise noch hätte tun müssen, um das Verhältnis der beiden Mitarbeiter zueinander zu verbessern. Das Bundesverwaltungsgericht hat somit kein Bundesrecht verletzt, wenn es die seitens der EMPA getroffenen Massnahmen als ausreichend betrachtete.
5. 5.1 Schliesslich macht der Beschwerdeführer geltend, die Kündigung sei ungültig, weil er nicht korrekt abgemahnt worden sei. Er ist der Ansicht, die an ihn gerichteten Verhaltensregeln seien infolge des renitenten Verhaltens von A._ nicht praktikabel gewesen. Konkrete Mängel habe man ihm denn auch nicht nachweisen können. Hinzu komme, dass die für die Rechtmässigkeit der Kündigung erforderliche Kündigungsandrohung nicht im Rahmen eines Disziplinarverfahrens ausgesprochen werden dürfe, weshalb der Verweis vom 18. August 2004 keine rechtsgenügliche Mahnung darstelle.
5.2 Die Vorinstanz geht davon aus, dass die Kündigung auf Art. 12 Abs. 6 lit. b BPG abgestützt werden kann. Gemäss dieser Vorschrift stellen Mängel in der Leistung oder im Verhalten, die trotz schriftlicher Mahnung anhalten oder sich wiederholen, einen ordentlichen Kündigungsgrund dar. Die Vorinstanz erachtet den am 18. August 2004 erteilten Verweis als rechtsgenügliche Mahnung im Sinne von Art. 12 Abs. 6 lit. b BPG.
Gemäss den verbindlichen Feststellungen im angefochtenen Urteil verstiess der Beschwerdeführer sowohl vor als auch nach dem Aussprechen des Verweises gegen die ihm aufgetragenen, auf die Beilegung des Konflikts mit A._ ausgerichteten Verhaltensregeln. Die Vorinstanz durfte diese Weisungsbrüche als Verhaltensmängel im Sinn von Art. 12 Abs. 6 lit. b BPG qualifizieren, da sie den Betriebsablauf zu stören und das Vertrauensverhältnis zwischen Arbeitgeber und Arbeitnehmer zu erschüttern vermochten (vgl. HARRY NÖTZLI, Die Beendigung von Arbeitsverhältnissen im Bundespersonalrecht, 2005, S. 122 Rz. 195). Hinzu kommen die infolge des Konflikts verzeichneten Leistungseinbussen. Unter der Voraussetzung, dass der Beschwerdeführer vor dem Aussprechen der Kündigung rechtsgenüglich verwarnt worden war, ist die Kündigung gültig.
5.3 Ausser dem Schriftformerfordernis (Art. 12 Abs. 6 lit. b BPG) enthält das Bundespersonalgesetz keine Vorschrift betreffend die Mahnung (Verwarnung) des Arbeitnehmers. Aus dem Grundsatz von Treu und Glauben und dem Willkürverbot (Art. 9 BV) ergibt sich aber ohne Weiteres, dass die Verwarnung als solche erkennbar sein und der Arbeitnehmer daraus klar ersehen können muss, welche Verhaltensweisen nicht mehr toleriert werden und wie er sich inskünftig zu verhalten hat (Rüge- und Warnfunktion der Mahnung; Urteil des Bundesgerichts 1C_277/2007 vom 30. Juni 2008 E. 6.2, mit Hinweisen). Diese Anforderung an die schriftliche Verwarnung eines fehlbaren Arbeitnehmers geht einher mit der Rechtsprechung zu Art. 337 OR, wonach der fristlosen Kündigung, ausser bei sehr gravierenden Verfehlungen, eine bezüglich der beanstandeten Verhaltensweisen klare Verwarnung vorauszugehen hat (vgl. die Urteile des Bundesgerichts 4C.364/2005 vom 12. Januar 2006 E. 2.3; 4C.187/2004 vom 5. Juli 2004 E. 5.1; 4C.322/2002 vom 18. Februar 2003 E. 3.1). Bezüglich Art. 337 OR ist umstritten, ob die Abmahnung für den Fall der Wiederholung resp. des Andauerns der beanstandeten Punkte eine Kündigungsdrohung ausdrücklich enthalten muss. Wie sich nachfolgend ergibt, kann diese Frage, da das Erfordernis ohnehin erfüllt wäre, im vorliegenden Zusammenhang offen bleiben.
5.4 Gemäss den verbindlichen Feststellungen der Vorinstanz wurde im schriftlichen Verweis vom 18. August 2004 detailliert festgehalten, inwiefern der Beschwerdeführer Mängel im Verhalten zeigte. Die in Ziffer 2 enthaltenen Verhaltensregeln (selbständige Auftragsabwicklung mit A._ ohne Einbezug des Vorgesetzten; grössere Toleranz gegenüber A._, d.h. insbesondere keine übertriebene Kritik an dessen Arbeit, keine Fehler suchen oder provozieren, Fehler nicht aufbauschen; loyales Verhalten gegenüber dem Brandlabor, dem Vorgesetzten und den Mitarbeitenden) gaben klare Hinweise, wie sich der Betroffene inskünftig zu verhalten hatte. Dem Einwand des Beschwerdeführers, diese Anweisungen seien wegen des widerwilligen Verhaltens von A._ nicht praktikabel gewesen, kann nicht gefolgt werden. Die Rügefunktion der Mahnung war damit ohne Weiteres erfüllt. Weiter wurde in einer separaten Ziffer dem Beschwerdeführer im Falle des Zuwiderhandelns die Kündigung nach Art. 12 Abs. 6 lit. b BPG angedroht. Damit war auch die Warnfunktion der Mahnung klar gegeben. Der Verweis vom 18. August 2004 erfüllte damit die Anforderungen an eine schriftliche Mahnung des Arbeitnehmers im Sinne von Art. 12 Abs. 6 lit. b BPG.
Der Beschwerdeführer macht geltend, eine Mahnung im Sinne von Art. 12 Abs. 6 lit. b BPG könne nicht gleichzeitig eine Disziplinarmassnahme sein. Im Falle der fahrlässigen Verletzung arbeitsrechtlicher Pflichten sind gemäss Art. 25 Abs. 2 BPG als Disziplinarmassnahmen die Verwarnung, der Verweis oder die Änderung des Aufgabenkreises vorgesehen. In der Rechtsliteratur wird die Frage, ob eine Disziplinarmassnahme gleichzeitig auch eine Mahnung im Sinne von Art. 12 Abs. 6 lit. b BPG sein könne, mit der Begründung verneint, dass disziplinarrechtliche Massnahmen die schuldhafte Verletzung einer arbeitsrechtlichen Pflicht voraussetze. Die Verletzung einer Pflicht werde indes in Art. 12 Abs. 6 lit. a BPG geregelt (Nötzli, a.a.O., S. 124 Rz. 198). Diese Begründung überzeugt nicht. Wie die Vorinstanz mit Recht hervorhebt, bereitet die Abgrenzung von Art. 12 Abs. 6 lit. a und b BPG oftmals Schwierigkeiten. Ein mangelhaftes Verhalten im Sinn von Art. 12 Abs. 6 lit. b BPG kann sich auch als Pflichtverletzung im Sinn von Art. 12 Abs. 6 lit. a BPG erweisen. Das Bundesgericht hat in einem neueren Urteil unter anderem wegen der Schwierigkeit, die beiden Kündigungsgründe voneinander klar abzugrenzen, entschieden, dass bei einer Kündigung wegen Verletzung einer gesetzlichen oder vertraglichen Pflicht, gleich wie bei einer Kündigung wegen Leistungs- oder Verhaltensmängeln, vorgängig eine Mahnung auszusprechen ist (Urteil 1C_277/2007 vom 30. Juni 2008 E. 5.3). Es sind keine Gründe dafür ersichtlich, weshalb eine im Rahmen eines Disziplinarverfahrens ausgesprochene Verwarnung nicht auch eine Mahnung als Voraussetzung einer rechtswirksamen Kündigung sein kann, wenn daraus die oben umschriebene Rüge- und Warnfunktion klar hervorgeht. Andernfalls wäre der Arbeitgeber verpflichtet, den Arbeitnehmer nach erfolglosem Disziplinarverfahren vor dem Aussprechen der Kündigung nochmals zu verwarnen, was von Sinn und Zweck der Vorschriften über das Disziplinar- und Kündigungsverfahren des Bundespersonalgesetzes nicht gedeckt wäre.
5.5 Das Bundesverwaltungsgericht hat somit kein Bundesrecht verletzt, wenn es davon ausgeht, dass der Kündigungsgrund von Art. 12 Abs. 6 lit. b BPG erfüllt war, der Beschwerdeführer mit Verweis vom 18. August 2004 rechtsgenüglich abgemahnt wurde und die Kündigung demzufolge rechtmässig war. Die Kündigung gilt als verschuldet (vgl. Art. 31 Abs. 1 lit. a der Bundespersonalverordnung, BPV; SR 172.220.111.3). Deshalb musste die Vorinstanz nicht prüfen, ob als Massnahme der Auflösung des Arbeitsverhältnisses eine Weiterbeschäftigung resp. eine Entschädigung in Frage kam (vgl. Art. 14 Abs. 1 und 3, Art. 19 BPG).
6. Der Beschwerdeführer hat vor Bundesgericht beantragt, das Urteil des Bundesverwaltungsgerichts sei gesamthaft, somit auch im Kostenpunkt aufzuheben. In Dispositiv-Ziffer 5 wird der Beschwerdeführer verpflichtet, der EMPA für das Verfahren vor dem Bundesverwaltungsgericht eine Parteientschädigung von CHF 12'000.-- zu bezahlen.
Art. 7 Abs. 3 des Reglements über die Kosten und Entschädigungen vor dem Bundesverwaltungsgericht (VGKE; SR 173.320.2) bestimmt, dass Bundesbehörden keinen Anspruch auf Parteientschädigung haben. Zur Bundesverwaltung gehören auch dezentralisierte Verwaltungseinheiten nach Massgabe ihrer Organisationserlasse (Art. 2 Abs. 3 des Regierungs- und Verwaltungsorganisationsgesetzes vom 21. März 1997, RVOG; SR 172.010). Bei der EMPA handelt es sich um eine autonome öffentlich-rechtliche Anstalt des Bundes mit Rechtspersönlichkeit (Art. 1 Abs. 1 lit. c, Art. 5 Abs. 1 und Art. 21 Abs. 1 des Bundesgesetzes über die Eidgenössischen Technischen Hochschulen vom 4. Oktober 1991 [ETH-Gesetz, SR 414.110]; Art. 1 lit. c der Verordnung des ETH-Rates vom 13. November 2003 über die Forschungsanstalten des ETH-Bereichs [SR 414.161]). Die EMPA stellt damit Teil der (denzentralisierten) Bundesverwaltung dar und hat dementsprechend im Verfahren vor dem Bundesverwaltungsgericht nach Art. 7 Abs. 3 VGKE keinen Anspruch auf Parteientschädigung. Auch das Bundesverwaltungsgericht geht von dieser Rechtslage aus (vgl. dazu das Urteil des Bundesverwaltungsgerichts A-1783/2006 vom 20. Februar 2007 E. 4, wonach die Zusprechung einer Parteientschädigung an eine obsiegende Bundesbehörde - der Fall betraf ebenfalls die EMPA - auch dann ausser Betracht fällt, wenn sich diese durch einen praktizierenden Anwalt vertreten lässt). Indem es den Beschwerdeführer zur Ausrichtung einer Parteientschädigung an die EMPA verpflichtete, unterlief dem Bundesverwaltungsgericht ein Versehen. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Das angefochtene Urteil ist demnach in diesem Punkt aufzuheben.
7. Nach dem Gesagten ist Dispositiv-Ziffer 5 des angefochtenen Urteils in teilweiser Gutheissung der Beschwerde aufzuheben. Im Übrigen erweist sich die Beschwerde als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann. Dem Ausgang des bundesgerichtlichen Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Die Zusprechung einer Parteientschädigung an die EMPA fällt ausser Betracht (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. In teilweiser Gutheissung der Beschwerde wird Dispositiv-Ziffer 5 des angefochtenen Urteils des Bundesverwaltungsgerichts vom 11. April 2008 aufgehoben. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, der EMPA Dübendorf, der ETH-Beschwerdekommission und dem Bundesverwaltungsgericht, Abteilung I, schriftlich mitgeteilt.
Lausanne, 2. März 2009
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Die Gerichtsschreiberin:
Aemisegger Schoder