Sachverhalt:
A. X._ begann im Juni 2004 unter der Leitung von Y._ (Doktoratsleiter) sein Doktorat im Labor für Organische Chemie an der Eidgenössischen Technischen Hochschule Zürich (ETHZ). Seit dem 1. Oktober 2004 war er im Labor zusätzlich als wissenschaftlicher Assistent angestellt. Die formelle Zulassung zum Doktorat erfolgte am 25. Oktober 2005. Die ursprünglich auf ein Jahr befristete Anstellung bei der ETHZ wurde erstmals am 7. September 2005 um ein Jahr und am 28. Dezember 2005 ein weiteres Mal bis zum 30. September 2007 verlängert.
Wegen Meinungsverschiedenheiten zwischen X._ und Y._ wurden im Februar und März 2006 u.a. ein Schlichtungsgespräch mit der Departementsvorsteherin und Unterredungen mit dem Prorektor durchgeführt. Mit Schreiben vom 22. März 2006 teilte Y._ X._ mit, dass er einen Antrag auf Exmatrikulation gestellt habe, und forderte ihn auf, seinen Arbeitsplatz umgehend zu räumen und die Schlüssel abzugeben.
Die ETHZ verfügte am 6. Juni 2006 die Exmatrikulation von X._ und sprach am 26. Juni 2006 die fristlose Entlassung aus.
B. Die ETH-Beschwerdekommission wies die Beschwerde von X._ gegen die Exmatrikulationsverfügung mit Urteil vom 14. Dezember 2006 ab. Die Exmatrikulation sei rechtens, weil das Vertrauensverhältnis zwischen X._ und seinem Doktoratsleiter zutiefst gestört sei und dies weder der einen noch der anderen Partei angelastet werden könne. Die ETHZ habe zudem alle notwendigen Schritte zur Streitschlichtung unternommen.
Im separat geführten Verfahren betreffend fristlose Entlassung hiess die Beschwerdekommission den Antrag der ETHZ auf Feststellung der Gültigkeit der fristlosen Kündigung des Arbeitsverhältnisses gut. Den Antrag von X._ auf Leistung einer Ferienabgeltung wies sie ab. Sie verpflichtete die ETHZ jedoch zur Zahlung einer Überstunden- bzw. Überzeitentgeltung in Höhe von 254 Arbeitsstunden und einer reduzierten Parteientschädigung, beides zugunsten von X._. Zur Begründung wurde angeführt, die fristlose Kündigung sei mit der Exmatrikulation und dem zerstörten Vertrauensverhältnis gerechtfertigt, so dass die Fortsetzung des Arbeitsverhältnisses für die ETHZ unzumutbar sei.
C. Das Bundesverwaltungsgericht behandelte die Beschwerde von X._ gegen die beiden Entscheide der Beschwerdekommission in vereinigtem Verfahren mit Urteil vom 20. August 2007. Es hiess die Beschwerde bezüglich der fristlosen Kündigung teilweise gut und wies sie im Übrigen ab, soweit darauf einzutreten war, namentlich bezüglich der Exmatrikulation. Das Gericht hob den Entscheid der Beschwerdekommission vom 14. Dezember 2006 bezüglich fristlose Entlassung auf und erklärte die fristlose Kündigung vom 26. Juni 2006 durch die ETHZ als nichtig. Es verpflichtete die ETHZ, X._ eine Lohnzahlung von Fr. 53'375.-- brutto für die Zeit vom 1. Juli 2006 bis zum 30. September 2007 zu bezahlen, unter Anrechnung des neuen Einkommens von X._ von monatlich Euro 1'323.-- seit 1. Oktober 2006. Ferner verurteilte es die ETHZ zu einer Entschädigungszahlung zugunsten von X._ in der Höhe eines Monatslohns (Fr. 3'538.35 netto).
Zur Begründung führte das Gericht aus, eine Fortführung des Doktorats sei wegen des zerrütteten Vertrauensverhältnisses bzw. schwerwiegender Meinungsverschiedenheiten nicht denkbar, nachdem das Schlichtungsverfahren erfolglos verlaufen sei. Da X._ bis zur Exmatrikulation einen Wechsel des Doktoratsleiters konsequent abgelehnt habe, erweise sich die Exmatrikulation als verhältnismässig. Hingegen sei die fristlose Kündigung unbegründet. Die Immatrikulation als Doktorand sei keine Bedingung für die Anstellung als wissenschaftlicher Mitarbeiter an der ETHZ. Die Hochschule hätte X._ die Möglichkeit bieten müssen, seine Arbeitsleistung, allenfalls in einer anderen Abteilung, bis zum vereinbarten Vertragsende am 30. September 2007 zu erbringen. Mangels eines wichtigen Grundes sei die Kündigung nichtig, weshalb die ETHZ den Lohn bis Vertragsende zu bezahlen habe. Da X._ inzwischen in Deutschland angestellt worden sei, habe er sich anrechnen zu lassen, was er in der betreffenden Zeitperiode verdient habe.
D. X._ führt mit Eingabe vom 20. September 2007 Beschwerde an das Bundesgericht. Er beantragt erstens, den Entscheid des Bundesverwaltungsgerichts insoweit aufzuheben, als er verpflichtet wird, sich Euro 1'323.-- pro Monat seit Oktober 2006 an den Lohn anrechnen zu lassen. Eventualiter sei der Entscheid insoweit aufzuheben, als mit der Beschwerdeabweisung ebenso der Antrag auf Entschädigung von Überstunden und Überzeit abgewiesen worden ist, und es seien ihm 960 Überstunden bzw. Überzeit zuzüglich Zuschläge zu entschädigen. Zweitens sei X._ zu Lasten der ETHZ eine Parteientschädigung von mindestens einem Drittel der im Verfahren vor der Beschwerdekommission geltend gemachten Anwaltskosten, das heisst von mindestens Fr. 7'743.20, zuzusprechen. Eventualiter sei die Vorinstanz anzuweisen, über die Entschädigungsfolgen aus dem vorinstanzlichen Verfahren zu entscheiden. Drittens seien eventualiter, bei Obsiegen in diesem Verfahren, die von den Vorinstanzen festgesetzten Kosten- und Entschädigungsfolgen neu zu verlegen.
E. Die ETHZ und das Bundesverwaltungsgericht beantragen in ihren Vernehmlassungen je die Abweisung der Beschwerde. X._ hält in der Replik vom 27. November 2007 an seinen Anträgen fest. Dazu hat sich die ETHZ mit Eingabe vom 20. Dezember 2007 geäussert. Das Bundesverwaltungsgericht hat auf weitere Stellungnahme verzichtet. Die genannten Eingaben sind den Parteien zugestellt worden.
Erwägungen:
1. Das angefochtene Urteil betrifft eine vermögensrechtliche Sache (Art. 83 lit. g Bundesgerichtsgesetz, BGG, SR 173.110), welche sich gemäss den Anträgen auf einen Streitwert von über Fr. 15'000.-- beläuft (Art. 85 Abs. 1 lit. b BGG). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gemäss Art. 82 ff. BGG ist grundsätzlich zulässig. Die weiteren Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass.
2. Der Beschwerdeführer beantragt, die Anordnung sei aufzuheben, wonach an die Lohnforderung gegen die ETHZ sein neuer Verdienst von Euro 1'323.-- pro Monat angerechnet würde. Es widerspreche einem gefestigten Grundsatz, wenn einerseits die Entschädigung für eine nicht mehr mögliche (zeitliche) Kompensation der Überzeit und der Überstunden abgelehnt und andererseits dem Arbeitnehmer gleichzeitig die Schadensminderungspflicht entgegengehalten würde, wenn er eine neue Stelle antrete.
Der Beschwerdeführer hat der ETHZ am 31. März 2006 die Schlüssel zurückgegeben und am 3. April 2006 den Arbeitsplatz geräumt. Das Bundesverwaltungsgericht hat ihm eine Lohnzahlung für die Zeit bis 30. September 2007 zugesprochen. Der Beschwerdeführer ist seit 1. Oktober 2006 an der Technischen Hochschule in A._ angestellt und erhält hierfür nach eigenen Angaben einen Monatslohn von Euro 220.-- und ein (nicht rückzahlbares) Stipendium von Euro 1'103.--. Es steht somit fest, dass der Beschwerdeführer für die Zeit eines Jahres (1. Oktober 2006 bis 30. September 2007) neben dem zugesprochenen Lohn der ETHZ einen zusätzlichen Verdienst aus seiner neuen Anstellung in A._ erzielte.
Das Bundespersonalgesetz (BPG, SR 172.220.1), nach dem das Bundesverwaltungsgericht die Lohnforderung des Beschwerdeführers zu beurteilen hatte, beruht auf dem Grundsatz der Weiterbeschäftigung, so dass der betroffene Mitarbeiter im Falle der Nichtigkeit der Kündigung mit der bisherigen oder, wenn dies nicht möglich ist, mit einer anderen zumutbaren Arbeit weiterbeschäftigt wird (Art. 14 Abs. 2 BPG). Im vorliegenden Fall wurde die fristlose Kündigung aber zu spät nichtig erklärt, als dass die ETHZ den Beschwerdeführer hätte weiterbeschäftigen können. Der Beschwerdeführer hatte inzwischen eine neue Stelle angenommen. Das Bundesverwaltungsgericht wandte sinngemäss die zivilrechtliche Regelung an (Art. 6 Abs. 2 BPG i.V.m. Art. 337c Abs. 2 OR), welche die Anrechnung anderweitigen Verdienstes bei ungerechtfertigter Entlassung vorsieht. Die Anrechnung des neuen Verdienstes aus A._ ist auf jenen Zeitraum begrenzt, für welchen der Beschwerdeführer sowohl Zahlungen der ETHZ als auch von A._ erhält. Die Anrechnung des neuen Einkommens für den Zeitraum des Doppelverdienstes ist bundesrechtskonform und der Antrag des Beschwerdeführers auf Aufhebung der Anrechnungsanordnung ist abzuweisen.
3. Zum Antrag auf Entschädigung der Überstunden und Überzeit hat das Bundesverwaltungsgericht ausgeführt, dieser Antrag könne nur im Sinne eines Eventualantrags berücksichtigt werden. Der Beschwerdeführer habe diesen Antrag vor der ersten Instanz (Beschwerdekommission) bloss eventualiter zur Lohnfortzahlung gestellt. Er könne ihn vor zweiter Instanz (Bundesverwaltungsgericht) nicht zusätzlich ("kumulativ") zur Lohnfortzahlung geltend machen. Auf den Antrag sei infolge unzulässiger Erweiterung des Streitgegenstandes nicht einzutreten.
Der Beschwerdeführer trägt eine abweichende Ansicht vor. Er beruft sich auf die damalige Beschwerdeschrift und auf den Umstand, dass eine zeitliche Kompensation der Überstunden nicht mehr möglich sei.
In Würdigung der Beschwerdeschrift vom 14. Juli 2006 an die Beschwerdekommission ist festzuhalten, dass der Antrag auf Ferien-, Überzeit- und Überstundenentschädigung eventualiter zum Antrag auf Lohnzahlung gestellt wurde. Aus der Beschwerdebegründung ergibt sich, dass der Antrag für den Fall gestellt wurde, dass der Lohnzahlungsanspruch nicht bestehen sollte. Die Auslegung des Bundesverwaltungsgerichts, wonach der Überzeitantrag nur eventuell, d.h. für einen bestimmten Fall gelte, stimmt mit den damaligen Darlegungen des Beschwerdeführers überein. Abweichend von der Vorinstanz hat das Bundesverwaltungsgericht das Hauptbegehren gutgeheissen, indem es dem Beschwerdeführer eine Lohnzahlung bis 30. September 2007 zusprach. Damit erübrigte sich die Behandlung des Eventualfalles und das Gericht durfte schliessen, das Eventualbegehren sei weggefallen bzw. liege ausserhalb des Streitgegenstandes. Eine Rechts- oder Verfassungsverletzung ist nicht ersichtlich. Demnach ist der vor Bundesgericht gestellte Antrag auf Entschädigung von Überzeit und Überstunden abzuweisen.
4. Der Beschwerdeführer rügt schliesslich, das Bundesverwaltungsgericht habe es unterlassen, die Parteientschädigung für das Verfahren vor der Beschwerdekommission neu zu verlegen. Er beruft sich auf Art. 64 Abs. 1 des Bundesgesetzes über das Verwaltungsverfahren (VwVG, SR 172.021) und beantragt, die Parteientschädigung sei auf mindestens einen Drittel der geltend gemachten Kosten, entsprechend einem Betrag von Fr. 7'743.20, zu erhöhen.
Die Beschwerdekommission erachtete die fristlose Kündigung als gültig, wies den Hauptantrag auf Lohnzahlung ab und sprach dem Beschwerdeführer bloss die - eventuell beantragte - Überzeit- bzw. Überstundenentgeltung sowie eine reduzierte Parteientschädigung von Fr. 500.-- zu. Das Bundesverwaltungsgericht erachtete hingegen die fristlose Kündigung als nichtig und die Lohnforderung des Beschwerdeführers bis zum ordentlichen Ablauf des befristeten Arbeitsvertrags als berechtigt. Es hob den Entscheid der Beschwerdekommission auf und sprach dem Beschwerdeführer eine Parteientschädigung von Fr. 6'101.10.-- zu. Gemäss der Urteilsbegründung bezieht sich diese Parteientschädigung auf das Verfahren vor Bundesverwaltungsgericht. Diesen Standpunkt bekräftigt das Bundesverwaltungsgericht in der Vernehmlassung, indem es ausführt, die Parteientschädigung für das Verfahren vor der Beschwerdekommission sei deshalb nicht neu verlegt worden, weil das VwVG hierfür keine gesetzliche Grundlage enthalte und die Rechtsvertretung des Beschwerdeführers keinen ausdrücklichen Antrag auf Neuverlegung gestellt habe. Es steht somit fest, dass der Beschwerdeführer für den Verfahrensabschnitt vor der Beschwerdekommission nicht entschädigt wurde, obwohl er zweimal teilweise obsiegte.
Gemäss Art. 64 Abs. 1 VwVG kann die Beschwerdeinstanz der ganz oder teilweise obsiegenden Partei von Amtes wegen oder auf Begehren eine Entschädigung für ihr erwachsene notwendige und verhältnismässig hohe Kosten zusprechen. Gemäss Art. 7 Abs. 1 und 2 des Reglements über die Kosten und Entschädigungen vor dem Bundesverwaltungsgericht (VGKE, SR 173.320.2) hat die obsiegende Partei Anspruch auf eine Parteientschädigung für die ihr erwachsenen notwendigen Kosten. Obsiegt die Partei nur teilweise, so ist die Parteientschädigung entsprechend zu kürzen.
Für den Verfahrensabschnitt vor der ersten Beschwerdeinstanz sollte der Beschwerdeführer zunächst mit Fr. 500.-- entschädigt werden (Urteil der Beschwerdekommission vom 14. Dezember 2006). Diese Anordnung wurde jedoch mit dem Entscheid der zweiten Beschwerdeinstanz ersatzlos aufgehoben (Urteil des Bundesverwaltungsgerichts vom 20. August 2007). Die gesprochene Parteientschädigung bezieht sich nur auf den zweiten Teil des Beschwerdeverfahrens. Indes hat der Beschwerdeführer bereits im ersten Teil, vor der Beschwerdekommission, teilweise obsiegt. Folglich hätte das Bundesverwaltungsgericht den Beschwerdeführer für das gesamte Beschwerdeverfahren entschädigen müssen. Es verletzt Bundesrecht, wenn dem Beschwerdeführer die Parteientschädigung für das Verfahren vor der ersten Beschwerdeinstanz verweigert wird. Die Sache ist daher an das Bundesverwaltungsgericht zurückzuweisen, welches eine angemessene Entschädigung für das Verfahren vor der Beschwerdekommission festlegen wird (Art. 107 Abs. 2 und Art. 68 Abs. 5 BGG).
5. Die Beschwerde ist teilweise gutzuheissen und Dispositiv-Ziffer 4 des angefochtenen Urteils ist aufzuheben, soweit dem Beschwerdeführer damit die Parteientschädigung für den Verfahrensabschnitt vor Beschwerdekommission verweigert wurde. Die Sache ist an das Bundesverwaltungsgericht zur Festsetzung der Parteientschädigung im Sinne von E. 4 zurückzuweisen.
Im Übrigen ist die Beschwerde abzuweisen. Dies betrifft die Anträge des Beschwerdeführers betreffend Verdienstanrechnung und Überstundenentschädigung.
Bei diesem Ausgang des Verfahrens hat der Beschwerdeführer eine reduzierte Gerichtsgebühr zu tragen (Art. 66 Abs. 1 BGG). Bei der Bemessung ist die Kostengrenze gemäss Art. 65 Abs. 4 lit. c BGG wegen des Streitwerts von über Fr. 30'000.-- nicht zu berücksichtigen. Die ETHZ hat dem Beschwerdeführer für das bundesgerichtliche Verfahren eine reduzierte, angemessene Parteientschädigung zu entrichten (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. In teilweiser Gutheissung der Beschwerde wird Dispositiv-Ziffer 4 des Urteils des Bundesverwaltungsgerichts, Abteilung I, vom 20. August 2007 aufgehoben, soweit damit dem Beschwerdeführer teilweise die Parteientschädigung verweigert wurde. Die Sache wird an das Bundesverwaltungsgericht zur Festsetzung der Parteientschädigung für das Verfahren vor der ETH-Beschwerdekommission zurückgewiesen.
2. Im Übrigen wird die Beschwerde abgewiesen.
3. Die reduzierten Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
4. Die Eidgenössische Technische Hochschule Zürich (ETH Zürich) hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1'000.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Bundesverwaltungsgericht, Abteilung I, schriftlich mitgeteilt.
Lausanne, 12. Juni 2008
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Thönen