Sachverhalt: A. X._ ist seit Oktober 1974 bei der Eidgenössischen Steuerverwaltung (ESTV), Hauptabteilung Mehrwertsteuer, angestellt. Seit 30. Januar 2006 ist er krankgeschrieben. Auf sein Verlangen wurde ihm Ende März 2006 bzw. Ende Mai 2006 ein Zwischenzeugnis ausgestellt. In der Folge wurden Änderungsvorschläge teilweise übernommen und am 4. September 2006 ein überarbeitetes Zeugnis (datiert vom 31. Oktober 2006) ausgestellt. X._ gelangte mit Schreiben vom 12. Oktober 2006 erneut an die ESTV und stellte den Antrag auf Vervollständigung und Berichtigung des Zeugnisses sowie, für den Fall der Abweisung, den Antrag auf Erlass einer anfechtbaren Verfügung. Mit Verfügung vom 3. November 2006 wies die ESTV das Änderungsbegehren ab. X._ focht diese Verfügung an. Das Eidgenössische Finanzdepartement (EFD) wies die Beschwerde mit Entscheid vom 25. September 2007 ab. Das Bundesverwaltungsgericht wies die Beschwerde von X._ mit Urteil vom 17. März 2008 ab. B. X._ führt mit Eingabe vom 21. April 2008 Beschwerde an das Bundesgericht. Er beantragt, das Urteil des Bundesverwaltungsgerichts sei aufzuheben und das Zwischenzeugnis vom 31. Oktober 2006 sei wie folgt abzuändern bzw. zu ergänzen: Ersetzung des beanstandeten Satzes "Als Vorgesetzter und gegenüber Kunden pflegt er einen direkten Umgang" durch eine von keinerlei Zweideutigkeit belastete Formulierung, beispielsweise den Satz "Als Vorgesetzter und gegenüber Kunden verhält er sich offen, ehrlich und feedbackorientiert". In der Vernehmlassung beantragt das EFD Beschwerdeabweisung. Das Bundesverwaltungsgericht hat auf eine Stellungnahme verzichtet. X._ hat mit Eingabe vom 12. Juni 2008 repliziert.