Sachverhalt: A. Der am 11. Juni 1962 geborene A._ war beim Bundesamt B._ angestellt und bei der Pensionskasse des Bundes PUBLICA (nachfolgend: Publica) für die berufliche Vorsorge versichert, als er sich im November 2000 bei einer Auffahrkollision eine Distorsion der Halswirbelsäule zuzog. Nachdem er seine leitende Funktion aufgegeben hatte und in eine tiefere Lohnklasse eingestuft worden war, wurden sein Beschäftigungsgrad und Lohn auf den 1. Mai 2008 auf 50 % reduziert. Im November 2005 meldete sich A._ bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 12. März 2009 ermittelte die IV-Stelle Bern einen Invaliditätsgrad von 20 % und verneinte folglich den Anspruch auf eine Invalidenrente (im Ergebnis bestätigt durch Entscheid des Verwaltungsgerichts des Kantons Bern vom 9. Februar 2010). Hingegen sprach ihm die Schweizerische Unfallversicherungsanstalt (SUVA) mit Verfügung vom 30. November 2009 eine Invalidenrente ab 1. Dezember 2009 bei einer Erwerbsunfähigkeit von 55 % zu. Das Bundesamt B._ weigerte sich, als Arbeitgeber einen Anspruch des A._ auf eine Berufsinvalidenrente bei der Publica anzumelden. B. Am 5. November 2012 liess A._ Klage gegen die Publica erheben mit dem Antrag, es sei ihm rückwirkend ab dem 1. Mai 2008, eventuell ab dem 1. Juli 2012, eine Berufsinvalidenrente im Umfang einer Berufsinvalidität von 50 % auszurichten. Das Verwaltungsgericht des Kantons Bern wies die Klage mit Entscheid vom 31. Januar 2014 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, unter Aufhebung des Entscheids vom 31. Januar 2014 sei ihm rückwirkend ab dem 1. Mai 2008, eventuell ab dem 1. Juli 2012, (unter dem Vorbehalt einer Überentschädigung) eine Berufsinvalidenrente im Umfang einer Berufsinvalidität von 52,45 % auszurichten. Die Publica und das Bundesamt B._ schliessen auf Abweisung der Beschwerde. Das Eidgenössische Finanzdepartement und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.