Sachverhalt:
A. Der 1958 geborene schwedische Staatsangehörige S._ war seit 1. September 1994 als Angestellter der Firma X._, bei der Eidgenössischen Versicherungskasse (heute: Pensionskasse des Bundes PUBLICA) für die berufliche Vorsorge versichert. Gegen Unfälle war er obligatorisch bei der Schweizerischen Unfallversicherungsanstalt (SUVA) versichert. Am 4. Juli 1995 meldete die Firma X._ der SUVA, der Versicherte habe am 2. Juli 1995 einen Verkehrsunfall erlitten. Nach einem Ausweichmanöver sei er mit dem Personenwagen in den Strassengraben hinunter und anschliessend auf einen Acker gefahren. In der Folge habe er u.a. über Schmerzen in Nacken und Rücken geklagt. Gestützt auf die Ergebnisse der von ihr angeordneten medizinischen Abklärungen lehnte die SUVA ihre Leistungspflicht für das gemeldete Ereignis vom 2. Juli 1995 ab, weil ein Unfall weder erwiesen noch wahrscheinlich sei (Verfügung vom 28. April 1998). Die Verneinung der Leistungspflicht wurde vom Bundesgericht letztinstanzlich mit Urteil vom 26. August 2008 (8C_727/2007) bestätigt.
Die IV-Stelle für Versicherte im Ausland sprach S._ mit Verfügung vom 21. April 2005 rückwirkend ab 1. Juli 1996 eine ganze Rente der Invalidenversicherung zu.
B. Am 9. Mai 2008 liess S._ beim Verwaltungsgericht des Kantons Bern Klage einreichen mit dem Rechtsbegehren, die PUBLICA sei zu verpflichten, ihm ab gerichtlich zu bestimmendem Zeitpunkt die gesetzlichen und reglementarischen Invalidenleistungen, zuzüglich Zins zu 5 %, auszurichten. Mit Entscheid vom 9. November 2010 wies das Verwaltungsgericht die Klage ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt der Versicherte beantragen, unter Aufhebung des vorinstanzlichen Entscheides sei die PUBLICA zu verpflichten, ihm ab 1. Juli 1996 die gesetzlichen und reglementarischen Vorsorgeleistungen, zuzüglich Verzugszins ab 1. Juli 1996, auszurichten; eventuell sei die Sache zu rechtsgenüglicher Abklärung des Sachverhalts und neuer Entscheidung an das kantonale Gericht zurückzuweisen.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>).
2. Die Vorinstanz hat unter Hinweis auf Art. 23 BVG (in der vorliegend anwendbaren, bis 31. Dezember 2004 gültig gewesenen Fassung) und die Rechtsprechung (<ref-ruling> E. 1c S. 264, 120 V 112 E. 2c/aa S. 117) die Voraussetzungen, unter denen die PUBLICA für eine Invalidität des Beschwerdeführers leistungspflichtig ist, zutreffend dargelegt. Ebenso richtig festgehalten hat das Verwaltungsgericht, dass die Festsetzung des Invaliditätsgrades durch die IV-Stelle für die Vorsorgeeinrichtung nicht verbindlich ist, wenn ihr, wie im vorliegenden Fall, die Rentenverfügung der Invalidenversicherung nicht eröffnet wurde (<ref-ruling> E. 2 S. 2). Darauf wird verwiesen.
3. 3.1 In einlässlicher Würdigung der medizinischen Unterlagen, worunter sich die von der SUVA nach dem Vorfall vom 2. Juli 1995 eingeholten Arztberichte aus Schweden, die kreisärztlichen Berichte des Dr. med. J._ vom 18. Januar 1996 und des Dr. med. L._ vom 23. Februar 1996 sowie die Berichte des Neurologen Dr. med. O._ vom 2. Oktober 1996 und 23. Januar 1998 befinden, stellte die Vorinstanz fest, dass in der Zeit von September 1994 bis November 1996 keine Arbeitsunfähigkeit eingetreten sei, welche eine Invalidität im Sinne der Statuten der Pensionskasse des Bundes bewirkte. Dieser abschliessenden Feststellung lagen auf die umfangreichen ärztlichen Untersuchungsergebnisse gestützte Darlegungen bezüglich Schulterproblematik, behaupteter Sensibilitätsstörung, des geltend gemachten Hörverlustes und der angeblichen ophthalmologischen Beschwerden zu Grunde. Die Vorinstanz zog den Schluss, dass sich für die geklagten Beschwerden keine medizinischen Grundlage finde, teilweise gar eine Simulation ausgewiesen sei.
3.2 Der Beschwerdeführer bringt vor, die Vorsorgeeinrichtung und die Vorinstanz hätten die Verfügung der IV-Stelle als massgebenden Entscheid mitberücksichtigen müssen. Dieser Auffassung kann nicht gefolgt werden. Da die IV-Stelle die Rentenverfügung der Pensionskasse nicht eröffnet hat, ist der Anspruch auf eine Invalidenrente der Vorsorgeeinrichtung frei zu prüfen, woran die Tatsache nichts ändert, dass der Invaliditätsbegriff in allen Gebieten des Sozialversicherungsrechts gleich ist.
3.3 Soweit der Beschwerdeführer die Beweiswürdigung der Vorinstanz kritisiert, handelt es sich um eine im Rahmen der bundesgerichtlichen Überprüfungsbefugnis unzulässige Rüge (E. 1 hievor), weshalb auf die entsprechenden Ausführungen nicht einzugehen ist. Festzuhalten ist lediglich, dass das Verwaltungsgericht sich nicht allein auf den Bericht des Dr. med. O._ stützte, was angesichts des umfangreichen Beweismaterials in der Tat als offensichtlich unrichtige Sachverhaltsfeststellung qualifiziert werden könnte. Vielmehr bezog die Vorinstanz eine ganze Reihe von Arztberichten in ihre Würdigung ein. Dass sie nicht auf sämtliche Berichte und insbesondere nicht hauptsächlich auf die Angaben des IV-Stellenarztes Dr. med. H._ abgestellt hat, verletzt kein Bundesrecht. Soweit der Versicherte sodann auf die von einer schwedischen Versicherungsgesellschaft angefertigten Videoaufnahmen Bezug nimmt, liegt ebenfalls eine unzulässige Kritik an der Sachverhaltsfeststellung der Vorinstanz vor, macht er doch nicht etwa geltend, die Filmaufnahmen hätten aus rechtlichen Gründen (wie Persönlichkeitsschutz, unzulässiges Beweismittel usw.) ausser Acht zu bleiben. Ebenso ist nicht ersichtlich, weshalb das kantonale Gericht nicht einzelne gesundheitliche Beeinträchtigungen hätte herausgreifen und deren Auswirkungen auf die Arbeitsfähigkeit gesondert würdigen dürfen. Die in der Beschwerde gegen diese Vorgehensweise angeführten Argumente sind wiederum als blosse Kritik an der vorinstanzlichen Beweiswürdigung zu qualifizieren, indem der Versicherte seine eigene Sicht mit vom angefochtenen Entscheid abweichenden ärztlichen Angaben zu belegen sucht.
3.4 Die Vorinstanz hat den rechtserheblichen Sachverhalt nicht unvollständig im Sinne von Art. 97 Abs. 1 und 105 Abs. 2 BGG festgestellt, weshalb keine zusätzlichen medizinischen Abklärungen, beispielsweise in Form einer Expertise, anzuordnen sind. Der Eventualantrag des Beschwerdeführers ist somit unbegründet.
4. Ob schliesslich das kantonale Gericht statt in Zweierbesetzung als Kollegialbehörde mit drei Richterinnen oder Richtern über die Klage hätte entscheiden müssen, wie der Beschwerdeführer einwendet, ist nicht zu prüfen. Es handelt sich um eine Frage des kantonalen Rechts, dessen Verletzung, von hier nicht interessierenden Ausnahmen abgesehen, nicht mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten gerügt werden kann (<ref-law>).
5. Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 9. Februar 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Widmer