Sachverhalt:
A. Der am 13. September 1999 geborene L._ wurde am 8. März 2005 von seinen Eltern für medizinische Massnahmen und Beiträge an die Sonderschulung, eventuell Logopädie und Heilpädagogik, bei der Invalidenversicherung angemeldet. Die IV-Stelle Bern traf Abklärungen in medizinischer Hinsicht und holte einen Bericht des Früherziehungsdienstes des Kantons Bern (vom 10. Mai 2005) ein. Mit Verfügung vom 7. Juni 2005 übernahm sie die Kosten für heilpädagogische Früherziehung bis eine Stunde pro Woche bis Ende Juli 2006. In der Folge wurde diese Kostengutsprache bis 31. Juli 2008 verlängert. Mit Anmeldung vom 22. Dezember 2008 ersuchten die Eltern von L._ unter Hinweis auf das Asperger-Syndrom, ein Geburtsgebrechen das auf der entsprechenden Liste figuriert, und die damit verbundene tiefgreifende Entwicklungsstörung erneut um die Gewährung medizinischer Massnahmen. Nach Beizug weiterer ärztlicher Unterlagen und Stellungnahmen des Regionalen Ärztlichen Dienstes (RAD) lehnte es die IV-Stelle mit Verfügung vom 25. November 2009 ab, dem Versicherten Kostengutsprache für medizinische Massnahmen zu gewähren. Die Diagnose sei erst im Alter von 9 Jahren und 3 Monaten gestellt worden, während Verhaltensauffälligkeiten erst nach Vollendung des 5. Altersjahres beschrieben worden seien. Aus der Zeit vor dem 5. Geburtstag des Versicherten lägen keine Akten vor, die das Stellen einer entsprechenden Diagnose zugelassen hätten.
B. Sowohl die Krankenkasse KPT, bei welcher L._ für Krankenpflege versichert ist, als auch der Vater des Versicherten liessen Beschwerde führen mit den Rechtsbegehren, unter Aufhebung der Verfügung vom 25. November 2009 sei die IV-Stelle zu verpflichten, L._ medizinische Massnahmen zu gewähren. Der Vater des Versicherten liess eventualiter die Rückweisung der Sache zu neuer Prüfung des Anspruchs durch die Verwaltung beantragen. Mit Entscheid vom 10. Februar 2012 wies das Verwaltungsgericht des Kantons Bern die Beschwerden ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt der Vater von L._ das vorinstanzlich gestellte Rechtsbegehren erneuern. Er legt Berichte einer Ergotherapeutin, einer Lehrerin sowie eines Arztes bei, die Beobachtungen aus der frühen Kindheit des Versicherten zum Gegenstand haben.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (Art. 105 Abs. 2 BGG).
2. Das kantonale Gericht hat die Bestimmungen und Grundsätze über den Anspruch auf medizinische Massnahmen zur Behandlung von Geburtsgebrechen (Art. 13 Abs. 1 IVG), den dem Bundesrat eingeräumten Ermessensspielraum bei der Auswahl der Geburtsgebrechen, die eine Leistungspflicht der Invalidenversicherung begründen (<ref-ruling> E. 3a S. 118, 105 V 21) und im Anhang zur Verordnung über Geburtsgebrechen (GgV) aufgelistet sind, wozu in der hier anwendbaren, bis 31. Dezember 2009 gültig gewesenen Fassung des GgV-Anhangs die Ziff. 401, frühkindliche primäre Psychosen und infantiler Autismus, sofern diese bis zum vollendeten 5. Lebensjahr erkennbar werden, zählte. Wie die Vorinstanz weiter richtig festgehalten hat, fällt unter Ziff. 401 GgV-Anhang auch das Asperger-Syndrom. Darauf wird verwiesen. Zu ergänzen ist, dass die vorausgesetzte Erkennbarkeit bis zum vollendeten 5. Altersjahr der Abgrenzung angeborener Gebrechen von nachträglich erworbenen Leiden dient. Wie das Eidgenössische Versicherungsgericht unter Hinweis auf HANS-CHRISTOPH STEINHAUSEN, Psychische Störungen bei Kindern und Jugendlichen, 5. Aufl. München/Jena 2002 S. 62 f. und 65 dargelegt hat, wird die einschränkende Umschreibung auch durch die neuere medizinische Forschung zu autistischen Störungen gestützt. Danach ist zwar eine genetische Ätiologie anzunehmen; gleichzeitig bleibt aber offen, inwieweit lediglich eine Disposition vererbt und das Leiden nur manifest wird, wenn weitere Faktoren hinzutreten (Urteil des Eidgenössischen Versicherungsgerichts I 302/05 vom 31. Oktober 2005).
3. 3.1 Die Vorinstanz stellte in einlässlicher und sorgfältiger Würdigung der medizinischen Unterlagen fest, ein Geburtsgebrechen gemäss Ziff. 401 GgV-Anhang sei erst lange nach Vollendung des 5. Altersjahres des Beschwerdeführers diagnostiziert worden. Ebenso wenig sei das Asperger-Syndrom bis zu diesem Zeitpunkt erkennbar gewesen. Das Geburtsgebrechen sei erst im Dezember 2008, nach einer mehrmonatigen, am 5. August 2008 begonnenen, teilstationären Behandlung in der Kinderpsychiatrischen Klinik X._ erkannt worden. Auch eine nähere Betrachtung der krankengeschichtlichen Tatsachen führe nicht zum Schluss, dass ein Asperger-Syndrom bereits vor September 2004 erkennbar war.
3. 3.1 Die Vorinstanz stellte in einlässlicher und sorgfältiger Würdigung der medizinischen Unterlagen fest, ein Geburtsgebrechen gemäss Ziff. 401 GgV-Anhang sei erst lange nach Vollendung des 5. Altersjahres des Beschwerdeführers diagnostiziert worden. Ebenso wenig sei das Asperger-Syndrom bis zu diesem Zeitpunkt erkennbar gewesen. Das Geburtsgebrechen sei erst im Dezember 2008, nach einer mehrmonatigen, am 5. August 2008 begonnenen, teilstationären Behandlung in der Kinderpsychiatrischen Klinik X._ erkannt worden. Auch eine nähere Betrachtung der krankengeschichtlichen Tatsachen führe nicht zum Schluss, dass ein Asperger-Syndrom bereits vor September 2004 erkennbar war.
3.2 3.2.1 Die vom Beschwerdeführer hiegegen erhobenen Einwendungen sind unbegründet. In der Beschwerde wird in weiten Teilen lediglich Kritik an der vorinstanzlichen Beweiswürdigung geübt, ohne dass Argumente namhaft gemacht würden, aus welchen sich ergäbe, dass der rechtserhebliche Sachverhalt offensichtlich unrichtig festgestellt wurde. Es besteht daher kein Anlass, von der Ermittlung der tatsächlichen Verhältnisse durch das kantonale Gericht abzuweichen. Die Berichte verschiedener Fachpersonen (vom 9. und 10. Juli sowie 20. August 2009) sind hinsichtlich der Frage, ob ein Geburtsgebrechen nach Ziff. 401 GgV-Anhang bis zum vollendeten 5. Lebensjahr erkennbar geworden ist, wenig ergiebig, beschränken sie sich doch auf die Erwähnung gewisser unspezifischer Verhaltensauffälligkeiten des Versicherten in seiner frühen Kindheit. Inwieweit die Vorinstanz den Sachverhalt willkürlich festgestellt haben soll, ist trotz entsprechender Behauptung in der Beschwerde nicht ersichtlich.
3.2.2 Soweit der Beschwerdeführer die Alterslimite von Ziff. 401 GgV-Anhang in Frage stellt sowie auf den aus seiner Sicht ungerechtfertigten Unterschied zu Ziff. 404 GgV-Anhang hinweist und daraus auf Willkür beim Erlass der Liste der Geburtsgebrechen schliesst, kann ihm nicht gefolgt werden. Die Vorinstanz hat sich mit diesem Einwand auseinandergesetzt und unter Berufung auf <ref-ruling>, welcher Ziff. 404 GgV-Anhang betrifft, zu Recht darauf hingewiesen, dass dem Bundesrat in Art. 13 Abs. 2 Satz 1 IVG eine umfassende Kompetenz erteilt wurde, aus der Gesamtheit der Geburtsgebrechen im medizinischen Sinne jene auszuwählen, für welche Massnahmen nach Art. 13 IVG zu gewähren sind. Ebenso war er befugt, die Altersgrenze in Ziff. 401 GgV-Anhang abweichend von Ziff. 404 GgV-Anhang auf 5 statt 9 Jahre festzulegen, zumal es sich um verschiedene Leiden handelt. Ob ein Asperger-Syndrom des öftern erst spät, mehrere Jahre nach Vollendung des 5. Altersjahres, diagnostiziert werden kann, wie in der Beschwerde geltend gemacht wird, ist nicht entscheidend, geht es doch nach Ziff. 401 GgV-Anhang nicht um die korrekte Diagnose, sondern um die Erkennbarkeit dieses Geburtsgebrechens. Es kann keine Rede davon sein, dass die in Ziff. 401 GgV-Anhang zum Zwecke einer Abgrenzung zwischen angeborenen und erworbenen Störungen umschriebenen Voraussetzungen nicht mehr in den Bereich der durch die Delegationsnorm des Art. 13 Abs. 2 Satz 1 IVG gedeckten Verordnungskompetenz des Bundesrates fallen (in diesem Sinne <ref-ruling> E. 3a/dd S. 120 betreffend Ziff. 404 GgV-Anhang). Mit Blick auf den sehr grossen Gestaltungsspielraum, über den der Bundesrat bei der Erstellung der Geburtsgebrechensliste aufgrund von Art. 13 Abs. 2 IVG verfügt, müsste die in Frage stehende Verordnungsnorm offensichtlich aus dem Rahmen der dem Bundesrat im Gesetz delegierten Kompetenz herausfallen oder aus einem anderen Grund verfassungs- oder gesetzeswidrig sein, damit ihr die Anwendung versagt werden könnte. Dies trifft hier nicht zu, wie sich den vorstehenden Erwägungen entnehmen lässt.
4. Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 Satz 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, der KPT/CPT Krankenkasse, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 25. April 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Widmer