Faits: A. Par jugement du 21 octobre 2010, le Président de l'ancien Tribunal de l'Arrondissement judiciaire I du canton de Berne a condamné X._, pour pornographie douce et pornographie dure (art. 197 ch. 1 et 3bis CP), à une peine pécuniaire de 90 jours-amende à 70 fr., avec sursis pendant deux ans. En revanche, il l'a libéré des fins des préventions d'actes d'ordre sexuel avec des enfants (art. 187 CP) et contraintes sexuelles (art. 189 CP) ou actes d'ordre sexuel commis sur des personnes incapables de discernement ou de résistance (art. 191 CP), de tentative de pornographie (art. 22 et 197 CP) et de violations du devoir d'assistance et d'éducation (art. 219 CP). B. Le Ministère public bernois et les parties plaignantes ont formé un appel, le limitant à la question de la libération d'actes d'ordre sexuel avec des enfants, de contraintes sexuelles et d'actes d'ordre sexuel commis sur des personnes incapables de discernement ou de résistance. Par jugement du 8 février 2012, la section pénale, 2e chambre pénale, de la Cour suprême du canton de Berne a reconnu X._ coupable d'actes d'ordre sexuel avec des enfants, en relation avec les lavages et les contrôles des lavages commis à réitérées reprises au préjudice de B.Y._ et A.Y._. Elle l'a en revanche libéré de la prévention d'actes d'ordre sexuel avec des enfants et de contrainte sexuelle en relation avec l'autre état de fait reproché, à savoir avoir laissé à plusieurs reprises B.Y._ toucher son pénis à l'occasion de douches et de bains pris en commun. Elle a condamné l'intéressé à une peine privative de liberté de 14 mois, sous déduction de la détention préventive, avec sursis pendant deux ans. Sur le plan civil, elle l'a condamné à verser à chacune des fillettes un montant de 3'000 fr. à titre d'indemnité pour tort moral. En bref, la condamnation pour actes d'ordre sexuel avec des enfants repose sur les faits suivants: B.a X._ est né le 12 septembre 1948. Il est divorcé et père de deux enfants, aujourd'hui adultes. En octobre 2004, il a épousé, en deuxième noce, C._, née en 1981, dont il a fait la connaissance lors d'un voyage touristique en République dominicaine. Cette dernière était mère de deux filles, à savoir de B.Y._, née le 28 septembre 1998, et de A.Y._, née le 24 septembre 1999, qui ont rejoint leur mère en Suisse une année plus tard. B.b Du 11 octobre 2005 au 8 septembre 2007, X._ a lavé à plusieurs reprises lors de douches et de bains communs l'anus et le vagin de A.Y._ avec une lavette ou avec la main nue, en exerçant parfois une certaine pression et en faisant preuve d'insistance puisque la victime a considéré qu'il " entrait dans les trous ". Il a également lavé le vagin de B.Y._ avec une lavette ou avec la main nue, parfois même en introduisant un doigt dans le vagin pour mieux le savonner. Après le lavage des fillettes, il leur a parfois dit qu'il voulait contrôler si elles étaient propres et leur a demandé à cet effet d'écarter les jambes avant de procéder à l'examen visuel de l'entrejambe. B.c La cour cantonale a essentiellement fondé son jugement sur une expertise de crédibilité de D._, psychologue diplômée M.A. et spécialiste légale FSP/SSPL, du 6 avril 2010 (dossier 556 ss) ainsi que sur deux compléments d'expertise, des 4 août 2011 (dossier 796 ss) et 21 octobre 2011 (dossier 828 ss), ordonnés en seconde instance. L'experte a conclu que les déclarations des fillettes reposaient sur un vécu réel avec X._. C. Contre ce dernier jugement, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à l'annulation du jugement attaqué et au renvoi de la cause à l'instance cantonale pour nouvelle décision. Il n'a pas été ordonné d'échange d'écritures.