Faits:
A. Par jugement du 21 octobre 2010, le Président de l'ancien Tribunal de l'Arrondissement judiciaire I du canton de Berne a condamné X._, pour pornographie douce et pornographie dure (art. 197 ch. 1 et 3bis CP), à une peine pécuniaire de 90 jours-amende à 70 fr., avec sursis pendant deux ans. En revanche, il l'a libéré des fins des préventions d'actes d'ordre sexuel avec des enfants (<ref-law>) et contraintes sexuelles (<ref-law>) ou actes d'ordre sexuel commis sur des personnes incapables de discernement ou de résistance (<ref-law>), de tentative de pornographie (art. 22 et 197 CP) et de violations du devoir d'assistance et d'éducation (<ref-law>).
B. Le Ministère public bernois et les parties plaignantes ont formé un appel, le limitant à la question de la libération d'actes d'ordre sexuel avec des enfants, de contraintes sexuelles et d'actes d'ordre sexuel commis sur des personnes incapables de discernement ou de résistance. Par jugement du 8 février 2012, la section pénale, 2e chambre pénale, de la Cour suprême du canton de Berne a reconnu X._ coupable d'actes d'ordre sexuel avec des enfants, en relation avec les lavages et les contrôles des lavages commis à réitérées reprises au préjudice de B.Y._ et A.Y._. Elle l'a en revanche libéré de la prévention d'actes d'ordre sexuel avec des enfants et de contrainte sexuelle en relation avec l'autre état de fait reproché, à savoir avoir laissé à plusieurs reprises B.Y._ toucher son pénis à l'occasion de douches et de bains pris en commun. Elle a condamné l'intéressé à une peine privative de liberté de 14 mois, sous déduction de la détention préventive, avec sursis pendant deux ans. Sur le plan civil, elle l'a condamné à verser à chacune des fillettes un montant de 3'000 fr. à titre d'indemnité pour tort moral.
En bref, la condamnation pour actes d'ordre sexuel avec des enfants repose sur les faits suivants:
B.a X._ est né le 12 septembre 1948. Il est divorcé et père de deux enfants, aujourd'hui adultes. En octobre 2004, il a épousé, en deuxième noce, C._, née en 1981, dont il a fait la connaissance lors d'un voyage touristique en République dominicaine. Cette dernière était mère de deux filles, à savoir de B.Y._, née le 28 septembre 1998, et de A.Y._, née le 24 septembre 1999, qui ont rejoint leur mère en Suisse une année plus tard.
B.b Du 11 octobre 2005 au 8 septembre 2007, X._ a lavé à plusieurs reprises lors de douches et de bains communs l'anus et le vagin de A.Y._ avec une lavette ou avec la main nue, en exerçant parfois une certaine pression et en faisant preuve d'insistance puisque la victime a considéré qu'il " entrait dans les trous ".
Il a également lavé le vagin de B.Y._ avec une lavette ou avec la main nue, parfois même en introduisant un doigt dans le vagin pour mieux le savonner.
Après le lavage des fillettes, il leur a parfois dit qu'il voulait contrôler si elles étaient propres et leur a demandé à cet effet d'écarter les jambes avant de procéder à l'examen visuel de l'entrejambe.
B.c La cour cantonale a essentiellement fondé son jugement sur une expertise de crédibilité de D._, psychologue diplômée M.A. et spécialiste légale FSP/SSPL, du 6 avril 2010 (dossier 556 ss) ainsi que sur deux compléments d'expertise, des 4 août 2011 (dossier 796 ss) et 21 octobre 2011 (dossier 828 ss), ordonnés en seconde instance. L'experte a conclu que les déclarations des fillettes reposaient sur un vécu réel avec X._.
C. Contre ce dernier jugement, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à l'annulation du jugement attaqué et au renvoi de la cause à l'instance cantonale pour nouvelle décision.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. Dénonçant la violation de la maxime d'accusation (art. 29 al. 2 Cst. et 6 § 3 CEDH), le recourant se plaint que le dispositif du jugement attaqué ne précise pas les actes d'ordre sexuel avec des enfants pour lesquels il a été condamné.
Le principe de l'accusation est une composante du droit d'être entendu consacré par l'art. 29 al. 2 Cst. et peut aussi être déduit des art. 32 al. 2 Cst. et 6 ch. 3 CEDH, qui n'ont à cet égard pas de portée distincte. Il implique que l'acte d'accusation soit suffisamment précis pour que le prévenu connaisse exactement les faits qui lui sont imputés et les peines et mesures auxquelles il est exposé afin qu'il puisse s'expliquer et préparer efficacement sa défense (<ref-ruling> consid. 2a p. 21; cf. <ref-law>). Il ne signifie pas, en revanche, que le dispositif du jugement d'appel doit mentionner avec précision les faits retenus à la charge du condamné. Le grief est donc mal fondé.
Au demeurant, le dispositif du jugement attaqué mentionne les dispositions légales applicables et les infractions retenues. Pour le surplus, l'appréciation en fait et en droit du comportement reproché figure dans l'exposé des motifs. Ainsi, le jugement attaqué résume les faits reprochés au recourant à la page 32, sous le chiffre 4 " Conclusion en ce qui concerne la toilette des fillettes lors des douches et des bains communs ". La cour de céans ne voit pas en quoi la rédaction du jugement attaqué serait insuffisante.
2. Le recourant fait grief à la cour cantonale d'avoir procédé à une appréciation arbitraire des preuves en se fondant uniquement sur le rapport d'expertise de crédibilité, auquel il conteste toute valeur probante.
2.1 Le Tribunal fédéral est un juge du droit. Il ne peut revoir les faits établis par l'autorité précédente que si ceux-ci l'ont été de manière manifestement inexacte, c'est-à-dire arbitraire (<ref-ruling> consid. 5.1 p. 356). On peut renvoyer, sur la notion d'arbitraire, aux principes maintes fois exposés par le Tribunal fédéral (voir par ex: <ref-ruling> consid. 2.4 p. 5; <ref-ruling> consid. 4.2 p. 560 ; <ref-ruling> consid. 1.3 p. 4/5; <ref-ruling> consid. 5.4 p. 148; <ref-ruling> consid. 3.1 p. 153 et les arrêts cités). En bref, pour qu'il y ait arbitraire, il ne suffit pas que la décision attaquée apparaisse discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable et cela non seulement dans sa motivation, mais aussi dans son résultat. Dans la mesure où - comme en l'espèce - l'appréciation des preuves est critiquée en référence avec le principe in dubio pro reo, celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (<ref-ruling> consid. 2a p. 41).
2.2 A l'instar des autres moyens de preuve, le juge apprécie librement la force probante des expertises. Cette liberté trouve sa limite dans l'interdiction de l'arbitraire. Si le juge n'est en principe pas lié par les conclusions de l'expert, il ne peut s'en écarter, sous peine de violer l'art. 9 Cst., qu'en exposant les motifs déterminants et les circonstances bien établies qui lui commandent d'agir de la sorte. En se fondant sur une expertise non concluante, le juge pourrait violer l'art. 9 Cst. Tel serait le cas si des motifs suffisants ou de sérieux indices lui faisaient douter de l'exactitude d'une expertise (<ref-ruling> consid. 4 p. 57 s.; <ref-ruling> consid. 1c p. 146).
2.3 Une expertise de crédibilité doit permettre au juge d'apprécier la valeur des déclarations de l'enfant, en s'assurant que ce dernier n'est pas suggestible, que son comportement trouve son origine dans un abus sexuel et n'a pas une autre cause, qu'il n'a pas subi l'influence de l'un de ses parents et qu'il ne relève pas de la pure fantaisie de l'enfant. Pour qu'une telle expertise ait une valeur probante, elle doit répondre aux standards professionnels reconnus par la doctrine et la jurisprudence récente (<ref-ruling> consid. 5 p. 58; <ref-ruling> consid. 2 p. 85). Si l'expert judiciaire est en principe libre d'utiliser les méthodes qui lui paraissent judicieuses, sa méthode doit toutefois être fondée, suivre les critères scientifiques établis, séparer soigneusement les constatations de faits du diagnostic et exposer clairement et logiquement les conclusions. En cas de suspicion d'abus sexuel sur des enfants, il existe des critères spécifiques pour apprécier si leurs déclarations correspondent à la réalité. L'expert doit examiner si la personne interrogée, compte tenu des circonstances, de ses capacités intellectuelles et des motifs du dévoilement, était capable de faire une telle déposition, même sans un véritable contexte expérientiel. Dans ce cadre, il analyse le contenu et la genèse des déclarations et du comportement, les caractéristiques du témoin, de son vécu et de son histoire personnelle, ainsi que divers éléments extérieurs. Lors de l'expertise de la validité d'un témoignage, il faut toujours avoir à l'esprit que la déclaration peut ne pas être fondée sur la réalité (ATF <ref-ruling> consid. 2 p. 85 s.).
3. Le recourant s'en prend à l'appréciation effectuée par la cour cantonale de l'expertise de crédibilité et au poids qu'elle lui a attribué.
3.1 Dans son rapport du 6 avril 2010, l'experte a récapitulé les déclarations du recourant, de son épouse et d'autres témoins. Elle a décrit de manière détaillée l'audition des fillettes filmée par la police le 15 septembre 2007, puis leur exploration du 26 février 2010 par elle-même, relevant le contraste saisissant au niveau des déclarations, à savoir entre la grande quantité de détails dans l'audition filmée et entre l'absence de souvenirs, voire la négation des accusations dans les explorations du 26 février 2010. Le recourant - qui avait été décrit en son temps comme un méchant homme - était devenu gentil. Les fillettes en conservaient un bon souvenir et n'avaient plus rien à raconter, car il ne leur avait rien fait. L'experte a expliqué que les fillettes se trouvaient dans un conflit de loyauté avec leur mère et que leur attitude fermée et crispée lors de leur exploration de février 2010 était due à la crainte de commettre des erreurs par rapport à leur mère.
Après avoir constaté que les fillettes disposaient bien de la capacité à offrir un témoignage, l'experte a procédé à une analyse du contenu selon les 19 critères de réalité tirés de Steller et Kohnken.
Dans son évaluation des déclarations de B.Y._, l'experte a relevé que la qualité des descriptions de l'abus présumé indiquait l'existence d'images internes d'un vécu réel. Elle a souligné que le témoignage de B.Y._ était caractérisé par une originalité et une simplicité qui correspondaient à une expérience vécue réellement par une enfant. Ses propos ne relevaient pas du lieu commun et étaient précis et cohérents. Ainsi, quand elle ne connaissait pas la réponse à une question, elle le disait clairement. Au vu de ses éléments, l'experte a retenu l'hypothèse du vécu réel de sa déclaration.
Au terme d'une démarche identique, l'experte est arrivée à la même conclusion concernant le témoignage de A.Y._. Elle a constaté que le témoignage de la fillette se caractérisait par son originalité, bien que simple. Ses propos ne relevaient pas du lieu commun, étaient précis et cohérents. En conclusion, l'étude de la validité de la déclaration de A.Y._ permettait de retenir l'hypothèse du vécu réel de ses dires lors de son audition du 15 septembre 2007.
3.2 Le recourant conteste la crédibilité des témoignages des deux fillettes, faisant valoir des contradictions dans leurs déclarations et l'influence qu'elles auraient subies.
3.2.1 Il soutient ainsi que les fillettes ont été influencées par E._ qui a recueilli leurs confidences.
Le grief est infondé. Dans son expertise principale, l'experte s'est interrogée sur l'éventualité d'une contamination du témoignage des enfants par une suggestion de la part de E._. Celle-ci avait appris que le recourant lavait les parties intimes des fillettes avec la main alors que les fillettes étaient en vacances chez la famille de E._ et qu'elles s'étonnaient que son mari ne les lave pas. L'experte a observé que, lors de leur audition officielle, les fillettes avaient présenté un discours authentique, indépendant, naturel et spontané, l'acte présumé étant présenté comme faisant partie intégrante et " normale " de la vie familiale. En outre, lors de son audition, la cadette avait montré qu'elle n'était pas sensible aux suggestions. Selon l'experte, aucun élément ne montrait que E._ aurait suscité ces déclarations ou par la suite influencé le discours des fillettes. L'experte a donc écarté l'hypothèse d'influence par suggestion par rapport au contenu du récit des fillettes (expertise p. 57/71, dossier 613/628).
3.2.2 Le recourant relève que la cadette a déclaré que le recourant l'avait nettoyée dans le " trou où elle avait ses règles ", alors qu'elle était trop jeune pour avoir des règles.
Le grief est mal fondé. En effet, dans son deuxième complément d'expertise, l'experte a expliqué que le fait que la fillette n'avait pas expérimenté elle-même les règles ne nuisait pas à sa crédibilité. Si elle se référait aux règles, c'est qu'elle avait entendu sa mère ou son entourage associer les règles à cette partie du corps (expertise p. 6, dossier 833).
3.2.3 Le recourant fait valoir que les fillettes ont un comportement contradictoire, dans la mesure où elles l'accusent de tous les torts, puis lui offrent des dessins représentant des coeurs.
Ce grief tombe à faux. Comme l'indique l'expertise de crédibilité, les fillettes considéraient le comportement du recourant comme " normal ". Il n'est dès lors pas contradictoire qu'elles aient offert des dessins avec des coeurs au recourant, qui était le mari de leur mère.
3.2.4 Le recourant fait valoir que les deux fillettes avaient un penchant à mentir pour tout et pour rien, selon les responsables de l'institution des " Petites familles " et les enseignantes.
Le grief soulevé doit être rejeté. En effet, dans leur lettre du 20 février 2009, les responsables de cette institution ont certes déclaré que les fillettes mentaient pour rien et pour tout, mais ils ont ajouté qu'ils n'étaient pas à même de dire si elles étaient capables d'inventer des histoires (dossier 509). Les déclarations de ces témoins ne sont donc d'aucune utilité au recourant.
3.2.5 Le recourant fait observer que les fillettes ont menti sur quatre accusations, pour lesquelles il a été acquitté (à savoir l'utilisation d'une ceinture pour les corriger, s'être couché nu à côté des fillettes durant leur sommeil, les avoir menacées de renvoi dans leur pays d'origine et avoir laissé toucher son pénis à l'occasion d'une douche prise en commun).
Ce grief tombe à faux. Si le recourant n'a pas été reconnu coupable de ces faits, ce n'est pas parce que les fillettes n'ont pas été jugées crédibles, mais parce que leurs déclarations ne permettaient pas d'établir les faits reprochés.
3.3 Le recourant reproche à la cour cantonale de s'être fondé uniquement sur l'expertise de crédibilité et ses deux compléments, sans tenir compte des autres éléments du dossier.
3.3.1 La cour cantonale n'aurait en particulier pas tenu compte des deux expertises gynécologiques pratiquées sur les deux fillettes, lesquelles infirmeraient l'hypothèse des actes d'ordre sexuel commis sur celles-ci.
La cour cantonale n'a pas méconnu les résultats des expertises gynécologiques (Dossier 157/164). Selon elle, le fait que les experts n'avaient constaté aucune trace ou lésion chez la cadette ne disculpait pas le recourant, car un nettoyage à la main ou avec une lavette ne laisse pas nécessairement de trace. En ce qui concerne l'aînée, les experts avaient observé la présence d'irrégularités au niveau de son hymen et de rougeurs à l'entrée de son vagin. Si les rougeurs ne pouvaient provenir des attouchements du recourant pour des raisons temporelles, les irrégularités au niveau de l'hymen pouvaient avoir été causées par la pénétration d'un doigt (jugement p. 32).
3.3.2 Le recourant note que s'il avait voulu abuser des fillettes, il ne les aurait pas laissées partir chez E._.
Cette réflexion est sans pertinence en ce qui concerne les faits reprochés.
3.3.3 Le recourant relève que les témoins de moralité lui sont favorables et qu'il avait fait une bonne impression aux cinq juges de première instance.
Ces éléments ne sont pas non plus déterminants pour l'établissement des faits.
3.4 En définitive, l'expertise a été établie selon les règles de l'art. La manière de procéder de l'experte satisfait aux critères posés par la jurisprudence et la littérature spécialisée en la matière. Le recourant n'a pas relevé d'éléments ou de faits permettant de mettre en doute les conclusions de l'expertise et, partant, la crédibilité des déclarations des deux fillettes.
4. Enfin, le recourant se plaint que la cour cantonale a établi les faits de manière manifestement inexacte (<ref-law>) sur différents points.
4.1 Le recourant reproche à la cour cantonale d'avoir retenu des abus à " réitérées reprises ", alors que la cadette aurait déclaré avoir subi ce genre d'attouchements à une seule reprise, lors d'un bain.
Dans ses compléments d'expertise, l'experte a expliqué qu'un enfant de huit ans ne pouvait pas se référer exactement au nombre de fois qu'avait eu lieu un événement, surtout si ledit événement avait été enregistré comme faisant partie de sa vie quotidienne. Un enfant enregistrait dans sa mémoire des images du vécu, mais n'enregistrait pas le nombre de fois. Dès lors, il pouvait donner sur ce point des réponses différentes sans que sa crédibilité en soit affectée. Au contraire, un enfant qui ne se référerait pas à son vécu réel aurait tendance à fournir une réponse précise avec conviction (1er complément d'expertise, p. 3, dossier 798; 2e complément d'expertise p. 6 s.; dossier 834).
La cour cantonale a considéré que les nettoyages et contrôles reprochés avaient été commis à réitérées reprises. Elle a expliqué qu'il n'était pas possible d'être plus précis en ce qui concernait le nombre des lavages des parties intimes et du contrôle du résultat des lavages. En effet, elle ignorait quelle était la fréquence des douches et bains pris en commun, si les lavages et contrôles avaient eu lieu de façon systématique ou non, et durant quelle période précise. Elle a admis que les douches et bains communs avaient eu lieu jusqu'au départ de la mère en vacances, à savoir jusqu'au début septembre 2007, et donc une période de commission du 11 octobre 2005 à début septembre 2007. Comme ces procédés étaient aux yeux des fillettes normaux et usuels, la cour cantonale a retenu que ces nettoyages et contrôles subséquents avaient eu lieu à réitérées reprises durant la période allant du 11 octobre 2005 à début septembre 2007.
Au vu des explications de l'experte, la cour cantonale n'est pas tombée dans l'arbitraire en retenant que les attouchements avaient eu lieu à réitérées reprises du 11 octobre 2005 jusqu'au début septembre 2007 au motif que les bains et douches pris en commun étaient quelque chose de normal. Le grief tiré de l'établissement arbitraire des faits est donc mal fondé.
4.2 Le recourant fait valoir que la cadette a déclaré que le recourant utilisait toujours une lavette, alors que la cour cantonale a retenu que les attouchements avaient été faits avec la lavette ou la main.
L'experte a relevé que les variations de la cadette concernant le mode du lavage des parties sexuelles (avec la main, avec le doigt ou la lavette) ne mettaient pas en cause la crédibilité de son témoignage. En effet, le scénario de la douche pouvait se dérouler de manières différentes, selon les jours. Dès lors, comme la mémoire se présentait sous la forme d'images, l'enfant pouvait se référer à des images différentes selon les circonstances, ce qui pouvait donner une impression d'inconstance. Il n'y avait pas non plus de contradiction quand un enfant ne parlait que de son vagin, tandis que l'autre se référait à son vagin et à son anus. En effet, l'anus et le vagin se trouvent dans une partie bien définie et sont proches l'un de l'autre (premier complément d'expertise p. 4 ss; dossier 799 ss).
Au vu de ces explications, la cour cantonale n'est pas tombée dans l'arbitraire en retenant que le recourant avait lavé les fillettes avec une lavette ou avec la main nue. Mal fondé, le grief soulevé doit être rejeté.
5. Pour le surplus, le recourant ne discute pas la qualification juridique des faits reprochés ni la peine.
6. Au vu de ce qui précède, le recours doit être rejeté.
Le recourant, qui succombe, doit supporter les frais (<ref-law>).
Il n'y a pas lieu d'allouer d'indemnité aux intimées qui n'ont pas été invitées à déposer de mémoire dans la procédure devant le Tribunal fédéral.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour suprême du canton de Berne, Section pénale, 2ème Chambre pénale.
Lausanne, le 15 octobre 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin