Faits:
A. Par jugement du 9 décembre 2010, l'ancien Tribunal d'Arrondissement I du canton de Berne a condamné X._, pour actes d'ordre sexuel avec un enfant (<ref-law>), à une peine privative de liberté de douze mois, sous déduction de la détention préventive. Il a ordonné la suspension de cette peine au profit d'une mesure thérapeutique institutionnelle dans un établissement fermé (<ref-law>).
B. Statuant le 12 octobre 2011, la 2e Chambre pénale de la Cour suprême du canton de Berne a rejeté les appels formés par X._ et le Ministère public bernois.
Pour l'essentiel, elle a retenu les faits suivants :
X._ se trouvait en exécution de peine dans les établissements de St-Jean en raison de la commission d'infractions semblables à celles qui font l'objet de la présente procédure.
Le 22 août 2009, dans le courant de l'après-midi, vêtu uniquement de son short de bain, il s'est rendu dans la zone de pêche se trouvant au bord du canal de la Thielle, zone dans laquelle il était autorisé à se rendre, car il s'adonnait à la pêche à la ligne. Après avoir traversé à la nage le canal de la Thielle et longé à pied la rive, il a rejoint la plage de Saint-Joux à La Neuveville.
Il s'est approché d'un groupe de quatre fillettes et leur a proposé de jouer avec elles. Profitant des absences momentanées des autres fillettes, X._, qui avait réussi à acquérir la confiance d'A._, l'a touchée au sexe, près de la fente et à même la peau. En outre, il a sorti son sexe de son short de bain à deux reprises pour se gratter, en présence d'A._. A une reprise, il a pris la main de la victime et lui a demandé de toucher son sexe, ce qu'A._ a refusé de faire, tout en s'excusant et en précisant qu'elle n'en avait pas le droit; X._ n'a pas insisté. Il a en outre exercé des mouvements de va-et-vient sur son sexe sorti du short de bain, devant la victime. Enfin, il lui a demandé de lui montrer ce qu'elle avait sous sa robe, ce qu'elle a refusé.
C. Contre ce dernier jugement, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut, principalement, à la réforme du jugement attaqué en ce sens qu'il est condamné à une peine privative de liberté de six mois et, subsidiairement, à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité précédente. En outre, il sollicite l'assistance judiciaire.
Invités à se déterminer sur le recours, le Ministère public et la Cour suprême du canton de Berne concluent à son rejet.
A la suite de la communication des prises de positions susmentionnées, le recourant dépose des observations.

Considérant en droit:
1. Le recourant s'en prend à la mesure de la peine (<ref-law>). Il conteste que les antécédents, qui sont les seuls éléments aggravants, permettent d'aggraver de moitié la peine hypothétique, faisant passer celle-ci de six à douze mois.
1.1 L'<ref-law> prévoit que le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2).
1.2 La culpabilité de l'auteur doit être évaluée en fonction de tous les éléments objectifs pertinents, qui ont trait à l'acte lui-même, à savoir notamment la gravité de la lésion, le caractère répréhensible de l'acte et son mode d'exécution. Du point de vue subjectif, sont pris en compte l'intensité de la volonté délictuelle ainsi que les motivations et les buts de l'auteur. A ces composantes de la culpabilité, il faut ajouter les facteurs liés à l'auteur lui-même, à savoir les antécédents (judiciaires et non judiciaires), la réputation, la situation personnelle (état de santé, âge, obligations familiales, situation professionnelle, risque de récidive, etc.), la vulnérabilité face à la peine, de même que le comportement après l'acte et au cours de la procédure pénale (<ref-ruling> consid. 2.1 p. 19 s.; <ref-ruling> consid. 6.1).
1.2.1 En cas de diminution de la responsabilité pénale, le juge doit, d'abord, décider sur la base des constatations de fait de l'expertise dans quelle mesure la responsabilité pénale de l'auteur doit être restreinte sur le plan juridique et comment cette diminution de la responsabilité se répercute sur l'appréciation de la faute. La faute globale doit être qualifiée et désignée expressément dans le jugement (<ref-law>). Ensuite, le juge doit déterminer la peine (hypothétique), qui correspond à cette faute. La peine ainsi fixée peut enfin être modifiée en raison de facteurs liés à l'auteur (Täterkomponente) (<ref-ruling> consid. 5.7).
1.2.2 Bien que la récidive ne constitue plus un motif d'aggravation obligatoire de la peine (art. 67 aCP), les antécédents continuent de jouer un rôle très important dans la fixation de celle-ci (WIPRÄCHTIGER, Strafrecht I, Basler Kommentar, 2007, n. 100 ad art. 47). En général, la culpabilité de l'auteur est amplifiée du fait qu'il n'a pas tenu compte de l'avertissement constitué par la précédente condamnation, et sa rechute témoigne d'une énergie criminelle accrue (cf. QUELOZ/HUMBERT, Code pénal I, Commentaire romand, n. 55 ad art. 47; contra : STRATENWERTH, Schweizerisches Strafrecht, Allgemeiner Teil II : Strafen und Massnahmen, 2e éd., 2006, § 6 n. 44 ; TRECHSEL ET AL., Schweizerisches Strafgesetzbuch, Praxiskommentar, n. 31 ad art. 47). Une série d'infractions semblables pèse plus lourd que des actes de nature différente. En outre, les condamnations passées perdent de leur importance avec l'écoulement du temps. Les condamnations qui ont été éliminées du casier judiciaire ne peuvent plus être utilisées pour l'appréciation de la peine ou l'octroi du sursis dans le cadre d'une nouvelle procédure pénale (<ref-ruling> consid. 2). Les antécédents judiciaires ne sauraient toutefois conduire à une augmentation massive de la peine, parce que cela reviendrait à condamner une deuxième fois pour des actes déjà jugés (<ref-ruling> consid. 3b p. 145).
1.2.3 Pour fixer la peine, le juge dispose d'un large pouvoir d'appréciation. Il y a toutefois violation du droit fédéral lorsque le juge sort du cadre légal, se fonde sur des critères étrangers à l'<ref-law>, omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 2.1; <ref-ruling> consid. 6.1 et les références citées).
1.2.3 Pour fixer la peine, le juge dispose d'un large pouvoir d'appréciation. Il y a toutefois violation du droit fédéral lorsque le juge sort du cadre légal, se fonde sur des critères étrangers à l'<ref-law>, omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 2.1; <ref-ruling> consid. 6.1 et les références citées).
1.3 1.3.1 Dans une première étape, la cour cantonale a constaté que les actes commis n'étaient en soi pas particulièrement graves. Elle a qualifié le mode d'exécution de subtil et elle n'a pas exclu que la victime puisse souffrir de séquelles se manifestant sur le long terme, d'autant plus que la fillette avait immédiatement culpabilisé, se reprochant sa passivité face aux actes du recourant. Sur le plan subjectif, les juges cantonaux ont relevé que le recourant avait fait preuve d'une grande énergie criminelle et que l'intensité de sa volonté délictueuse devait être qualifiée de forte, dans la mesure où il devait se douter que les fillettes étaient accompagnées par des adultes qui se trouvaient à proximité et que cela ne l'avait pas empêché de commettre les actes litigieux, démontrant un sang froid redoutable. Il avait fait preuve d'égoïsme, donnant la priorité à ses besoins sexuels et n'hésitant pas à le faire au préjudice de l'équilibre psychique d'une enfant. A ce stade du raisonnement, la cour cantonale a qualifié la culpabilité du recourant de moyenne (jugement attaqué p. 32).
Dans une deuxième phase, elle a qualifié de moyenne la diminution de la responsabilité du recourant sur le plan juridique. Elle a donc retenu une culpabilité de légère à moyenne, ce qui entraînait une peine privative de liberté hypothétique de six mois (jugement attaqué p. 33).
Dans un troisième temps, elle a modifié la peine en fonction des facteurs liés à l'auteur lui-même. Elle a noté que le recourant avait été condamné en appel le 19 février 2001 par la Chambre pénale de la Cour suprême à une peine de cinq ans et demi de réclusion, peine partiellement complémentaire à celle infligée par le Tribunal du district de Nyon, pour actes d'ordre sexuel avec des enfants et contraintes sexuelles. Le 14 mai 2009, il avait été condamné par l'ancien Tribunal d'Arrondissement II à une peine privative de liberté d'ensemble de trois ans et demi - le solde de la peine de un an, dix mois et dix jours de la peine privative de liberté découlant de la révocation de la libération conditionnelle étant compris dans cette peine - pour actes d'ordre sexuel avec des enfants, contrainte sexuelle, actes d'ordre sexuel commis sur une personne incapable de discernement ou de résistance et pornographie. Au vu de ces lourds antécédents, la cour cantonale a augmenté la peine hypothétique de six mois et infligé au recourant une peine de douze mois (jugement attaqué p. 34 s.).
1.3.2 Les antécédents, surtout lorsqu'il s'agit d'actes délictueux semblables, restent un élément pertinent, justifiant une aggravation de la peine. En l'espèce, le recourant a un passé très chargé. A ce jour, il a commis une trentaine d'actes d'ordre sexuel et fait 19 victimes. En outre, les condamnations passées sont récentes, le dernier jugement remontant à quelques mois seulement avant la commission des nouveaux actes. Le recourant était même en exécution de peine lorsqu'il a commis les infractions qui font l'objet de la présente procédure. Vu le nombre des actes d'ordre sexuel précédemment commis et leur caractère récent, une augmentation de la peine hypothétique de six mois n'est pas sévère au point qu'il faille conclure à un abus du large pouvoir d'appréciation laissé à la cour cantonale. Le grief tiré de la violation de l'<ref-law> doit donc être rejeté.
2. Le recourant conteste que les conditions d'une mesure thérapeutique institutionnelle selon l'<ref-law> soient réalisées.
2. Le recourant conteste que les conditions d'une mesure thérapeutique institutionnelle selon l'<ref-law> soient réalisées.
2.1 2.1.1 Une mesure doit être ordonnée si une peine seule ne peut pas écarter le danger que l'auteur commette d'autres infractions, si l'auteur a besoin d'un traitement ou que la sécurité publique l'exige et si les conditions prévues aux art. 59 à 61, 63 ou 64 sont remplies (<ref-law>). Le prononcé d'une mesure suppose que l'atteinte aux droits de la personnalité qui en résulte pour l'auteur ne soit pas disproportionnée au regard de la vraisemblance qu'il commette de nouvelles infractions et de leur gravité (al. 2).
2.1.2 Le prononcé d'une mesure thérapeutique institutionnelle selon l'<ref-law> suppose un grave trouble mental au moment de l'infraction, lequel doit encore exister lors du jugement. Selon la jurisprudence, toute anomalie mentale du point de vue médical ne suffit pas. Seuls certains états psychopathologiques d'une certaine importance et seules certaines formes relativement lourdes de maladies mentales au sens médical peuvent être qualifiés d'anomalies mentales au sens juridique (arrêt 6B_784/2010 du 2 décembre 2010, consid. 2.1). En d'autres termes, il faut que la structure mentale de l'intéressé s'écarte manifestement de la moyenne par rapport aux autres sujets de droit, mais plus encore par rapport aux autres criminels (message du 21 septembre 1998 concernant la modification du code pénal suisse (dispositions générales, entrée en vigueur et application du code pénal), FF 1999 p. 1812). La référence à la gravité du trouble mental ne correspond pas à une description quantitative du dérangement psychique, mais signifie uniquement que le trouble mental doit être significatif sur le plan psychiatrique comme sur le plan juridique (MARIANNE HEER, Einige Schwerpunkte des neuen Massnahmenrechts, in RPS 212 (2003), p. 376 ss, spéc. 391; HANS WIPRÄCHTIGER, Grundzüge des neuen Massnahmenrechts 2002, in La revisione della parte generale del codice penale, 2005, p. 43 ss, spéc. 56).
Outre l'exigence d'un grave trouble mental, le prononcé d'un traitement institutionnel selon l'<ref-law> suppose que l'auteur ait commis un crime ou un délit en relation avec ce trouble (let. a) et qu'il soit à prévoir que cette mesure le détournera de nouvelles infractions en relation avec ce dernier (let. b). Il doit être suffisamment vraisemblable que le traitement entraînera, dans les cinq ans de sa durée normale, une réduction nette du risque que l'intéressé commette de nouvelles infractions. La seule possibilité vague d'une diminution du danger ne suffit pas (<ref-ruling> consid. 3.4.1 p. 321 ; arrêt 6B_784/2010 du 2 décembre 2010, consid. 2.1).
2.1.3 Pour ordonner une des mesures prévues aux art. 59 à 61, 63 et 64 CP, le juge doit se fonder sur une expertise. Celle-ci doit se déterminer sur la nécessité et les chances de succès d'un traitement, la vraisemblance que l'auteur commette d'autres infractions et la nature de celles-ci, et sur les possibilités de faire exécuter la mesure (<ref-law>). Selon la jurisprudence, le juge apprécie en principe librement une expertise et n'est pas lié par les conclusions de l'expert. Toutefois, il ne peut s'en écarter que lorsque des circonstances ou des indices importants et bien établis en ébranlent sérieusement la crédibilité; il est alors tenu de motiver sa décision de ne pas suivre le rapport d'expertise (<ref-ruling> consid. 4.2.3 p. 391; <ref-ruling> consid. 4 p. 57; <ref-ruling> consid. 2 p. 86).
2.2 Le recourant fait grief à la cour cantonale d'avoir retenu un «grave» trouble mental, alors que l'expert aurait qualifié le trouble de «sévérité moyenne».
2.2.1 La cour cantonale s'est fondée sur les expertises du Dr B._ des 21 octobre 1999, 27 janvier 2009 et 24 novembre 2009. L'expert a posé un diagnostic de trouble schizotypique (F21 selon CIM-10), qui implique une forme d'infantilisme caractérisée par la conviction profonde d'être un enfant dans un corps d'adulte (expertise novembre 2009, D 131). Dans l'expertise de 1999, il a précisé que le trouble psychique avait certainement le caractère de gravité nécessaire pour qu'on puisse l'assimiler à un trouble de la santé mentale au sens de l'art. 11 aCP (expertise 1999, D 608). Selon l'expert, le trouble relativement sérieux dont le recourant est atteint fait de lui un pédophile s'écartant de manière caractérisée de la normalité non seulement par rapport au citoyen ordinaire mais également en comparaison d'autres personnes comme lui attirées sexuellement par les enfants (expertise janvier 2009, D 618; déjà expertise 1999, D 608). L'expert a conclu que, par rapport au large spectre des troubles psychiques connus, le trouble mental dont souffrait le recourant était à considérer comme de sévérité moyenne (expertise janvier 2009, D 619; expertise novembre 2009, D 131).
2.2.2 Il ressort de ces trois expertises que le trouble mental dont souffre le recourant est significatif sur le plan psychiatrique. La cour cantonale n'a donc pas violé le droit fédéral en le qualifiant de grave au sens juridique. Il n'est à cet égard pas déterminant que l'expert n'ait pas utilisé le terme «grave», mais celui de «sévérité moyenne».
2.3 En outre, le recourant reproche à la cour cantonale de s'être écartée de l'expertise, en ordonnant une mesure thérapeutique institutionnelle.
2.3.1 Au chiffre 4.4 des conclusions de son expertise du 24 novembre 2009, l'expert a déclaré qu'aucune mesure thérapeutique ne pouvait être proposée à l'heure actuelle (expertise novembre 2009, réponse à la question 4.3, D 133).
A la page 10 de son expertise, il a expliqué la raison pour laquelle il arrivait à cette conclusion: «Il convient de rester prudent dans la prescription de thérapies et on aurait tort d'y voir une panacée universelle. Mon opinion est toujours, comme je l'écrivais en janvier dernier, qu'il n'est pas impossible que Monsieur X._ puisse à terme utiliser le cadre d'une psychothérapie de soutien pour développer des façons moins destructrices pour ses victimes et pour lui-même de vivre avec les aspects particuliers de son vécu intime et il demeure donc important qu'il ait des possibilités d'accès à un ou une psychothérapeute s'il le souhaite mais il ne paraît pas à l'heure actuelle indiqué de lui imposer une thérapie. On le sent tellement «braqué», révolté contre toute manoeuvre visant à des changements chez lui, vivant ce type de démarche comme une intrusion insupportable, qu'on irait à fins contraires en le contraignant à entreprendre une démarche thérapeutique» (expertise novembre 2009, D 130).
2.3.2 A l'encontre des conclusions de l'expertise, la cour cantonale a cependant ordonné une mesure thérapeutique institutionnelle. Elle a fondé son prononcé, principalement, sur deux motifs.
Premièrement, elle a constaté que l'expert n'avait pas exclu qu'à terme une psychothérapie pouvait avoir des effets positifs (jugement attaqué p. 45). En réalité, l'expert a déclaré qu'il était difficile de modifier fondamentalement le type de trouble dont souffrait l'expertisé, mais qu'il n'était pas impossible qu'à terme un traitement puisse avoir des effets modestes. Il a ainsi envisagé une thérapie à terme et n'a parlé que d'effets modestes. Il a en outre ajouté que les expériences effectuées montraient que des mesures thérapeutiques imposées pouvaient s'avérer contre-productives (expertise novembre 2009, réponse à la question 4.2 D 132)
En second lieu, la cour cantonale a considéré que, dans la mesure où le traitement institutionnel avait lieu dans une unité spécifique de la prison, il était permis d'espérer que la motivation à suivre une thérapie puisse être créée (jugement attaqué p. 45). Toutefois, l'expert a exclu, à l'heure actuelle, que le recourant puisse être motivé. Il a exposé qu'il n'avait pas discerné de motivation au changement chez l'intéressé, qui lui paraissait actuellement hostile à toute intervention thérapeutique, et il a conclu qu'un traitement ordonné contre sa volonté risquait d'aller à fins contraires (expertise novembre 2009, réponse à la question 4.3, D 133). Dans ses observations, le Ministère public s'est référé à un arrêt du 6 janvier 2011 (6B_798/2010), dans lequel le Tribunal fédéral a considéré que l'opposition à la mesure ne pouvait empêcher le prononcé d'une mesure, car le but de celle-ci était aussi de faire naître chez l'auteur une disposition à coopérer au traitement. Dans cet arrêt toutefois, le placement de l'auteur dans un milieu hospitalier avait montré des premiers effets positifs, de sorte que l'on pouvait admettre que l'auteur pouvait être motivé (cf. aussi arrêt 6B_784/2010 du 2 décembre 2010, consid. 2.2.3).
2.3.3 En procédant de la sorte, la cour cantonale s'est écartée de la jurisprudence relative au pouvoir d'examen du juge par rapport à une expertise (cf. consid. 2.1.3 ci-dessus). En effet, par son argumentation, elle a substitué son avis à celui de l'expert, en interprétant ses constatations de manière à aboutir à la conclusion qu'une mesure thérapeutique institutionnelle serait souhaitable. Elle n'a pas expliqué en quoi l'appréciation de l'expert reposerait sur des fausses considérations et en quoi ses conclusions seraient douteuses. En outre, elle a opté pour un traitement institutionnel en milieu fermé, qui s'exécute, en règle générale, dans un établissement pénitentiaire, vu le manque d'établissements fermés selon l'<ref-law>, et qui porte dès lors une grave atteinte à la liberté personnelle. En conclusion, en ordonnant un traitement thérapeutique institutionnel en milieu fermé, alors que l'expert proposait de renoncer à toute mesure thérapeutique, la cour cantonale est tombée dans l'arbitraire. Il convient d'admettre le recours sur la question de la mesure, d'annuler l'arrêt attaqué et de renvoyer la cause à la cour cantonale pour nouveau jugement.
3. Le recourant a requis l'assistance judiciaire. Cette requête est sans objet dans la mesure où il obtient gain de cause sur la question du prononcé de la mesure et peut, à ce titre, prétendre à des dépens réduits (art. 64 al. 2 et 68 al. 1 LTF). Le recours est, pour le surplus, dénué de chances de succès, si bien que l'assistance judiciaire doit être refusée dans cette mesure (<ref-law>). Vu l'issue du litige, le recourant supporte une part des frais de la cause qui seront, en outre, fixés en tenant compte de sa situation économique (art. 65 al. 2 et 66 al. 1 LTF), qui n'apparaît pas favorable en raison de sa détention notamment. Le Ministère public ne supporte pas de frais (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis et l'arrêt attaqué est annulé dans la mesure où il ordonne la suspension de la peine au profit d'un traitement thérapeutique institutionnel dans un établissement fermé. Le recours est rejeté pour le surplus.
2. La requête d'assistance judiciaire du recourant est rejetée, dans la mesure où elle n'est pas devenue sans objet.
3. Des frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4. Le canton de Berne versera au mandataire du recourant la somme de 1500 fr. à titre de dépens.
5. Le présent arrêt est communiqué aux parties et à la Cour suprême du canton de Berne, Section pénale, 2ème Chambre pénale.
Lausanne, le 18 juin 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin