Faits:
A. A.a Par jugement du 11 février 2002, le Tribunal criminel de l'arrondissement de Lausanne a condamné X_ à douze ans de réclusion, sous déduction de la détention préventive, pour assassinat, lésions corporelles graves, voies de fait qualifiées, séquestration qualifiée, violation du devoir d'assistance ou d'éducation et dénonciation calomnieuse. Il a suspendu l'exécution de cette peine au profit d'un internement au sens de l'art. 43 ch. 1 al. 2 aCP.
Ce jugement a été confirmé par la Cour de cassation pénale du Tribunal cantonal vaudois le 20 septembre 2002 (sauf en ce qui concerne les voies de fait qualifiées) et par la Cour de cassation pénale du Tribunal fédéral le 13 juin 2003.
A.b Cette condamnation reposait, pour l'essentiel, sur les faits suivants: X_ avait trois filles, A._, née en 1987 et décédée à la fin de l'année 1998, B._, née en 1990, et C._, née en 1994. Entre le 24 et le 31 décembre 1998, X_ et sa soeur, Y._, ont frappé à mort A._. Celle-ci avait provoqué la colère de sa mère pour des futilités. Très en colère, cette dernière a alors commencé à frapper violemment sa fille, sur tout le corps et notamment le visage, au moyen d'un cordon électrique doublé muni d'un noeud à l'une de ses extrémités. Après un certain temps, elle a appelé Y._ et celle-ci a également commencé à battre sa nièce, avec un autre cordon ou une ceinture. Les deux femmes, qui ont ainsi agi séparément et à tour de rôle pendant une demi-heure en tout cas, ont frappé A._ jusqu'à ce que l'enfant, qui pleurait doucement, cessât ses gémissements et ne bougeât plus. B._ et C._ ont assisté à toute la scène. Après le décès de A._, les deux femmes n'ont plus quitté l'appartement, où elles sont restées terrées, volets fermés, avec les deux fillettes et le cadavre de l'enfant, jusqu'à l'intervention de la police, le soir du 15 janvier 1999.
A.c Dans le cadre de la procédure ayant conduit à cette condamnation, X_ a été soumise à deux expertises psychiatriques.
Le rapport du 11 octobre 1999 du Dr D._ a posé un diagnostic de schizophrénie paranoïde continue, avec "un délire particulièrement bien construit autour de la présence d'un ennemi - le diable -, un délire mystique et de persécution qui repose sur le déni de la réalité et sur le mécanisme de projection et de l'identification projective". Le médecin expliquait le trouble constaté en ces termes: "Cette projection psychotique se caractérise par le fait que la patiente expulse à l'extérieur sur d'autres objets, sur d'autres personnes ce qu'elle ne peut pas s'attribuer. C'est ainsi que les angoisses de morcellement, de destruction éprouvées par l'expertisée viennent organiser un délire au coeur duquel prend place la figure toute puissante et menaçante de l'ennemi qui fait de son environnement un environnement hostile contre lequel elle doit se défendre coûte que coûte, l'ennemi se dissimulant là où sa pensée altérée le désigne, y compris dans ses troubles de la perception tels que hallucinations auditives, visuelles ou encore olfactives (...). Ce qui est aussi particulièrement inquiétant est la conviction délirante et l'adhérence de la patiente à un délire dont la construction montre que n'importe quelle autre personne peut matérialiser l'ennemi. C'est en cela que la patiente peut se montrer dangereuse, car il lui faut combattre voire anéantir celui dans lequel l'ennemi se loge. Cela permet d'expliquer que la fillette a été battue à mort par sa mère prise dans ses projections et son délire". Le Dr D._ estimait que la prise en charge de l'intéressée en milieu carcéral par l'unité psychiatrique pénitentiaire était le cadre adéquat au traitement de sa maladie mentale dont découle sa dangerosité.
Une nouvelle expertise a donné lieu au rapport du Département de psychiatrie adulte du 15 juin 2000, signé par les Drs E._ et F._. Ces médecins ont posé un diagnostic de trouble de la personnalité paranoïaque et de trouble psychotique partagé. Selon eux, ces troubles peuvent influencer le comportement général de l'expertisée dans le sens où elle attribue la faute des difficultés systématiquement à l'extérieur et y réagit avec agressivité. Elle a des croyances de toute puissance sans aucun regard critique, ce qui peut l'amener à des comportements inadéquats et dangereux envers des personnes fragiles comme par exemple les enfants. Les experts ont préconisé un internement. Dans un complément d'expertise du 7 janvier 2002, ils ont confirmé leur diagnostic, en précisant que le cadre de l'incarcération, dans lequel X_ s'adaptait à de nouvelles conditions de vie moins stressantes que celles qu'elle avait juste avant les évènements qui lui étaient reprochés, lui permettait d'être plutôt bien compensée.
B. X_ a exécuté la mesure d'internement jusqu'au 19 novembre 2007. Lors du réexamen des internements imposé par le droit transitoire des nouvelles dispositions du code pénal, entrées en vigueur le 1er janvier 2007 (art. 2 al. 2 Dispositions finales), le Tribunal correctionnel d'arrondissement de Lausanne a substitué à l'internement la mesure thérapeutique institutionnelle (traitement des troubles mentaux) de l'art. 59 CP.
A l'appui de cette décision, l'autorité de jugement notait que l'intéressée avait "amorcé une évolution sinon remarquable, du moins remarquée, depuis l'année 2004" et que s'il y avait eu une période de flottement en 2006, "la thérapie [avait] repris de plus belle en 2007 et, selon son thérapeute, le traitement n'[était] pas inutile". A ce jour, concluait le tribunal, "on peut affirmer que le traitement est bénéfique et qu'il porte ses fruits". Le jugement précisait néanmoins que la dangerosité de X_ ne devait pas être mésestimée, dangerosité maintes fois rappelée par la Commission interdisciplinaire consultative (ci-après: CIC), et qu'il n'était pas question de dire qu'elle ne constituait plus une menace ou un danger grave pour autrui, d'où l'application de la précaution sécuritaire de l'alinéa 3 de l'art. 59 CP. La Cour de cassation pénale du Tribunal cantonal vaudois a confirmé ce jugement par arrêt du 24 janvier 2008.
C. En date du 7 février 2008, la procédure d'examen annuel de la mesure thérapeutique institutionnelle (art. 62d al. 1 CP), dans la compétence du Collège des juges d'application des peines, a été ouverte avec anticipation, en vue de procéder à une expertise psychiatrique indépendante, qui n'avait pas été réalisée pour le réexamen de l'internement. Cette procédure a été suspendue jusqu'à droit connu sur la procédure qui fait l'objet du présent recours (cf. lettre D ci-dessous).
Le Centre d'expertise du Département de psychiatrie du CHUV a été mandaté pour une nouvelle expertise psychiatrique. Dans leur rapport du 3 décembre 2008, les Drs G._ et H._ ont posé un diagnostic de trouble de la personnalité paranoïaque et de possible limitation intellectuelle. Concernant le risque de récidive, notamment d'actes de violence, ils estiment qu'il est incontestablement à mettre en lien avec le trouble de la personnalité paranoïaque diagnostiqué. Le trouble implique le fait de difficilement supporter les manifestations d'autrui qui ne vont pas dans le même sens que la volonté propre et d'interpréter celles-ci comme malveillantes. Cette caractéristique est d'autant plus exacerbée que le trouble de la personnalité est décompensé, en situation de stress notamment. La tension interne ainsi générée peut s'accroître et entraîner dans son processus des passages à l'acte hétéro-agressifs et, dans le cadre d'une telle décompensation psychique, une dimension délirante (éléments psychotiques) peut apparaître et participer à la majoration du potentiel de violence, ces aspects ne pouvant qu'être amplifiés dans l'hypothèse d'une limitation intellectuelle.
Les experts prénommés ont confirmé leur diagnostic dans un complément d'expertise du 7 avril 2009: ils qualifient le risque de récidive d'important en cas de nouvelle décompensation du trouble de la personnalité paranoïaque avec apparition d'éléments psychotiques et n'excluent pas que le potentiel de violence de X_ - nié par celle-ci - n'aille jusqu'à s'exprimer de manière identique (assassinat en particulier). Selon les experts, le fait que l'intéressée persiste dans une attitude de déni de tout risque de violence de sa part et l'impossibilité pour elle de se confronter aux délits pour lesquels elle est incarcérée sont des indicateurs importants qui alourdissent le risque de récidive d'actes de même nature.
Entendu à l'audience du 26 août 2009, le Dr G._ a confirmé que la recourante présente un risque de récidive important et qu'elle bénéficie en prison de davantage de possibilités de s'isoler en cas de stress - possibilités qu'elle utilise - que dans d'autres circonstances extérieures.
D. Par requête du 31 août 2009 adressée à l'Office d'exécution des peines (ci-après: OEP), X_ a demandé à être immédiatement transférée "dans un établissement thérapeutique approprié qui ne doit pas être une institution de soins psychiatriques".
L'OEP a refusé le transfert requis dans une décision du 4 novembre 2009. Il se fonde, notamment, sur un rapport du 19 octobre 2009 de la direction des établissements d'Hindelbank, selon lequel X_ a présenté une forte tendance au retrait durant les derniers mois, qu'elle pouvait être agressive en situation de stress et qu'elle a refusé d'être accompagnée lors d'éventuelles sorties. La direction estime qu'un passage en régime d'exécution, avec des exigences au niveau des compétences sociales, de l'indépendance et de la capacité d'adaptation, ne peut pas être ordonné à l'heure actuelle au vu des insuffisances de l'intéressée en matière de relations personnelles.
Par arrêt du 12 avril 2010, le Juge d'application des peines du canton de Vaud a rejeté le recours formé par X_.
E. Contre ce dernier arrêt, X_ dépose un recours en matière pénale devant le Tribunal fédéral. Elle conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité précédente pour qu'elle ordonne l'exécution de la mesure de thérapie dans le cadre d'une institution adaptée non psychiatrique et non carcérale au sens de l'art. 59 ch. 2 CP. En outre, elle sollicite l'assistance judiciaire.
Il n'a pas été ordonné d'échange d'écritures.
Considérant en droit:
1. L'acte attaqué est une décision de refus de transfert dans un établissement d'exécution de mesure (art. 21 al. 2 let a de la loi vaudoise sur l'exécution des condamnations pénales; ci-après: LEP/VD; RS/VD 340.01). Saisi d'un recours contre une décision de l'Office vaudois d'exécution des peines, le Juge d'application des peines statue en dernière instance cantonale (art. 37 al. 3 LEP/VD). Le recours en matière pénale est recevable (art. 80 al. 1 et 78 al. 2 let. b LTF).
2. La recourante se plaint d'une violation de l'art. 59 al. 2 et 3 CP et du principe de la proportionnalité. En particulier, il serait arbitraire de déduire de l'évaluation actuelle que le risque de récidive (à l'intérieur d'un établissement de thérapie ouvert) serait concret et hautement probable.
2. La recourante se plaint d'une violation de l'art. 59 al. 2 et 3 CP et du principe de la proportionnalité. En particulier, il serait arbitraire de déduire de l'évaluation actuelle que le risque de récidive (à l'intérieur d'un établissement de thérapie ouvert) serait concret et hautement probable.
2.1 2.1.1 L'art. 59 al. 2 CP prévoit que le traitement institutionnel des troubles mentaux s'effectue dans un établissement psychiatrique approprié ou dans un établissement d'exécution des mesures. Le législateur vise, en premier lieu, les cliniques psychiatriques publiques ou privées qui offrent un traitement approprié pour les troubles mentaux en cause. Comme les cliniques psychiatriques ne sont pas toujours prêtes et à même de prendre en charge des patients peu coopératifs, le législateur a prévu que de telles mesures pouvaient également être exécutées au sein d'un établissement spécialisé d'exécution des mesures. Celui-ci doit être dirigé ou surveillé par un médecin; il faut en outre qu'il dispose des installations nécessaires ainsi que d'un personnel disposant d'une formation appropriée et placé sous surveillance médicale (arrêt du Tribunal fédéral du 21 décembre 2009 6B_629/2009, consid. 1.2.1).
2.1.2 Selon l'art. 59 al. 3 CP, lorsqu'il y a lieu de craindre que le condamné ne s'enfuie ou ne commette de nouvelles infractions, le traitement s'effectue dans un établissement fermé. Il peut aussi être effectué dans un établissement pénitentiaire au sens de l'art. 76 al. 2 CP, dans la mesure où le traitement thérapeutique nécessaire est assuré par du personnel qualifié.
Dans la mesure où le risque de récidive est déjà une condition générale du prononcé d'une mesure (art. 56 al. 1 CP), il doit s'agir d'un "risque qualifié", à savoir d'un risque "concret et hautement probable". L'existence d'un danger de récidive dans les conditions de vie en liberté ne permet pas encore de conclure à l'existence d'un danger pour la sécurité et l'ordre à l'intérieur d'une institution. Au regard du principe de la proportionnalité, le placement dans un établissement fermé ne peut être ordonné que lorsque le comportement ou l'état du condamné représente une grave mise en danger pour la sécurité et l'ordre dans l'établissement. Ce sera, par exemple, le cas d'un condamné qui profère des menaces bien précises ou qui combat sciemment l'ordre de l'établissement; en revanche, l'art. 59 al. 3 CP ne devrait pas s'appliquer à de simples difficultés de comportement ou à l'insoumission vis-à-vis des employés de l'établissement. Pour qu'un risque de fuite soit avéré, il faut que l'intéressé ait la ferme et durable intention de s'évader, en ayant recours à la force si nécessaire, et qu'il dispose des facultés intellectuelles, physiques et psychiques nécessaires pour pouvoir établir un plan et le mener à bien. Le fait que l'intéressé tente de s'enfuir sur un coup de tête et sans aucune préparation préalable, profitant par exemple d'un assouplissement des mesures de sécurité à son encontre ne suffit pas (arrêt du Tribunal fédéral du 21 décembre 2009 6B_629/2009, consid. 1.2.2.2).
Lorsqu'il est question de l'octroi d'allègements dans l'exécution (par exemple du transfert dans un établissement ouvert), une commission composée de représentants des autorités de poursuite pénale, des autorités d'exécution et des milieux de la psychiatrie (cf. art. 62d al. 2 CP) apprécie le caractère dangereux du détenu pour la collectivité (art. 75a CP) lorsque celui-ci a commis un crime visé à l'art. 64 al. 1 CP. Il est toutefois possible de renoncer à l'examen par cette commission spécialisée si l'autorité d'exécution peut d'ores et déjà trancher en toute clarté la question de la dangerosité d'un délinquant (art. 75a al. 1 let. b CP).
2.1.3 Les cantons latins (Fribourg, Vaud, Valais, Neuchâtel, Genève, Jura et Tessin) ne disposent pas pour le moment d'établissements psychiatriques appropriés ou d'établissements pour l'exécution des mesures pour le traitement des troubles mentaux (art. 59 CP). La mesure prévue à l'art. 59 al. 3 CP s'exécute dans les établissements pénitentiaires dotés du personnel qualifié ou en fonction d'accord avec des établissements appropriés du concordat de la Suisse centrale et du Nord-Ouest ou du concordat de la Suisse orientale, cela jusqu'à la mise en service de l'établissement Curabilis prévu à Genève (règlement du 25 septembre 2008 concernant la liste des établissements pour l'exécution des sanctions pénales privatives de liberté en force ou subies à titre anticipé de la Conférence latine des autorités cantonales compétentes en matière d'exécution des peines et des mesures). Au sein des deux régions concordataires alémaniques, il n'existe qu'un seul établissement d'exécution des peines et des mesures pour les femmes: les Etablissements d'Hindelbank.
2.1.3 Les cantons latins (Fribourg, Vaud, Valais, Neuchâtel, Genève, Jura et Tessin) ne disposent pas pour le moment d'établissements psychiatriques appropriés ou d'établissements pour l'exécution des mesures pour le traitement des troubles mentaux (art. 59 CP). La mesure prévue à l'art. 59 al. 3 CP s'exécute dans les établissements pénitentiaires dotés du personnel qualifié ou en fonction d'accord avec des établissements appropriés du concordat de la Suisse centrale et du Nord-Ouest ou du concordat de la Suisse orientale, cela jusqu'à la mise en service de l'établissement Curabilis prévu à Genève (règlement du 25 septembre 2008 concernant la liste des établissements pour l'exécution des sanctions pénales privatives de liberté en force ou subies à titre anticipé de la Conférence latine des autorités cantonales compétentes en matière d'exécution des peines et des mesures). Au sein des deux régions concordataires alémaniques, il n'existe qu'un seul établissement d'exécution des peines et des mesures pour les femmes: les Etablissements d'Hindelbank.
2.2 2.2.1 Il ressort de la dernière expertise que la recourante présente un risque important de récidive d'actes de violence. Elle peut se montrer agressive, en cas de stress, notamment dans des situations interpersonnelles, dans lesquelles les autres ne sont pas d'accord avec elle. En cas de décompensation accompagnée de troubles délirants, elle peut même être amenée à commettre des infractions de la même nature que celles pour lesquelles elle a été condamnée (à savoir un assassinat). Comme la recourante nie sa problématique, elle ne peut identifier les facteurs de stress, ce qui rend impossible l'élaboration d'un programme de gestion future du risque de récidive. Selon les experts, seul un établissement fermé au sens de l'art. 59 al. 3 CP peut accueillir la recourante, pour deux raisons. D'une part, seul un tel établissement peut offrir à la recourante un cadre hypo-stimulant, fermé et sécuritaire, qui permet de limiter les facteurs de stress et d'assurer à la recourante une certaine stabilité. D'autre part, un tel établissement dispose de moyens adaptés pour réagir à des situations de débordements. C'est donc à tort que la recourante soutient que les experts préconisent son placement dans un établissement fermé au motif qu'une institution ouverte ne peut constituer une astreinte suffisante pour imposer la poursuite d'une thérapie ou que seul un établissement fermé présente des possibilités d'isolement.
L'analyse des experts est confirmée par les rapports des établissements pénitentiaires d'Hindelbank, où est actuellement détenue la recourante. Ainsi, selon un rapport du 19 octobre 2009, cette dernière peut être agressive en situation de stress et elle ne dispose pas des compétences sociales, de l'indépendance et de la capacité d'adaptation nécessaires pour exécuter sa peine en exécution de peines.
2.2.2 Au vu de ces avis, la cour cantonale n'a pas violé l'art. 59 CP ni le principe de la proportionnalité en considérant que la recourante représentait une grave mise en danger pour la sécurité et l'ordre dans l'établissement et, partant, en refusant son transfert dans un établissement ouvert au sens de l'art. 59 al. 2 CP. Dans la mesure où il est établi qu'elle était apte à un traitement, la mesure prévue à l'art. 59 al. 3 CP est appropriée. Actuellement, la recourante est détenue aux Etablissements d'Hindelbank. Cet établissement, qui est le seul établissement d'exécution des peines et des mesures pour femmes, garantit, en dépit du mélange des genres, aussi bien une prise en charge sociothérapeutique personnalisée que la bonne exécution du traitement du trouble mental.
3. Se fondant sur l'art. 56 al. 3 CP, la recourante s'en prend à l'expertise elle-même. Selon elle, celle-ci ne respecterait pas les principes de transparence et de compréhension et ne satisferait donc pas aux standard requis.
3.1 L'art. 56 al. 3 CP - dont la recourante dénonce la violation - n'est pas applicable dans le cas particulier. Cette disposition exige du juge qu'il se fonde sur une expertise lorsqu'il ordonne une des mesures prévues aux art. 59 à 61, 63 et 64 CP ou en cas de changement de sanction au sens de l'art. 65 CP et précise, dans ce cas, les points sur lesquels doit se prononcer l'expertise. Elle ne s'adresse pas aux autorités d'exécution qui statuent sur l'exécution d'une mesure et en particulier sur le transfert d'un condamné dans un autre établissement. Dans ce dernier cas, les autorités d'exécution doivent plutôt se fonder sur la requête ou sur l'avis des personnes qui s'occupent du détenu. Il ne leur est toutefois pas interdit de se référer - comme en l'espèce - sur une expertise psychiatrique déjà disponible. Dans la mesure où l'art. 56 al. 3 CP n'est pas applicable en l'espèce, c'est en vain que la recourante en dénonce la violation. Son grief doit donc être rejeté.
Savoir si une expertise, déjà disponible, est convaincante est une question d'interprétation des preuves et d'établissement des faits (ATF 106 IV 97 consid. 2b p. 99 s.), que le Tribunal fédéral ne peut revoir que sous l'angle de l'arbitraire. Lorsque l'autorité cantonale juge l'expertise concluante et en fait sien le résultat, le Tribunal fédéral n'admet le grief d'appréciation arbitraire des preuves que si l'expert n'a pas répondu aux questions posées, si ses conclusions sont contradictoires ou si, d'une quelconque autre façon, l'expertise est entachée de défauts à ce point évidents et reconnaissables, même sans connaissances spécifiques, que le juge ne pouvait tout simplement pas les ignorer. Il n'appartient pas au Tribunal fédéral de vérifier si toutes les affirmations de l'expert sont exemptes d'arbitraire; sa tâche se limite bien plutôt à examiner si l'autorité intimée pouvait, sans arbitraire, se rallier au résultat de l'expertise (ATF 107 IV 7 consid. 5; 106 IV 97 consid. 2b p. 99 s.). En l'espèce, la recourante critique la méthode utilisée par l'expert et soulève toute une série de prétendues erreurs. Elle ne soutient toutefois pas que les conclusions de l'expertise seraient arbitraires (art. 9 Cst.) et, a fortiori, ne démontre pas en quoi elles le seraient. De la sorte, elle ne satisfait pas aux exigences de motivation posées par l'art. 106 al. 2 LTF. Dans la mesure où elle s'en prend à la valeur de l'expertise psychiatrique, son grief est donc insuffisamment motivé et, partant, irrecevable.
4. Enfin, la recourante dénonce la violation de son droit d'être entendue. Elle reproche à l'OEP de ne pas lui avoir indiqué, de manière précise, les activités offertes par les différentes institutions ouvertes, les mesures de sécurité et dispositifs de contrôle existant dans chacune de ces institutions et le nombre de places disponibles.
Selon l'art. 80 LTF, le recours en matière pénale n'est recevable que contre les décisions prises par les autorités cantonales de dernière instance. Dans la mesure où la recourante s'en prend à la décision de l'OEP, son grief est donc irrecevable. Au demeurant, même recevable, ce grief est de toute façon infondé. En effet, comme les autorités cantonales avaient qualifié d'important le risque de récidive et exclu le placement de la recourante en milieu ouvert, il ne leur appartenait plus de faire la liste des établissements ouverts avec leurs caractéristiques.
5. Le recours doit être rejeté dans la mesure où il est recevable.
Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (art. 64 al. 1 LTF). La recourante devra donc supporter les frais (art. 66 al. 1 LTF), dont le montant sera toutefois fixé en tenant compte de sa situation financière.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 1600 fr., sont mis à la charge de la recourante.
4. Le présent arrêt est communiqué aux parties et au Juge d'application des peines du canton de Vaud.
Lausanne, le 15 septembre 2010
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Juge présidant: La Greffière:
Schneider Kistler Vianin