Faits:
A. A.a Par jugement du 3 décembre 1998, le Tribunal criminel du district d'Echallens a condamné X._ pour viol, contrainte sexuelle, lésions corporelles graves et pornographie à une peine de réclusion de douze ans, sous déduction de cinq cent quatorze jours de détention préventive. Il a déclaré l'intéressé débiteur de A.Y._ et de B.Y._ de la somme de 40'000 fr. chacune, à titre de réparation du tort moral.
Par arrêt du 12 avril 1999, la Cour de cassation pénale du Tribunal cantonal vaudois a libéré X._ de l'accusation de pornographie et réduit la peine à onze ans et demi de réclusion, sous déduction de cinq cent quatorze jours de détention préventive.
Par arrêt du 1er décembre 1999, le Tribunal fédéral a rejeté le recours déposé par X._.
A.b Le jugement du 3 décembre 1998 retient notamment qu'entre l'été 1985 et le printemps 1990, X._, né en 1941, a violé, à de nombreuses reprises, les deux filles de sa compagne, A.Y._ et B.Y._, nées en 1971 et 1972. Il a aussi commis sur elles des actes d'ordre sexuel de tous genres, parfois même en présence de leur mère, n'hésitant pas à filmer certaines de ces scènes et à réaliser des cassettes vidéo de photos montages pornographiques impliquant ses victimes. Ces actes ont causé de graves perturbations mentales chez les jeunes filles, de sorte que X._ a été également condamné pour lésions corporelles graves.
A l'époque, X._ a fait l'objet d'une première expertise psychiatrique, confiée au Département universitaire de psychiatrie adulte. Les experts ont posé le diagnostic d'épisode dépressif léger avec syndrome somatique, d'autres troubles spécifiés de la personnalité et du comportement chez l'adulte avec traits pervers et de troubles de la préférence sexuelle sans précision. Le diagnostic posé était assimilable à un développement mental incomplet, qui n'avait toutefois pas atténué la faculté d'apprécier le caractère illicite de l'acte ou de se déterminer d'après cette appréciation. Les experts n'ont pas exclu que X._ puisse à nouveau commettre des actes punissables dans un contexte semblable. Selon eux, un traitement ambulatoire était envisageable, dans la mesure où il en ferait la demande. Il n'était pas nécessaire d'interner l'expertisé, dès lors que, compte tenu de son état mental, il ne compromettait pas la sécurité publique et ne risquait pas de mettre autrui en danger.
B. Le condamné est détenu depuis le 8 juillet 1997 aux Etablissements de la plaine de l'Orbe (ci-après: les EPO). Alors qu'il était en exécution de peine, le Tribunal correctionnel de l'arrondissement de La Broye et du Nord vaudois l'a condamné, par jugement du 7 février 2007, pour pornographie, à une peine privative de liberté de dix mois et a ordonné un traitement ambulatoire sous la forme de la poursuite des entretiens psychothérapeutiques déjà entrepris.
Ce jugement retient notamment qu'au milieu de l'année 2000, X._ a acquis un ordinateur qu'il a conservé dans sa cellule. Depuis lors et jusqu'au 10 décembre 2004, date à laquelle cet appareil a été saisi, il a confectionné plusieurs centaines de fichiers-images relevant de la pornographie dure. La police a relevé 3'545 fichiers à connotation sexuelle sur son ordinateur. X._ s'est notamment servi de photos de ses anciennes victimes A.Y._ et B.Y._, qu'il avait prises entre 1986 et 1987, pour faire des montages pornographiques, ceux-ci représentant environ 30 % de l'ensemble des fichiers créés. Pour le reste, il a en particulier mis en scène des fillettes âgées de dix ans au plus.
Dans le cadre de l'instruction ayant abouti au jugement du 7 février 2007, le condamné a été soumis à une nouvelle expertise psychiatrique confiée au Professeur B._. Dans son rapport du 5 octobre 2005, l'expert a posé le diagnostic de troubles multiples de la préférence sexuelle et de trouble de la personnalité narcissique. Il a relevé que le risque de récidive était considérable et s'est dit certain qu'une fois libéré, X._ chercherait à entrer en contact avec la cadette des victimes. Il a précisé que, dans un tel cas, les conséquences pour cette dernière seraient catastrophiques. Il a considéré que le risque de récidive était très élevé pour des délits sexuels relativement "mineurs" et "moins élevé, mais loin d'être nul" pour les abus sexuels. Il a ajouté que les motifs qui avaient poussé l'expertisé à exercer cette relation d'emprise, morale et sexuelle, sur deux adolescentes restaient à ce jour inchangés et non reconnus par X._ comme problématiques. On ne pouvait donc de loin pas exclure que, libéré, il ne cherche à recréer une telle relation d'emprise sur d'autres victimes.
Entendu aux débats de février 2007, l'expert a déclaré qu'il ne pouvait plus se prononcer de manière aussi catégorique qu'en 2005 sur la nécessité d'un internement à l'endroit de l'expertisé, compte tenu, d'une part, de la privation des moyens matériels qui avait pu changer la position du condamné et, d'autre part, du fait que celui-ci avait repris ses entretiens avec la psychothérapeute. Il a relevé que le risque de récidive devait être relativisé, puisque l'expertisé n'avait focalisé son attention que sur ses deux victimes et non sur toutes les adolescentes de leur âge et qu'aucun acte punissable n'avait été commis entre 1990 et l'arrestation en juillet 1997.
C. Dans son rapport du 24 juin 2008, la direction des EPO a donné un préavis négatif pour la libération conditionnelle de X._. Elle a évoqué la possibilité d'appliquer l'art. 65 al. 2 CP, dès lors que la dangerosité de l'intéressé était majeure, que les possibilités thérapeutiques étaient quasi inexistantes et que les risques encourus au moment d'une éventuelle remise en liberté étaient socialement inacceptables. Par jugement du 20 novembre 2008, le Collège des juges d'application des peines a refusé d'accorder la libération conditionnelle à X._ et préconisé d'examiner la possibilité d'ordonner un internement en application de l'art. 65 al. 2 CP. Par courrier du 10 février 2009, l'Office vaudois d'exécution des peines a saisi le Ministère public vaudois pour que celui-ci introduise une procédure de révision, conformément à la disposition précitée. Le 24 février 2009, le Ministère public vaudois a requis la révision du jugement du 3 décembre 1998.
D. Par arrêt du 15 juin 2009, la Chambre des révisions civiles et pénales du Tribunal cantonal vaudois a admis cette demande de révision et transmis la cause au Tribunal correctionnel de l'arrondissement de La Côte. Le 28 juillet 2009, le Tribunal fédéral a déclaré irrecevable le recours formé par X._ contre cette dernière décision (arrêt 6B_624/2009).
E. Par jugement du 29 septembre 2009, le Tribunal correctionnel de l'arrondissement de La Côte a ordonné l'internement de X._.
Avant de rendre son jugement, le Tribunal avait ordonné une expertise au Professeur C._. Selon ce rapport d'expertise, daté du 17 septembre 2009, X._ est atteint de troubles multiples de la préférence sexuelle et de trouble de la personnalité narcissique. S'aidant de nouveaux outils d'évaluation du risque de récidive, l'expert a considéré que ce risque était "modéré à élevé" (à savoir environ de 50 à 75 %) et que les mesures thérapeutiques pour éventuellement diminuer ce risque n'étaient pas d'actualité. Il a relevé que l'âge de X._ et l'importance de ses problèmes de santé devraient restreindre le risque de récidive. Il a ajouté que le risque que X._ tente de reprendre contact avec les victimes de ses actes lui semblait important et potentiellement très destructeur pour ces dernières. Selon l'expert, les conditions d'un internement étaient probablement déjà remplies au moment du jugement de 1998.
Statuant le 3 novembre 2009, la Cour de cassation pénale du Tribunal cantonal vaudois a confirmé le jugement de première instance du 29 septembre 2009.
F. X._ dépose un recours en matière pénale devant le Tribunal fédéral contre l'arrêt du 3 novembre 2009 de la Cour de cassation pénale vaudoise et la décision incidente du 15 juin 2009 de la Chambre vaudoise des révisions civiles et pénales. Il conclut à la réforme de la décision incidente du 15 juin 2009 en ce sens que la demande de révision est déclarée irrecevable ou rejetée et à la réforme de l'arrêt du 3 novembre 2009 en ce sens qu'il est renoncé à l'internement a posteriori. En outre, il sollicite l'assistance judiciaire.
Le Ministère public vaudois conclut au rejet du recours. La Cour de cassation pénale vaudoise et la Chambre vaudoise des révisions civiles et pénales se réfèrent à leur arrêt.
Considérant en droit:
1. Le recourant s'en prend à la décision de la Chambre des révisions civiles et pénales, qui avait fait l'objet d'un recours en matière pénale au Tribunal fédéral. Il avait été alors jugé que cette décision incidente ne pouvait pas faire l'objet d'un recours immédiat pour le motif qu'elle ne causait pas un préjudice irréparable au recourant (arrêt du 28 juillet 2009 6B_624/2009; cf. ATF 133 IV 288 consid. 3.2 p. 292). Or, conformément à l'art. 93 al. 3 LTF, si un recours immédiat n'est pas recevable, la décision incidente peut être attaquée par un recours contre la décision finale dans la mesure où elle influe sur le contenu de celle-ci. En tant qu'il conteste les questions tranchées dans la décision incidente, le présent recours est dès lors recevable.
2. 2.1 L'art. 65 al. 2 CP prévoit que si, pendant l'exécution de la peine privative de liberté, des faits ou des moyens de preuve nouveaux permettent d'établir qu'un condamné remplit les conditions de l'internement et que ces conditions étaient déjà remplies au moment du jugement sans que le juge ait pu en avoir connaissance, le juge peut ordonner l'internement ultérieurement. La compétence et la procédure sont déterminées par les règles sur la révision.
2.2 La procédure de révision est classiquement divisée en deux phases. Dans une première phase, appelée le "rescindant", la juridiction supérieure examine si les conditions nécessaires pour ouvrir une procédure de révision sont données. Le moyen extraordinaire de la révision permet l'examen d'un jugement entré en force si des faits ou des moyens de preuve nouveaux sont propres à ébranler les constatations de fait sur lesquelles se fonde le premier jugement et qu'un état de fait ainsi modifié rend possible un jugement sensiblement plus favorable au condamné (ATF 130 IV 72 consid. 1 p. 73; 125 IV 298 consid. 2b p. 301/302; 122 IV 66 consid. 2a p. 67 et les références citées). Lorsque la révision est accordée, au stade du "rescindant", la cause est, en règle générale, renvoyée à une autre autorité pour qu'elle statue au fond au stade du "rescisoire" (ATF 107 IV 133 consid. 1a p. 136).
Dans la seconde phase, appelée le "rescisoire", le tribunal rejuge l'affaire en tenant compte des faits ou des moyens de preuve nouveaux. Il n'est lié ni par la portée que le premier tribunal a attribué aux anciens moyens de preuve ni par l'appréciation du juge du rescindant des faits ou des moyens de preuve nouveaux. Son jugement annule, modifie ou confirme le premier jugement. Il se prononce sur la base de l'état de fait existant au moment de la nouvelle décision et non sur la base des circonstances réalisées au moment du premier jugement (ATF 107 IV 133 consid. 2 p. 137).
3. Le recourant soutient que la demande de révision présentée par le Ministère public vaudois est irrecevable en raison de sa tardiveté. En effet, il aurait terminé d'exécuter sa peine principale en date du 5 janvier 2009 et purgerait, au moment du dépôt de la demande de révision, la peine privative de liberté de dix mois à laquelle il a été condamné en 2007 pour pornographie.
Selon l'art. 65 al. 2, 2e phrase, CP, la compétence et la procédure sont déterminées par les règles sur la révision. Or, à l'instar de la plupart des codes cantonaux, la procédure pénale vaudoise (art. 455 ss CPP/VD) ne prévoit pas de délai pour déposer une demande en révision. Ainsi, d'un point de vue formel, celle-ci ne saurait être qualifiée de tardive.
Selon MARIANNE HEER, il n'est pas clair si l'internement ultérieur doit entrer en force avant que le condamné ait fini de purger sa peine ou s'il suffit qu'une demande en révision ait été déposée avant cette date (HEER, Basler Kommentar, Strafrecht I, 2e éd., 2007, n. 47 s. ad art. 65 CP). Cette auteure préfère la première solution. Cette opinion, qui ne peut s'appuyer sur la lettre de la loi, ne peut être suivie. En effet, l'art. 65 al. 2 CP ne pose aucun délai quant au moment du prononcé de l'internement, mais précise seulement que les faits et les moyens de preuve nouveaux doivent apparaître pendant l'exécution de la peine privative de liberté. Du reste, le Tribunal fédéral a admis que la détention pour motifs de sécurité ordonnée dans une procédure ultérieure au jugement (Nachverfahren) en vue de prononcer une mesure institutionnelle en application de l'art. 65 al. 1 CP puisse se prolonger après la fin de l'exécution de la peine (arrêt du 21 janvier 2010 du Tribunal fédéral 1B_4/2010). En revanche, on peut se demander si la seconde alternative exposée par MARIANNE HEER devrait être retenue, à savoir si la demande devrait être déposée en cours d'exécution ou pourrait l'être après que le condamné a fini de purger sa peine. Cette question n'a toutefois pas besoin d'être résolue dans le cas d'espèce, car le Ministère public a requis la révision du jugement le 24 février 2009, alors que le recourant était encore en cours d'exécution de peine.
C'est en vain que le recourant soutient qu'il avait terminé d'exécuter le 5 janvier 2009 la peine de onze ans et six mois de réclusion prononcée en raison des actes de viol, de contrainte sexuelle et de lésions corporelles graves et qu'il était en train d'exécuter une peine de dix mois qui lui avait été infligée pour des actes de pornographie. En matière d'exécution des peines, l'art. 4 de l'ordonnance du 19 septembre 2006 relative au code pénal et au code pénal militaire (RS 311.01) prévoit que, s'il y a concours de plusieurs peines privatives de liberté, elles sont exécutées simultanément, conformément aux art. 76 à 79 CP, leur durée totale étant déterminante. La durée globale des peines est ainsi déterminante pour prononcer la libération conditionnelle, la semi-détention ou le sursis. Conformément à ce principe dit de la confusion des peines, c'est donc la peine globale de douze ans et quatre mois résultant des deux condamnations dont le recourant a fait l'objet qui est déterminante, et celle-ci n'était pas terminée au moment du dépôt de la demande de révision.
4. Dans un second moyen, le recourant soutient que la prescription de l'action pénale est acquise, et que la cour cantonale ne pouvait pas en conséquence prononcer un internement. En effet, les faits retenus dans le jugement dont la révision est requise se seraient déroulés entre 1985 et 1990, de sorte que la prescription de l'action pénale - qui serait en l'espèce de quinze ans - serait acquise depuis 2005.
Dans la doctrine, on ne trouve aucune mention, selon laquelle le juge ne pourrait pas ordonner un internement a posteriori si le délai de prescription était échu au moment de sa décision. MARIANNE HEER et ROBERT ROTH ne traitent pas de la question dans leur commentaire sur l'art. 65 CP (MARIANNE HEER, op. cit., n. 1 ss ad art. 65 CP; ROBERT ROTH, Commentaire romand, Code pénal I, 2009, n. 1 ss ad art. 65 CP). Dans son commentaire sur la prescription, PETER MÜLLER relève que les délais de prescription ne courent plus pendant les procédures de recours, y compris pendant les procédures de recours extraordinaires (PETER MÜLLER, Basler Kommentar, Strafrecht I, 2e éd., 2007, n. 4a ad art. 97 CP).
L'art. 97 al. 3 CP prévoit que la prescription ne court plus si, avant son échéance, un jugement de première instance a été rendu. Selon la jurisprudence, la notion de jugement de première instance vise les prononcés de condamnation et non les prononcés d'acquittement (ATF 134 IV 328 consid. 2.1 p. 331). Cela signifie qu'en cas de demande de révision formée par le Ministère public contre une personne acquittée, la prescription continue de courir pendant la procédure de révision et que l'action pénale peut se prescrire durant celle-ci. En revanche, la prescription ne continue pas de courir pendant une procédure de révision selon l'art. 65 al. 2 CP, dans laquelle le ministère public demande une aggravation de la peine, à savoir le prononcé d'un internement. Dans ce cas en effet, un jugement de condamnation a été rendu et la prescription a cessé de courir avec celui-ci.
Dès lors, il faut admettre que le prononcé d'un internement ultérieur est possible, sans égard à la question de la prescription de l'action pénale. Toute solution contraire rendrait du reste l'art. 65 al. 2 CP lettre morte, puisque la prescription sera souvent déjà acquise au moment du prononcé de l'internement a posteriori. Il en irait ainsi, notamment, de la personne condamnée à une peine privative de liberté plus longue que le délai de prescription de l'infraction considérée. A titre d'exemple, on peut citer le cas de l'auteur d'un meurtre, dont le délai de prescription est de quinze ans (art. 97 al. 1 let. b CP), qui serait condamné à une peine supérieure à ces quinze ans.
5. Dénonçant une violation de l'art. 65 al. 2 CP, le recourant conteste l'existence de faits ou de moyens de preuve nouveaux. En particulier, il soutient que les expertises de 2005 et 2009 constituent une appréciation différente, d'un point de vue scientifique, des faits déjà examinés par les experts en 1997, de sorte qu'elles ne constituent ni des faits ni des moyens de preuve nouveaux.
5.1 Une demande de révision au sens de l'art. 65 al. 2 CP sera admise à quatre conditions:
5.1.1 La révision en défaveur du condamné doit reposer sur des faits ou des moyens de preuve nouveaux. Par faits, on entend les circonstances susceptibles d'être prises en considération dans l'état de fait qui fonde le jugement. La dangerosité d'un condamné ne constitue pas un fait, mais une appréciation basée sur un certain nombre de facteurs de risque, lesquels peuvent être considérés comme des faits (HEER, op. cit., n. 61 ad art. 65 CP). Quant aux moyens de preuve, ils apportent la preuve d'un fait, qui peut déjà avoir été allégué. Une opinion, une appréciation personnelle ou une conception juridique nouvelles ne peuvent pas justifier une révision (HEER, op. cit., n. 64 ad art. 65 CP).
5.1.2 Les faits ou les moyens de preuve permettant d'établir que les conditions de l'internement sont réunies doivent être nouveaux. Selon la jurisprudence relative à l'art. 385 CP (resp. 397 aCP), un fait ou un moyen de preuve est nouveau, lorsque le juge n'en a pas eu connaissance au moment où il s'est prononcé, c'est-à-dire lorsqu'il ne lui a pas été soumis sous quelque forme que ce soit (ATF 130 IV 72 consid. 1 p. 73). D'après l'art. 65 al. 2 CP, le fait ou le moyen de preuve est nouveau seulement si le juge n'a pas pu en avoir connaissance. La formule est plus restrictive que celle de l'art. 385 CP, qui n'exige qu'une absence de connaissance effective. L'art. 65 al. 2 CP suppose donc que le juge n'ait pas pu objectivement connaître le fait ou le moyen de preuve nouveaux (HEER, op. cit., n. 67 ad art. 65 CP).
Selon la jurisprudence relative à l'art. 385 CP (resp. art. 397 aCP), une nouvelle expertise peut justifier une révision lorsqu'elle rend vraisemblable des faits qui n'étaient pas connus lors de la précédente procédure. Mais la nouvelle expertise ne constitue pas un motif de révision lorsqu'elle est invoquée uniquement comme prétendu nouveau moyen de preuve d'un fait important déjà allégué dans la procédure précédente, fait que le juge a considéré comme non prouvé (ATF 101 IV 247 consid. 2 p. 249; 76 IV 34 consid. 1 p. 36 en relation avec l'art. 397 aCP; critiqué par HANS WALDER, Die Wiederaufnahme des Verfahrens in Strafsachen nach Art. 397 StGB, insbesondere auf Grund eines neuen Gutachtens, in: Berner Festgabe zum Schweizerischen Juristentag 1979, Berne 1979, p. 352 s.). Dans trois arrêts non publiés, le Tribunal fédéral a relativisé cette jurisprudence et a admis qu'une expertise pouvait donner lieu à une révision si elle permettait d'établir que les faits retenus par le premier jugement étaient faux ou imprécis. Une nouvelle expertise concluant à une appréciation différente ne constitue toutefois pas déjà une cause de révision. Elle doit s'écarter de la première expertise pour des motifs sérieux et établir des erreurs claires de nature à ébranler le fondement du premier jugement (arrêt du 15 novembre 2004 6P.93/2004, consid. 4; arrêt du 1er octobre 2005 6S.452/2004 consid. 2.2; arrêt du 8 octobre 2008 6B_539/2008, consid. 1.3). Une expertise pourra aussi être considérée comme un moyen de preuve nouveau si elle se fonde sur de nouvelles connaissances ou applique une autre méthode (WALDER, op. cit., p. 356; ROTH, Code pénal I, Commentaire romand, 2009, n. 41 ad art. 65 CP; LOEWE/ROSENBERG/GÖSSEL, Systematischer Kommentar, 25e éd., 1997, n. 119 ad § 359; KARL PETERS, Fehlerquellen im Strafprozess, vol. 3, 99, 101, 105; K.MARXEN/F.TIEMANN, Die Wiederaufnahme in Strafsachen, Berlin 2005, p. 72 ss).
5.1.3 Comme cela ressort de l'art. 65 al. 2 CP et conformément aux principes développés en matière de révision, les conditions de l'internement doivent déjà avoir été remplies au moment du jugement. Le juge de la révision ne doit pas adapter un jugement entré en force à un autre état de fait, mais uniquement corriger une erreur commise dans une procédure précédente. Il ne saurait ainsi tenir compte de l'attitude du condamné ou de l'évolution de sa situation pendant sa détention (refus de traitement, menaces, agression; HEER, op. cit., n. 77 ad art. 65 CP).
5.1.4 Enfin, les faits et les moyens de preuve nouveaux doivent être sérieux. En d'autres termes, ils doivent être propres à ébranler les constatations de fait sur lesquelles se fonde la condamnation et l'état de fait ainsi modifié doit rendre vraisemblable le prononcé d'un internement (ROTH, op. cit., n. 44 ad art. 65 CP; cf. ATF 130 IV 72 consid. 1 p. 73 concernant les art. 385 CP/397 aCP).
5.2 En l'espèce, les experts ont fondé leur expertise sur des outils d'analyse (critères d'évaluation du risque de récidive des criminels très dangereux élaborés par le Professeur Dittmann; méthode HCR-20; Statique 99), qui n'existaient pas en 1997. Sur cette base, ils sont arrivés à la conclusion que le recourant présentait un risque de récidive de "modéré à élevé" et que, partant, l'expertise de 1997, qui niait tout danger pour la sécurité publique, était erronée. Les experts expliquent que les éléments qui sont développés dans leur discussion sur le risque de récidive existaient pour la plupart déjà lors du jugement de 1998 (par exemple, l'extrême gravité des faits et leur répétition sur une longue période, l'absence de remords authentiques pour les actes commis, la difficulté de se soumettre aux règles, les deux condamnations précédant le jugement). Les conclusions des expertises de 2005 et de 2009, qui établissent un risque de récidive de "modéré à élevé", sont de nature à conduire au prononcé d'un internement au sens de l'art. 65 al. 2 CP. C'est en conséquence à juste titre que la cour cantonale a admis la demande de révision. Dans la mesure où le recourant dénonce la violation de l'art. 5 CEDH et du principe "ne bis in idem", le grief soulevé est irrecevable, en l'absence de toute motivation (art. 106 al. 2 LTF). Reste à examiner, au stade du rescisoire, si les conditions de l'internement sont actuellement remplies et si elles l'étaient déjà au moment du jugement.
6. Pour que l'internement a posteriori puisse être ordonné selon l'art. 65 al. 2 CP, il faut non seulement que les conditions de l'art. 64 CP soient réalisées au moment où l'internement est requis, mais également que l'internement ait été possible sur la base de l'art. 42 ou de l'art. 43 ch. 1 al. 2 de l'ancien droit (art. 2 al. 1 let. a des dispositions finales de la modification du 13 décembre 2002). Il convient donc, dans un premier temps, d'examiner la réalisation des conditions d'application de l'art. 64 CP.
6.1 L'internement fondé sur l'art. 64 CP suppose, en premier lieu, que l'auteur ait commis l'une des infractions énumérées à l'alinéa 1 de cette disposition (assassinat, meurtre, lésion corporelle grave, viol, brigandage, prise d'otage, incendie, mise en danger de la vie d'autrui) ou une autre infraction passible d'une peine privative de liberté maximale de cinq ans au moins, par laquelle il a porté ou voulu porter gravement atteinte à l'intégrité physique, psychique ou sexuelle d'autrui.
En l'espèce, le recourant s'est rendu coupable de viol, de contrainte sexuelle et de lésions corporelles graves, de sorte que cette première condition est remplie.
6.2 L'art. 64 al. 1 CP permet l'internement de tous les auteurs d'actes de violence dangereux. Il s'adresse d'abord aux délinquants dangereux souffrant d'un grave trouble mental (art. 64 al. 1 let. b CP). Cette disposition codifie l'exigence de grave trouble mental issue de la jurisprudence rendue sous l'empire de l'art. 43 aCP (arrêt 6B_789/2007 consid. 2.2.2; cf. ci-dessous consid. 7.2). En présence d'un trouble psychiatrique, l'internement constitue une mesure subsidiaire par rapport à une mesure institutionnelle au sens de l'art. 59 CP. En tant qu'ultima ratio, en raison de la gravité de l'atteinte à la liberté personnelle qu'il représente (ATF 134 IV 121 consid. 3.4.4 p. 131), l'internement n'entre pas en considération tant qu'une mesure institutionnelle apparaît utile (ATF 134 IV 315 consid. 3.2 et 3.3 p. 320 s. et les références citées; v. aussi ATF 134 IV 121 consid. 3.4.2 p. 130). Introduisant une aggravation par rapport à l'ancien droit, l'art. 64 al. 1 let. a CP permet également l'internement des délinquants primaires dangereux qui ne présentent pas de troubles au sens de la psychiatrie. La crainte de la commission de nouvelles infractions est, dans ce cas, fondée sur les caractéristiques de la personnalité de l'auteur (y compris les particularités psychiques de l'auteur), sur les circonstances dans lesquelles il a commis l'infraction et sur son vécu (art. 64 al. 1 let. a CP).
En l'espèce, se fondant sur l'expertise de 2009, la cour cantonale a prononcé l'internement du recourant en application de l'art. 64 al. 1 let. a CP, considérant que les caractéristiques de la personnalité du recourant faisaient sérieusement craindre qu'il puisse récidiver en cas de sortie de prison. Comme on le verra sous le considérant 7.2, il n'est pas clair si les particularités psychiques du recourant constituent une maladie mentale. La réponse à cette question n'est cependant pas déterminante pour l'application de l'art. 64 CP, qui permet l'internement en l'absence d'un trouble psychique. Elle devra en revanche être tranchée à propos de l'application de l'art. 43 aCP.
6.3 Enfin, l'internement suppose un risque de récidive hautement vraisemblable. Par rapport aux autres mesures, il n'intervient qu'en cas de danger "qualifié" (HEER, n. 47 ad art. 64;. SCHWARZENEGGER/HUG/JOSITSCH, Strafrecht I, Strafen und Massnahmen, 8e éd., 2007, p. 189). Pratiquement, le juge devra admettre un tel risque s'il ne peut guère s'imaginer que l'auteur ne commette pas de nouvelles infractions du même genre (TRECHSEL ET AL., Schweizerisches Strafgesetzbuch, Praxiskommentar, 2008, n. 18 ad art. 64). Une supposition, une vague probabilité, une possibilité de récidive ou un danger latent ne suffisent pas (QUELOZ/BROSSARD, Commentaire romand, Code pénal I, n. 28 ad art. 64 CP). Le risque de récidive doit concerner des infractions du même genre que celles qui exposent le condamné à l'internement (cf. consid. 6.1 ci-dessus). En d'autres termes, le juge devra tenir compte dans l'émission de son pronostic uniquement du risque de commission d'infractions graves contre l'intégrité psychique, physique ou sexuelle (contra: SCHWARZENEGGER/HUG/JOSITSCH, op. cit., p. 188; DUPUIS ET AL., Petit commentaire, Code pénal I, n. 12 ad art. 64 CP). Le risque de récidive peut se rapporter à un cercle restreint de personnes (ATF 127 IV 1 consid. 2c/ee p. 9).
En l'espèce, les experts ont évalué le risque de récidive général de "modéré à élevé" (à savoir de 50 à 75 %), mais considèrent que le risque que le recourant commette à nouveau des abus sexuels est "moins élevé, mais loin d'être nul" (expertise de 2005) ou "moins probable, sans être exclu" (expertise de 2009). Ils expliquent que les motifs qui ont poussé le recourant à exercer la relation d'emprise, morale et sexuelle, sur les deux adolescentes Y._ sont certes restés inchangés. Toutefois, le recourant est âgé aujourd'hui de 68 ans et est affaibli par le cancer de la langue dont il souffre. S'il est en rémission complète, il présente un état général diminué, notamment à la suite des séquelles ORL qui diminuent son élocution et imposent un régime de mixage des aliments. Si le recourant devait sortir de prison, son état nécessiterait un encadrement en EMS. En outre, le recourant a abusé des deux jeunes filles Y._ dans un contexte bien particulier. Il a en effet profité de la complicité de sa compagne de l'époque et a agi envers les filles mineures de cette dernière, sur lesquelles il avait une grande emprise. Il n'a jamais commis de tels actes avant 1985 et n'en a pas commis d'autres entre le printemps 1990 (départ des filles Y._) et l'été 1997 (incarcération).
Au vu de ces expertises, il est fort probable que le recourant commette à nouveau des actes de pornographie (art. 197 ch. 3 CP; passible d'une peine privative de liberté de trois ans au plus ou d'une peine pécuniaire) et d'exhibitionnisme (art. 194 CP; passible d'une peine pécuniaire de 180 jours-amende au plus). Le risque lié à la commission de ces infractions n'est toutefois pas déterminant pour l'application de l'art. 64 CP, puisque ces infractions ne figurent pas dans le catalogue de l'art. 64 CP et n'exposent donc pas le recourant à une mesure d'internement. Quant au risque de récidive en ce qui concerne les abus sexuels (viols et contraintes sexuelles), il n'est pas exclu, ce qui signifie positivement qu'il est possible. Or, une simple possibilité de récidive ne suffit pas pour justifier l'application de l'art. 65 CP (cf. ci-dessus consid. 6.3, 1er paragraphe). Le risque d'atteinte à la sécurité publique doit, au contraire, être sérieux. Dans la mesure où elle a fondé la mesure d'internement sur le risque de récidive lié aux infractions de viols et de contraintes sexuelles, la cour cantonale a donc violé le droit fédéral.
Selon l'expertise de 2005, le recourant parle de la cadette des filles Y._ comme de "son amour", de "sa petite bonne femme". Les experts ont relevé que le risque que l'expertisé ne cherche à reprendre contact avec la cadette de ses victimes, voire à la harceler, était très élevé, ce qui serait catastrophique pour la jeune fille (expertise de 2005) ou potentiellement très destructeur (expertise de 2009). On peut dès lors se demander si le recourant, déjà condamné en 1998 pour lésions corporelles graves, ne risque pas de se rendre à nouveau coupable de cette infraction si, une fois libéré, il reprenait contact avec les jeunes filles. En effet, de la sorte, il pourrait leur causer à nouveau de graves traumatismes qui pourraient, selon leur gravité, tomber sous le coup de l'art. 122 al. 3 CP. Il ne s'agit toutefois que d'une hypothèse. En effet, les constatations de fait cantonales ne permettent pas de déterminer les perturbations psychiques et leur ampleur que pourraient subir les deux jeunes filles Y._, de sorte que la cour de céans ne peut juger s'il existe effectivement un risque sérieux de récidive lié à la commission de l'infraction de lésions corporelles graves. Lorsqu'un état de fait est lacunaire et qu'ainsi l'application de la loi ne peut pas être contrôlée, la décision attaquée doit être annulée et la cause renvoyée à l'autorité précédente afin que l'état de fait soit complété et qu'un nouveau jugement soit prononcé (ATF 133 IV 293 consid. 3.4 p. 294 ss). Il convient donc d'annuler l'arrêt attaqué sur ce point et de renvoyer la cause à la cour cantonale pour qu'elle examine cette question, au besoin en recourant à une expertise.
7. Le recourant ayant été condamné sous l'ancien droit, il y a lieu d'examiner si l'internement eût été possible sur la base de l'art. 42 ou de l'art. 43 ch. 1 al. 2 de l'ancien droit (art. 2 al. 1 let. a des dispositions finales de la modification du 13 décembre 2002).
7.1 L'internement des délinquants d'habitude au sens de l'art. 42 aCP était en l'espèce exclu, puisque le recourant n'avait pas été précédemment privé de liberté pour une durée globale d'au moins deux ans. Seule entre en considération l'application de l'art. 43 ch. 1 al. 2 aCP.
7.1 L'internement des délinquants d'habitude au sens de l'art. 42 aCP était en l'espèce exclu, puisque le recourant n'avait pas été précédemment privé de liberté pour une durée globale d'au moins deux ans. Seule entre en considération l'application de l'art. 43 ch. 1 al. 2 aCP.
7.2 7.2.1 Contrairement à l'art. 64 CP, l'art. 43 ch. 1 al. 2 aCP s'adresse uniquement aux délinquants mentalement anormaux. Il suppose donc une anomalie mentale (ATF 102 IV 234 consid. 1 p. 235). Du point de vue médical, la notion d'anomalie mentale englobe tous les états psychiques s'écartant de la norme médicale, tels que les faiblesses d'esprit, les psychopathies, les développements mentaux incomplets, les névroses et les maladies mentales chroniques. Il s'agit par conséquent d'une notion extrêmement large, qui ne peut être reprise comme telle pour la définition de l'anomalie au sens de l'art. 43 aCP. Seules certaines formes relativement lourdes d'anomalie mentale au sens médical sont qualifiées d'anomalie mentale au sens juridique (cf. arrêt 6B_789/2007 du 11 mars 2008 consid. 2.2.1; arrêt 6S.228/2000 du 10 juin 2000 consid. 3c; arrêt 6S.768/1999 du 29 janvier 2000 consid. 1a). Pour que l'on puisse retenir une anomalie mentale au sens juridique, il faut, en d'autres termes, que la structure mentale s'écarte manifestement de la moyenne par rapport aux autres sujets de droit, mais plus encore par rapport aux autres criminels. Ainsi, un délinquant, auteur notamment de viols et atteint d'un trouble de la personnalité de type dyssocial assimilé à un développement mental incomplet, n'a pas été jugé victime d'une anomalie mentale (arrêt 6B_789/2007 du 11 mars 2008 consid. 2.2.1 relatif à l'arrêt 6S.768/1999). Savoir quel est l'état psychique du délinquant et de quels troubles il est atteint relève de l'établissement des faits. En revanche, savoir si les troubles retenus sont ou non constitutifs d'une anomalie mentale suffisante pour appliquer l'art. 43 aCP est une question de droit.
7.2.2 En l'espèce, le recourant a fait l'objet de trois rapports d'expertise.
Selon l'expertise psychiatrique effectuée en 1997, le recourant n'est pas atteint d'une maladie mentale, d'une faiblesse d'esprit ou d'une grave altération de la conscience. Il présente un épisode dépressif léger avec syndrome somatique, d'autres troubles spécifiés de la personnalité et du comportement chez l'adulte avec traits pervers et de troubles de la préférence sexuelle. Le diagnostic d'autres troubles spécifiés de la personnalité avec traits pervers est assimilable à un développement mental incomplet.
Dans l'expertise réalisée en 2005, l'expert a posé le diagnostic de troubles multiples de la préférence sexuelle et de trouble de la personnalité narcissique. Il a précisé que, d'un point de vue structurel, le recourant présentait un fonctionnement pervers.
Dans l'expertise de 2009, l'expert a posé le même diagnostic que dans l'expertise précédente. Pour le surplus, il a considéré que c'étaient les caractéristiques de la personnalité du recourant qui faisaient sérieusement craindre qu'en cas de sortie de prison il puisse récidiver pour des actes semblables à ceux pour lesquels il a été condamné en 1998 (cf. art. 64 al. 1 let. a CP). A la question de savoir si un internement était déjà nécessaire lors du jugement du 3 décembre 1998, il a répondu que les conditions d'un internement au sens de l'art. 43 aCP étaient probablement remplies lors de ce jugement.
7.2.3 L'arrêt attaqué ne contient aucune motivation sur les conditions de l'art. 43 aCP et, a fortiori, sur l'existence d'un trouble mental. Les autorités cantonales semblent tenir pour acquis que les conditions d'application de l'art. 43 aCP étaient réalisées en 1998, en se fondant sur l'expertise de 2009. Or, les conclusions de celle-ci sont contradictoires en ce qui concerne l'existence d'un trouble mental, puisque, d'une part, l'expert préconise l'internement en application de l'art. 64 al. 1 let. a CP (en raison des caractéristiques de la personnalité de l'auteur), ce qui exclurait l'existence d'un trouble mental, et, d'autre part, déclare que les conditions de l'art. 43 aCP étaient réalisées, ce qui donnerait à penser que le recourant souffre d'un trouble mental. En l'absence de toute motivation dans l'arrêt attaqué sur la question du trouble mental du recourant et au vu des contradictions de l'expertise, il est impossible d'identifier quels troubles psychiques la cour cantonale a pris en compte et de déterminer si ceux-ci étaient suffisamment importants pour justifier l'application de l'art. 43 aCP. Il convient donc également d'annuler l'arrêt attaqué sur ce point et de renvoyer la cause à la cour cantonale. Il lui appartiendra d'examiner les troubles psychiques dont souffre le recourant, le cas échéant en ordonnant une nouvelle expertise, et de déterminer si les conditions d'application de l'art. 43 aCP étaient réalisées en 1998.
8. Au vu de ce qui précède, le recours est admis, l'arrêt attaqué est annulé et la cause, renvoyée à la cour cantonale pour nouveau jugement en ce qui concerne le risque de récidive (consid. 6.3) et les troubles psychiques (consid. 7.2.3).
Le recourant qui obtient gain de cause ne supporte pas de frais judiciaires (art. 66 al. 1 LTF) et peut prétendre à une indemnité de dépens à la charge du canton de Vaud (art. 68 al. 1 et 2 LTF), ce qui rend sans objet la requête d'assistance judiciaire.
Aucun frais ne sera imposé au Ministère public, bien qu'il succombe (art. 66 al. 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité cantonale pour nouveau jugement.
2. Il n'est pas perçu de frais judiciaires.
3. Le canton de Vaud versera au recourant la somme de 3000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties, à la Chambre des révisions civiles et pénales du Tribunal cantonal du canton de Vaud et au Tribunal cantonal du canton de Vaud, Cour de cassation pénale.
Lausanne, le 3 novembre 2010
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Juge présidant: La Greffière:
Schneider Kistler Vianin