Faits:
A.
Par jugement du 29 janvier 2013, le Juge d'application des peines du canton de Vaud a refusé d'accorder à X._ la libération conditionnelle de la mesure thérapeutique institutionnelle ordonnée le 16 avril 2007 par la Cour de cassation pénale du Tribunal cantonal vaudois et a ordonné la prolongation de cette mesure pour cinq ans à compter du 16 avril 2012.
B.
Par arrêt du 4 mars 2013, la Chambre des recours pénale du Tribunal cantonal vaudois a rejeté le recours formé par X._ et confirmé le jugement de première instance.
En substance, elle a retenu les faits suivants:
B.a. Par jugement du 25 janvier 2007, le Tribunal correctionnel de l'arrondissement de La Broye et du Nord vaudois a condamné X._ à une peine privative de liberté de deux ans et demi, sous déduction de la détention avant jugement, pour tentative de contrainte sexuelle, tentative de viol et contravention à la loi fédérale sur les stupéfiants. La peine privative de liberté a été suspendue au profit d'un traitement institutionnel (<ref-law>). En septembre 2007, X._ a été placé à l'Etablissement d'exécution des peines de Bellevue, à Gorgier, avec effet rétroactif au 4 juillet 2007.
S'agissant des antécédents de X._, il convient de relever que ce dernier a commencé ses activités délictueuses à l'âge de douze ans et qu'il avait déjà été condamné en 2004, notamment pour tentative d'actes d'ordre sexuel avec un enfant, contrainte sexuelle, tentative de contrainte sexuelle et viol sur une fillette de dix ans, ainsi que sur une jeune femme de vingt-trois ans.
B.b. X._ a fait l'objet de plusieurs expertises psychiatriques, le dernier rapport ayant été établi le 14 décembre 2010 par le Dr Y._. Cet expert a retenu les diagnostics suivants: trouble grave de la personnalité avec une composante dyssociale et un aspect dysharmonique tous deux marqués, trouble de la préférence sexuelle et retard mental léger. Il a qualifié le risque de récidive d'important et d'imminent, fondant son appréciation notamment sur les expériences antérieures qui avaient montré que l'intéressé pouvait récidiver très rapidement dès qu'il se trouvait livré à lui-même, ainsi que sur l'aspect " extrêmement ténu et discret " des changements " éventuellement intervenus " depuis la commission du dernier délit. Il a conclu qu'une libération conditionnelle représenterait une prise de risque importante, compte tenu du fait que X._ ne disposait pas des ressources nécessaires pour s'adapter de manière constructive dans un environnement qui n'était pas clairement structuré et que l'on devait dès lors craindre une évolution rapide vers un état de désinsertion sociale avec des comportements perturbés dans divers domaines (abus toxiques, conflits interpersonnels, réactions agressives, délinquance sexuelle, délits contre le patrimoine).
B.c. Dans son rapport du 20 septembre 2011, la Direction de l'Etablissement d'exécution des peines de Bellevue a relevé que X._, qui était suivi depuis dix-huit mois par le psychologue de l'établissement, avait pu évoluer positivement sans que l'on puisse pour autant parler d'avancées significatives. Selon elle, cela nécessiterait un travail plus important et sur une bien plus longue période. Elle a précisé que les progrès étaient encore fragiles, le prénommé adoptant encore régulièrement des attitudes plutôt immatures. Elle a conclu que le condamné semblait avoir atteint les limites de ce qui pouvait lui être offert au sein de l'établissement et s'est prononcée en faveur de son transfert au sein d'un établissement sociothérapeutique, tout en sachant qu'il s'était récemment opposé à un projet d'admission à St-Jean, au Landeron. Elle a ajouté que X._ avait refusé de délier le thérapeute du secret médical, de peur que cela ne se retourne contre lui.
Dans ses avis des 3 et 4 octobre 2011, la Commission interdisciplinaire consultative (ci-après: CIC) a constaté que les éléments psychopathologiques et criminologiques préoccupants relevés dans son précédent avis perduraient, en l'absence de tout processus de changement. Les différents intervenants relevaient que plusieurs permissions ou conduites s'étaient déroulées de manière satisfaisante et que le comportement de X._ en détention restait globalement adapté. Cela étant, compte tenu du rapport de la Direction de l'Etablissement pénitentaire de Bellevue, qui indiquait avoir atteint les limites de ce qui pouvait être offert au prénommé, la commission a préconisé qu'un nouvel aménagement du cursus pénitentiaire de X._ soit étudié, pouvant comporter un changement d'établissement, ainsi que l'élaboration d'un nouveau plan d'exécution de la sanction. Elle a vivement encouragé X._ à persévérer dans les soins dont il bénéficiait et a invité l'intéressé à accepter que des informations concernant sa prise en charge thérapeutique puissent lui être communiquées, afin d'être en mesure d'apprécier au mieux le chemin qu'il parvenait à parcourir.
Le 16 décembre 2011, la Direction de l'Établissement d'exécution des peines de Bellevue a préavisé négativement à la libération conditionnelle, les progrès thérapeutiques restant fragiles et la poursuite d'un travail thérapeutique plus soutenu, sur une plus longue période et au sein d'une structure plus adaptée, étant nécessaire.
Par courrier du 8 février 2012, le psychologue de X._ a relevé que le travail effectué jusqu'ici était positif et constructif, mais qu'il paraissait impératif qu'il se poursuive avec comme objectifs l'identification des situations à risque et le développement de stratégies adaptées de gestion des situations en question. Selon lui, ce travail serait effectivement essentiel et de loin pas achevé.
B.d. Le 16 mars 2012, l'Office d'exécution des peines vaudois (ci-après: OEP) a saisi le Juge d'application des peines d'une proposition tendant au refus de la libération conditionnelle et à la prolongation de la mesure thérapeutique institutionnelle pour une durée de cinq ans, afin de constater les progrès de l'intéressé sur le long terme.
C.
Contre l'arrêt du 4 mars 2013, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Dénonçant une violation de son droit d'être entendu et de l'<ref-law>, il conclut à l'annulation de l'arrêt attaqué et au renvoi du dossier à la cour cantonale pour nouvelle décision, après avoir ordonné une nouvelle expertise psychiatrique et entendu le témoignage de son frère. En outre, il sollicite l'assistance judiciaire.

Considérant en droit:
1.
Le recourant dénonce une violation de l'<ref-law>, contestant avant tout la durée de la prolongation de la mesure institutionnelle.
L'<ref-law> prévoit que la privation de liberté entraînée par le traitement institutionnel ne peut en règle générale excéder cinq ans. Si les conditions d'une libération conditionnelle ne sont pas réunies après cinq ans et qu'il soit à prévoir que le maintien de la mesure détournera l'auteur de nouveaux crimes ou délits en relation avec son trouble mental, le juge peut, à la requête de l'autorité d'exécution, ordonner la prolongation de la mesure de cinq ans au plus à chaque fois.
1.1. Le traitement thérapeutique institutionnel peut se poursuivre au-delà du délai de cinq ans, mais non sans un examen. Après l'écoulement de ce délai, la mesure nécessite un examen judiciaire. Si elle se révèle toujours nécessaire et appropriée, notamment au vu de l'état psychique de l'intéressé et des risques de récidive, elle peut être prolongée de cinq ans au plus à chaque fois. Lors de cet examen, le juge doit donner une importance accrue au respect du principe de la proportionnalité, d'autant plus que la prolongation revêt un caractère exceptionnel et qu'elle doit être particulièrement motivée. Une expertise n'est toutefois pas exigée (cf. <ref-law>; <ref-ruling> consid. 1.4 p. 204; <ref-ruling> consid. 2.1 p. 141; cf. à ce sujet: MARIANNE HEER, in Basler Kommentar, Strafrecht I, 2e éd. 2007, n° 126 ad <ref-law>; TRECHSEL/PAUEN BORER, Schweizerisches Strafgesetzbuch, Praxiskommentar, 2e éd. 2013, n° 15 ad <ref-law>).
1.2.
1.2.1. La possibilité de prolonger la mesure suppose d'abord que les conditions pour une libération conditionnelle ne soient pas données, à savoir qu'un pronostic favorable ne puisse pas être posé quant au comportement futur de l'auteur en liberté (cf. <ref-law>; ATF <ref-ruling> consid. 2.2.1 p. 141).
1.2.2. La cour cantonale s'est fondée sur le rapport d'expertise du Dr Y._, établi le 14 décembre 2010. Cet expert a qualifié le risque de récidive d'important et d'imminent et conclu qu'une libération conditionnelle représenterait une prise de risque importante. Il a expliqué que l'expertisé manquait des ressources nécessaires pour s'adapter dans un environnement qui n'était pas clairement structuré et qu'en cas de libération conditionnelle l'on devait craindre une évolution rapide vers un état de désinsertion sociale avec des comportements perturbés dans divers domaines. Les autres intervenants (la Direction de l'Etablissement d'exécution des peines de Bellevue, le psychologue du recourant, l'Office d'exécution des peines, le Ministère public) ont également préavisé négativement à la libération conditionnelle, considérant que les progrès du recourant étaient fragiles et que le travail thérapeutique devait être poursuivi sur une plus longue période. Suivant ces avis, il faut admettre que le recourant n'est pas prêt à vivre en liberté et que les conditions de la libération conditionnelle ne sont pas réalisées.
1.2.3. Se fondant sur son droit d'être entendu, le recourant exige une nouvelle expertise, qui tienne compte de son trouble érectile.
Au préalable, il convient de rappeler que le Code pénal n'exige pas d'expertise en cas de prolongation de la mesure thérapeutique institutionnelle (cf. consid. 1.1 ci-dessus). Si une expertise a été ordonnée, le juge doit s'en écarter et le cas échéant en ordonner une nouvelle lorsque des circonstances ou des indices importants et bien établis en ébranlent sérieusement la crédibilité. Il n'est pas nécessaire que l'expertise soit établie dans le cadre de la procédure en cours; une expertise ancienne est suffisante lorsqu'elle appréhende tous les aspects nécessaires et n'a rien perdu de son actualité (<ref-ruling> consid. 4.3; <ref-ruling> consid. 3.4 p. 247 s.).
En l'espèce, l'expert a constaté que le risque de récidive était important, compte tenu de l'état mental du recourant, en particulier de son incapacité à s'adapter à un environnement qui n'était pas clairement structuré. Contrairement à ce que soutient le recourant, l'existence de troubles érectiles n'est pas décisive pour apprécier le risque de récidive. A supposer qu'ils existent, ceux-ci ne sont qu'un aspect de la problématique du recourant et ne sauraient être, à eux seuls, déterminants pour le risque de récidive. La crédibilité de l'expertise n'est ainsi pas ébranlée du fait qu'elle ne tient pas compte des éventuels troubles érectiles et il n'y a donc pas lieu d'en ordonner une autre. Le grief soulevé doit être rejeté.
1.2.4. Le recourant reproche à la cour cantonale d'avoir refusé d'entendre son frère.
Le frère ne peut témoigner que du fait que les sorties se sont bien déroulées. Or, ce point n'est ni contesté ni déterminant. En effet, la Direction de l'Etablissement d'exécution des peines de Bellevue a admis que les conduites et permissions s'étaient toutes déroulées convenablement. Au demeurant, selon l'expert, le fait que le recourant s'est bien comporté pendant les sorties qui ont duré douze heures n'implique pas qu'il se comporte bien lors de sorties de plus longue durée, car la surveillance devient alors difficile. Le grief soulevé est donc infondé.
1.3.
1.3.1. Pour qu'un traitement institutionnel puisse être prolongé, son maintien doit permettre de détourner l'auteur de nouveaux crimes ou de nouveaux délits en relation avec son trouble (<ref-law>; ATF <ref-ruling> consid. 2.3.1 p. 143).
1.3.2. En l'espèce, tous les intervenants recommandent la poursuite d'un travail thérapeutique plus soutenu et sur le long terme. Ils insistent sur le fait que le travail avec le recourant n'est de loin pas terminé et sur l'importance de maintenir un cadre suffisamment contraignant. Compte tenu de ces différents avis, il y a lieu d'admettre que le traitement institutionnel ordonné en 2007 peut apporter un bénéfice pour la réinsertion future du recourant.
1.4.
1.4.1. Si les conditions légales sont réalisées, le juge peut prolonger la mesure, selon l'énoncé légal, " de cinq ans au plus à chaque fois ". De cette formulation, il résulte d'abord qu'une prolongation de la mesure n'est pas impérative (" Kann-Vorschrift "). Le juge doit déterminer si le danger que représente l'intéressé peut justifier l'atteinte aux droits de la personnalité qu'entraîne la prolongation de la mesure. A cet égard, seul le danger de délits relativement graves peut justifier une prolongation. Le principe de la proportionnalité doit s'appliquer non seulement en ce qui concerne le prononcé ordonnant la prolongation de la mesure, mais également en ce qui concerne sa durée (<ref-law>). Selon l'énoncé légal, comme déjà mentionné, la mesure peut être prolongée au plus de cinq ans. Il en résulte clairement qu'une prolongation inférieure à cinq ans est également possible (ATF <ref-ruling> consid. 2.4 p. 143 s.). La mesure ne saurait être prolongée systématiquement de cinq ans (ATF <ref-ruling> consid. 2.4.1 p. 145 s.).
1.4.2. La cour cantonale a relevé que la progression du recourant était lente et que les spécialistes avaient indiqué que le processus d'accompagnement thérapeutique devait être envisagé sur une très longue période. Au surplus, au regard de la gravité des actes commis et du bien juridique protégé, la prolongation de la mesure pour une durée de cinq ans apparaissait appropriée et proportionnée.
1.4.3. Le danger que le recourant commette d'autres infractions (en particulier des viols et des contraintes sexuelles) justifie la privation de liberté liée à la prolongation du traitement thérapeutique institutionnel. En effet, les infractions en cause sont graves et le risque de récidive est qualifié d'important. Le recourant conteste la durée de la prolongation. La cour cantonale a opté pour une prolongation de cinq ans. Compte tenu de la gravité des infractions et des progrès très lents du recourant, une telle durée, bien qu'elle corresponde à la durée maximale prévue par la loi, ne paraît pas disproportionnée. Au demeurant, comme le relève la cour cantonale, le recourant peut bénéficier des possibilités d'allègement de la mesure et/ou de la libération conditionnelle, que l'autorité compétente doit examiner une fois par an.
2.
Le recours doit ainsi être rejeté.
Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (<ref-law>). Le recourant devra donc supporter les frais (<ref-law>), dont le montant sera toutefois fixé en tenant compte de sa situation financière.

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté.
2.
La requête d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'600 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 19 juillet 2013
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin