Faits :
A.
Par décision du 1er juillet 2021, le Tribunal de l'application des peines et mesures du canton du Valais (ci-après: TAPEM) a refusé de lever le traitement des troubles mentaux de A._ et de le libérer conditionnellement de cette mesure.
B.
Par ordonnance du 13 octobre 2021, la Chambre pénale du Tribunal cantonal du canton du Valais a rejeté le recours formé par A._ contre la décision du 1er juillet 2021. Elle a également refusé l'assistance judiciaire gratuite et a mis les frais à la charge de A._.
Il en ressort ce qui suit.
B.a. Par jugement du 21 juin 2016, le Tribunal des districts de Martigny et St-Maurice a condamné A._ pour voies de fait, extorsion et chantage, tentative d'extorsion et chantage, menaces, contrainte, délit selon l'art. 19 al. 1 let. c et d LStup, contravention selon l'<ref-law> et délit selon l'art. 33 al. 1 let. a LArm à une peine privative de liberté de 15 mois et à une amende de 300 francs. Il a en outre ordonné, au profit du prénommé, une mesure thérapeutique institutionnelle au sens de l'<ref-law>.
B.b. Dans son rapport du 16 mars 2020, l'Office des sanctions et des mesures d'accompagnement (ci-après: OSAMA) a conclu que A._ présentait un risque élevé de récidive d'actes hétéro-agressifs et un risque très élevé de récidive en général, compte tenu principalement de ses antécédents et de son fonctionnement psychique.
B.c. Le 26 août 2020, A._ a été placé aux Établissements de la plaine de l'Orbe (ci-après: EPO), en vue d'exécuter son traitement des troubles mentaux.
B.d. Dans un rapport du 25 janvier 2021, la Direction des EPO a émis un préavis défavorable à la libération conditionnelle de A._. Elle a notamment relevé que celui-ci refusait pour le moment toute rencontre avec le Service de médecine et psychiatrie pénitentiaires (ci-après: SMPP), bien qu'étant astreint à un suivi psychothérapeutique dans le cadre de son traitement des troubles mentaux.
B.e. Selon le plan d'exécution de la sanction (ci-après: PES) des EPO datant de janvier 2021, A._, qui ne prenait actuellement aucune médication, n'était pas opposé, sur le fond, à un suivi psychiatrique avec le SMPP. L'intéressé gérait difficilement ses frustrations et ses sentiments, se victimisait régulièrement, ne démontrant ainsi pas de remise en question sur ses agissements et leurs impacts, et avait eu des contacts téléphoniques avec des militaires vivant en Irak.
B.f. Le 16 février 2021, l'OSAMA a émis un préavis négatif quant à une levée du traitement des troubles mentaux de A._ et à une libération conditionnelle de l'exécution institutionnelle de cette mesure. Le 23 mars 2021, la Commission pour l'examen de la dangerosité a recommandé de refuser à A._ la levée de son traitement des troubles mentaux et la libération conditionnelle de l'exécution de cette mesure. Le 29 mars 2021, le chef de l'OSAMA a fait une recommandation identique.
C.
A._ forme un recours en matière pénale au Tribunal fédéral contre l'ordonnance du 13 octobre 2021. Il conclut, avec suite de frais et dépens, à sa réforme en ce sens que la mesure thérapeutique institutionnelle à laquelle il est astreint selon le jugement du 21 juin 2016 est levée, qu'il est immédiatement libéré et que l'assistance judiciaire gratuite est admise pour la procédure de recours. Subsidiairement, il conclut à l'annulation de l'ordonnance et au renvoi de la cause à l'autorité précédente pour nouvelle décision après avoir administré la preuve qu'il a requise, à savoir interpeller le SMPP au sujet du type et de la fréquence des soins administrés aux détenus sous mesure aux EPO et du lieu où ces soins sont administrés. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.

Considérant en droit :
1.
Le recourant se plaint d'une violation du droit d'être entendu et du droit à la preuve. Il ne cite aucune disposition légale qui aurait été violée, étant relevé que le CPP s'applique tout au plus à titre de droit cantonal supplétif si le droit cantonal le prévoit (cf. infra consid. 4.1), ce que ne prétend toutefois pas le recourant.
1.1. Le droit d'être entendu, tel qu'il est garanti par l'art. 29 al. 2 Cst. (cf. aussi art. 6 par. 1 CEDH) implique notamment, pour l'autorité, l'obligation de motiver sa décision, afin que le destinataire puisse la comprendre, l'attaquer utilement s'il y a lieu et afin que l'autorité de recours puisse exercer son contrôle. Le juge doit ainsi mentionner, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause (<ref-ruling> consid. 3.4.3 p. 46; <ref-ruling> consid. 2.1 p. 145). Il n'est pas tenu de discuter tous les arguments soulevés par les parties, mais peut se limiter à l'examen des questions décisives pour l'issue du litige (<ref-ruling> consid. 4.2 p. 157; <ref-ruling> consid. 2.2 p. 183). Dès lors que l'on peut discerner les motifs qui ont guidé la décision de l'autorité, le droit à une décision motivée est respecté, même si la motivation présentée est erronée (<ref-ruling> consid. 3.2.1 p. 565).
1.2. Le droit d'être entendu, garanti à l'art. 29 al. 2 Cst., comprend notamment celui de produire ou de faire administrer des preuves, à condition qu'elles soient pertinentes et de nature à influer sur la décision à rendre (<ref-ruling> consid. 4.1; <ref-ruling> consid. 2.3; <ref-ruling> consid. 6.3.1 et les références citées). Il n'empêche pas le juge de mettre un terme à l'instruction lorsque les preuves administrées lui ont permis de se forger une conviction et que, procédant de manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, il a la certitude qu'elles ne pourraient pas l'amener à modifier son opinion. Le refus d'instruire ne viole ainsi le droit d'être entendu des parties que si l'appréciation anticipée de la pertinence du moyen de preuve offert, à laquelle le juge a procédé, est entachée d'arbitraire (<ref-ruling> consid. 3.1.3; <ref-ruling> consid. 3.3; <ref-ruling> consid. 5.3).
1.3. Le recourant reproche à la cour cantonale de ne pas avoir répondu à ses arguments en relation avec l'art. 62c al. 1 let. c CP, se contentant de dire que son grief était infondé.
La cour cantonale a considéré que rien n'indiquait que les EPO, un milieu structuré et surveillé, ne seraient pas en mesure d'offrir un traitement médical, en collaboration étroite avec le SMPP, tel que préconisé dans le rapport d'expertise psychiatrique du 4 février 2020, soit "une prise en charge psychiatrique au long cours de type institutionnel dans un cadre rigoureux avec des approches socio-thérapeutiques pouvant aider le recourant à développer des stratégies de responsabilisation individuelle (apprendre à fonctionner avec les autres), l'engagement dans une activité à visée professionnelle au long terme (renforcer ses compétences) et l'implication dans des activités thérapeutiques de groupe", associés à "un traitement médicamenteux antipsychotique à faible dose", pour diminuer le risque élevé de récidive. Elle a considéré que rien ne s'opposait à ce qu'un traitement des troubles mentaux soit effectué dans un établissement pénitentiaire, comme les EPO, dès lors que le SMPP disposait à l'évidence de personnel qualifié (cf. <ref-law>).
On comprend ainsi de la motivation du jugement que la cour cantonale a rejeté le grief du recourant relatif à une éventuelle violation de l'art. 62c al. 1 let. c CP parce qu'elle a jugé que les EPO étaient un établissement approprié au sens de cette disposition, dès lors que le traitement était assuré par du personnel qualifié. En outre, la cour cantonale a relevé qu'il n'était pas démontré qu'il n'existait en Suisse aucune institution adaptée, ni aucune place disponible pour le recourant. Cette motivation est suffisante sous l'angle du droit d'être entendu et le recourant pouvait la comprendre et la contester utilement, ce qu'il a d'ailleurs fait. Infondée, la critique du recourant est rejetée.
1.4. Le recourant reproche ensuite à la cour cantonale de ne pas avoir donné suite à sa demande tendant à interpeller le SMPP sur le traitement administré au recourant et l'OSAMA "afin qu'il apporte la preuve que les EPO constituent un établissement adéquat et sont en mesure d'apporter au recourant les soins proposés par l'expert".
Il ressort du jugement attaqué que la cour cantonale a jugé que les EPO étaient un établissement approprié au traitement des troubles mentaux du recourant dès lors qu'ils disposaient à l'évidence de personnel qualifié au sens de l'<ref-law>. En outre, elle a considéré que rien n'indiquait que les EPO ne seraient pas en mesure d'offrir le traitement médical tel que préconisé par l'expert. Dès lors que ces éléments étaient suffisamment établis, la cour cantonale a jugé que cela l'exemptait - ainsi que le tribunal de première instance - d'interpeller l'OSAMA et le SMPP.
Le recourant soutient en particulier qu'il était nécessaire d'interpeller le SMPP afin de savoir quels soins et quelles thérapies il administrait au sein des EPO et s'il y avait du personnel qualifié de manière permanente au sein des EPO, de façon à déterminer si l'établissement pouvait remplir les conditions d'un établissement adéquat. À cet égard, il convient de relever qu'il ressort du dossier que tant l'OSAMA que le SMPP se sont exprimés sur le traitement suivi par le recourant. En effet, dans son courrier du 27 janvier 2021, le SMPP a expliqué que, depuis son arrivée aux EPO en août 2020, le recourant n'avait été rencontré qu'à une seule reprise par le chef de clinique adjoint et que trois nouveaux entretiens avaient été proposés, mais refusés par le patient, qui rapportait toujours agir sur conseil de son avocate (pièce 43 du dossier cantonal; <ref-law>). En outre, dans son courrier du 16 février 2021, l'OSAMA a répondu à l'avocate du recourant relatif au caractère adéquat des EPO comme établissement d'exécution d'une mesure thérapeutique institutionnelle (cf. pièce 7 du dossier cantonal; <ref-law>). Ensuite, en date du 29 mars 2021, le chef de l'OSAMA a recommandé le refus de la libération conditionnelle ou de la levée de la mesure et a proposé la poursuite du placement du recourant en établissement fermé au sein des EPO, où l'intéressé était bien intégré, afin de prévenir le risque d'une nouvelle fuite. Dans ce cadre, il a relevé qu'un travail socio-éducatif était actuellement en cours (notamment au travers de l'activité structurée et formative dont il bénéficiait au sein de l'atelier de peinture; cf. PV de la Commission pour l'examen de la dangerosité du canton du Valais; pièce 91 du dossier cantonal; <ref-law>) et devait être approfondi et poursuivi, ce d'autant que la motivation du recourant à participer au suivi thérapeutique fluctuait (pièce 89 du dossier cantonal; <ref-law>).
Pour le surplus, il convient de relever que l'art. 59 al. 3, 2e phrase, CP impose uniquement que le traitement thérapeutique nécessaire soit assuré par du personnel qualifié, ce qui n'est pas contesté, et non que celui-ci soit présent de manière permanente pour s'occuper des détenus exécutant une mesure institutionnelle, comme semble le suggérer le recourant.
Partant, il n'apparaît pas que l'appréciation anticipée de la preuve à laquelle s'est livrée l'autorité précédente serait entachée d'arbitraire. Le grief est rejeté.
2.
Le recourant se plaint d'une violation de l'art. 62c al. 1 let. c CP et de l'art. 5 ch. 1 CEDH. Il soutient que la mesure doit être levée parce que l'autorité d'exécution des peines n'a pas été en mesure de le placer dans un établissement approprié dans un délai raisonnable au sens de la jurisprudence.
2.1. En vertu de l'art. 5 par. 1 CEDH, toute personne a droit à la liberté et à la sûreté. Nul ne peut être privé de sa liberté, sauf dans les cas suivants et selon les voies légales: s'il est détenu régulièrement après condamnation par un tribunal compétent (let. a) ou s'il s'agit de la détention régulière d'une personne susceptible de propager une maladie contagieuse, d'un aliéné, d'un alcoolique, d'un toxicomane ou d'un vagabond (let. e).
Dans sa jurisprudence, la CourEDH considère que, pour respecter l'art. 5 par. 1 CEDH, la détention doit avoir lieu "selon les voies légales" et "être régulière". En la matière, elle renvoie pour l'essentiel à la législation nationale et consacre l'obligation d'en respecter les normes de fond comme de procédure. Elle exige de surcroît la conformité de toute privation de liberté au but de l'art. 5 CEDH, à savoir, protéger l'individu contre l'arbitraire. Il doit exister un lien entre le motif censé justifier la privation de liberté et le lieu ainsi que le régime de détention (arrêts de la CourEDH Kadusic c. Suisse du 9 janvier 2018 [requête n° 43977/13], § 45; Papillo c. Suisse du 27 janvier 2015 [requête n° 43368/08], § 41 s.; cf. arrêts 6B_1069/2021 du 12 novembre 2021 consid. 2.1; 6B_161/2021 du 8 avril 2021 consid. 2.3; 6B_1320/2019 du 29 janvier 2020 consid. 2.1; 6B_330/2019 du 5 septembre 2019 consid. 1.1.2).
En principe, la détention d'une personne souffrant de troubles mentaux ne peut être considérée comme "régulière" au regard de l'art. 5 par. 1 let. e CEDH que si elle s'effectue dans un hôpital, dans une clinique ou dans un autre établissement approprié (arrêts de la CourEDH W.A. c. Suisse du 2 novembre 2021 [requête n° 38958/16], § 37; Papillo c. Suisse précité, § 42 et les références citées). Le seul fait que l'intéressé ne soit pas intégré dans un établissement approprié n'a toutefois pas pour effet automatique de rendre sa détention irrégulière au regard de l'art. 5 par. 1 CEDH. Un équilibre raisonnable doit être ménagé entre les intérêts opposés en cause, étant entendu qu'un poids particulier doit être accordé au droit à la liberté. Dans cet esprit, la CourEDH prend en compte les efforts déployés par les autorités internes en vue de trouver un établissement adapté pour évaluer la régularité du maintien en détention dans l'intervalle (cf. arrêts de la CourEDH Papillo c. Suisse précité, § 43 et les références citées; De Schepper c. Belgique du 13 octobre 2009 [requête n° 27428/07], § 47 s.; cf. <ref-ruling> consid. 5.8.1 p. 117; arrêts 6B_1069/2021 du 12 novembre 2021 consid. 2.1; 6B_161/2021 du 8 avril 2021 consid. 2.3; 6B_1320/2019 du 29 janvier 2020 consid. 2.1; 6B_840/2019 du 15 octobre 2019 consid. 2.5.3).
2.2. Lorsque l'auteur souffre d'un grave trouble mental, le juge peut ordonner un traitement institutionnel si l'auteur a commis un crime ou un délit en relation avec ce trouble et s'il est à prévoir que cette mesure le détournera de nouvelles infractions en relation avec ce trouble (<ref-law>).
Le traitement institutionnel des troubles mentaux s'effectue dans un établissement psychiatrique approprié ou dans un établissement d'exécution des mesures (<ref-law>). L'établissement spécialisé d'exécution des mesures doit être dirigé ou surveillé par un médecin; il faut en outre qu'il dispose des installations nécessaires ainsi que d'un personnel disposant d'une formation appropriée et placé sous surveillance médicale (arrêts 6B_1483/2020 du 15 septembre 2021 consid. 5.1; 6B_445/2013 du 14 janvier 2014 consid. 4.4.1; 6B_384/2010 du 15 septembre 2010 consid. 2.1.1). Lorsqu'il y a lieu de craindre que le condamné ne s'enfuie ou ne commette de nouvelles infractions, le traitement sera exécuté dans un établissement fermé. Il peut aussi être effectué dans un établissement pénitentiaire au sens de l'<ref-law>, dans la mesure où le traitement thérapeutique nécessaire est assuré par du personnel qualifié (<ref-law>).
2.3. Selon l'art. 62c al. 1 let. c CP, la mesure est levée s'il n'y a pas ou plus d'établissement approprié. L'art. 62c al. 1 let. c CP n'est pas seulement applicable quand aucune institution adaptée n'existe, mais aussi lorsqu'aucune place n'est disponible pour l'intéressé dans une institution adaptée (arrêts 6B_854/2019 du 10 septembre 2019 consid. 3.3; 6B_1293/2016 du 23 octobre 2017 consid. 2.1; 6B_1001/2015 du 29 décembre 2015 consid. 3.2). Cette disposition doit cependant être interprétée de manière restrictive (cf. arrêts 6B_854/2019 précité consid. 3.3; 6B_1001/2015 précité consid. 3.2).
2.4. Le Tribunal fédéral a retenu, en tenant compte de la jurisprudence de la Cour européenne des droits de l'homme (CEDH), que le placement dans un établissement pénitentiaire ou de détention d'une personne faisant l'objet d'une mesure, et ayant fait l'objet d'une condamnation entrée en force, est compatible avec le droit fédéral matériel en tant que solution à court terme pour pallier une situation d'urgence, dans l'attente d'un transfert dans un établissement spécialisé (cf. arrêt 6B_1069/2021 du 12 novembre 2021 consid. 2.2 et 2.4). En revanche, un placement à plus long terme dans un établissement pénitentiaire ou de détention, si les conditions de l'<ref-law> ne sont pas remplies, n'est pas admissible, car le but de la mesure ne doit pas être compromis (arrêt 1B_434/2021 du 14 septembre 2021 consid. 2.3 destiné à la publication; <ref-ruling> consid. 5.8.1 p. 116 avec références; arrêts 6B_850/2020 du 8 octobre 2020 consid. 2.3.4; 6B_294/2020 du 24 septembre 2020 consid. 5.1; 6B_840/2019 du 15 octobre 2019 consid. 2.5.3).
2.5.
2.5.1. En l'espèce, c'est d'abord en vain que le recourant invoque l'arrêt de la Cour européenne des droits de l'homme Kadusic c. Suisse du 9 janvier 2018 [requête n° 43977/13]. En effet, il convient tout d'abord de relever que, contrairement au cas d'espèce, la cause citée par le recourant concerne un cas dans lequel le prévenu, initialement condamné à une peine privative de liberté, avait été maintenu dans le même établissement de détention alors que l'exécution de sa peine privative de liberté arrivait à son terme et qu'une mesure institutionnelle au sens de l'<ref-law> avait été prononcée sept ans après la condamnation initiale - sur la base d'une expertise trop ancienne - en application de l'<ref-law> (cf. arrêt de la CourEDH Kadusic c. Suisse du 9 janvier 2018 [requête n° 43977/13]; cf. aussi NICOLAS QUELOZ, Commentaire romand, Code pénal I, 2e éd., 2021, n° 32a ad <ref-law>). Dans le présent cas, le recourant, qui souffre d'un retard mental léger, d'un trouble de la personnalité dyssociale ainsi que de troubles mentaux et du comportement liés à l'utilisation de substances psychoactives multiples, a été condamné dès le départ, dans le jugement du 21 juin 2016, à une mesure thérapeutique institutionnelle et a été initialement placé au Centre d'accueil pour les adultes en difficulté (ci-après: CAAD), d'où il a fugué le 15 octobre 2017. Il a fait l'objet d'une expertise psychiatrique, dont le rapport a été rendu le 4 février 2020 (cf. arrêt 6B_817/2020 du 23 décembre 2020 let. C). Contrairement à l'affaire Kadusic, dans laquelle les modalités de la mesure thérapeutique n'avaient apparemment jamais été mises en oeuvre (cf. NICOLAS QUELOZ, Société du "risque zéro" et principe de réinsertion sociale: une impasse, in GENILLOD-VILLARD / KELLER/NIGGLI/SCHWARZENEGGER (éds.), La réhabilitation dans la société du risque zéro, Berne 2020, p. 18), dans le présent cas, par décision du 21 août 2020, c'est dans le but d'exécuter la mesure thérapeutique institutionnelle conformément au jugement du 21 juin 2016 et en raison du risque élevé de récidive du recourant et du risque de fuite que celui-ci a été placé aux EPO à partir du 26 août 2020, soit depuis un peu plus d'un an au moment du jugement attaqué (cf. décision de l'OSAMA du 21 août 2020, pièce 16 du dossier cantonal; <ref-law>).
2.5.2. Par ailleurs, il convient de relever que l'argumentation du recourant semble reposer sur la (fausse) prémisse selon laquelle une détention en milieu carcéral, en l'occurrence aux EPO, serait nécessairement inappropriée et assimilable à une détention provisoire dans l'attente d'une place disponible dans une institution spécialisée. Or, comme susmentionné (cf. supra consid. 2.4), l'<ref-law> prévoit expressément que le traitement peut s'effectuer dans un établissement pénitentiaire au sens de l'<ref-law>, dans la mesure où le traitement thérapeutique nécessaire est assuré par du personnel qualifié (cf. arrêts 6B_660/2019 du 20 août 2019 consid. 6.3; 6B_154/2017 du 25 octobre 2017 consid. 2.5). En l'occurrence, il ne ressort pas de la décision attaquée que le recourant séjournerait dans l'établissement précité dans l'attente d'une place dans une institution spécialisée, ou en raison de places manquantes dans un lieu de détention plus adéquat, mais qu'il y effectue sa mesure à titre de l'<ref-law>, en bénéficiant d'une prise en charge thérapeutique.
En outre, contrairement à ce que semble penser le recourant, le Tribunal fédéral a déjà considéré qu'une mesure thérapeutique institutionnelle pouvait être exécutée dans un établissement pénitentiaire si le traitement était assuré par du personnel qualifié (cf. notamment arrêts 6B_660/2019 du 20 août 2019 consid. 4.4; 6B_538/2013 du 14 octobre 2013 consid. 6.1.2; cf. aussi arrêts 6B_27/2018 du 30 mai 2018 consid. 4.2; 6B_154/2017 du 25 octobre 2017 consid. 2 concernant la prison de Champ-Dollon et 6B_705/2015 du 22 septembre 2015 consid. 1.4.2 concernant l'exécution d'un internement aux EPO). C'est ainsi en vain que le recourant fait valoir que les EPO ne constituent pas un établissement d'exécution des mesures. Son grief est rejeté.
Pour le surplus, le recourant ne démontre pas en quoi son placement aux EPO serait contraire à l'art. 5 CEDH.
2.5.3. Il s'ensuit que le grief de violation de l'art. 5 CEDH est rejeté.
2.6. Le recourant invoque l'<ref-law> pour s'opposer au maintien de la mesure.
2.6.1. Le droit interne prévoit, conformément à l'<ref-law>, que les lieux d'exécution des mesures thérapeutiques visés aux art. 59 à 61 doivent être séparés des lieux d'exécution des peines. En introduisant, à l'<ref-law>, la possibilité d'exécuter une mesure institutionnelle dans un établissement pénitentiaire, le législateur a introduit une exception au principe de la séparation des lieux d'exécution des mesures de ceux d'exécution des peines (<ref-law>; <ref-ruling> consid. 2.4.3; arrêts 6B_1069/2021 du 12 novembre 2021 consid. 2.2; 6B_154/2017 du 25 octobre 2017 consid. 2.3.1; 6B_538/2013 du 14 octobre 2013 consid. 6.1.1; 6B_629/2009 du 21 décembre 2009 consid. 1.2.2).
2.6.2. Il découle de ce qui précède que, contrairement à ce que semble soutenir le recourant, l'<ref-law>, qui prévoit que le traitement des troubles mentaux peut aussi être effectué dans un établissement pénitentiaire si du personnel qualifié peut en assurer le traitement, prime l'<ref-law> dans la mesure où il constitue une lex specialis (cf. LUDWICZAK GLASSEY/ROTH/THALMANN in Commentaire romand, Code pénal I, 2021, n° 8 ad <ref-law>). En outre, comme susmentionné, l'<ref-law> n'exige pas, comme le prétend le recourant, que du personnel qualifié soit présent en permanence dans l'établissement, comme ce serait le cas pour un établissement spécialisé d'exécution des mesures (cf. supra consid. 2.2). Le grief de la violation de l'<ref-law> est rejeté.
2.7. Pour le surplus, il ressort du jugement attaqué que rien n'indique que les EPO ne seraient pas en mesure d'offrir un traitement médical, en collaboration avec le SMPP, tel que préconisé dans le rapport d'expertise psychiatrique du 4 février 2020, soit (1) "une prise en charge psychiatrique au long cours de type institutionnel dans un cadre rigoureux avec des approches socio-thérapeutiques pouvant aider à développer des stratégies de responsabilisation individuelle (2) une implication dans des activités thérapeutiques de groupe et (3) un traitement médicamenteux antipsychotique à faible dose" (cf. jugement attaqué, p. 12 et 16). Dans la mesure où le recourant soutient le contraire, il oppose en réalité sa propre version des faits à celle arrêtée par la cour cantonale, de sorte que son grief est irrecevable. Au demeurant, le fait qu'au moment du jugement attaqué seuls des entretiens thérapeutiques étaient proposés au recourant est dû au refus de celui-ci de tout traitement et de toute médication (<ref-law>) et non au fait que les EPO, en collaboration avec le SMPP, ne sont pas en mesure d'offrir le traitement préconisé.
On relèvera enfin, à l'instar de la cour cantonale, que le recourant ne soutient pas en soi qu'aucun établissement thérapeutique approprié n'existe en Suisse, ni qu'aucune place ne serait disponible pour lui. Il ne prétend en particulier pas qu'il aurait fait une demande pour être transféré dans un autre établissement ou dans une autre section - qui lui aurait été refusée -, se contentant de demander à être immédiatement libéré. Il convient par ailleurs de rappeler que, dans les affaires concernant la Suisse, la CourEDH n'a jamais conclu à l'existence d'un problème structurel dans la prise en charge des personnes délinquantes souffrant de troubles mentaux (arrêt CourEDH Papillo c. Suisse du 27 janvier 2015 [requête n° 43368/08], § 46; cf. arrêts 6B_330/2019 du 5 septembre 2019 consid. 1.3; 6B_154/2017 du 25 octobre 2017 consid. 2.5; 6B_705/2015 du 22 septembre 2015 consid. 1.4.2).
2.8. Compte tenu de ce qui précède, la cour cantonale n'a pas violé l'art. 62c al. 1 let. c CP en refusant de lever la mesure dont bénéficie le recourant.
3.
Le recourant soutient que la mesure doit être levée en vertu de l'<ref-law>, car elle serait vouée à l'échec.
3.1. Conformément à l'<ref-law>, une mesure dont les conditions ne sont plus remplies doit être levée. Comme son prononcé suppose qu'elle soit propre à détourner l'auteur de la commission de nouvelles infractions en relation avec son grave trouble mental (cf. <ref-law>), une mesure thérapeutique institutionnelle ne peut être maintenue que si elle conserve une chance de succès, ainsi que le prévoit du reste l'<ref-law>. Au contraire de l'internement, qui consiste principalement à neutraliser l'auteur, la mesure thérapeutique institutionnelle cherche à réduire le risque de récidive par une amélioration des facteurs inhérents à l'intéressé. Il s'ensuit que, pour qu'une mesure thérapeutique institutionnelle puisse être maintenue, c'est le traitement médical, non la privation de liberté qui lui est associée, qui doit conserver une chance de succès du point de vue de la prévention spéciale. La notion de traitement médical doit être entendue largement. Même la simple prise en charge de l'auteur dans un milieu structuré et surveillé accompagnée d'un suivi psychothérapeutique relativement lointain constitue un traitement, si elle a pour effet prévisible d'améliorer l'état de l'intéressé de manière à permettre, à terme, sa réinsertion dans la société (cf. <ref-ruling> consid. 1.3 p. 204 s.; arrêt 6B_1160/2013 du 20 février 2014 consid. 3.1.2). L'échec de la mesure peut résulter de l'insuffisance de possibilités thérapeutiques, du manque de respect des avis ou recommandations des thérapeutes ou du refus d'un traitement. Le traitement n'est voué à l'échec que s'il est définitivement inopérant; une simple crise de l'intéressé ne suffit pas. De manière générale, la levée d'une mesure en raison de son échec doit être admise de manière restrictive (<ref-ruling> consid. 2.2; <ref-ruling> consid. 2.3; cf. arrêts 6B_259/2021 du 14 juillet 2021 consid. 1.2; 6B_684/2020 du 21 avril 2021 consid. 1.2.3, 6B_1143/2019 du 31 octobre 2019 consid. 1.1). L'appréciation du pronostic légal et la question du bénéfice thérapeutique concernent des questions de faits que le Tribunal fédéral ne revoit que sous l'angle de l'arbitraire (arrêts 6B_259/2021 précité consid. 1.2; 6B_82/2021 du 1er avril 2021 consid 4.2.3 non publié in <ref-ruling> et les références citées).
3.2. La cour cantonale a retenu que ce n'était que depuis le 26 novembre 2020 que le recourant, sur conseil de son avocate, refusait tout entretien avec le SMPP, de même que toute médication, donc tout traitement ou suivi thérapeutique. Elle a considéré qu'il s'agissait d'une simple crise du recourant, laquelle était insuffisante pour conclure que son traitement était définitivement inopérant, d'autant que, selon le PES, l'intéressé n'était pas opposé, sur le fond, à un suivi psychiatrique avec le SMPP. Elle en a conclu que le maintien du traitement des troubles mentaux ne paraissait pas voué à l'échec, de sorte qu'il n'y avait pas lieu de lever la mesure thérapeutique institutionnelle sur la base de l'<ref-law>.
3.3. Le recourant soutient que la mesure serait vouée à l'échec en se référant notamment à l'expertise, selon laquelle il ne serait pas en mesure de suivre une thérapie en raison de son état mental incomplet. Cet élément ne ressort pas du jugement attaqué, sans que le recourant ne démontre l'arbitraire de son omission, de sorte qu'il est irrecevable. Au demeurant, on relèvera que les experts ont conclu, dans leur rapport d'expertise du 4 février 2020, qu'un traitement institutionnel comprenant une prise en charge psychiatrique et un encadrement psycho-éducatif était susceptible de permettre une évolution du recourant. Ils ont précisé que le traitement préconisé, même ordonné contre la volonté du recourant, avait des chances importantes de pouvoir être mis en oeuvre, si un cadre institutionnel rigoureux était mis en place (cf. rapport d'expertise, p. 19-20; pièces 230 s. du dossier cantonal). Le grief est dès lors rejeté dans la mesure où il est recevable.
3.4. Le recourant soutient encore que les thérapeutes n'ont pas réussi à le motiver à entrer en thérapie dans les cinq ans qu'est censée durer la mesure, de sorte que celle-ci serait vouée à l'échec. Cette argumentation ne saurait être suivie. Tout d'abord, comme le relève la cour cantonale, il n'apparaît pas qu'au moment du jugement attaqué, le traitement avait encore atteint la durée de cinq ans, dès lors que le recourant n'a pas été privé de liberté durant sa fugue, pendant 122 jours à tout le moins. En outre, comme le rappelle le recourant lui-même, il était initialement placé au CAAD, d'où il a fugué vers la France, et n'a été placé aux EPO en vue d'exécuter son traitement des troubles mentaux que le 26 août 2020. Il ressort du dossier que le recourant s'est relativement bien intégré aux EPO et qu'un travail socio-éducatif est en cours. S'agissant de son traitement, s'il est vrai que, depuis le 26 novembre 2020, le recourant a refusé des entretiens avec le SMPP et toute médication, comme l'a relevé la cour cantonale, il ressort du PES que l'intéressé n'est pas opposé, sur le fond, à un suivi psychiatrique avec le SMPP. En outre, lors de son audition devant le TAPEM du 28 avril 2021, il a également déclaré qu'il n'était pas opposé sur le principe à suivre un traitement thérapeutique pour autant que celui-ci soit effectué dans un établissement qu'il estimait approprié et dans lequel il pourrait entreprendre des stages de formation et être soutenu par des éducateurs (PV du 28 avril 2021, pièce 27 du dossier cantonal; <ref-law>). Par ailleurs, il ressort du dossier que tous les intervenants ont conclu au maintien de la mesure thérapeutique institutionnelle, pas uniquement - comme le prétend le recourant - en raison du risque élevé de récidive que celui-ci présente, mais également en raison de la nécessité qu'il entreprenne, avant sa libération, "un travail réflexif quant à son parcours délictuel, sa problématique psychiatrique et ses fragilités addictives, dans l'optique de concevoir un projet de vie concret et réaliste visant à l'insertion sociale et à la prévention du risque de récidive" (cf. PV de la Commission pour l'examen de la dangerosité du canton du Valais, p. 1; pièce 91 du dossier cantonal; cf. aussi recommandation de l'OSAMA du 29 mars 2021; pièce 89 du dossier cantonal; <ref-law>).
On relèvera enfin qu'il ressort du dernier PES de janvier 2021 que, compte tenu de l'arrivée récente du recourant aux EPO et de son refus de s'inscrire dans un suivi thérapeutique, il a été décidé que, dans une première phase, il serait maintenu au sein du Pénitencier de Bochuz avec notamment pour objectif "un investissement du recourant dans son suivi thérapeutique avec le SMPP en lien avec sa mesure au sens de l'<ref-law>" (pièce 75 du dossier cantonal). Un nouveau réseau interdisciplinaire sera agendé au premier trimestre 2022 afin notamment de faire le point de situation et d'envisager la suite de l'exécution de la mesure thérapeutique institutionnelle de l'intéressé.
Dans ces conditions, il n'était pas arbitraire pour la cour cantonale de conclure qu'il s'agissait d'une simple crise qui était insuffisante pour conclure que le traitement était définitivement inopérant.
3.5. Au vu de ce qui précède, même si la mesure thérapeutique institutionnelle n'a pas, au cours des premières années, produit d'effets notables sur le trouble mental du recourant, il n'apparaît pas que celle-ci serait définitivement vouée à l'échec si le traitement tel que préconisé par le rapport d'expertise du 4 février 2020 est mis en oeuvre. À cet égard, la cour cantonale a, à juste titre, enjoint le SMPP de tout entreprendre afin d'amener le recourant à suivre enfin les mesures préconisées par les experts dans leur rapport.
4.
Invoquant les art. 29 al. 3 Cst. et 6 al. 3 let. c CEDH, le recourant conteste le refus de l'assistance judiciaire devant la cour cantonale.
4.1. Le CPP règle la poursuite et le jugement, par les autorités pénales de la Confédération et des cantons, des infractions prévues par le droit fédéral (<ref-law>). Il ne régit en revanche pas la procédure d'exécution des jugements rendus, qui demeure de la compétence des cantons, sauf dispositions spéciales du CPP ou du CP (cf. art. 123 al. 2 Cst. et 439 al. 1 CPP; cf. arrêts 6B_1069/2021 du 12 novembre 2021 consid. 3.1; 6B_974/2021 du 11 octobre 2021 consid. 2.1).
4.2. Aux termes de l'art. 29 al. 3 Cst., toute personne qui ne dispose pas de ressources suffisantes a droit, à moins que sa cause paraisse dépourvue de toute chance de succès, à l'assistance judiciaire gratuite. Elle a en outre droit à l'assistance gratuite d'un défenseur, dans la mesure où la sauvegarde de ses droits le requiert.
Cette disposition confère au justiciable - à l'instar de l'art. 6 par. 3 let. c CEDH - une garantie minimale, dont le Tribunal fédéral examine librement le respect (<ref-ruling> consid. 4.1 p. 136; arrêt 6B_580/2021 du 22 septembre 2021 consid. 6.1 et les références citées), à l'exception des constatations de fait qui s'y rapportent, qu'il n'examine que sous l'angle de l'arbitraire (<ref-ruling> consid. 2.3 p. 14; <ref-ruling>; arrêts 6B_1069/2021 du 12 novembre 2021 consid. 3.1; 6B_974/2021 du 11 octobre 2021 consid. 2.3; 6B_609/2021 du 19 juillet 2021 consid. 3.1).
L'art. 29 al. 3 Cst. conditionne notamment l'octroi de l'assistance judiciaire gratuite à l'existence de chances de succès dans la cause de celui qui réclame celle-ci (cf. <ref-ruling> consid. 1.2 p. 397; <ref-ruling> consid. 3.3.1 p. 214; <ref-ruling> consid. 2.2.4 p. 218; arrêt 6B_1069/2021 précité consid. 3.2). Un procès est dépourvu de chances de succès lorsque les perspectives de le gagner sont notablement plus faibles que les risques de le perdre, et qu'elles ne peuvent donc être considérées comme sérieuses, de sorte qu'une personne raisonnable et de condition aisée renoncerait à s'y engager en raison des frais qu'elle s'exposerait à devoir supporter; il ne l'est en revanche pas lorsque les chances de succès et les risques d'échec s'équilibrent à peu près, ou que les premières ne sont que légèrement inférieures aux secondes. L'élément déterminant réside dans le fait que l'indigent ne doit pas se lancer, parce qu'il plaide aux frais de la collectivité, dans des démarches vaines qu'une personne raisonnable n'entreprendrait pas si, disposant de moyens suffisants, elle devait les financer de ses propres deniers (cf. <ref-ruling> consid. 5.1 p. 139 s.; <ref-ruling> consid. 9.1 p. 537; <ref-ruling> consid. 1.2 p. 397; <ref-ruling> consid. 2.2.4 p. 218).
4.3. La cour cantonale a jugé que la requête d'assistance judiciaire gratuite du recourant pour la procédure de recours ne pouvait être que rejetée, dès lors que ses conclusions étaient dépourvues de toute chance de succès.
4.4. Le recourant soutient que dès lors que son avocate a été désignée comme son défenseur d'office dans le cadre de la procédure de levée de la mesure avec effet au 12 janvier 2021, cette désignation vaudrait jusqu'en dernière instance cantonale. Il prétend que la cour cantonale ne pouvait dès lors pas statuer à nouveau sur l'assistance judiciaire, faute d'éléments nouveaux.
4.4.1. Il ressort de la jurisprudence que l'instance de recours est elle-même compétente, dans la procédure de recours menée devant elle, pour ordonner une défense d'office et désigner un défenseur d'office (art. 133 al. 1 en relation avec l'art. 388 let. c CPP; cf. arrêts 1B_42/2021 du 2 décembre 2021 consid. 8.3; 1B_230/2019 du 8 octobre 2019 consid. 1.2; 1B_705/2011 du 9 mai 2012 consid. 2.3 et les références citées; 1B_355/2012 du 12 octobre 2012 consid. 2). Le défenseur d'office désigné dans la procédure d'instruction pénale n'intervient pas automatiquement dans la procédure de recours - du moins lorsque le prévenu est la partie recourante - en tant que conseil juridique gratuit. L'instance de recours peut faire dépendre l'octroi de l'assistance judiciaire des chances de succès du recours (arrêts 1B_42/2021 du 2 décembre 2021 consid. 8.3; 1B_705/2011 du 9 mai 2012 consid. 2.3.2 et les références citées; cf. aussi arrêt 1B_80/2019 du 26 juin 2019 consid. 2 concernant la partie plaignante; dans ce sens, NIKLAUS RUCKSTUHL, in Basler Kommentar, Strafprozessordnung, Jugendstrafprozessordnung, 2e éd. 2014, n° 10 ad <ref-law>; JO PITTELOUD, Code de procédure pénale suisse: commentaire à l'usage des praticiens, 2012, n° 315; contra: HARARI/JAKOB/SANTAMARIA, in Commentaire romand, Code de procédure pénale suisse, 2e éd. 2019, n° 71a ss ad <ref-law> et n° 1a ad <ref-law>; SCHMID/JOSITSCH, Schweizerische Strafprozessordnung, Praxiskommentar, 3e éd. 2018, n° 2 ad <ref-law>).
4.4.2. Le recourant n'invoque aucune application arbitraire des règles de droit cantonal, voire du CPP, appliqué à titre de droit cantonal supplétif. En tout état, au vu de la jurisprudence précitée (supra consid. 4.4.1), il n'apparaît pas contraire au droit fédéral que la cour cantonale ait statué à nouveau sur la question de l'octroi de l'assistance judiciaire, étant rappelé que l'art. 29 al. 3 Cst. conditionne expressément l'octroi de l'assistance judiciaire gratuite à l'existence de chances de succès. Le grief est rejeté.
4.5. Le recourant soutient que son recours cantonal n'était pas dénué de chances de succès au vu de la jurisprudence de la CourEDH et parce qu'une longue privation de liberté était en jeu. Or, tout d'abord, il n'apparaît pas que le recourant ait invoqué une violation de l'art. 5 CEDH dans son recours cantonal. Par ailleurs, en l'occurrence, ce n'est pas le prononcé d'une mesure thérapeutique institutionnelle qui était en jeu (cf. <ref-ruling> consid. 3.5; arrêt 1B_591/2021 du 12 janvier 2022 consid. 2.1) mais son exécution. Pour le surplus, le recours du recourant tendait essentiellement à contester le refus de la levée de la mesure, au motif qu'il n'existerait aucun établissement approprié. Or, comme susmentionné, il n'a pas été démontré que l'établissement dans lequel le recourant était placé, depuis moins d'un an au moment du jugement attaqué, n'était pas approprié, ni qu'il n'existerait en Suisse aucune institution adaptée ou aucune place disponible pour le recourant. Il sied enfin de rappeler que tant la levée de la mesure faute d'établissement approprié (art. 62c al. 1 let. c CP) que la levée d'une mesure en raison de son échec (<ref-law>) doivent être admises de manière restrictive (cf. supra consid. 2.3 et 3.1).
4.6. Il s'ensuit que la cour cantonale pouvait, sans violer le droit fédéral, refuser l'assistance judiciaire au motif que les conclusions du recourant étaient dépourvues de chances de succès. Le grief est rejeté.
5.
Le recours doit être rejeté dans la mesure où il est recevable. Au vu des griefs soulevés devant le Tribunal fédéral, notamment l'art. 5 CEDH, il n'était pas dénué de chances de succès. Le recourant, don t la situation financière n'apparaît pas favorable, doit être mis au bénéfice de l'assistance judiciaire et dispensé des frais de procédure (<ref-law>). Il convient de lui désigner Me Kathrin Gruber en qualité de conseil d'office et d'indemniser cette dernière (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est admise. Me Kathrin Gruber est désignée comme avocate d'office du recourant et une indemnité de 3000 fr., supportée par la caisse du Tribunal fédéral, lui est allouée à titre d'honoraires.
3.
Il n'est pas perçu de frais judiciaires.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Chambre pénale.
Lausanne, le 11 mars 2022
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
La Présidente : Jacquemoud-Rossari
La Greffière : Thalmann