Faits :
A.
Par décision du 21 avril 2020, le Tribunal de l'application des peines et des mesures du canton du Valais a prononcé le maintien de la mesure thérapeutique institutionnelle à laquelle A._ est astreint selon le jugement du Tribunal des districts de Martigny et St-Maurice du 21 juin 2016. Il a considéré que les conditions pour ordonner la levée de la mesure thérapeutique institutionnelle, respectivement la libération conditionnelle de ladite mesure n'étaient pas remplies.
B.
Dans son recours contre cette décision auprès de l'autorité cantonale compétente, A._ a conclu à sa libération conditionnelle de la mesure thérapeutique institutionnelle au sens de l'<ref-law>, arguant que le premier juge avait retenu à tort un pronostic défavorable. Subsidiairement, il a conclu au prononcé d'une mesure ambulatoire, en application du principe de proportionnalité prévu à l'<ref-law>, précisant qu'un tel traitement pouvait être ordonné dans le cadre de la libération conditionnelle d'une mesure thérapeutique institutionnelle (<ref-law>). Enfin, plus subsidiairement, A._ a conclu à ce qu'il soit placé dans un établissement ouvert afin d'exécuter sa mesure, contestant en particulier l'existence d'un risque de récidive au sens de l'<ref-law>.
C.
Par ordonnance du 5 juin 2020, la Chambre pénale du Tribunal cantonal du Valais a rejeté le recours formé contre la décision du 21 avril 2020. Elle a également refusé l'assistance judiciaire gratuite et mis les frais à la charge de A._.
Il en ressort ce qui suit.
C.a. A._, ressortissant irakien né en 1993, est arrivé en Suisse vers l'âge de 8 ans.
Son casier judiciaire suisse fait état d'une condamnation en 2009 pour voies de fait, vol, complicité de vol, délit manqué de vol, dommages à la propriété, utilisation frauduleuse d'un ordinateur, violation de domicile, délit manqué de vol d'usage, vol d'usage, conduite sans permis de conduire, contravention selon l'art. 96 OCR et contravention selon l'art. 19a aLStup, d'une condamnation en 2011 pour vol, dommages à la propriété, recel, violation de domicile, vol d'usage, conduite sans permis de conduire, usage abusif de permis et de plaques et contravention selon l'<ref-law>, d'une condamnation en 2014 pour vol, brigandage, dommages à la propriété, utilisation frauduleuse d'un ordinateur, tentative d'utilisation frauduleuse d'un ordinateur, violation de domicile, tentative de violation de domicile, contrainte sexuelle, vol d'usage, tentative de vol d'usage, conduite sans autorisation, délit selon l'art. 19 al. 1 let. c LStup et contravention selon l'<ref-law> et d'une condamnation en 2015 pour appropriation illégitime et menaces.
C.b. Par jugement du 21 juin 2016, le Tribunal des districts de Martigny et St-Maurice a condamné A._ pour voies de fait, extorsion et chantage, tentative d'extorsion et chantage, menaces, contrainte, délit selon l'art. 19 al. 1 let. c et d LStup, contravention selon l'<ref-law> et délit selon l'art. 33 al. 1 let. a LArm à une peine privative de liberté de 15 mois et à une amende de 300 francs. Il a en outre ordonné, au profit du prénommé, une mesure thérapeutique institutionnelle au sens de l'<ref-law>.
Le 9 mars 2017, A._ a été placé au Centre X._. Il a fugué de cet établissement le 5 octobre 2017 et a été arrêté en France le 15 février 2018. Il a été extradé vers la Suisse le 20 août 2019.
C.c. Le 13 août 2019, l'Office des sanctions et des mesures d'accompagnement a déposé une requête aux fins de procéder à l'examen de la libération conditionnelle et de la levée de la mesure thérapeutique institutionnelle.
Dans le cadre de cette procédure, une expertise a été mise en oeuvre. Les experts ont rendu un rapport du 4 février 2020, duquel il ressort notamment que A._ souffre d'un retard mental léger ainsi que d'un trouble de la personnalité dyssociale qui se retrouve dans son mépris des obligations sociales, une indifférence froide pour autrui manifeste dans son parcours, une absence d'effet des sanctions, une faible tolérance à la frustration et une tendance à blâmer autrui ou à justifier ses comportements inadaptés. Les experts ont également retenu des troubles mentaux et du comportement liés à l'utilisation de substances psychoactives multiples en raison des antécédents de A._.
Les experts ont conclu à un risque de récidive élevé en l'absence d'un cadre protecteur. Ils ont indiqué que A._ nécessitait une prise en charge psychiatrique au long cours de type institutionnel dans un cadre rigoureux avec des approches socio-thérapeutiques pouvant l'aider à développer des stratégies de responsabilisation individuelle, l'engagement dans une activité à visée professionnelle et l'implication dans des activités thérapeutiques de groupe. Ils ont également relevé qu'en parallèle, un traitement médicamenteux antipsychotique serait susceptible d'atténuer l'impulsivité du prénommé et de diminuer un vécu persécutoire.
C.d. Selon le rapport de comportement du responsable des établissements de détention avant jugement du 19 février 2020, le comportement de A._ pouvait être qualifié de satisfaisant, tant envers ses codétenus qu'envers le personnel de surveillance. Il participait régulièrement aux promenades quotidiennes et aux activités telles que le sport, n'avait jamais fait l'objet d'aucun rapport ni sanction et occupait actuellement le poste "putz d'aile" à la satisfaction de son responsable.
C.e. Le 16 mars 2020, le chef de l'Office des sanctions et des mesures d'accompagnement a émis un avis défavorable quant à une levée du traitement des troubles mentaux de A._ et à une libération conditionnelle de l'exécution institutionnelle de cette mesure.
D.
A._ forme un recours en matière pénale au Tribunal fédéral contre l'ordonnance du 5 juin 2020. Il conclut, avec suite de frais et dépens, à sa réforme en ce sens que la mesure thérapeutique institutionnelle à laquelle il est astreint selon le jugement du 21 juin 2016 est levée et qu'il est immédiatement libéré. Subsidiairement, il conclut à l'annulation de l'ordonnance et au renvoi de la cause à l'autorité précédente pour nouvelle décision. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.

Considérant en droit :
1.
Le recourant reproche à la cour cantonale de ne pas avoir examiné d'office si les conditions d'une levée de la mesure au sens de l'<ref-law> étaient réalisées. Il invoque sous cet angle un déni de justice et une violation de l'<ref-law>.
1.1. Aux termes de l'<ref-law>, l'autorité compétente examine, d'office ou sur demande, si l'auteur peut être libéré conditionnellement de l'exécution d'une mesure thérapeutique institutionnelle (<ref-law>) ou si la mesure peut être levée (<ref-law>) et, si tel est le cas, quand elle peut l'être. Elle prend une décision à ce sujet au moins une fois par an.
1.2. Selon la jurisprudence, l'autorité qui ne traite pas un grief relevant de sa compétence, motivé de façon suffisante et pertinent pour l'issue du litige, commet un déni de justice formel proscrit par l'art. 29 al. 1 Cst. (<ref-ruling> consid. 4.2 p. 157; <ref-ruling> consid. 2.1 p. 9). De même, la jurisprudence a déduit de l'art. 29 al. 2 Cst. l'obligation pour l'autorité de motiver sa décision, afin que l'intéressé puisse se rendre compte de la portée de celle-ci et exercer son droit de recours à bon escient (<ref-ruling> consid. 3.4.3 p. 46; <ref-ruling> consid. 2.1 p. 145). Pour satisfaire à ces exigences, il suffit que l'autorité mentionne, au moins brièvement, les motifs qui l'ont guidée et sur lesquels elle a fondé son raisonnement. Elle ne doit pas se prononcer sur tous les moyens des parties, mais peut au contraire se limiter aux questions décisives (<ref-ruling> consid. 4.2 p. 157). La motivation peut d'ailleurs être implicite et résulter des différents considérants de la décision (<ref-ruling> consid. 3.2.1 p. 565; arrêt 6B_179/2020 du 18 mai 2020 consid. 1.2).
1.3. En l'espèce, conformément à l'<ref-law>, le juge de première instance a notamment examiné les conditions d'une éventuelle levée de la mesure au sens de l'<ref-law> et a conclu qu'elles n'étaient pas réalisées. Le recourant ne fait pas valoir qu'il aurait contesté dans son recours auprès de la cour cantonale le refus de levée de la mesure au sens de l'<ref-law> ni qu'il aurait pris des conclusions à cet égard ou invoqué de violation de cette disposition dans sa motivation. Il ressort en effet du recours cantonal que celui-ci était circonscrit à la question de la libération conditionnelle de la mesure au sens de l'<ref-law>.
Dans ces conditions, la cour cantonale n'a pas commis de déni de justice en n'examinant pas si les conditions de l'<ref-law> étaient réalisées. Le grief du recourant est donc rejeté sous cet angle.
1.4. Le recourant invoque une violation de l'<ref-law>. Il soutient que la cour cantonale aurait dû "appliquer le droit d'office indépendamment des motifs invoqués dans le recours et des conclusions prises" (mémoire de recours, p. 2).
Cette disposition du CPP n'est pas directement applicable à la procédure de levée, respectivement de libération conditionnelle de la mesure (cf. <ref-law>; arrêt 6B_471/2012 du 21 janvier 2013 consid. 5.5.3). Le recourant n'expose au surplus pas conformément aux exigences posées par l'<ref-law> - et donc de manière recevable - dans quelle mesure l'<ref-law>, en tant que droit cantonal supplétif éventuel, aurait été arbitrairement violé. Le grief de violation de cette disposition est partant irrecevable. Au demeurant, il convient de relever que le plein pouvoir d'examen en fait et en droit dont dispose l'autorité de recours et auquel se réfère le recourant ne s'applique que sur les points qui ont été attaqués dans le recours.
2.
Il découle de ce qui précède que les griefs du recourant relatifs à l'application de l'art. 62c al. 1 let. a et c CP, qui ont uniquement été examinés par les premiers juges, sont irrecevables, faute d'épuisement des instances cantonales (<ref-law>).
3.
Pour autant que l'on puisse comprendre la fin de son mémoire de recours en ce sens, le recourant se plaint d'une violation du principe de la proportionnalité dans le cadre de la libération conditionnelle. Il soutient qu'il est disproportionné de le maintenir en détention alors qu'il n'a été condamné qu'à 15 mois de prison, n'a pas commis d'infractions graves et a déjà purgé 4 ans de prison.
3.1.
3.1.1. L'auteur est libéré conditionnellement de l'exécution institutionnelle de la mesure dès que son état justifie de lui donner l'occasion de faire ses preuves en liberté (<ref-law>).
3.1.2. Aux termes de l'<ref-law>, le prononcé d'une mesure suppose que l'atteinte aux droits de la personnalité qui en résulte pour l'auteur ne soit pas disproportionnée au regard de la vraisemblance qu'il commette de nouvelles infractions et de leur gravité. Concrètement, il convient de procéder à une pesée des intérêts divergents en présence, c'est-à-dire entre la gravité du danger que la mesure cherche à éviter et l'importance de l'atteinte aux droits de la personne concernée inhérente à la mesure. Une mesure disproportionnée ne doit pas être ordonnée, ni maintenue. Le principe de la proportionnalité recouvre trois aspects. Une mesure doit être propre à améliorer le pronostic légal chez l'intéressé (principe de l'adéquation). En outre, elle doit être nécessaire. Elle sera inadmissible si une autre mesure, qui s'avère également appropriée, mais porte des atteintes moins graves à l'auteur, suffit pour atteindre le but visé (principe de la nécessité ou de la subsidiarité). Enfin, il doit exister un rapport raisonnable entre l'atteinte et le but visé (principe de la proportionnalité au sens étroit). La pesée des intérêts doit s'effectuer entre, d'une part, la gravité de l'atteinte aux droits de la personne concernée et, d'autre part, la nécessité d'un traitement et la vraisemblance que l'auteur commette de nouvelles infractions. S'agissant de l'atteinte aux droits de la personnalité de l'auteur, celle-ci dépend non seulement de la durée de la mesure, mais également des modalités de l'exécution (arrêt 6B_993/2020 du 13 octobre 2020 consid. 1.1 et les références citées).
3.2. La cour cantonale a exposé que les experts avaient qualifié d'élevé le risque que le recourant commette à nouveau des infractions du même genre, étant donné la multiplicité des délits, le peu d'évolution constaté ces dernières années et le manque de facteurs protecteurs. En outre, la survenance d'infractions plus graves ne pouvait être exclue. Par ailleurs, sous l'angle du principe de la proportionnalité, la cour cantonale a relevé que les infractions redoutées étaient graves dès lors qu'elles portaient atteinte à un bien juridique essentiel, à savoir l'intégrité corporelle. Il ressortait en outre clairement de l'expertise qu'un traitement ambulatoire était insuffisant pour diminuer le risque de récidive. La cour cantonale a conclu que l'intérêt public à la sécurité l'emportait nettement sur l'intérêt privé du recourant à recouvrer la liberté.
3.3. C'est d'abord en vain que le recourant soutient qu'il n'a pas commis d'infractions graves, dans la mesure où parmi les nombreuses infractions qu'il a commises, plusieurs l'ont été contre l'intégrité corporelle.
Le recourant prétend ensuite qu'il a démontré être capable de vivre en liberté sans commettre d'infractions parce qu'il n'en a pas commis pendant sa fugue. Cette argumentation ne saurait être suivie. D'une part, cet élément ne ressort pas de l'ordonnance attaquée, sans que le recourant ne démontre l'arbitraire de son omission. D'autre part, le seul fait qu'il n'ait pas commis d'infractions pendant quelques mois alors qu'il avait fugué de l'établissement dans lequel il avait été placé n'apparaît pas de nature à diminuer le risque élevé de récidive retenu par les experts, fondé en particulier sur le nombre d'infractions commises par le passé.
C'est également en vain que le recourant invoque - comme il l'a fait devant la cour cantonale - que sa famille serait disposée à le prendre en charge et à le soutenir, dans la mesure où il résulte des faits de l'ordonnance attaquée qui lient le Tribunal fédéral (<ref-law>), que la famille du recourant ne semble pas en mesure de lui offrir des repères solides ni de lui rappeler la loi, comme cela ressort du rapport d'expertise qui fait état de "dynamique familiale problématique".
Enfin, s'agissant de la durée de la mesure, s'il est vrai que le recourant a purgé les 15 mois de peine privative de liberté auxquels il a été condamné, il convient de relever que, comme l'a retenu la cour cantonale, le peu de progrès que le recourant a réalisé depuis le début de son traitement est notamment dû à sa fugue de l'établissement, qui l'a empêché de bénéficier d'un encadrement adapté à sa situation pendant une durée d'un an et dix mois.
3.4. Compte tenu notamment de l'état psychique du recourant et de l'adéquation de la mesure institutionnelle pour réduire le risque de récidive, l'atteinte aux droits de la personnalité du recourant n'apparaît pas disproportionnée. Le grief est rejeté dans la mesure où il est recevable.
4.
Le recours doit être rejeté dans la mesure où il est recevable. Comme il était dénué de chances de succès, la demande d'assistance judiciaire doit être rejetée (<ref-law>). Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>), dont le montant sera toutefois fixé en tenant compte de sa situation financière, laquelle n'apparaît pas favorable.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'200 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Chambre pénale.
Lausanne, le 23 décembre 2020
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Thalmann