Faits :
A.
A.a. Par jugement du 17 août 2010, le Juge II des districts de Martigny et St-Maurice a notamment ordonné une mesure thérapeutique institutionnelle, au sens de l'<ref-law>, en faveur de A._.
A.b. Par décision du 1er mars 2013, le Tribunal de l'application des peines et mesures (ci-après : TAPEM) a accordé à A._ la libération conditionnelle de la mesure et a fixé le délai d'épreuve à trois ans. Il a ordonné, à titre de règles de conduite durant le délai d'épreuve, que le prénommé séjourne dans un établissement spécialisé, se soumette à un traitement psychothérapeutique, s'abstienne de consommer des stupéfiants et de l'alcool, et se soumette à des contrôles réguliers en la matière.
Le 18 mars 2013, A._ a été placé au Centre B._.
A.c. Par décision du 11 avril 2014, le TAPEM a confirmé les règles de conduite imposées à A._, en précisant que ce dernier devait se soumettre à un traitement psychiatrique et en lui imposant en sus l'obligation de prendre, sous contrôle d'une tierce personne, les médicaments prescrits dans le cadre de ce traitement, ainsi que de respecter le règlement du Centre B._ et les injonctions de son personnel.
A.d. Par décision du 6 août 2014, le TAPEM a prolongé d'une année le délai d'épreuve qui avait été fixé par décision du 1er mars 2013.
A.e. Par décision du 9 mars 2017, le TAPEM a encore prolongé d'une année, soit jusqu'au 18 mars 2018, le délai d'épreuve en question.
Par ordonnance du 8 juin 2017, la Chambre pénale du Tribunal cantonal du canton du Valais a rejeté le recours formé par A._ contre cette décision.
A.f. Par décision du 28 février 2018, l'autorité de protection de l'enfant et de l'adulte a maintenu A._ dans l'institution du Centre B._, sur la base de l'<ref-law>.
A.g. Par décision du 11 avril 2018, le TAPEM a prolongé d'une année - soit jusqu'au 18 mars 2019 - le délai d'épreuve imposé au prénommé.
Celui-ci a formé recours contre cette décision.
A.h. Une expertise psychiatrique a été mise en oeuvre concernant A._. Dans un rapport daté du 7 janvier 2019, les experts psychiatres ont posé le diagnostic de schizophrénie paranoïde, de troubles mentaux et troubles du comportement liés à l'utilisation d'alcool, syndrome de dépendance, et de troubles mentaux et troubles du comportement liés à l'utilisation des dérivés du cannabis, syndrome de dépendance.
A.i. Le 18 mars 2019, l'Office des sanctions et des mesures d'accompagnement a requis la prolongation du délai d'épreuve imposé à A._ et le maintien des règles de conduite.
A.j. Par décision du 2 mai 2019, l'autorité de protection de l'enfant et de l'adulte a maintenu l'intéressé dans l'institution du Centre B._, en application de l'<ref-law>, en l'astreignant à suivre un traitement psychiatrique et pharmacologique et à profiter de l'encadrement socio-éducatif, les responsables du Centre B._ devant s'assurer de la prise de la médication neuroleptique de manière régulière et sur le long terme.
A.k. Par décision du 17 mai 2019, le TAPEM a prolongé de trois ans, soit jusqu'au 18 mars 2022, le délai d'épreuve prolongé pour la dernière fois par décision du 11 avril 2018.
A._ a formé recours contre cette décision.
B.
Par ordonnance du 23 octobre 2019, la Chambre pénale du Tribunal cantonal valaisan a rejeté les recours formés par A._ contre les décisions du TAPEM des 11 avril 2018 et 17 mai 2019, tout en limitant la prolongation du délai d'épreuve imposé au prénommé au 30 avril 2021.
C.
A._ forme un recours en matière pénale au Tribunal fédéral contre l'ordonnance du 23 octobre 2019, en concluant, avec suite de frais et dépens, principalement à sa réforme en ce sens qu'il est reconnu que son placement au Centre B._ est purement d'ordre civil et fondé sur la décision de l'autorité de protection de l'enfant et de l'adulte du 28 février 2018, que le prénommé est immédiatement et définitivement libéré de sa mesure thérapeutique institutionnelle, et qu'une indemnité lui est allouée à raison de 150 fr. par jour dès le 19 mars 2018 jusqu'au jour du jugement. Subsidiairement, il conclut à son annulation et au renvoi de la cause à l'autorité précédente pour nouvelle décision. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.

Considérant en droit :
1.
Le recourant soutient que la cour cantonale aurait violé le droit en confirmant la validité de la décision du 17 mai 2019, prise après l'échéance du délai d'épreuve qui lui avait précédemment été imposé, lequel courrait jusqu'au 18 mars 2019.
1.1. Selon l'<ref-law>, l'auteur est libéré conditionnellement de l'exécution institutionnelle de la mesure dès que son état justifie de lui donner l'occasion de faire ses preuves en liberté (al. 1). Le délai d'épreuve est de un an à cinq ans en cas de libération conditionnelle de la mesure prévue à l'<ref-law> (al. 2). La personne libérée conditionnellement peut être obligée de se soumettre à un traitement ambulatoire pendant le délai d'épreuve. L'autorité d'exécution peut ordonner, pour la durée du délai d'épreuve, une assistance de probation et lui imposer des règles de conduite (al. 3). Si, à l'expiration du délai d'épreuve, il paraît nécessaire de poursuivre le traitement ambulatoire de la personne libérée conditionnellement ou de maintenir l'assistance de probation ou les règles de conduite pour prévenir le danger qu'elle commette d'autres crimes ou délits en relation avec son état, le juge peut, à la requête de l'autorité d'exécution, prolonger le délai d'épreuve, à chaque fois de un à cinq ans en cas de libération conditionnelle de la mesure prévue à l'<ref-law> (al. 4 let. a).
1.2. La cour cantonale a considéré que lorsque la prolongation du délai d'épreuve n'est ordonnée qu'après l'écoulement du délai fixé précédemment, celle-ci ne prend effet que dès la notification de la décision y relative, comme cela peut être déduit des art. 46 al. 2 4e phrase et 89 al. 2 3e phrase CP.
1.3. Le recourant reproche à la cour cantonale d'avoir rendu sa décision en se référant uniquement à l'avis de MARIANNE HEER, laquelle juge possible qu'une prolongation du délai d'épreuve soit prononcée par un tribunal après que le délai précédent eut expiré, le nouveau délai d'épreuve déployant alors ses effets, selon elle, depuis la notification de la décision seulement (cf. MARIANNE HEER, in Basler Kommentar, Strafrecht I, 4e éd. 2019, no 37 ad <ref-law>). Le recourant conteste le parallèle, fondant cette opinion, opéré avec le départ du délai d'épreuve en cas d'octroi du sursis à l'exécution de la peine (cf. à cet égard l'arrêt publié aux <ref-ruling> consid. 2a p. 174 cité par HEER).
Contrairement à ce qu'affirme le recourant, le Tribunal fédéral n'a pas modifié sa pratique concernant ce dernier point, l'arrêt publié aux <ref-ruling>, auquel l'intéressé se réfère, s'attachant à la question particulière du départ du délai de cinq ans de l'<ref-law> (cf. consid. 3). Peu importe en vérité, car la question à résoudre en l'espèce ne dépend pas des évolutions de la jurisprudence dans d'autres domaines avec lesquels la doctrine peut tracer des parallèles. En l'occurrence, il apparaît que le législateur a souhaité, avec le système de délai d'épreuve au sens de l'<ref-law>, permettre un encadrement des délinquants sur une "très longue période", l'al. 4 de cette disposition devant en particulier permettre des prolongations successives du délai d'épreuve "aussi longtemps que la poursuite d'un traitement ambulatoire, de l'assistance de probation ou des règles de conduite paraîtra nécessaire pour prévenir le danger de nouvelles infractions commises en relation avec les troubles mentaux" (cf. Message concernant la modification du code pénal suisse [dispositions générales, entrée en vigueur et application du code pénal] et du code pénal militaire ainsi qu'une loi fédérale régissant la condition pénale des mineurs du 21 septembre 1998, FF 1999 II 1787, 1890). On ne voit donc pas pourquoi un retard procédural, conduisant à ce que la décision de prolongation du délai d'épreuve au sens de l'<ref-law> soit rendue après l'expiration du précédent délai, devrait - comme le soutient le recourant - conduire à exclure ladite prolongation. Une telle configuration procédurale ne saurait en effet faire échec à la surveillance, voulue par le législateur, de délinquants nécessitant un suivi à long terme afin d'amenuiser le risque de récidive. A cet égard, l'analogie, opérée par la cour cantonale, avec les art. 46 al. 2 4e phrase et 89 al. 2 3e phrase CP se révèle pertinente, car rien ne permet de considérer que la prolongation d'un délai d'épreuve après l'expiration du délai précédent devrait être possible en matière de peines et impossible s'agissant de mesures, la précision comprise dans les deux dispositions précitées s'expliquant par la volonté, de la part du législateur, de graver dans la loi la jurisprudence qui existait sur ce point au moment de réformer la partie générale du CP (cf. Message concernant la modification du code pénal suisse [dispositions générales, entrée en vigueur et application du code pénal] et du code pénal militaire ainsi qu'une loi fédérale régissant la condition pénale des mineurs du 21 septembre 1998, FF 1999 II 1787, 1864).
Partant, l'autorité précédente n'a pas violé le droit fédéral en confirmant la validité de la décision du 17 mai 2019, prise après l'échéance du délai d'épreuve qui avait été précédemment imposé au recourant.
1.4. Au vu de ce qui précède, le recourant ne peut être suivi lorsqu'il prétend qu'il serait victime d'une détention irrégulière depuis le 18 mars 2018, le délai d'épreuve qui avait été initialement fixé jusqu'à cette date ayant été valablement prolongé par décisions des 11 avril 2018 et 17 mai 2019, confirmées par l'ordonnance attaquée.
2.
Le recourant reproche à la cour cantonale d'avoir attendu l'ordonnance attaquée pour statuer sur le recours qui avait été formé contre la décision du TAPEM du 11 avril 2018, sans procéder entre-temps à aucune instruction.
Aucun grief sur ce point n'a été traité par la cour cantonale dans l'ordonnance attaquée, sans que le recourant se plaigne, à cet égard, d'un déni de justice formel. Le grief est donc irrecevable, faute d'épuisement des instances cantonales (cf. <ref-law>).
3.
Le recourant soutient que la prolongation de son délai d'épreuve violerait le principe de proportionnalité. Il fait par ailleurs grief à l'autorité précédente d'avoir considéré qu'un nouveau délai d'épreuve était nécessaire, pour trois ans, à compter du mois de mai 2018.
3.1. Aux termes de l'<ref-law>, le prononcé d'une mesure suppose que l'atteinte aux droits de la personnalité qui en résulte pour l'auteur ne soit pas disproportionnée au regard de la vraisemblance qu'il commette de nouvelles infractions et de leur gravité. Concrètement, il convient de procéder à une pesée des intérêts divergents en présence, c'est-à-dire entre la gravité du danger que la mesure cherche à éviter et l'importance de l'atteinte aux droits de la personne concernée inhérente à la mesure. Une mesure disproportionnée ne doit pas être ordonnée, ni maintenue. Le principe de la proportionnalité recouvre trois aspects. Une mesure doit être propre à améliorer le pronostic légal chez l'intéressé (principe de l'adéquation). En outre, elle doit être nécessaire. Elle sera inadmissible si une autre mesure, qui s'avère également appropriée, mais porte des atteintes moins graves à l'auteur, suffit pour atteindre le but visé (principe de la nécessité ou de la subsidiarité). Enfin, il doit exister un rapport raisonnable entre l'atteinte et le but visé (principe de la proportionnalité au sens étroit). La pesée des intérêts doit s'effectuer entre, d'une part, la gravité de l'atteinte aux droits de la personne concernée et, d'autre part, la nécessité d'un traitement et la vraisemblance que l'auteur commette de nouvelles infractions. S'agissant de l'atteinte aux droits de la personnalité de l'auteur, celle-ci dépend non seulement de la durée de la mesure, mais également des modalités de l'exécution (arrêts 6B_875/2019 du 9 septembre 2019 consid. 1.1; 6B_823/2018 du 12 septembre 2018 consid. 2.1).
3.2. La cour cantonale a exposé que, s'agissant de la prolongation de trois ans du délai d'épreuve, l'indication la plus tangible ressortait du rapport d'expertise psychiatrique du 7 janvier 2019, lequel évoquait la nécessité que la maladie psychique du recourant reste stable sur deux, voire trois ans, avec une prise régulière de traitement neuroleptique et des contrôles plasmatiques dans le cadre du placement à des fins d'assistance avec maintien du cadre actuel au Centre B._, avant qu'une autre solution puisse être mise en pratique. Le niveau de risque de récidive, à la hausse en 2017, avait viré à la baisse depuis mai 2018, date à partir de laquelle - après un épisode de fugue - le recourant avait adopté un comportement généralement adéquat au sein de l'institution. La période de stabilisation de trois ans évoquée précédemment devait donc arriver à son terme à la fin du mois d'avril 2021. Sous l'angle du principe de la proportionnalité, le délai d'épreuve ne pouvait ainsi être prolongé au-delà du 30 avril 2021.
3.3. Le raisonnement de la cour cantonale ne prête pas le flanc à la critique. Dans leur rapport du 7 janvier 2019, les experts psychiatres ont relevé que le recourant, qui souffre d'une pathologie psychiatrique chronique grave, n'apparaissait que difficilement stabilisé par le traitement psychotrope et institutionnel. Les experts ont précisé qu'indépendamment de "l'amélioration lente et progressive objectivée au courant de l'année 2018 [...] l'expertisé accept[ait] son placement institutionnel, mais n'en per[cevait] pas la nécessité". Selon eux, il fallait encore que la maladie psychique reste "stable 2 voire 3 ans", pour que "la levée de la mesure de placement à des fins d'assistance [puisse] être de nouveau réévaluée" (cf. pièce 12 du dossier cantonal, p. 9 s.). Enfin, les experts ont indiqué qu'en l'absence "d'un cadre de soin obligatoire par prise en charge de type institutionnel associant traitement psychiatrique et médicamenteux ainsi qu'un encadrement socio-éducatif, un risque de rupture de traitement ne [pouvait] pas être écarté qui, par conséquent, [pouvait] favoriser une nouvelle décompensation psychotique, donnant lieu à des idées délirantes de persécution et favorisant des actes impulsifs de type hétéro-agressifs" (cf. Ibid., p. 11).
L'amélioration évoquée par les experts dans le courant de l'année 2018 concorde avec la date de mai 2018 retenue par la cour cantonale pour constater une stabilisation de la situation chez le recourant. Par ailleurs, compte tenu du risque de récidive mis en lumière par les experts en cas d'interruption de la prise en charge idoine, on ne voit pas en quoi il aurait été contraire au principe de la proportionnalité de retenir la durée de stabilisation située en haut de la fourchette - relative à la durée de stabilité de la maladie du recourant jugée nécessaire avant une éventuelle réévaluation de la mesure - dessinée dans le cadre de l'expertise psychiatrique. Pour le reste, le recourant ne conteste pas le type de traitement auquel il est soumis, de sorte que le grief doit être rejeté.
4.
Le recourant reproche enfin à l'autorité précédente d'avoir violé son droit d'être entendu en omettant de traiter un grief relatif à l'articulation entre la mesure pénale dont il fait l'objet et les décisions prises, partiellement dans le même sens, par l'autorité de protection de l'enfant et de l'adulte.
En l'occurrence, au terme de son argumentation comprise dans son recours auprès de la cour cantonale, le recourant indiquait ce qui suit :
"Quoi qu'il en soit, le placement [du recourant] a fait l'objet d'une décision civile. Or, étant donné que les délais pour requérir une prolongation « pénale » n'ont pas été respectés (cf. précédemment) par le TAPEM, il apparaît que seul le placement civil au Centre B._ serait actuellement valable, ce qui demande à être formellement confirmé par votre autorité."
Il apparaît ainsi que cette argumentation reposait sur la prémisse selon laquelle la prolongation du délai d'épreuve ordonnée par le TAPEM le 17 mai 2019 aurait été illicite. Dès lors que l'autorité précédente n'a, à bon droit, pas suivi le recourant sur ce dernier point, celle-ci n'avait pas à traiter le grief qui découlait de sa première affirmation. C'est donc en vain que le recourant se plaint d'une violation de son droit d'être entendu à cet égard.
5.
Le recourant conclut à l'obtention d'une indemnité en raison d'une prétendue restriction de liberté subie illicitement. Dès lors qu'il échoue à démontrer l'illicéité des décisions ayant porté sur la prolongation du délai d'épreuve, son grief n'a plus d'objet.
6.
Le recours doit être rejeté dans la mesure où il est recevable. Dès lors que le recourant est dans le besoin et que ses conclusions ne paraissaient pas dénuées de chances de succès, sa demande d'assistance judiciaire doit être admise. Par conséquent, il y a lieu de le dispenser des frais et d'allouer une indemnité à son mandataire, désigné comme avocat d'office (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est admise. Me Mathieu Dorsazest désigné comme conseil d'office et une indemnité de 3'000 fr. lui est allouée à titre d'honoraires, à payer par la caisse du Tribunal fédéral.
3.
Il n'est pas perçu de frais judiciaires.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Chambre pénale.
Lausanne, le 1 er avril 2020
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
Le Greffier : Graa