Faits : A. Par jugement du Tribunal cantonal du canton du Valais du 10 avril 2015, X._ a été reconnu irresponsable et acquitté des chefs de prévention de diffamation, d'injure et de menaces. Le tribunal a par ailleurs - sur la base d'un rapport d'expertise psychiatrique du 26 juin 2014 et de son complément du 8 septembre 2014 - ordonné que le prénommé soit soumis à un traitement thérapeutique institutionnel. En 2016, sur demande du Tribunal d'application des peines et mesures valaisan (ci-après : TAPEM), une expertise psycho-légale et psychiatrique a été diligentée en vue d'une éventuelle modification de la mesure thérapeutique institutionnelle ordonnée en faveur de X._. Dans un rapport du 15 février 2017 et un rapport complémentaire du 31 mars 2017, les experts ont rendu leurs conclusions. Par décision du 12 avril 2017, le TAPEM a levé le traitement des troubles mentaux de X._ en milieu ouvert et a ordonné, à la place, un traitement des troubles mentaux en laissant le soin au service d'application des peines et mesures de déterminer si la mesure thérapeutique institutionnelle devait être exécutée en milieu ouvert ou fermé. Par requête du 26 mars 2018, l'Office des sanctions et mesures d'accompagnement a demandé au TAPEM de maintenir la mesure thérapeutique institutionnelle, "sous la forme d'une transformation de l'art. 59 al. 2 CP en art. 59 CP". B. Par décision du 13 novembre 2018, le TAPEM a refusé d'accorder à X._ la libération conditionnelle de l'exécution institutionnelle de la mesure et a maintenu celle-ci. Par ordonnance du 30 avril 2019, la Chambre pénale du Tribunal cantonal du canton du Valais a rejeté - dans la mesure de sa recevabilité - le recours formé par X._ contre la décision du 13 novembre 2018. C. X._ forme un recours en matière pénale au Tribunal fédéral contre l'ordonnance du 30 avril 2019, en concluant, avec suite de frais et dépens, principalement à sa réforme en ce sens que la mesure thérapeutique institutionnelle est levée et, subsidiairement, à sa réforme en ce sens que la libération conditionnelle lui est accordée. Dans tous les cas, il conclut à sa réforme en ce sens que l'illicéité de sa détention est reconnue. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.