Faits :
A.
Statuant le 15 février 2016, le Tribunal d'arrondissement pour le district de Martigny a reconnu X._ coupable de brigandage (<ref-law>) et de tentative de brigandage (art. 22 al. 1 et <ref-law>), l'a condamné à une peine privative de liberté de 22 mois, sous déduction de la détention avant jugement subie dès le 13 août 2015 et a révoqué le sursis accordé le 18 août 2014 portant sur une peine pécuniaire de 40 jours-amende à 30 fr. le jour. Il a ordonné un traitement institutionnel en milieu fermé (<ref-law>).
B. Par jugement du 24 juin 2016, la Cour pénale I du Tribunal cantonal du Valais a rejeté l'appel de X._ contre la décision de première instance.
B.a. Ce jugement se fonde en substance sur les faits suivants. Les 21 mai, 3 août, 4 août et 10 août 2015, X._ a fait usage de la violence pour s'emparer de l'argent dont A._ disposait, soit des sommes entre 250 fr. et 700 francs. La première fois, X._ a saisi A._ par les épaules pour le faire tomber et profiter de cette position, la deuxième fois, il l'a jeté au sol après l'avoir empoigné plusieurs fois par le cou et saisi par les cheveux, la troisième fois, il l'a saisi par les cheveux et l'a plaqué contre un mur, et enfin, la dernière fois, X._ a retenu A._ par la force alors qu'il tentait de s'enfuir en lui intimant l'ordre de sortir tout son argent. Les certificats médicaux produits par A._ font état d'hématomes et de contusions ensuite des agissements du 21 mai 2015, et de marques de strangulation, longue griffure et contusion ensuite des agissements du 3 août 2015. Le 4 août 2015, le directeur de la structure d'accueil B._ est intervenu et a calmé la situation avant que X._ ne puisse, comme il le prévoyait, emmener A._ à la banque pour qu'il retire de l'argent. Le 10 août 2015, X._ a commis les actes incriminés alors qu'il venait de sortir du poste de police où il était entendu pour les faits précédents.
B.b. Le casier judiciaire de X._ comporte trois inscriptions. Il a été condamné le 10 mars 2011 à 30 jours-amende ainsi qu'à une amende de 500 fr. pour vol, délit manqué de vol, vol d'usage, circulation sans permis de conduire et dans l'incapacité de conduire, le 15 février 2013 à une peine pécuniaire de 30 jours-amende ainsi qu'à un traitement ambulatoire pour tentative de vol, dommages à la propriété, violation de domicile, vol d'usage, circulation sans permis de conduire et dans l'incapacité de conduire et, enfin, le 18 août 2014 à une peine pécuniaire de 40 jours-amende à 30 fr. le jour pour injure, menaces et exhibitionnisme, avec sursis et délai d'épreuve de deux ans, ainsi qu'à une amende de 500 francs.
B.c. X._ a fait l'objet d'une expertise psychiatrique, établie le 25 octobre 2015 et complétée le 25 novembre 2015 à la demande du conseil du recourant. Il en ressort qu'une première expertise, du 23 avril 2012, avait posé le diagnostic de trouble schizotypique, jeu pathologique, troubles mentaux et du comportement liés à l'usage de l'alcool, syndrome de dépendance, utilisation épisodique. Cet état a amené X._ à séjourner à plusieurs reprises à la C._ pour traiter son problème d'alcoolisme, ainsi qu'à la Fondation D._. Les séjours ont été interrompus par des hospitalisations en milieu psychiatrique. X._ a ainsi effectué plus d'une vingtaine de séjours à l'hôpital psychiatrique de E._ dès l'an 2000, avec interruption entre 2003 et 2008. En 2009, il a dû être conduit à une dizaine de reprises aux soins intensifs de l'hôpital de F._ en raison de graves alcoolisations. Il a été soutenu par la Ligue G._ ainsi que par le Centre H._. L'admission chez C._ d'octobre 2008 à avril 2009 faisait suite à des violences physiques commises par X._ sur ses deux parents. La prise en charge s'est poursuivie au-delà d'hospitalisations successives à E._ ponctuant des rechutes d'abus de consommation d'alcool et de jeux, avec des phases très évocatrices de delirium tremens. Dès 2013, X._ a été accueilli par la structure B._, mandatée comme mesure d'application des peines afin de l'aider dans la gestion du temps, de l'argent de poche et de l'alcool. A partir de 2014, il est apparu que X._ développait toutes sortes de stratégies afin d'obtenir davantage d'argent, que ce soit auprès des intervenants de B._, de sa curatrice ou de tiers, ce qui l'avait conduit par la suite à des harcèlements et des violences à l'encontre de A._, à un degré croissant avec le temps et dans cet objectif unique avoué.
L'expert a posé le diagnostic de trouble schizotypique, jeux pathologiques, troubles mentaux et du comportement liés à l'usage de l'alcool, intoxication aigüe, utilisation nocive pour la santé, syndrome de dépendance abstinent dans un environnement protégé, syndrome amnésique, réactivation d'événements douloureux de l'enfance et impulsivité occasionnelle. Il a qualifié ces troubles de sévères et ayant généré une légère diminution de responsabilité. Les troubles existaient encore et étaient en relation avec les faits reprochés à X._. Le risque de récidive dans la commission d'infractions similaires était élevé.
C.
X._ forme un recours en matière pénale contre la décision cantonale auprès du Tribunal fédéral. Il conclut, avec suite de frais et dépens, à sa réforme en ce sens qu'il est condamné à une peine privative de liberté de huit mois, qu'il est soumis à un traitement institutionnel en milieu ouvert (<ref-law>) et qu'il est libéré immédiatement. Il sollicite en outre le bénéfice de l'assistance judiciaire.

Considérant en droit :
1.
Invoquant la violation de son droit d'être entendu, le recourant reproche à la cour cantonale d'avoir refusé d'administrer les preuves qu'il avait requises. Il soutient que la production d'un rapport de la prison et l'audition de divers témoins étaient de nature à donner un éclairage plus complet sur sa personnalité, attendu que la problématique de la présente cause relevait essentiellement des circonstances personnelles et de son comportement futur.
1.1. Selon l'<ref-law>, la procédure de recours se fonde sur les preuves administrées pendant la procédure préliminaire et la procédure de première instance. L'<ref-law> règle les preuves complémentaires. Ainsi, la juridiction de recours peut administrer, d'office ou à la demande d'une partie, les preuves complémentaires nécessaires au traitement du recours. Conformément à l'<ref-law>, il n'y a pas lieu d'administrer des preuves sur des faits non pertinents, notoires, connus de l'autorité ou déjà suffisamment prouvés. Cette disposition codifie, pour la procédure pénale, la règle jurisprudentielle déduite de l'art. 29 al. 2 Cst. en matière d'appréciation anticipée des preuves (arrêt 6B_259/2016 du 21 mars 2017 consid. 5.1.2). Le magistrat peut renoncer à l'administration de certaines preuves, notamment lorsque les faits dont les parties veulent rapporter l'authenticité ne sont pas importants pour la solution du litige. Ce refus d'instruire ne viole ainsi le droit d'être entendu des parties que si l'appréciation anticipée de la pertinence du moyen de preuve offert, à laquelle le juge a procédé, est entachée d'arbitraire (<ref-ruling> consid. 3.3 p. 64 et les références citées).
1.2. Le Juge de la Cour pénale I a retenu, par décision du 2 juin 2016, que le rapport d'expertise et son complément donnaient déjà une description suffisante de la personnalité du recourant et que les attentes (subjectives) que pourraient émettre les témoins sollicités quant au comportement futur du recourant n'auraient pas grande portée pour le tribunal, qui devait avant tout se fonder sur l'analyse détaillée et les conclusions motivées de l'expert. En ce qui concernait la production d'un rapport de la prison, le comportement que le recourant pouvait y adopter ne permettrait de toute façon pas de remettre en cause l'analyse et les conclusions de l'expert quant à l'opportunité d'une mesure thérapeutique, puisque le cadre carcéral imposait de facto au recourant d'être abstinent.
1.3. En se limitant à faire valoir que les moyens de preuve sollicités seraient intéressants dans la mesure où ils émanent de personnes proches de lui ou spécialisées dans le traitement de cas analogues, le recourant ne démontre pas le caractère insoutenable de l'appréciation de l'autorité précédente. A cela s'ajoute que les personnes dont le recourant sollicite l'audition au motif que leur avis est plus favorable que celui de l'expert se sont déjà exprimées par le biais de courriers versés au dossier, sans que le recourant n'indique dans quelle mesure leur audition serait de surcroît nécessaire. De même n'explique-t-il pas en quoi un rapport de la prison serait susceptible d'influer sur la peine ou la mesure. Faute de motivation suffisante (<ref-law>), le grief est irrecevable.
Au surplus, la cour cantonale pouvait se fonder sur les expertises psychiatriques versées au dossier et retenir que les moyens de preuve requis n'étaient pas de nature à modifier son appréciation, tant sur la détermination de la mesure (<ref-law>) que sur la fixation de la peine.
2.
Le recourant conteste la peine qui lui a été infligée, par 22 mois de privation de liberté.
2.1. On peut se référer, s'agissant des principes de fixation de la peine, à la jurisprudence constante en la matière, récemment rappelée aux <ref-ruling> consid. 6.1 p. 66 ss. 3.2 et les arrêts cités.
L'<ref-law> confère un large pouvoir d'appréciation au juge. Par conséquent, celui-ci ne viole le droit fédéral en fixant la peine que s'il sort du cadre légal, s'il se fonde sur des critères étrangers à l'<ref-law>, s'il omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 5.6 p. 61 et les références citées).
2.2. Le recourant reproche à la cour cantonale d'avoir omis de prendre en compte la diminution de sa responsabilité.
2.2.1. La culpabilité de l'auteur dont la responsabilité pénale est restreinte est moins grande que celle de l'auteur dont la responsabilité est pleine et entière. Le principe de la faute exige dès lors que la peine prononcée en cas d'infraction commise en état de responsabilité restreinte soit inférieure à celle qui serait infligée à un auteur pleinement responsable. La peine moins sévère résulte d'une faute plus légère. Selon la jurisprudence, il ne s'agit donc plus d'une atténuation de la peine, mais d'une réduction de la faute. Dans une première étape, le juge doit apprécier la culpabilité relative à l'acte (et éventuellement fixer la peine hypothétique en résultant), comme s'il n'existait aucune diminution de responsabilité. Dans un deuxième temps, il doit motiver comment la diminution de responsabilité se répercute sur l'appréciation de la faute et indiquer la peine (hypothétique). Dans une dernière phase, cette peine est éventuellement augmentée ou diminuée en raison des facteurs liés à l'auteur (<ref-ruling> consid. 5.5 à 5.7 p. 59 ss).
2.2.2. La cour cantonale a constaté que le recourant avait, à quatre reprises sur une période de quatre mois, usé de violence envers la même victime pour lui soutirer de l'argent. Il s'en était pris sans scrupules à une personne physiquement plus faible que lui pour des mobiles purement égoïstes, à savoir satisfaire ses addictions aux jeux et à l'alcool, ainsi que son attrait pour les prostituées. La victime en avait été très perturbée. Depuis 2011, le recourant avait déjà subi trois condamnations qui ne l'avaient en rien dissuadé de renoncer à tout comportement délictueux. Dans la présente espèce, la répétition des actes dans un laps de temps très court, l'un d'eux survenant seulement quelques heures après son interrogatoire par la police, témoignait de la détermination du recourant à persévérer dans ses conduites coupables et de l'aggravation de son penchant pour la délinquance. Le butin obtenu était certes faible, mais cet élément dépendait principalement de circonstances extérieures au recourant qui était prêt à prendre tout ce qu'il pouvait. Objectivement, les infractions étaient graves. Au vu du concours d'infractions, le cadre légal de la peine se situait entre 180 jours-amende et 15 ans de privation de liberté. Le recourant avait par ailleurs bien collaboré à l'instruction et semblait avoir pris conscience de la gravité de ses actes. Le fait que l'un des actes retenus en était resté au stade de la tentative devait aussi être pris en considération. Compte tenu encore de la légère diminution de responsabilité qui conduisait la cour cantonale à qualifier la faute de moyenne, mais aussi du concours d'infractions et de l'absence d'autres circonstances atténuantes, la peine privative de liberté de 22 mois prononcée par les premiers juges était proportionnée à la culpabilité du recourant et devait être confirmée.
2.2.3. Contrairement à ce qu'affirme le recourant, il ressort de ce qui précède que la cour cantonale a tenu compte de la responsabilité légèrement diminuée. Conformément aux exigences de la jurisprudence, la cour cantonale a ainsi qualifié la faute de moyenne, alors que le comportement objectif était considéré comme grave. Le recourant ne discute pas le degré de diminution de responsabilité retenu - ressortant de l'expertise psychiatrique -, ni ne dit en quoi cette diminution se refléterait insuffisamment dans la quotité de la peine prononcée. Ses développements ne permettent ainsi pas de conclure à une violation des art. 19 et 47 CP.
2.3. Se référant à divers exemples trouvés dans la jurisprudence, le recourant soutient que la peine prononcée violerait le principe de l'égalité de traitement.
2.3.1. Compte tenu des nombreux paramètres qui interviennent dans la fixation de la peine, une comparaison avec des affaires concernant d'autres accusés et des faits différents est d'emblée délicate. Il ne suffit pas que le recourant puisse citer un ou deux cas où une peine particulièrement clémente a été fixée pour prétendre à un droit à l'égalité de traitement. Les disparités en cette matière s'expliquent normalement par le principe de l'individualisation des peines, voulu par le législateur; elles ne suffisent pas en elles-mêmes pour conclure à un abus du pouvoir d'appréciation. Ce n'est que si le résultat auquel le juge de la répression est parvenu apparaît vraiment choquant, compte tenu notamment des arguments invoqués et des cas déjà examinés par la jurisprudence, que l'on peut parler d'un abus du pouvoir d'appréciation (<ref-ruling> consid. 6.3.2 p. 69; <ref-ruling> consid. 3.1 p. 193; <ref-ruling> consid. 2a p. 152 s.).
2.3.2. C'est à raison que la cour cantonale a considéré que toute comparaison avec les <ref-ruling> et 107 IV 32 était impossible dans la mesure où ces arrêts ne traitent pas de la peine; en effet, l'on ignore dans ce cas les paramètres intervenus dans sa fixation. En ce qui concerne les arrêts 6B_49/2012 et 6B_1097/2014 également invoqués par le recourant, le condamné se plaignait, en vain, du caractère excessif de la peine. Or, comme le relève la cour cantonale, le rejet d'un recours du condamné contre la quotité de la peine signifie uniquement que celle-ci n'a pas été considérée trop sévère, mais non pas qu'une peine plus sévère n'eût pas aussi été encore compatible avec le large pouvoir d'appréciation qu'accorde l'<ref-law> (cf. arrêts 6B_167/2015 du 21 décembre 2015 consid. 2.2; 6B_352/2014 du 22 mai 2015 consid. 6.7, non publié in <ref-ruling>). Dans l'arrêt 6B_1097/2014 en particulier, le recourant se plaignait uniquement du fait que son jeune âge et la violation du principe de célérité n'avaient pas été suffisamment pris en compte, mais on ignore les autres critères pris en considération dans la fixation de la peine. En toute hypothèse, les deux arrêts précités avaient certes trait à des faits clairement plus graves que ceux commis par le recourant, mais le condamné avait également été sanctionné beaucoup plus sévèrement que dans le cas d'espèce, puisque les peines s'élevaient à 4 ans et 3 ans respectivement. ll en découle que ces cas ne sont de toute façon pas comparables. Le grief de violation du principe d'égalité de traitement doit ainsi être rejeté.
2.4. Au surplus, le recourant s'écarte sans droit des faits établis (<ref-law>) en tant qu'il conteste avoir agi sans scrupules et soutient n'avoir fait preuve que d'une " certaine brusquerie " envers la victime. La cour cantonale a par ailleurs déjà pris en compte le fait qu'il ne s'était pas doté d'objets dangereux pour commettre ses brigandages, puisque l'aggravante de l'<ref-law> n'a pas été retenue. Enfin, le fait qu'il s'en soit pris à plusieurs reprises à la même victime, qui plus est une de ses connaissances, ne saurait constituer un facteur favorable.
Compte tenu des faits reprochés, de la faute moyenne et des autres éléments liés à l'auteur, ainsi que de la circonstance aggravante du concours entre quatre infractions de brigandage (<ref-law>), dont une tentative (<ref-law>), la peine n'apparaît pas sévère au point qu'il faille conclure à un abus du large pouvoir d'appréciation conféré au juge par l'<ref-law>. Le grief doit par conséquent être rejeté dans la mesure de sa recevabilité.
3.
Le recourant conteste le prononcé de la mesure de l'<ref-law> en milieu fermé selon l'alinéa 3 de cette disposition. Selon lui, " un traitement au sens de l'<ref-law> aurait dû être ordonné, soit un traitement en milieu ambulatoire ou ouvert ".
3.1. Aux termes de l'<ref-law>, une mesure doit être ordonnée si une peine seule ne peut écarter le danger que l'auteur commette d'autres infractions, si l'auteur a besoin d'un traitement ou que la sécurité publique l'exige et si les conditions prévues aux art. 59 à 61, 63 ou 64 CP sont remplies (al. 1). Le prononcé d'une mesure suppose que l'atteinte aux droits de la personnalité qui en résulte pour l'auteur ne soit pas disproportionnée au regard de la vraisemblance qu'il commette de nouvelles infractions et de leur gravité (al. 2). L'<ref-law> rappelle que si plusieurs mesures s'avèrent appropriées, mais qu'une seule est nécessaire, le juge ordonne celle qui porte à l'auteur les atteintes les moins graves. Si plusieurs mesures s'avèrent nécessaires, le juge peut les ordonner conjointement.
3.1.1. Un traitement ambulatoire peut être prononcé au sens de l'<ref-law> lorsque l'auteur souffre d'un grave trouble mental, est toxico-dépendant, ou souffre d'une autre addiction (al. 1), qu'il a commis un acte en rapport avec cet état (let. a) et qu'il est à prévoir que le traitement le détournera de nouvelles infractions en relation avec son état (let. b). Le traitement ambulatoire suppose en principe que l'auteur reste en liberté. Il peut toutefois être appliqué pendant l'exécution d'une peine privative de liberté, lorsque le traitement ambulatoire exécuté en liberté paraît dangereux pour autrui (cf. <ref-law>; arrêt 6B_371/2016 du 10 février 2017 consid. 1.1.3).
3.1.2. Selon l'<ref-law>, un traitement thérapeutique institutionnel peut être ordonné en faveur d'une personne souffrant d'un grave trouble mental (a) si elle a commis un crime ou un délit en relation avec ce trouble et (b) s'il est à prévoir que cette mesure la détournera de nouvelles infractions en relation avec ce trouble. En règle générale, le traitement institutionnel s'effectue dans un établissement psychiatrique approprié ou dans un établissement d'exécution des mesures (<ref-law>). L'<ref-law> prévoit que, tant qu'il existe un risque de fuite ou de récidive, le traitement doit être exécuté dans un établissement fermé; il peut aussi être effectué dans un établissement pénitentiaire au sens de l'<ref-law>, dans la mesure où le traitement thérapeutique nécessaire est assuré par du personnel qualifié (art. 59 al. 3, 2e phrase, CP). L'<ref-law> subordonne le traitement dans un établissement fermé à un risque de fuite ou de récidive. Selon la jurisprudence, il doit s'agir d'un risque qualifié, puisque toutes les mesures supposent un risque de récidive (cf. <ref-law>). Le risque est qualifié quand il est concret et qu'il est hautement probable que le condamné commette d'autres infractions dans l'établissement ou en dehors de celui-ci. Il s'agit d'un danger qui ne peut être combattu que par le placement dans un établissement fermé. Conformément au principe de la proportionnalité, l'exécution de la mesure dans un établissement fermé suppose une sérieuse mise en danger de biens juridiques essentiels (arrêt 6B_1040/2015 du 29 juin 2016 consid. 5.1 et les arrêts cités).
3.1.3. Pour ordonner une des mesures prévues aux art. 59 à 61, 63 et 64 CP, le juge doit se fonder sur une expertise. Celle-ci doit se déterminer sur la nécessité et les chances de succès d'un traitement, la vraisemblance que l'auteur commette d'autres infractions et la nature de celles-ci, et sur les possibilités de faire exécuter la mesure (<ref-law>).
Selon la jurisprudence, le juge apprécie en principe librement une expertise et n'est pas lié par les conclusions de l'expert. Toutefois, il ne peut s'en écarter que lorsque des circonstances ou des indices importants et bien établis en ébranlent sérieusement la crédibilité; il est alors tenu de motiver sa décision de ne pas suivre le rapport d'expertise. Inversement, si les conclusions d'une expertise judiciaire apparaissent douteuses sur des points essentiels, le juge doit recueillir des preuves complémentaires pour tenter de dissiper ses doutes. A défaut, en se fondant sur une expertise non concluante, il pourrait commettre une appréciation arbitraire des preuves et violer l'art. 9 Cst. (<ref-ruling> consid. 2.1.3 p. 53).
3.1.4. La question de savoir si le placement doit s'effectuer en milieu fermé ou non relève de la compétence de l'autorité d'exécution. Cela étant, si un placement en milieu fermé apparaît déjà nécessaire au moment du prononcé du jugement, le juge peut et doit l'indiquer dans les considérants en traitant des conditions de l'<ref-law> (<ref-ruling> consid. 2.4.4 p. 9 et 2.5 p. 10 s.). Dans ces circonstances, il est souhaitable que le tribunal s'exprime dans les considérants de son jugement - mais non dans son dispositif - sur la nécessité d'exécuter la mesure en milieu fermé et recommande une telle modalité d'exécution, de manière non contraignante, à l'autorité d'exécution (<ref-ruling> consid. 2.5 p. 10 s.; arrêts 6B_371/2016 du 10 février 2017 consid. 2.1; 6B_1040/2015 du 29 juin 2016 consid. 3.1.1).
3.2. Selon le recourant, c'est sans fondement suffisant que la cour cantonale a retenu que ses troubles étaient graves.
Il s'avère que ce constat repose sur les conclusions univoques de l'expertise, sans que le recourant n'en démontre le caractère erroné, ou même douteux. Il est ainsi suffisamment fondé. Au surplus, dès lors que le recourant sollicite le prononcé d'une mesure au sens de l'<ref-law>, qui suppose l'existence d'un trouble grave, il semble admettre la réalisation de cette condition.
3.3. Le recourant considère que la mesure de l'<ref-law> est vouée à l'échec dès lors qu'il s'oppose catégoriquement à tout traitement en milieu fermé.
L'expert a observé que le recourant s'était montré assidu aux aides depuis le prononcé du traitement ambulatoire de l'<ref-law>, quoique l'objectif de cette mesure n'ait pas été atteint. Cette constatation n'est pas contredite par le recourant, qui affirme vouloir se faire soigner, mais uniquement en ambulatoire ou dans un établissement ouvert. Or dans le cadre d'une mesure institutionnelle fondée sur l'<ref-law>, le choix du lieu d'exécution (établissement fermé ou ouvert) dépend uniquement de la question de savoir s'il existe un risque de fuite ou de réitération (cf. <ref-law>), cette question devant d'ailleurs être tranchée par l'autorité d'exécution, et non de jugement (consid. 3.1.4 supra). Que le recourant veuille suivre un traitement thérapeutique en milieu ouvert, plutôt que fermé, n'est donc pas pertinent. L'appréciation de la cour cantonale qui a considéré que le traitement proposé avait des chances objectives d'atteindre son but n'apparaît ainsi pas critiquable.
3.4. Le recourant reproche à la cour cantonale de n'avoir pas tenu compte du fait qu'il n'y avait pas de place disponible pour lui dans une institution au sens de l'<ref-law>. Cependant, dans la mesure où l'art. 59 al. 3 deuxième phrase CP prévoit que la mesure peut aussi être exécutée dans un établissement pénitentiaire à condition que le traitement thérapeutique soit assuré par du personnel qualifié, l'absence de place disponible dans une institution fermée ne fait pas obstacle à l'exécution de cette mesure.
3.5. Le recourant fait grief tant à l'expert qu'à la cour cantonale de ne pas avoir examiné si le prononcé de la peine privative de liberté n'était pas déjà suffisant pour le dissuader de la commission d'autres infractions. Il soutient en outre que la mesure est disproportionnée par rapport à la peine infligée. En ce qui concerne le risque de récidive, il affirme qu'il n'est pas établi que ce risque serait qualifié et s'étendrait à un nombre indéterminé de personnes, alors qu'il s'en était pris à une seule et même victime. C'était de surcroît de manière erronée que l'expert avait retenu qu'il avait commis des infractions similaires par le passé.
3.5.1. L'expert a estimé que le risque de récidive était élevé pour des actes de même nature. Il a évalué ce risque sur le plan chronologique à partir de faits reconnus de violence antérieure, la précocité dès l'adolescence des actes considérés, renouvelés régulièrement depuis lors avec au moins actuellement un manque reconnu de contrôle sur soi-même, un manque d'adaptation durant la jeunesse, une précarité du mode de subsistance, la dépendance d'une assistance, la présence d'une maladie mentale grave, l'instabilité sentimentale antérieure, enfin l'ascendance ou l'intimidation sur la victime présumée qui étaient à considérer comme des indices de violence. A l'heure actuelle, le recourant était soumis aux facteurs déstabilisants tels que l'alcool, une instabilité d'emploi, de lieu de vie, de réseau social ou amical et une grande précarité du lien affectif dans la durée malgré les soutiens personnels par les institutions et les réseaux mis en place depuis des années. Enfin, la répétition sur un bref laps de temps des actes reprochés focalisés sur la même victime présumée choisie pour sa faiblesse alors que la police l'avait enjoint de cesser ces agissements faisait écho aux multiples avertissements antérieurs, restés sans effet.
Après avoir relevé les limites des traitements déjà entrepris dans un encadrement psychosocial (notamment la mesure de l'<ref-law>), l'expert a préconisé dans un premier temps un cadre institutionnel en milieu fermé (<ref-law>) en raison du risque élevé de réitération. Selon l'état d'avancement des traitements et l'opportunité des possibilités, il pourrait être envisagé que le recourant puisse bénéficier d'un établissement médico-social avec un encadrement psychiatrique et psychosocial structurant efficace afin de faciliter la stabilisation de son insertion sociale.
3.5.2. L'analyse de l'expert, claire et complète, repose sur des faits qui ne sont pas contestés par le recourant. Celui-ci s'était déjà livré à des violences et à des vols par le passé, ce qui explique que l'expert ait évoqué des " infractions similaires " commises antérieurement. Que la récidive ne soit pas spécifique mais qu'en revanche la gravité des actes ait augmenté, atteignant désormais le degré du brigandage, ne permet pas de douter des conclusions motivées de l'expertise en ce qui concerne le risque de récidive et la mesure préconisée pour y pallier. Par ailleurs, le fait que le recourant s'en soit pris à quatre reprises à la même personne, choisie pour sa faiblesse, plutôt qu'à des individus divers ne le rend pas pour autant moins dangereux (cf. MARIANNE HEER, in Basler Kommentar, Strafrecht I, 3e éd., 2013, n° 54 ad <ref-law>). Quoi qu'il en soit, l'expert n'a pas constaté que le risque de récidive se limiterait à des infractions visant une seule et même victime.
3.5.3. Se fondant sur l'avis de l'expert, dont il n'y a - comme vu ci-dessus - pas lieu de douter, la cour cantonale a constaté que le diagnostic posé révélait un grave trouble mental et que cette pathologie, toujours présente, était en relation avec les faits reprochés au recourant. Le risque de récidive dans la commission d'infractions similaires était élevé et les traitements propres à réduire ce risque avaient révélé leur insuffisance tant qu'ils étaient administrés en milieu ambulatoire. Leur succès dépendait par ailleurs aussi de la collaboration du recourant, en partie aléatoire en raison de son fonctionnement schizotypal, mais qui ne pouvait être exclue au regard des comportements adoptés antérieurement lors de mesures judiciaires de traitement ambulatoire. En ce sens, la mesure comportait bien un impact thérapeutique dynamique. La cour cantonale a ainsi considéré que les conditions d'un traitement institutionnel en milieu fermé tel que préconisé par l'expert (<ref-law>) étaient données et que seule cette mesure était propre à atteindre le but de soigner le prévenu et de diminuer le risque de récidive, tout en préservant la société du danger qu'il pouvait représenter.
3.5.4. Les critères pris en compte par la cour cantonale sont pertinents pour l'examen des conditions de placement en milieu fermé au sens de l'<ref-law>. Sur la base de l'avis de l'expert, du risque de récidive portant notamment sur des infractions de mise en danger de biens essentiels, et compte tenu des éléments pertinents mis en évidence par la cour cantonale, celle-ci n'a pas violé le principe de proportionnalité en considérant qu'une mesure institutionnelle en milieu fermé était adéquate dans le cas d'espèce. Cette mesure n'apparaît pas disproportionnée au regard de la haute probabilité que le recourant s'en prenne à nouveau physiquement à autrui dans le but de satisfaire ses besoins financiers (cf. art. 56 al. 2 et 59 al. 3 CP) et du lien entre ce risque de récidive et les troubles sévères diagnostiqués, qui requièrent un traitement (cf. art. 56 al. 1 let. a et b et 59 al. 1 let. b CP). Il y a encore lieu de rappeler que la mesure peut avoir une durée plus courte ou plus longue que celle qu'exige la culpabilité de l'auteur, une limitation dépendant de la gravité de la faute, facteur déterminant de la quotité de la peine, étant incompatible avec la vocation même de la mesure (QUELOZ/MUNYANKIND i, in Commentaire romand, Code pénal I, 2009, n° 30 ad <ref-law>). La comparaison qu'effectue le recourant entre la quotité de la peine et la mesure est ainsi sans portée. Quant au traitement ambulatoire découlant de l'<ref-law>, le recourant échoue à démontrer dans quelle mesure il pourrait le détourner de nouvelles infractions en relation avec son état, l'expert ayant à l'inverse mis en exergue l'insuffisance de cette mesure déjà ordonnée par le passé.
3.6. En définitive, seule l'intégration dans le dispositif du jugement (ch. 3) de l'exécution en milieu fermé de la mesure institutionnelle est critiquable au regard de la jurisprudence récente (<ref-ruling> précité), dès lors que la réalisation des conditions de l'<ref-law> quant au caractère fermé de l'exécution n'a à être abordée que dans les considérants du jugement. Le jugement sera réformé en ce sens, sans qu'il y ait lieu de renvoyer la cause à la cour cantonale.
4.
Le recourant a requis l'assistance judiciaire. Il peut prétendre à une indemnité de dépens réduite (<ref-law>), ce qui rend sa demande d'assistance judiciaire sans objet dans cette mesure. Elle est rejetée pour le surplus, le recours étant dénué de chances de succès en ce qui concerne les autres griefs (<ref-law>). Le recourant supporte des frais réduits en raison de l'issue de la cause et de sa situation financière (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est très partiellement admis et le jugement attaqué est réformé en ce sens qu'un traitement institutionnel avec obligation de soins (<ref-law>) est prononcé. Pour le surplus, le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 800 fr., s ont mis à la charge du recourant.
3.
Le canton du Valais versera au conseil du recourant une indemnité réduite de 500 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
La demande d'assistance judiciaire est rejetée, dans la mesure où elle n'est pas sans objet.
5.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Cour pénale I.
Lausanne, le 29 juin 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Musy