Faits :
A.
Par jugement du 4 juillet 2013, le Tribunal du IIe arrondissement pour le district de Sierre a reconnu X._ coupable de viols avec cruauté, de tentative de viol, de contraintes sexuelles avec cruauté, de tentative de contrainte sexuelle avec cruauté, de séquestration et de voies de fait contre deux femmes. Il l'a condamné à une peine privative de liberté de six ans, sous déduction de la détention préventive subie à compter du 6 mai 2011, et à une amende de 200 fr., la peine de substitution étant fixée à cinq jours. Il a révoqué le sursis partiel de sept mois accordé à la peine privative de liberté de treize mois prononcée le 22 mars 2010. Il a imposé une mesure thérapeutique institutionnelle pour le traitement des troubles mentaux dans un établissement fermé ou un établissement pénitentiaire. Enfin, il a prononcé le séquestre définitif de la créance de X._ envers l'Etat de Genève, liée à la détention injustifiée subie dans ce canton, à concurrence de 69'600 fr. et a dévolu ce montant à l'Etat du Valais et aux deux victimes de X._. Le Tribunal du IIe arrondissement a pour le surplus rejeté les requêtes des victimes tendant au séquestre définitif, voire à la confiscation, de cette créance en vue de la couverture de leurs autres prétentions civiles.
B.
Par jugement du 26 novembre 2013, la Cour pénale II du Tribunal cantonal du canton du Valais a rejeté l'appel formé par X._. Elle a néanmoins réformé partiellement le jugement de première instance, en ce sens qu'elle a déduit de la peine privative de six ans - confirmée - la détention subie à Genève du 8 décembre 2008 au 10 décembre 2010 et qu'elle n'a pas prononcé de décision de séquestre comme l'avait fait l'autorité de première instance.
C.
X._ forme un recours en matière pénale auprès du Tribunal fédéral contre le jugement du 26 novembre 2013. Il conclut, avec suite de frais et dépens, à sa réforme en ce sens que la mesure thérapeutique institutionnelle ordonnée s'effectuera en milieu ouvert et non fermé. Subsidiairement, il requiert l'annulation du jugement sur ce point et le renvoi de la cause à l'autorité précédente pour nouveau jugement, après audition de A._ et, le cas échéant, nouvelle expertise. Plus subsidiairement, il sollicite l'annulation du jugement du 26 novembre 2013 en tant qu'il déduit de la peine à effectuer la détention subie à Genève de 2008 à 2010 et requiert qu'il soit dit qu'il conserve ses droits sur une indemnité pour dite détention et que le séquestre a été levé. Il demande le bénéfice de l'assistance judiciaire.

Considérant en droit :
1.
Dans le recours en matière pénale, les constatations de fait de la décision entreprise lient le Tribunal fédéral (<ref-law>) à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. (cf. <ref-ruling> consid. 2.4 p. 313; sur la notion d'arbitraire, v. <ref-ruling> consid. 2.1 p. 18). Le Tribunal fédéral ne connaît de la violation des droits fondamentaux que si ce moyen est invoqué et motivé par le recourant (<ref-law>), c'est-à-dire s'il a été expressément soulevé et exposé de manière claire et détaillée (<ref-ruling> consid. 2.2 p. 232 et les arrêts cités). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 10.1 p. 445).
Il ne sera par conséquent pas tenu compte des faits allégués par le recourant, qui ne résultent pas du jugement cantonal, dans la mesure où l'arbitraire de leur omission n'est pas invoqué et démontré.
2.
Faute de motivation conforme à l'<ref-law>, le grief de violation des art. 51 al. 1 et 107 al. 1 let. b CPP est irrecevable.
3.
Le recourant se plaint du refus des autorités précédentes d'entendre lors des débats le psychologue A._, dont le Dr B._, expert désigné pour établir une expertise psychiatrique dans la présente procédure, s'est adjoint les services afin d'établir le rapport d'expertise du 31 août 2011. Il invoque une violation des art. 6 par. 3 let. d CEDH, 187 et 189 CPP.
3.1. L'art. 6 par. 3 let. d CEDH garantit à tout accusé le droit interroger ou de faire interroger les témoins à charge et d'obtenir la convocation et l'interrogation des témoins à décharge dans les mêmes conditions que les témoins à charge. Cette disposition n'est pas applicable aux experts (<ref-ruling> consid. 3f p. 80 et les références citées, et plus récemment arrêt 6B_936/2009 du 23 février 2010 consid. 2.2). Elle ne l'est pas non plus aux personnes auxquelles l'expert mandaté a été autorisé à faire appel pour la réalisation de l'expertise (cf. <ref-law>). Tel est le cas de A._ (pièce 76). Le grief de violation de l'art. 6 par. 3 let. d CEDH est infondé.
3.2. Le recourant soutient que l'<ref-law> comporte le droit pour les parties d'exiger que l'expert soit entendu oralement en plus de son rapport écrit. Il cite à cet égard un auteur qui estime qu'un tel droit découle de celui de confrontation garanti par l'art. 6 par. 3 let. d CEDH. Comme exposé ci-dessus, cette dernière disposition ne s'applique pas aux experts. De plus l'<ref-law> prévoit que la direction de la procédure peut ordonner que l'expertise soit rendue oralement ou qu'un rapport écrit soit commenté ou complété oralement. Il s'agit ainsi d'une faculté. Faute pour le recourant d'exposer un motif déterminant quant à la nécessité d'une audition reposant sur l'<ref-law>, le grief tiré d'une violation de cette disposition est infondé. Cette disposition n'imposait pas l'administration de la preuve requise.
3.3. L'<ref-law> prévoit que, d'office ou à la demande d'une partie, la direction de la procédure fait compléter ou clarifier une expertise par le même expert ou désigne un nouvel expert lorsque l'expertise est incomplète ou peu claire (let. a), plusieurs experts divergent notablement dans leurs conclusions (let. b) ou l'exactitude de l'expertise est mise en doute (let. c). Il ne ressort ni du jugement attaqué, ni du recours que le recourant ait sollicité, après le rejet de sa demande de nouvelle expertise par le ministère public le 14 octobre 2011, une des mesures prévues par l'<ref-law>. Il ne saurait dès lors rien tirer de cette disposition.
3.4. L'administration de nouvelles preuves par l'autorité d'appel est régie par l'<ref-law>.
3.4.1. Conformément à l'<ref-law>, la procédure de recours se fonde sur les preuves administrées pendant la procédure préliminaire et la procédure de première instance. L'administration des preuves du tribunal de première instance n'est répétée que si les dispositions en matière de preuves ont été enfreintes (al. 2 let. a), l'administration des preuves était incomplète (al. 2 let. b) ou les pièces relatives à l'administration des preuves ne semblent pas fiables (al. 2 let. c). L'autorité de recours administre, d'office ou à la demande d'une partie, les preuves complémentaires nécessaires au traitement du recours (<ref-law>).
Afin de déterminer quel moyen de preuve doit être administré, le juge dispose d'un pouvoir d'appréciation (cf. arrêt 6B_484/2012 du 11 décembre 2012 consid. 1.2 et les références citées). Le juge peut notamment refuser une preuve nouvelle, lorsqu'une administration anticipée non arbitraire de cette preuve démontre que celle-ci ne sera pas de nature à modifier le résultat de celles déjà administrées (arrêt 6B_1066/2013 du 27 février 2014 consid. 2.1 et les références citées).
3.4.2. En l'espèce, le recourant demande l'administration non pas d'une preuve déjà administrée (cf. <ref-law>), mais d'une nouvelle preuve, soit l'audition aux débats d'appel de A._ (cf. <ref-law>). La seule question à trancher ici est donc de déterminer si l'autorité précédente pouvait considérer cette preuve comme non nécessaire, en vertu d'une appréciation anticipée.
3.4.3. L'autorité précédente s'est référée, pour écarter la demande d'audition aux débats de A._, aux décisions rejetant dite requête rendues par le ministère public le 14 octobre 2011 (pièces 474 ss), par l'autorité de première instance le 6 mai 2013 (pièces 1226 ss) et par la Présidente de la Cour pénale le 30 septembre 2013 (pièces 1486 ss ch. 2.2 et 2.2.1), auxquelles il peut être ici renvoyé. Dans cette dernière décision, il a notamment été jugé que le recourant se méprenait sur le principe d'immédiateté des débats et ne démontrait pas en quoi les conditions de l'<ref-law> étaient réunies. Il n'y avait aucune contradiction flagrante entre le rapport établi le 24 juillet 2009 par le Dr C._, dans le cadre d'une affaire genevoise pour prévention d'assassinat, et celui du Dr B._ et du psychologue A._ du 31 août 2011, dans le cadre de la présente cause portant sur des infractions contre l'intégrité sexuelle. En effet, les praticiens ont posé un diagnostic similaire, seule leur appréciation du risque de récidive a évolué défavorablement. Dès lors, l'audition de A._, plus de deux ans après avoir examiné le recourant et participé à la rédaction du rapport d'expertise, n'était pas de nature à apporter de nouveaux éclaircissements au terme d'une appréciation anticipée du moyen probatoire requis.
3.4.4. Le recourant invoque avoir été privé d'une défense effective avant que ses conseils actuels le défendent. Un tel argument n'est pas propre à démontrer l'arbitraire de l'appréciation précitée de la preuve par l'autorité précédente. Qu'une contre-expertise ait été demandée - uniquement par l'ancien conseil du recourant - et refusée ne l'est pas non plus. Il en va de même de l'importance de l'expertise pour la présente cause. Le recourant se plaint des conclusions de l'expertise, laissant entendre que A._ aurait été partial et incohérent, en particulier au vu des conclusions de l'expertise judiciaire établie en 2009, soit avant la commission des faits ayant justifié la condamnation prononcée dans la présente procédure. Un tel raisonnement ne démontre pas en quoi l'audition de A._ s'avérait ici indispensable. L'hypothèse émise par le recourant que cette audition permettrait "cas échéant" une nouvelle requête de contre-expertise (recours, p. 17 ch. 3c in fine et p. 20 let. gg) n'est pas de nature à démontrer l'arbitraire de l'appréciation anticipée de l'utilité d'entendre A._ aux débats d'appel.
4.
Le recourant ne conteste pas la nécessité du traitement des troubles mentaux au sens de l'<ref-law> prononcé. Il estime toutefois que les conditions pour ordonner que cette mesure soit exécutée en milieu fermé au sens de l'<ref-law> ne sont pas remplies.
4.1. En règle générale, le traitement institutionnel s'effectue dans un établissement psychiatrique approprié ou dans un établissement d'exécution des mesures (<ref-law>). L'<ref-law> prévoit toutefois que tant qu'il existe un risque de fuite ou de récidive, le traitement doit être exécuté dans un établissement fermé. Il peut aussi être effectué dans un établissement pénitentiaire au sens de l'<ref-law>, dans la mesure où le traitement thérapeutique nécessaire est assuré par du personnel qualifié (art. 59 al. 3 2e phrase CP).
Le risque de récidive visé par l'<ref-law> doit, sur la base de l'appréciation d'une série de circonstances, être concret et hautement probable.
4.2. L'autorité précédente a opté pour un traitement institutionnel en milieu fermé sur la base de l'expertise du 31 août 2011. Au moment des faits et de la procédure d'expertise, le recourant souffrait d'un trouble mixte de la personnalité avec une composante paranoïaque et psychopathique mixte, ainsi que des troubles mentaux du comportement liés à l'utilisation d'alcool, troubles qualifiés de sévères par l'expertise et qui sont à mettre en relation avec les atteintes à l'intégrité sexuelle causées par le recourant. Sa personnalité, en conjonction avec des consommations d'alcool, semble entraîner le recourant, dans certaines situations, à se comporter de façon agressive, voire brutale, sans possibilité de se contrôler. La consommation d'alcool augmente de manière significative le trouble préexistant. Le recourant rencontre de la difficulté à gérer la pulsion agressive dans certaines situations (principalement lors de frustrations), associés à de l'impulsivité. Ses capacités de mentalisation sont réduites et il ne fait à aucun moment preuve de remords. D'après l'expertise du 31 août 2011, la probabilité que le recourant commette de nouveaux actes de violence au sens large, y compris dans le domaine des actes de nature sexuelle, est élevée. L'expertise a par conséquent préconisé la mise en place d'un traitement institutionnel fermé carcéral en raison de ce risque de réitération élevé, en prenant en considération la violence à caractéristiques nettement sadiques qui se sont manifestées dans les actes. Dans l'hypothèse d'un verdict de culpabilité, les caractéristiques de sa personnalité (traits psychopathiques, impulsivité, faible tolérance à la frustration, abaissement du seuil de décharge de l'agressivité dans certaines situations) devraient être encore plus prises en considération: les éléments de duperie et de manipulation seraient en effet à considérer comme étant encore plus manifestes, rendant difficile d'imaginer une diminution du risque par des mesures thérapeutiques dans un milieu ouvert. L'expertise a ainsi exclu qu'une peine seule puisse suffire à détourner le recourant de la délinquance. Elle souligne que la seule prise en charge de la problématique liée à l'alcool dans un établissement ouvert comme l'établissement D._ serait insuffisante compte tenu du risque de réitération, ce d'autant que le recourant était précisément passé à l'acte à l'encontre de ses victimes, alors qu'il était en traitement dans cette institution. Au vu de ces éléments, l'autorité précédente a jugé que le traitement institutionnel en milieu fermé constituait la seule mesure apte à atteindre le but de soigner le recourant et de diminuer le risque de récidive, tout en préservant la société du danger qu'il peut représenter lorsqu'il est confronté à certaines situations.
4.3. Le recourant estime que son placement volontaire dans l'établissement D._ ne saurait être assimilé à une première mesure thérapeutique institutionnelle. Il n'aurait dès lors pas échoué en milieu ouvert et devrait d'abord être placé dans un tel milieu. Un séjour préalable ordonné par la justice dans un établissement ouvert et son échec ne sont pas des prérequis pour ordonner un séjour en établissement fermé au sens de l'<ref-law>. Le grief est infondé.
Le risque de réitération exigé par l'<ref-law> n'a pas, dès lors qu'il est établi de manière convaincante, à être "matérialisé par des menaces" (recours, p. 23 ch. 4c).
4.4. Le recourant critique le risque élevé de récidive de nouveaux actes de violence au sens large, y compris dans le domaine des actes de nature sexuelle, retenu par le rapport d'expertise du 31 août 2011.
L'expertise est soumise à la libre appréciation du juge. En se fondant sur une expertise non concluante, le juge peut toutefois tomber dans l'arbitraire (<ref-ruling> consid. 3.2 p. 547 s.; également 138 III 193 consid. 4.3.1 p. 199).
Le recourant invoque que l'expertise menée en 2009 aurait uniquement conclu à un risque de récidive faible à moyen pour des infractions de surcroît patrimoniales ou de violence mineure (recours, p. 22 ch. 4b). En réalité, à lire les extraits cités par le recourant, l'expert mandaté en 2009 a estimé à cette époque que le recourant présentait un risque de récidive léger à moyen concernant des actes de vols et de violences aux personnes, sans que ces dernières soient particulièrement orientées vers un risque de nouvel homicide (recours, p. 9 ch. 17). Il n'a donc pas conclu qu'un risque de récidive n'existait que pour des actes de "violence mineure". L'expert mandaté en 2009 a en outre précisé que le risque de récidive de comportements de délinquance apparaissait, au moment de l'expertise, faible à moyen, mais devra être réévalué selon l'évolution personnelle du recourant, ainsi qu'en fonction de sa situation lors de sa sortie de prison (recours, p. 9 ch. 16). De telles conclusions, formulées avant la commission des deux agressions graves commises par le recourant en 2011 et donc en méconnaissance de la possibilité que ce dernier puisse se rendre coupable de tels actes, ne rendent pas à elles seules arbitraire la décision de l'autorité précédente de se fonder sur une appréciation moins favorable au recourant, prise en tenant compte des faits qui lui étaient alors reprochés et de son évolution depuis 2009. Le grief, dans la mesure de sa recevabilité, est infondé.
4.5. Pour le surplus, le recourant ne formule aucun grief répondant aux exigences de motivation prévues par les art. 42 al. 2 et 106 al. 2 LTF. La décision de soumettre le recourant à un traitement institutionnel en milieu fermé, dès lors qu'elle se fonde de manière non arbitraire sur l'existence d'un risque élevé de réitération d'actes violents, y compris de nature sexuelle, ne viole pas l'<ref-law>.
5.
Le recourant soulève une violation de l'<ref-law>. Il affirme qu'il serait choquant qu'il soit privé de sa liberté par la mesure thérapeutique ordonnée pendant une durée indéterminée, en plus de la peine privative de liberté, tout en se voyant spolié de toute indemnisation dans l'affaire genevoise pour laquelle il a été condamné injustement (recours, p. 24).
5.1. Aux termes de l'<ref-law>, le juge impute sur la peine la détention avant jugement subie par l'auteur dans le cadre de l'affaire qui vient d'être jugée ou d'une autre procédure. Un jour de détention correspond à un jour-amende ou à quatre heures de travail d'intérêt général.
Il découle de cette disposition qu'une peine privative de liberté doit, si possible, être compensée avec la privation de liberté déjà intervenue, même dans une autre procédure (<ref-ruling> consid. 5.1 p. 154 s.). La détention avant jugement doit être imputée sur la peine, indépendamment du fait que celle-ci soit assortie du sursis ou non (<ref-ruling> consid. 1.3.6 p. 129). La question de l'indemnisation d'une détention injustifiée ne se pose donc en principe que si une imputation suffisante de cette détention sur une autre sanction au sens de l'<ref-law> n'est plus possible. L'indemnisation financière est ainsi subsidiaire à l'imputation (arrêts 6B_169/2012 du 25 juin 2012 consid. 6; 1B_179/2011 du 17 juin 2011 consid. 4.2 et les références citées). L'intéressé n'a pas le droit de choisir entre ces deux voies (arrêt 1B_179/2011 précité consid. 4.2).
5.2. Au vu de ce qui précède, l'autorité précédente a à juste titre imputé la durée de la détention subie à Genève du 8 décembre 2008 au 10 décembre 2010 sur la peine privative de liberté de six ans ordonnée. A l'instar de la sanction prononcée avec sursis, le fait que l'exécution de cette peine soit suspendue durant l'exécution de la mesure ordonnée (<ref-law>) n'empêche pas l'imputation. La durée de la peine éventuellement à effectuer à l'issue de l'exécution de la mesure (<ref-law> et 62c al. 2 CP) sera ainsi d'autant raccourcie, ce qui - le recourant le perd de vue - constitue une forme d'indemnisation. Le grief de violation de l'<ref-law> est infondé.
6.
Le recours doit être rejeté dans la mesure de sa recevabilité. Dès lors qu'il était dépourvu de chances de succès, l'assistance judiciaire doit être refusée (<ref-law>). Le recourant supporte les frais de la cause qui sont fixés en tenant compte de sa situation économique, qui n'apparaît pas favorable (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'600 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Cour pénale II.
Lausanne, le 13 août 2014
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Juge présidant : La Greffière :
Denys Cherpillod