Faits :
A.
Par jugement du 12 décembre 2013, le Tribunal criminel de l'arrondissement de La Côte a constaté que X._ s'était rendu coupable de viol qualifié, de tentative de viol, de contraintes sexuelles qualifiées, de contraintes sexuelles, d'actes d'ordre sexuel avec des enfants, de tentatives d'actes d'ordre sexuel avec des enfants, de séquestration, et de pornographie (I) et l'a condamné à 9 ans de peine privative de liberté, sous déduction de la détention subie avant jugement (II). Le Tribunal criminel a ordonné le maintien de la détention de X._ pour des motifs de sûreté (III), a ordonné son internement au sens de l'art. 64 al. 1 let. b CP (IV) et l'a condamné à verser aux victimes ainsi qu'à certains de leurs proches des indemnités à titre de réparation du tort moral (V à X). Les frais de la cause, comprenant les indemnités des défenseurs et conseils d'office ont été mis à la charge de X._ (XII à XVI).
B.
Statuant sur l'appel du prévenu et l'appel joint du Ministère public, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud a rejeté le premier et partiellement admis le second, par jugement du 24 juin 2014. La cour cantonale a condamné X._ à une peine privative de liberté de 10 ans, sous déduction de la détention subie avant jugement (II), le jugement de première instance étant confirmé pour le surplus. Les frais d'appel, y compris l'indemnité allouée au défenseur d'office du prévenu et aux conseils d'office des plaignants ont été mis à la charge de X._ (IX).
En substance, les faits reprochés sont les suivants.
B.a. X._ a téléchargé, via Internet, et stocké dans la mémoire de plusieurs ordinateurs ainsi que dans celle de plusieurs disques durs externes, plusieurs centaines d'images montrant des enfants mineurs mêlés à des actes sexuels.
B.b. A tout le moins à cinq reprises entre 2007 et 2010, il a attiré A._, née en 2000, dans une pièce de son appartement afin de commettre des actes d'ordre sexuel à son endroit. Pour ce faire, il s'est faussement présenté comme étant médecin travaillant pour le compte d'une organisation suisse s'occupant de la santé des enfants. Il lui a proposé de l'argent en échange de photos pour les besoins d'une prétendue recherche scientifique qu'il menait. Il lui a demandé de se déshabiller ou s'en est chargé lui-même et a pris des clichés de la fillette nue dans différentes positions, en la contraignant notamment de s'écarter le sexe, de se le caresser digitalement ainsi qu'au moyen d'un vibromasseur. Il lui a introduit à plusieurs reprises ce même objet, ainsi qu'un doigt ou un thermomètre. A une reprise, il a pénétré la fillette analement au moyen d'un tube à cigare d'une quinzaine de centimètres, alors qu'un vibromasseur enclenché était déjà introduit profondément dans son vagin. Cette scène a été immortalisée au moyen de son appareil photo. Il a également tenté, lors de sa dernière " auscultation ", après avoir enlevé son pantalon et son slip, de pénétrer vaginalement la fillette, sans protection. X._ n'a cependant pas réussi à commettre son méfait, sa victime l'ayant vigoureusement repoussé.
B.c. En avril 2011, il a séquestré B._, née en 1999, et a abusé d'elle sexuellement après avoir longuement et soigneusement repéré et préparé les lieux. En bref, prétextant avoir besoin d'aide pour réparer quelque chose dans la buanderie de l'immeuble où elle vivait, il a amené la fillette à le conduire dans le local technique du sous-sol, verrouillé la porte, et a placé une main sur sa bouche pour l'empêcher de crier l'intimant de ne plus bouger en la menaçant au moyen d'une arme (petit couteau). Il a alors saisi des morceaux de scotch qu'il avait prédécoupés pour obstruer la vue de la fillette et la bâillonner. Tout en tenant le couteau pour qu'elle n'oppose aucune résistance, il a entravé la fillette dans sa liberté de mouvement en lui attachant les mains dans le dos, puis devant, au moyen de câbles électriques qu'il avait dénudés préalablement. Après l'avoir déshabillée entièrement, et l'avoir allongée sur une table, il lui a interdit de prier en disant que Dieu n'existait pas et l'a menacée avec le couteau de la tuer si elle parlait. Il lui a ensuite nettoyé le sexe avec des lingettes et du coton imbibé de gel lubrifiant, s'est emparé d'un vibromasseur d'environ quinze centimètres, enduit du même produit, et a caressé la vulve et le clitoris de sa victime avec ledit objet avant de l'insérer dans son vagin. Il a alors pris trois photos du sexe de la fillette en la plaçant dans différentes positions. A la demande de X._, la fillette a uriné, pendant qu'il la prenait en photo. Il a enclenché le vibromasseur et réintroduit l'objet à l'intérieur du vagin de sa victime, tout en faisant des va-et-vient, alors qu'elle baignait dans son urine. Celle-ci a alors manifesté sa douleur en criant, ce dont le prévenu s'est accommodé. Il a expliqué à sa victime qu'à la suite de ce qu'il lui faisait, elle ne pourrait pas avoir d'enfant quand elle serait adulte. Il lui a asséné une gifle car elle faisait du bruit. Puis, il a introduit un pouce à l'intérieur du sexe de la fillette avant de la pénétrer avec un godemiché. Durant ces actes, X._ a pris d'autres clichés et a menacé sa victime de les publier sur Internet si elle parlait de cela à quelqu'un. Il lui a également dit qu'il reviendrait pour la tuer le cas échéant. Le prévenu a ensuite léché le clitoris de la fillette avant de lui caresser la vulve et la poitrine. Il a enlevé son pantalon et son caleçon, a placé et frotté sa verge, qui n'était pas en érection, entre les petites lèvres de la jeune fille avant de la pénétrer partiellement et furtivement, sans protection. Selon cette dernière, l'acte sexuel a duré environ trois minutes et le prévenu n'a pas éjaculé. Une fois son forfait accompli, il a nettoyé la table sur laquelle se trouvait sa victime et a abondamment aspergé le sexe de cette dernière de liquide anti-bactérien. Il a rangé méthodiquement ses affaires dans un sac et a indiqué à la jeune fille qu'elle devait compter jusqu'à cent avant de pouvoir partir. A ce moment-là, il a éteint la lumière du local technique, retiré les scotchs se trouvant sur les yeux de sa victime avant de quitter les lieux et de la laisser nue et attachée dans un coin de la pièce. La jeune fille s'est alors tant bien que mal défaite de ses liens, a enlevé le scotch qui était sur sa bouche et s'est rhabillée après avoir réussi à allumer la lumière.
Un examen clinique a été effectué au CHUV le jour même des faits, révélant des lésions et dermabrasions autour des poignets. Sur le plan gynécologique, outre des extrêmes douleurs à la palpation, les médecins ont constaté diverses dermabrasions, une déchirure hyménéale complète sur environ 4 mm, des lésions et des pétéchies au niveau des petites lèvres.
B.d. En novembre 2011, au retour d'une sortie avec ses deux enfants et C._, fille d'un de ses amis de longue date, née en 2000, X._ a isolé la fillette par le même stratagème qu'employé pour appâter A._ (recherches médicales), en lui proposant de l'argent si elle se laissait photographier. Cette dernière a refusé et, profitant du retour du colocataire de X._, a quitté les lieux.
B.e. Entre le 26 et le 29 juillet 2012, à tout le moins dans deux piscines publiques à Genève, X._, muni d'un photo montage le faisant apparaître comme un contrôleur de l'hygiène et se présentant comme tel, a abordé cinq filles, en leur expliquant qu'il devait effectuer des prélèvements sur leur corps dans sa cabine à titre de contrôles d'hygiène. Son objectif était d'attirer ces fillettes dans sa cabine afin de commettre sur elles des attouchements à caractère sexuel, ainsi que prendre des photos de leur intimité. X._ n'est pas parvenu à ses fins dès lors que les fillettes se sont méfiées de lui. La fouille de la cabine que le prévenu louait auprès d'une des piscines a permis de découvrir l'existence d'un sac contenant un vibromasseur, un thermomètre, des préservatifs et un appareil photo.
C.
En cours d'enquête, le recourant a fait l'objet d'une expertise psychiatrique judiciaire, rendue le 30 avril 2013. Celle-ci se fonde sur plusieurs entretiens avec l'expertisé, un examen psychologique ainsi que des rapports médicaux de son néphrologue et de son urologue. Un complément d'expertise a été ordonné et rendu le 25 juin 2013. Entendue aux débats de première instance, une des experts a confirmé entièrement les rapports déposés en procédure et s'est prononcée en particulier sur les perspectives thérapeutiques d'un éventuel traitement.
C.a. Après avoir rappelé les circonstances de vie du prévenu, les experts ont établi une anamnèse affective, sexuelle et médico-psychiatrique de l'expertisé puis ont dressé son status psychiatrique.
En substance, les experts décrivent un important détachement affectif de l'expertisé et une tendance à l'intellectualisation, ainsi qu'une claire banalisation et une tendance à minimiser la gravité des actes commis. Il présente aussi un déni important au niveau de la sphère pulsionnelle et sexuelle, niant par exemple toute attirance ou excitation procurée par des images de pédopornographie ou des actes commis et intellectualisant " un intérêt médical, anatomique ". De l'avis des experts, les aspects pervers de la personnalité sont, au premier plan, caractérisés par une constante recherche d'emprise sur l'autre dans la relation, par un recours fréquent à l'inversion des rôles et par une tendance à manipuler et à arranger la réalité. L'expertise relève un manque total d'empathie avec la victime qu'il a tendance à percevoir comme une victime consentante, collaborante et une tendance à occulter des informations et les avouer uniquement quand il est confronté aux multiples contradictions de son discours ou aux évidences des preuves et des déclarations des victimes et témoignages.
Les experts posent les diagnostics de pédophilie (F65.4) et de trouble de la personnalité, sans précision (traits narcissiques et pervers) (F60.9).
Dans leur discussion, les experts soulignent que l'expertisé ne parvient que rarement à s'attribuer une responsabilité dans ses actes, responsabilité qui est largement projetée sur l'entourage (par ex. les épouses), le hasard (c'est par hasard qu'il tombe sur des photos pédopornographiques sur Internet, par hasard qu'il agresse B._), une sorte de fatalité (le faux dossier médical lui " tombe dans les mains "), et, surtout, les victimes elles-mêmes. Celles-ci sont avant tout responsables de ne pas lui avoir posé de limite alors que selon lui elles avaient les connaissances requises pour le faire. Déniant toute violence à ses actes, l'intéressé n'identifie pas la peur de l'enfant et voit celle-ci comme participant à l'abus dont elle est victime. On assiste à une inversion perceptive, quand il perçoit que l'enfant prend plaisir à ce qui lui est fait, tout comme il inverse, cette fois sur un plan cognitif, les responsabilités. La reconnaissance des faits est donc partielle. La reconnaissance du caractère délictueux des actes est minimisée par leur banalisation et la déresponsabilisation qu'il s'en octroie. Elle l'est également par son interprétation plus globale de l'interdit. Les accusations lui paraissent disproportionnées et il fait souvent référence à un jugement qui est dû à l'époque actuelle de " néopuritanisme ".
Au moment de conclure, les experts retiennent que le prévenu présente une pédophilie dont les passages à l'acte se sont aggravés au fil des années, jusqu'à aboutir à une agression d'une grande violence à tonalité mortifère, dans laquelle la victime était réduite à l'état d'objet déshumanisé. La déresponsabilisation de l'intéressé reste massive, s'appuyant sur des mécanismes de déni, de projection, inversion, banalisation classiques dans les traits pervers de personnalité. La frontière du bien et du mal n'est pas définie, la violence niée. L'aspect narcissique renforce cette problématique, le prévenu se présentant comme au-dessus de la loi des hommes, et préoccupé avant tout de l'impact de la sanction sur lui-même. L'empathie envers les victimes est partielle et se limite à un souhait qu'elles aillent bien dans l'avenir. L'expertisé se perçoit comme une victime au même titre qu'elles. Les visions d'avenir du prévenu montrent une absence totale d'intégration des éléments précités.
S'agissant du traitement en détention, l'engagement de l'expertisé reste passif et déresponsabilisé.
Les experts considèrent que les troubles retenus sont graves, et étaient déjà présents au moment des faits reprochés. Ils estiment, en tenant compte des troubles mentaux constatés, que la faculté du prévenu d'apprécier le caractère illicite de ses actes et de se déterminer d'après cette appréciation était conservée au moment des faits (pleine responsabilité). Le risque de récidive est qualifié d'élevé, les infractions à craindre étant probablement de même nature que les faits reprochés.
Les experts indiquent qu'un traitement psychothérapeutique peut toujours être tenté. Toutefois, vu l'ancienneté et la sévérité du trouble, le pronostic est réservé. Les experts évoquent une éventuelle dépendance à la cyberpornographie tout en mentionnant que le traitement de l'addiction n'équivaudrait pas à traiter la pédophilie préexistante. Au moment de discuter d'une éventuelle mesure d'internement (art. 64 CP), les experts retiennent que tous les éléments relevés dans l'expertise parlent en faveur d'un risque très élevé de récidive: au vu de la dangerosité, du mauvais pronostic diagnostic, de l'absence d'intégration de la notion de victime et des limites imposées par la loi alors que l'expertisé récuse la pertinence de la loi elle-même. La tentative d'un traitement hors du cadre carcéral représenterait un risque réel.
C.b. Dans leur complément d'expertise du 25 juin 2013, les experts estiment que le repentir du prévenu s'inscrit dans sa perception très particulière des faits qui lui sont reprochés. Il peut d'un côté dire regretter ce qui s'est passé, mais il ne reconnaît pas tout (et pas tout le temps). En ce qui concerne la collaboration dont le prévenu a fait preuve au cours de l'enquête, les experts retiennent que les propos de l'expertisé sont malgré tout fréquemment contradictoires. Ils considèrent par ailleurs que la reconnaissance des faits, la violence et l'empathie envers les victimes sont soit partielles, soit absentes, la minimisation, la banalisation et la déresponsabilisation étant à leurs yeux permanentes. Les remords émis par l'intéressé étaient donc partiels et il déniait toute une partie des faits. Les experts soulignent aussi la non-prise de conscience de l'expertisé de sa propre dangerosité.
D.
X._ forme un recours en matière pénale auprès du Tribunal fédéral contre le jugement cantonal et conclut à sa libération du chef d'accusation de viol, respectivement de viol qualifié, à la réduction de la peine à 5 ans ou toute autre peine plus courte que justice dira et au prononcé d'une mesure thérapeutique institutionnelle au sens de l'art. 59 CP en lieu et place de l'internement au sens de l'art. 64 CP. Il sollicite l'octroi de l'assistance judiciaire.
Considérant en droit :
1.
Le recourant conteste s'être rendu coupable de viol, respectivement de viol qualifié envers B._. Il estime que l'infraction n'est pas réalisée en l'espèce, faute de pénétration.
1.1. D'après l'art. 190 al. 1 CP, celui qui, notamment en usant de menace ou de violence, en exerçant sur sa victime des pressions d'ordre psychique ou en la mettant hors d'état de résister, aura contraint une personne de sexe féminin à subir l'acte sexuel, sera puni d'une peine privative de liberté de un à dix ans. Si l'auteur a agi avec cruauté, la peine sera la peine privative de liberté de trois ans au moins (art. 190 al. 3 CP).
Il est renvoyé notamment à l'arrêt 6B_1149/2014 du 16 juillet 2015 consid. 5.1 s'agissant des éléments constitutifs de l'infraction de viol, lesquels ne sont pas discutés en l'espèce, hormis l'élément objectif de l'acte sexuel.
L'art. 190 CP, comme l'art. 189 CP (contrainte sexuelle), protège des atteintes à la libre détermination en matière sexuelle. Le viol est une forme spéciale et aggravée de la contrainte sexuelle, en ce sens qu'il se caractérise par le fait que la victime est une femme d'une part, et que l'acte répréhensible est l'acte sexuel proprement dit, d'autre part (Bernard Corboz, les infractions en droit suisse, vol. I, 2010, n° 1 ad art. 190 CP; Philipp Maier, Die Nötigungsdelikte im neuen Sexualstrafrecht, diss., 1994, p. 286).
1.2. Par acte sexuel on entend l'union naturelle des parties génitales de l'homme et de la femme. Il importe peu de savoir dans quelle mesure le membre viril pénètre dans les parties génitales de la femme ou si le sperme s'est écoulé dans le vagin (ATF 99 IV 151 consid. 1 p. 152 s.; 77 IV 169 consid. 1 p. 170 s.; arrêt 6S.577/1997 du 16 février 1998 consid. 2). Une pénétration du membre viril jusqu'à l'entrée du vagin est suffisante pour être considérée comme un acte sexuel (ATF 77 IV 169 consid. 1 p. 170 s.; arrêt 6S.577/1997 du 16 février 1998 consid. 2; Philipp Maier, op. cit., p. 287).
Traitant spécifiquement de la notion d'acte sexuel, l'arrêt publié aux ATF 77 IV 169, rendu dans une affaire d'inceste, a retenu que l'insertion du membre viril dans l'entrée du vagin (" Scheidenvorhof ") était suffisante pour constituer le comportement typique réprimé par l'art. 213 CP (consid. 1 p. 171). Cette même définition de l'acte sexuel a été confirmée dans une affaire impliquant un viol (arrêt 6S.577/1997 du 16 février 1998 consid. 2).
Le terme " Scheidenvorhof " ( vestibulum vaginae ) se traduit en français par le vestibule vaginal, respectivement le vestibule de la vulve. Il s'agit de l'espace situé dans la vulve, ouvrant sur le vagin, limité latéralement par la face interne des petites lèvres et des grandes lèvres, en avant par le clitoris et en arrière par la commissure postérieure des petites lèvres (Le Larousse médical 2012, p. 1024 ad Vestibule de la vulve; cf. Springer Lexikon Medizin, 2004, p. 1905 ad Scheidenvorhof).
1.3. La cour cantonale a considéré que les diverses déclarations faites par le recourant à propos de l'épisode litigieux étaient entachées de contradictions et de revirements portant sérieusement atteinte à sa crédibilité. L'on pouvait toutefois retenir qu'il décrivait un acte sexuel. Ainsi, après avoir nié s'être déshabillé, le prévenu a fini par expliquer " De ma main j'ai approché mon sexe du sien et j'ai fait des va-et-vient le long de sa fente, de haut en bas ", " c'est vrai que j'étais entre ses lèvres avec mon sexe mais je ne l'ai en aucun cas pénétrée profondément. Heureusement que je ne pouvais pas avoir d'érection. Je sais pas ce qui aurait pu se produire (...). Visuellement, je peux vous dire que mon sexe était à l'intérieur de la fente mais sans rentrer ". Au contraire, les déclarations de la fillette étaient sans ambiguïté, claires, précises et invariables. Elle avait notamment su distinguer les divers " types " de pénétrations et avait expliqué qu'à un certain moment, il avait mis son " zizi " dans le sien. A la suite des faits, elle a immédiatement indiqué à sa mère qu'elle s'était fait violer.
D'autres éléments allaient dans ce sens, tels que le rapport médical du CHUV constatant des lésions compatibles avec le récit de la victime et la similitude des faits avec l'agression de A._ que le recourant avait tenté de pénétrer avant qu'elle ne le repousse vigoureusement.
Les déclarations accablantes du prévenu, associées aux explications complémentaires du Dr D._ - qui a précisé qu'en écartant les petites lèvres, on est à l'entrée extérieure du vagin, au niveau des organes génitaux extérieurs de la femme, les petites lèvres constituant la limite et l'entrée du vagin - ont permis à la cour cantonale de retenir que le prévenu avait pénétré avec son pénis jusqu'à l'entrée du vagin de la fillette, indépendamment de l'existence ou non d'une érection.
La cour cantonale est ainsi parvenue à la conclusion qu'il y a eu un acte sexuel proprement dit au sens de l'art. 190 CP.
1.4. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Le recourant ne peut critiquer ceux-ci que s'ils ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 140 III 264 consid. 2.3 p. 266) - ou en violation du droit au sens de l'art. 95 LTF (art. 97 al. 1 LTF), ce qu'il lui appartient d'exposer et de démontrer de manière claire et circonstanciée. La correction du vice soulevé doit en outre être susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF; ATF 139 II 404 consid. 10.1 p. 445; 137 I 58 consid. 4.1.2 p. 62). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (ATF 140 III 264 consid. 2.3 p. 266). En matière d'appréciation des preuves et d'établissement des faits, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (ATF 140 III 264 consid. 2.3 p. 266). Le grief de l'arbitraire se confond avec celui déduit de la violation du principe in dubio pro reo (art. 32 Cst.; art. 6 par. 2 CEDH) au stade de l'appréciation des preuves (ATF 124 IV 86 consid. 2a p. 88).
1.5. En tant que le recourant évoque le principe in dubio pro reo, et déclare qu'une affirmation du Dr E._, son ancien urologue, n'a étrangement jamais été " invoquée dans les jugements ", il ne présente pas de grief recevable au vu des exigences de motivation exposées supra. Cela étant, son moyen est infondé dans la mesure où les déclarations du Dr E._ ont expressément été traitées (cf. jugement de première instance, consid. 10 p. 135) et ne permettent pas de démontrer une appréciation manifestement insoutenable des différentes déclarations. En effet, si, selon le médecin, une pénétration du point de vue médical ne pouvait pas avoir lieu, il n'excluait toutefois pas que le recourant eût encore la capacité d'avoir des érections ou des débuts d'érections (cf. jugement de première instance, consid. 10 p. 135).
1.6. Le recourant est irrecevable à contester l'existence d'une pénétration, faute de tenter de démontrer l'arbitraire dans l'appréciation des déclarations qui ont conduit la cour cantonale à retenir qu'il avait pénétré la victime jusqu'à l'entrée de son vagin. Sur ce point, il se méprend en affirmant que le jugement ne fait pas état d'une pénétration mais seulement d'une connexion entre les deux sexes. En effet, les juges cantonaux ont expressément retenu une pénétration, certes partielle et furtive, sur la base des déclarations concordantes du recourant (cf. jugement entrepris, consid. 5 p. 28).
Tant les déclarations du recourant " j'étais entre ses lèvres avec mon sexe (...) ", " (...) mon sexe était à l'intérieur de la fente mais sans rentrer ", que celles de sa victime, concordent pour retenir que le recourant a pénétré cette dernière jusqu'à l'entrée du vagin. Les déclarations du Dr D._ - dont se prévaut le recourant sans toutefois taxer la cour cantonale d'arbitraire dans l'appréciation des preuves - vont d'ailleurs dans le même sens, puisque ce dernier explique que les petites lèvres constituent la limite et l'entrée du vagin (cf. jugement entrepris, consid. 2.1.2 p. 35). Si, d'un point de vue sexologique, le Dr D._ considère que le comportement incriminé ne constitue pas une pénétration, il n'en va pas nécessairement de même du point de vue juridique.
1.7. Considérant que le recourant a introduit son sexe entre les petites lèvres de sa victime, lui permettant ainsi d'atteindre son " vestibule vaginal ", c'est conformément au droit fédéral que la cour cantonale a retenu l'existence d'un acte sexuel au sens juridique du terme, au regard de la définition large de la notion (cf. consid. 1.2). Dans la mesure où le comportement typique par lequel l'auteur commet un viol est l'acte sexuel, la condamnation du recourant du chef de viol qualifié au sens de l'art. 190 al. 1 et 3 CP ne prête pas flanc à la critique, la circonstance aggravante de la cruauté n'étant au demeurant pas contestée.
Il n'y a pas lieu d'examiner la réalisation des autres infractions reprochées en l'espèce, faute de grief.
2.
Le recourant conteste la quotité de la peine privative de liberté de 10 ans prononcée à son encontre. Il estime que certains éléments d'appréciation qui donnent lieu à une réduction de la peine, n'ont pas été pris en compte dans une mesure appropriée.
2.1. On peut renvoyer, en ce qui concerne les principes généraux relatifs à la fixation de la peine, aux arrêts topiques (ATF 136 IV 55 et 134 IV 17), en relevant que le juge dispose d'un large pouvoir d'appréciation et que le Tribunal fédéral n'intervient que lorsque l'autorité cantonale a fait un usage vraiment insoutenable de la marge de manoeuvre que lui accorde le droit fédéral, s'il a fixé une peine en dehors du cadre légal, s'il s'est fondé sur des critères étrangers à l'art. 47 CP ou si des éléments d'appréciation importants n'ont pas été pris en compte.
L'exercice de ce contrôle suppose que le juge exprime, dans sa décision, les éléments essentiels relatifs à l'acte ou à l'auteur qu'il prend en compte, de manière à ce que l'on puisse constater que tous les aspects pertinents ont été pris en considération et comment ils ont été appréciés, que ce soit dans un sens aggravant ou atténuant (art. 50 CP; ATF 134 IV 17 consid. 2.1 p. 19 s.). Le juge peut passer sous silence les éléments qui, sans abus du pouvoir d'appréciation, lui apparaissent non pertinents ou d'une importance mineure. Il n'est également nullement tenu d'exprimer en chiffres ou en pourcentages l'importance qu'il accorde à chacun des éléments qu'il cite (ATF 136 IV 55 consid. 5.6 p. 61).
2.2. Rappelant les nombreuses infractions commises, la cour cantonale a relevé que la culpabilité du prévenu était écrasante, les actes commis, abjects en soi, ayant réduit ses victimes, des fillettes mineures, à l'état d'objets déshumanisés, dans le seul but de satisfaire ses pulsions. Il a abusé de son rôle d'adulte et de l'emprise qu'il pouvait avoir sur ses jeunes victimes. La cour cantonale a retenu qu'il s'en était pris à plusieurs enfants, à plusieurs reprises et qu'il avait fait preuve d'une cruauté particulière. Malgré les regrets exprimés et le changement de personnalité allégué, le prévenu n'était en réalité pas parvenu à reconnaître la gravité des faits retenus à sa charge. Sa déresponsabilisation était massive en ce sens qu'il s'estimait guéri et niait toute dangerosité. La méticuleuse préméditation de l'ensemble des agressions commises a été retenue à charge, ainsi que sa responsabilité pleine et entière. La cour cantonale a encore retenu le concours d'infractions.
Les difficultés personnelles rencontrées par le prévenu dans son parcours de vie ont été retenues à décharge par la cour cantonale, ainsi que sa vulnérabilité dans le cadre de l'exécution de sa peine (cancer en phase terminale, dialyses bihebdomadaires). Il a également été tenu compte du fait que, dans une certaine mesure et à sa façon, le prévenu avait collaboré avec les enquêteurs.
2.3. Le recourant prétend à une atténuation de sa peine au motif qu'un article de presse virulent aurait conduit à un grave préjugé de la culpabilité (mémoire d'appel ch. 2.2).
Il s'agit d'un article intitulé " La double vie du pédophile de Gland ", paru dans un hebdomadaire romand le 12 septembre 2012, contenant notamment des indications sur le prénom, la date de naissance et l'ancien domicile du recourant ainsi qu'une photo passeport munie d'un bandeau sur les yeux.
2.3.1. Il y a lieu de tenir compte, en tant que facteur de fixation de la peine, d'une publication préjugeant de la culpabilité d'une personne soupçonnée dans les comptes-rendus de la presse, selon la gravité de l'atteinte aux droits (ATF 128 IV 97 consid. 3b/aa p. 104). Le Tribunal fédéral l'a admis dans un cas où une conférence de presse avait été donnée par le Procureur de la Confédération, conduisant à un grave préjugé de la culpabilité de l'accusé, entraînant un quasi-effet de sanction pénale. Le Tribunal fédéral avait dans cet arrêt estimé que cet important préjugé avait lourdement influencé les organes de poursuite pénale alors qu'il s'était avéré plus tard que les soupçons publiés étaient largement infondés (arrêt 9X.1/1998 du 29 octobre 1999 consid. 25b).
Il appartient au recourant de démontrer en quoi la médiatisation dénoncée a conduit à ce qu'il soit préjugé et lui a causé un préjudice important (cf. ATF 128 IV 97 consid. 3b/bb p. 106 et les références citées; arrêt 6B_339/2011 du 5 septembre 2011 consid. 9.2.1).
2.3.2. La cour cantonale n'a pas atténué la peine au regard de l'attitude de la presse, faute pour le recourant d'avoir démontré que l'article en question aurait violé la présomption d'innocence ou qu'il aurait conduit à ce qu'il soit préjugé dans le cas particulier.
2.3.3. Faute de s'en prendre à la motivation cantonale, il est douteux que le grief du recourant soit recevable. En tout état, il échoue à démontrer tant une quelconque influence de l'article incriminé sur les organes de poursuite pénale, qu'un éventuel préjudice.
Si l'atténuation de la peine a été admise dans le cas particulier décrit dans l'arrêt 9X.1/1998, elle a été exclue dans l'ATF 128 IV 97, alors que l'intéressé, prévenu notamment de contrainte sexuelle, avait fait l'objet de cinq reportages ou émissions télévisés voire télé-journaux, dont deux diffusés dans les jours qui précédaient le jugement de première instance, et d'articles dans la presse de journaux régionaux. Tant à l'écran que dans la presse, il était apparu à visage découvert.
En l'occurrence, l'article litigieux est paru plus d'un an avant le prononcé du jugement de première instance, il est l'aboutissement d'une enquête menée par des journalistes qui certes emploient des mots durs et emprunts d'émotion (cf. jugement entrepris consid. 3.2 p. 37), sans toutefois violer la présomption d'innocence, étant rappelé que ce principe n'interdit pas aux journalistes de prendre parti. Il est douteux que la description de l'article de presse et l'affirmation selon laquelle il en aurait résulté une pression qui aurait certainement influencé les jugements rendus à l'encontre du recourant, soient recevables. En tout état, elles ne permettent pas de démontrer dans quelle mesure la cause aurait été préjugée ou que le recourant aurait subi un préjudice important. Par conséquent, les conditions pour une atténuation de la peine ne sont pas réunies.
2.4. Le recourant dresse une liste des manifestations de remords exprimées au cours de la procédure et affirme, à tort, que la cour cantonale n'y a fait aucune référence (mémoire de recours ch. 2.3). Le jugement cantonal retient expressément que le recourant a formulé des regrets en relativisant toutefois leur portée compte tenu de l'absence de reconnaissance de la gravité des faits incriminés (jugement entrepris, consid. 3.2 p. 36). Il n'y a pas lieu d'entrer en matière sur la critique que le recourant formule à l'encontre de l'expertise qui ne ferait pas référence aux innombrables manifestations de remords, faute de grief recevable. Au demeurant, les éléments mis en exergue dans l'expertise (manque total d'empathie, reconnaissance partielle des faits, minimisation de la gravité des faits, déni, etc.) tendent à relativiser la portée et la sincérité des remords.
Le recourant s'écarte de manière irrecevable de l'état de fait cantonal en déclarant qu'il avait l'intention d'envoyer une lettre à B._ pour la rassurer sur le fait qu'elle n'avait pas subi de viol. L'on peut se demander d'ailleurs dans quelle mesure une telle affirmation consacrerait des remords.
2.5. Le recourant insiste sur son auto-dénonciation pour les actes commis sur A._ et y voit un facteur d'atténuation. Ce faisant, il semble omettre que sa collaboration durant l'enquête a été prise en compte à sa décharge lors de la fixation de la peine (jugement entrepris, consid. 3.2 p. 37).
Le recourant est irrecevable à affirmer que les faits pour lesquels il s'est auto-dénoncé étaient totalement inconnus de la police de sorte qu'il était assuré d'impunité s'il avait gardé le silence (cf. art. 105 al. 1 et 97 al. 1 LTF). Ainsi, point n'est besoin d'examiner plus avant les motifs qui auraient conduit le recourant à dénoncer ces faits.
2.6. Il ne sera pas entré en matière sur la description présentée par le recourant, de sa situation personnelle dans les années qui ont précédé les faits reprochés, pour justifier " l'état de tentation si grave qu'il en a altéré la faculté d'apprécier le caractère illicite " de son acte (mémoire de recours, ch. 2.5). Outre le fait que l'appréciation personnelle de l'impact de ces évènements sur son état mental s'avère irrecevable, celle-ci n'est pas propre à remettre en cause la conclusion de l'expertise psychiatrique, selon laquelle la faculté du prévenu d'apprécier le caractère illicite de ses actes était conservée au moment des faits (jugement entrepris, consid. 2 p. 22). La cour cantonale a d'ailleurs retenu une responsabilité pleine et entière, sans qu'il soit question d'une quelconque altération générée par les difficultés somatiques, professionnelles ou sociales décrites dans le jugement (jugement entrepris consid. 3.2 p. 36), celles-ci ne pouvant d'ailleurs en aucun cas expliquer le comportement criminel du prévenu.
2.7. C'est en vain que le recourant prétend à une diminution de sa peine au vu de son absence d'antécédents en se fondant sur l'ATF 98 IV 124. Cette jurisprudence a été modifiée par l'arrêt publié aux ATF 136 IV 1, qui prévaut depuis lors, à teneur duquel l'absence d'antécédents a un effet neutre sur la fixation de la peine et n'a donc pas à être prise en considération dans un sens atténuant (cf. consid. 2.6.4 p. 3).
2.8. En tant que le recourant décrit de manière détaillée les différentes maladies dont il souffre et les traitements qu'elles impliquent, afin de justifier une atténuation de sa peine (mémoire de recours, ch. 2.7), il semble omettre que la cour cantonale a précisément pris en compte sa vulnérabilité face à l'exécution de la peine en raison de son état de santé (jugement entrepris consid. 3.2 p. 36 s.). Le recourant ne formule d'ailleurs aucune critique à l'égard de la motivation cantonale, de sorte qu'il n'y a pas lieu d'entrer en matière sur ce point.
2.9. Au surplus, les courriers du recourant, postérieurs à l'échéance du délai de recours, contenant une analyse personnelle des critères de fixation de la peine, de même que les pièces qui les accompagnent, sont irrecevables. En effet, outre leur caractère appellatoire, ils tendent à compléter les développements de son mémoire de recours (cf. ATF 125 I 71 consid. 1d/aa p. 77; arrêt 6B_614/2012 du 15 février 2013 consid. 1).
2.10. En définitive, au regard de l'ensemble des éléments mis en exergue, notamment, du concours d'infractions ayant gravement porté atteinte tant au développement des mineurs qu'à leur intégrité sexuelle et de la cruauté avec laquelle le recourant a agi, la peine privative de liberté de 10 ans n'apparaît pas sévère au point qu'il faille conclure à un abus du large pouvoir d'appréciation accordé à la cour cantonale. La peine prononcée demeure d'ailleurs aux deux tiers du plafond défini par le cadre légal qui s'étend, en l'occurrence, de 3 à 15 ans de privation de liberté (art. 49 al. 1 CP).
3.
Le recourant conteste l'internement prononcé à son encontre. Il estime que la cour cantonale aurait fait une mauvaise lecture de l'expertise en ordonnant un internement plutôt qu'une mesure thérapeutique institutionnelle au sens de l'art. 59 CP, laquelle pouvait être mise en oeuvre en milieu carcéral.
3.1. Selon l'art. 56 al. 1 CP, une mesure doit être ordonnée si une peine seule ne peut écarter le danger que l'auteur commette d'autres infractions (let. a), si l'auteur a besoin d'un traitement ou que la sécurité publique l'exige (let. b) et si les conditions prévues aux art. 59 à 61, 63 ou 64 sont remplies (let. c). La mesure prononcée doit respecter le principe de la proportionnalité, c'est-à-dire que l'atteinte aux droits de la personnalité qui en résulte pour l'auteur ne doit pas être disproportionnée au regard de la vraisemblance qu'il commette de nouvelles infractions et de leur gravité (art. 56 al. 2 CP).
3.1.1. Selon l'art. 59 al. 1 CP, un traitement thérapeutique institutionnel peut être ordonné en faveur d'une personne souffrant d'un grave trouble mental (a) si elle a commis un crime ou un délit en relation avec ce trouble et (b) s'il est à prévoir que cette mesure la détournera de nouvelles infractions en relation avec ce trouble.
3.1.2. L'internement fondé sur l'art. 64 CP suppose que l'auteur ait commis l'une des infractions énumérées à l'al. 1 de cette disposition, et qu'il ait par là porté ou voulu porter gravement atteinte à l'intégrité physique, psychique ou sexuelle d'autrui. Cette condition d'atteinte grave portée ou voulue à l'encontre de la victime vaut autant pour les infractions citées dans le catalogue que celles visées par la clause générale de l'art. 64 al. 1 CP (ATF 139 IV 57 consid. 1.3.3 p. 61). Il faut en outre que l'une des conditions alternatives posées à l'art. 64 al. 1 CP soit réalisée, à savoir que, en raison des caractéristiques de la personnalité de l'auteur, des circonstances dans lesquelles il a commis l'infraction et de son vécu, il soit sérieusement à craindre qu'il ne commette d'autres infractions du même genre (let. a) ou que, en raison d'un grave trouble mental chronique ou récurrent en relation avec l'infraction, il soit sérieusement à craindre que l'auteur ne commette d'autres infractions du même genre et que la mesure prévue à l'art. 59 CP - à savoir une mesure thérapeutique institutionnelle - apparaisse vouée à l'échec (let. b).
3.1.3. En présence d'un trouble psychiatrique, l'internement constitue, conformément au principe de proportionnalité consacré par l'art. 56 al. 2 CP, une mesure subsidiaire par rapport à une mesure institutionnelle prévue par l'art. 59 CP. En tant qu' ultima ratio, en raison de la gravité de l'atteinte à la liberté personnelle qu'il représente, l'internement n'entre ainsi pas en considération tant que la mesure institutionnelle apparaît utile (ATF 139 IV 57 consid. 1.3.3 p. 61). Ce n'est que lorsque cette dernière mesure semble dénuée de chances de succès que l'internement peut être prononcé, s'il est nécessaire. Cette démarche doit permettre d'éviter qu'un auteur soit déclaré a priori « incurable » et interné dans un établissement d'exécution des peines (ATF 134 IV 315 consid. 3.2 et 3.3 p. 320 s.; ATF 134 IV 121 consid. 3.4.2 p. 130).
Le seul fait que l'intéressé soit désireux et apte à suivre un traitement institutionnel ne suffit toutefois pas à éviter l'internement ou son maintien. L'art. 59 al. 1 let. b CP subordonne en effet le prononcé d'un traitement institutionnel à la condition qu'il soit à prévoir que cette mesure détournera l'intéressé de nouvelles infractions en relation avec son trouble. Tel est le cas lorsqu'au moment de la décision, il est suffisamment vraisemblable qu'un traitement institutionnel entraînera, dans les cinq ans de sa durée normale, une réduction nette du risque que l'intéressé commette, en raison de son trouble mental, un crime prévu à l'art. 64 CP. La possibilité vague d'une diminution du risque ou l'espoir d'une diminution seulement minimale de ce risque ne sont en revanche pas suffisants (cf. ATF 134 IV 315 consid. 3.4.1 p. 321; également arrêt 6B_92/2010 du 30 mars 2010 consid. 1.2).
3.1.4. Pour ordonner une des mesures prévues aux art. 59 à 61, 63 et 64 CP, le juge doit se fonder sur une expertise. Celle-ci doit se déterminer sur la nécessité et les chances de succès d'un traitement, la vraisemblance que l'auteur commette d'autres infractions et la nature de celles-ci, et sur les possibilités de faire exécuter la mesure (art. 56 al. 3 CP).
3.2. Se fondant sur le rapport d'expertise et les déclarations de l'expert aux débats, la cour cantonale a retenu que le recourant souffrait d'un grave trouble mental récurrent, auquel les infractions commises étaient directement liées. Les infractions de contrainte sexuelle et viol qualifiés étant envisagées par l'art. 64 al. 1 CP, le recourant présentait par ailleurs un risque de récidive élevé et sa dangerosité était majeure. Elle a ainsi considéré que la peine infligée devait être assortie d'une mesure.
La cour cantonale a écarté la mesure thérapeutique institutionnelle en se fondant sur la difficulté évoquée par l'expert, de soigner une pédophilie du type de celle affectant le prévenu, à tel point qu'un pédophile n'était jamais vraiment guéri. En tout état, l'expert avait constamment évoqué un traitement de longue durée et sur le long terme, précisant qu'une durée de cinq ans ne pouvait être considérée comme une période significative ou suffisante. A lire l'expertise, le travail était manifestement de bien plus longue haleine, afin que le recourant - qui niait aux débats d'appel encore toute problématique et s'estimait guéri - puisse franchir la première étape d'un processus d'amélioration de ses troubles en sortant du déni de sa maladie et de sa dangerosité.
3.3. Le recourant reproche pour l'essentiel à la cour cantonale d'avoir fait une mauvaise lecture de l'expertise, sans pour autant remettre en cause cette dernière.
La seule question litigieuse en l'espèce porte sur les chances de succès d'une mesure thérapeutique institutionnelle, laquelle doit être préférée, cas échéant, à l'internement en vertu des principes développés supra.
3.3.1. Il n'y a pas lieu d'entrer en matière sur le résumé des points de l'expertise que le recourant estime essentiels et sur les conclusions qu'il en retire, dès lors qu'il se livre ainsi à une appréciation personnelle du document, sans exposer sur quels points l'autorité cantonale aurait tiré des conclusions arbitraires. Il en va de même de l'affirmation selon laquelle " toute l'expertise est construite autour de la perspective de l'application d'un traitement psychothérapeutique ".
3.3.2. Interrogés sur le traitement des troubles du recourant, les experts indiquent qu'un traitement psychothérapeutique " peut toujours être tenté. Toutefois, vu l'ancienneté et la sévérité du trouble, le pronostic est réservé " (cf. expertise psychiatrique, ch. 8.4.1 p. 31). Se prononçant sur ce point lors des débats de première instance, l'expert a relevé que le mode de collaboration du prévenu s'inscrivait dans un aspect défensif soulignant qu'il fallait parfois des années de traitement avant d'arriver à ce qu'une personne puisse reconnaître déjà assez spontanément ce qui s'était passé pour se l'attribuer. Il s'agissait d'une première étape du traitement, soit sortir du déni et de la protection. L'expert constatait que le recourant n'intégrait pas du tout ce qu'il avait fait de mal (cf. jugement de première instance, p. 59 in fine), parlant par exemple de la prison comme d'un camp de vacances. Le temps nécessaire pour qu'une telle intégration soit possible impliquait une longue durée, qu'on ne pouvait prédire, mais cinq ans ne paraissait pas une très longue durée dans ce genre de thérapie. Interpellée sur les perspectives de guérison du prévenu, l'expert a indiqué qu'on ne pouvait jamais dire qu'un pédophile était guéri. Tout ce que l'on pouvait dire était qu'il avait fait suffisamment de progrès pour que la dangerosité soit sous contrôle, l'échec ne s'évoquait pas en termes de guérison ou de non-guérison.
3.3.3. Il ressort des considérations des experts que, si une évolution favorable du recourant n'est pas impossible, elle est toutefois douteuse et ne s'inscrit que dans une longue durée, la première étape consistant seulement à sortir du déni. Il est fait mention d'un pronostic réservé, voire d'un mauvais pronostic, laissant présager que, pour autant qu'il soit efficace sur la durée, les bénéfices d'un traitement ne sont pas perceptibles ou du moins vagues. Ainsi, il n'était pas manifestement insoutenable de conclure que les chances de succès d'un traitement étaient faibles.
Certes, l'expert a indiqué que personne ne pouvait affirmer qu'un traitement psychothérapeutique était voué à l'échec. Le recourant ne saurait toutefois en tirer grief dans la mesure où il s'agit là d'un principe prévalant en psychiatrie sans qu'il faille en déduire qu'un traitement aurait, en l'occurrence, des chances de succès au sens de la jurisprudence. Ainsi, outre l'irrecevabilité de l'affirmation, selon laquelle les experts n'auraient jamais dit qu'il était aléatoire voire illusoire d'entreprendre un traitement, celle-ci est également erronée.
Le recourant ne saurait se prévaloir de la déclaration de l'expert selon laquelle, à défaut de permettre une guérison, un traitement pouvait toutefois entrainer des progrès pour que la dangerosité d'une personne pédophile soit sous contrôle (jugement entrepris consid. 4.4 p. 42 s.), puisqu'il s'agit là d'une remarque générale sur un résultat hypothétique qui ne suggère pas pour autant qu'une mesure thérapeutique le détournerait personnellement de commettre de nouvelles infractions en lien avec son trouble.
3.3.4. Le recourant suggère que l'internement a été préféré à la mesure thérapeutique au seul motif que cette dernière était en règle générale limitée à cinq ans - période considérée comme trop courte pour le soigner -, alors même que l'art. 59 al. 4 CP, 2ème phrase, permet d'ordonner la prolongation de la mesure.
Ce faisant, il omet qu'un traitement institutionnel n'entre en ligne de compte que s'il est suffisamment vraisemblable qu'il entraînera, dans les cinq ans de sa durée normale, une réduction nette du risque de commettre un crime prévu à l'art. 64 CP. Or, au vu des constatations cantonales résultant d'une appréciation non arbitraire de l'expertise psychiatrique, l'espoir d'une diminution du risque de récidive grâce à un traitement institutionnel apparaît purement théorique, voire nul sur une durée de cinq ans, tant le processus d'amélioration constitue un travail de longue haleine. Le fait que l'engagement du recourant dans le traitement entrepris en détention reste passif et déresponsabilisé (jugement entrepris, consid. 2 p. 22), est d'ailleurs un indice supplémentaire en ce sens.
3.3.5. Selon le recourant, les experts étaient favorables à un internement uniquement en raison de son exécution en milieu pénitentiaire, cela en occultant la possibilité légale d'ordonner une mesure thérapeutique en milieu carcéral. Cette interprétation personnelle des conclusions de l'expert est irrecevable. En tout état, il n'appartient pas à l'expert-psychiatre de décider quel type de mesure doit être prononcé, son rôle étant clairement défini par l'art. 56 al. 3 CP. C'est d'ailleurs conformément à cette disposition que les experts ont formulé un pronostic réservé s'agissant d'un traitement des troubles dont souffre le recourant.
3.3.6. En tant que le recourant soutient qu'il n'y a aucune différence entre la mesure institutionnelle appliquée en milieu carcéral et un internement, sur le plan de la sécurité publique, il ne fait valoir aucun grief recevable.
3.3.7. En définitive, compte tenu des sérieux doutes éprouvés par les experts quant à la possibilité d'une évolution thérapeutique du recourant, de son désinvestissement du traitement suivi en prison, de son déni persistant aux débats d'appel et du temps nécessaire pour franchir la première étape d'un processus d'amélioration de ses troubles, la cour cantonale pouvait considérer, sans violation du droit fédéral, qu'il n'était pas établi qu'un traitement institutionnel permettrait de détourner le recourant de commettre de nouvelles infractions, quand bien même la mesure serait exécutée en milieu carcéral (cf. art. 59 al. 3 CP).
4.
Le recours doit être rejeté dans la mesure où il est recevable. Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (art. 64 al. 1 LTF). Le recourant devra donc supporter les frais judiciaires (art. 66 al. 1 LTF), dont le montant sera toutefois fixé en tenant compte de sa situation financière.
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1600 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 8 octobre 2015
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Klinke