Faits : A. Par jugement du 12 décembre 2013, le Tribunal criminel de l'arrondissement de La Côte a constaté que X._ s'était rendu coupable de viol qualifié, de tentative de viol, de contraintes sexuelles qualifiées, de contraintes sexuelles, d'actes d'ordre sexuel avec des enfants, de tentatives d'actes d'ordre sexuel avec des enfants, de séquestration, et de pornographie (I) et l'a condamné à 9 ans de peine privative de liberté, sous déduction de la détention subie avant jugement (II). Le Tribunal criminel a ordonné le maintien de la détention de X._ pour des motifs de sûreté (III), a ordonné son internement au sens de l'art. 64 al. 1 let. b CP (IV) et l'a condamné à verser aux victimes ainsi qu'à certains de leurs proches des indemnités à titre de réparation du tort moral (V à X). Les frais de la cause, comprenant les indemnités des défenseurs et conseils d'office ont été mis à la charge de X._ (XII à XVI). B. Statuant sur l'appel du prévenu et l'appel joint du Ministère public, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud a rejeté le premier et partiellement admis le second, par jugement du 24 juin 2014. La cour cantonale a condamné X._ à une peine privative de liberté de 10 ans, sous déduction de la détention subie avant jugement (II), le jugement de première instance étant confirmé pour le surplus. Les frais d'appel, y compris l'indemnité allouée au défenseur d'office du prévenu et aux conseils d'office des plaignants ont été mis à la charge de X._ (IX). En substance, les faits reprochés sont les suivants. B.a. X._ a téléchargé, via Internet, et stocké dans la mémoire de plusieurs ordinateurs ainsi que dans celle de plusieurs disques durs externes, plusieurs centaines d'images montrant des enfants mineurs mêlés à des actes sexuels. B.b. A tout le moins à cinq reprises entre 2007 et 2010, il a attiré A._, née en 2000, dans une pièce de son appartement afin de commettre des actes d'ordre sexuel à son endroit. Pour ce faire, il s'est faussement présenté comme étant médecin travaillant pour le compte d'une organisation suisse s'occupant de la santé des enfants. Il lui a proposé de l'argent en échange de photos pour les besoins d'une prétendue recherche scientifique qu'il menait. Il lui a demandé de se déshabiller ou s'en est chargé lui-même et a pris des clichés de la fillette nue dans différentes positions, en la contraignant notamment de s'écarter le sexe, de se le caresser digitalement ainsi qu'au moyen d'un vibromasseur. Il lui a introduit à plusieurs reprises ce même objet, ainsi qu'un doigt ou un thermomètre. A une reprise, il a pénétré la fillette analement au moyen d'un tube à cigare d'une quinzaine de centimètres, alors qu'un vibromasseur enclenché était déjà introduit profondément dans son vagin. Cette scène a été immortalisée au moyen de son appareil photo. Il a également tenté, lors de sa dernière " auscultation ", après avoir enlevé son pantalon et son slip, de pénétrer vaginalement la fillette, sans protection. X._ n'a cependant pas réussi à commettre son méfait, sa victime l'ayant vigoureusement repoussé. B.c. En avril 2011, il a séquestré B._, née en 1999, et a abusé d'elle sexuellement après avoir longuement et soigneusement repéré et préparé les lieux. En bref, prétextant avoir besoin d'aide pour réparer quelque chose dans la buanderie de l'immeuble où elle vivait, il a amené la fillette à le conduire dans le local technique du sous-sol, verrouillé la porte, et a placé une main sur sa bouche pour l'empêcher de crier l'intimant de ne plus bouger en la menaçant au moyen d'une arme (petit couteau). Il a alors saisi des morceaux de scotch qu'il avait prédécoupés pour obstruer la vue de la fillette et la bâillonner. Tout en tenant le couteau pour qu'elle n'oppose aucune résistance, il a entravé la fillette dans sa liberté de mouvement en lui attachant les mains dans le dos, puis devant, au moyen de câbles électriques qu'il avait dénudés préalablement. Après l'avoir déshabillée entièrement, et l'avoir allongée sur une table, il lui a interdit de prier en disant que Dieu n'existait pas et l'a menacée avec le couteau de la tuer si elle parlait. Il lui a ensuite nettoyé le sexe avec des lingettes et du coton imbibé de gel lubrifiant, s'est emparé d'un vibromasseur d'environ quinze centimètres, enduit du même produit, et a caressé la vulve et le clitoris de sa victime avec ledit objet avant de l'insérer dans son vagin. Il a alors pris trois photos du sexe de la fillette en la plaçant dans différentes positions. A la demande de X._, la fillette a uriné, pendant qu'il la prenait en photo. Il a enclenché le vibromasseur et réintroduit l'objet à l'intérieur du vagin de sa victime, tout en faisant des va-et-vient, alors qu'elle baignait dans son urine. Celle-ci a alors manifesté sa douleur en criant, ce dont le prévenu s'est accommodé. Il a expliqué à sa victime qu'à la suite de ce qu'il lui faisait, elle ne pourrait pas avoir d'enfant quand elle serait adulte. Il lui a asséné une gifle car elle faisait du bruit. Puis, il a introduit un pouce à l'intérieur du sexe de la fillette avant de la pénétrer avec un godemiché. Durant ces actes, X._ a pris d'autres clichés et a menacé sa victime de les publier sur Internet si elle parlait de cela à quelqu'un. Il lui a également dit qu'il reviendrait pour la tuer le cas échéant. Le prévenu a ensuite léché le clitoris de la fillette avant de lui caresser la vulve et la poitrine. Il a enlevé son pantalon et son caleçon, a placé et frotté sa verge, qui n'était pas en érection, entre les petites lèvres de la jeune fille avant de la pénétrer partiellement et furtivement, sans protection. Selon cette dernière, l'acte sexuel a duré environ trois minutes et le prévenu n'a pas éjaculé. Une fois son forfait accompli, il a nettoyé la table sur laquelle se trouvait sa victime et a abondamment aspergé le sexe de cette dernière de liquide anti-bactérien. Il a rangé méthodiquement ses affaires dans un sac et a indiqué à la jeune fille qu'elle devait compter jusqu'à cent avant de pouvoir partir. A ce moment-là, il a éteint la lumière du local technique, retiré les scotchs se trouvant sur les yeux de sa victime avant de quitter les lieux et de la laisser nue et attachée dans un coin de la pièce. La jeune fille s'est alors tant bien que mal défaite de ses liens, a enlevé le scotch qui était sur sa bouche et s'est rhabillée après avoir réussi à allumer la lumière. Un examen clinique a été effectué au CHUV le jour même des faits, révélant des lésions et dermabrasions autour des poignets. Sur le plan gynécologique, outre des extrêmes douleurs à la palpation, les médecins ont constaté diverses dermabrasions, une déchirure hyménéale complète sur environ 4 mm, des lésions et des pétéchies au niveau des petites lèvres. B.d. En novembre 2011, au retour d'une sortie avec ses deux enfants et C._, fille d'un de ses amis de longue date, née en 2000, X._ a isolé la fillette par le même stratagème qu'employé pour appâter A._ (recherches médicales), en lui proposant de l'argent si elle se laissait photographier. Cette dernière a refusé et, profitant du retour du colocataire de X._, a quitté les lieux. B.e. Entre le 26 et le 29 juillet 2012, à tout le moins dans deux piscines publiques à Genève, X._, muni d'un photo montage le faisant apparaître comme un contrôleur de l'hygiène et se présentant comme tel, a abordé cinq filles, en leur expliquant qu'il devait effectuer des prélèvements sur leur corps dans sa cabine à titre de contrôles d'hygiène. Son objectif était d'attirer ces fillettes dans sa cabine afin de commettre sur elles des attouchements à caractère sexuel, ainsi que prendre des photos de leur intimité. X._ n'est pas parvenu à ses fins dès lors que les fillettes se sont méfiées de lui. La fouille de la cabine que le prévenu louait auprès d'une des piscines a permis de découvrir l'existence d'un sac contenant un vibromasseur, un thermomètre, des préservatifs et un appareil photo. C. En cours d'enquête, le recourant a fait l'objet d'une expertise psychiatrique judiciaire, rendue le 30 avril 2013. Celle-ci se fonde sur plusieurs entretiens avec l'expertisé, un examen psychologique ainsi que des rapports médicaux de son néphrologue et de son urologue. Un complément d'expertise a été ordonné et rendu le 25 juin 2013. Entendue aux débats de première instance, une des experts a confirmé entièrement les rapports déposés en procédure et s'est prononcée en particulier sur les perspectives thérapeutiques d'un éventuel traitement. C.a. Après avoir rappelé les circonstances de vie du prévenu, les experts ont établi une anamnèse affective, sexuelle et médico-psychiatrique de l'expertisé puis ont dressé son status psychiatrique. En substance, les experts décrivent un important détachement affectif de l'expertisé et une tendance à l'intellectualisation, ainsi qu'une claire banalisation et une tendance à minimiser la gravité des actes commis. Il présente aussi un déni important au niveau de la sphère pulsionnelle et sexuelle, niant par exemple toute attirance ou excitation procurée par des images de pédopornographie ou des actes commis et intellectualisant " un intérêt médical, anatomique ". De l'avis des experts, les aspects pervers de la personnalité sont, au premier plan, caractérisés par une constante recherche d'emprise sur l'autre dans la relation, par un recours fréquent à l'inversion des rôles et par une tendance à manipuler et à arranger la réalité. L'expertise relève un manque total d'empathie avec la victime qu'il a tendance à percevoir comme une victime consentante, collaborante et une tendance à occulter des informations et les avouer uniquement quand il est confronté aux multiples contradictions de son discours ou aux évidences des preuves et des déclarations des victimes et témoignages. Les experts posent les diagnostics de pédophilie (F65.4) et de trouble de la personnalité, sans précision (traits narcissiques et pervers) (F60.9). Dans leur discussion, les experts soulignent que l'expertisé ne parvient que rarement à s'attribuer une responsabilité dans ses actes, responsabilité qui est largement projetée sur l'entourage (par ex. les épouses), le hasard (c'est par hasard qu'il tombe sur des photos pédopornographiques sur Internet, par hasard qu'il agresse B._), une sorte de fatalité (le faux dossier médical lui " tombe dans les mains "), et, surtout, les victimes elles-mêmes. Celles-ci sont avant tout responsables de ne pas lui avoir posé de limite alors que selon lui elles avaient les connaissances requises pour le faire. Déniant toute violence à ses actes, l'intéressé n'identifie pas la peur de l'enfant et voit celle-ci comme participant à l'abus dont elle est victime. On assiste à une inversion perceptive, quand il perçoit que l'enfant prend plaisir à ce qui lui est fait, tout comme il inverse, cette fois sur un plan cognitif, les responsabilités. La reconnaissance des faits est donc partielle. La reconnaissance du caractère délictueux des actes est minimisée par leur banalisation et la déresponsabilisation qu'il s'en octroie. Elle l'est également par son interprétation plus globale de l'interdit. Les accusations lui paraissent disproportionnées et il fait souvent référence à un jugement qui est dû à l'époque actuelle de " néopuritanisme ". Au moment de conclure, les experts retiennent que le prévenu présente une pédophilie dont les passages à l'acte se sont aggravés au fil des années, jusqu'à aboutir à une agression d'une grande violence à tonalité mortifère, dans laquelle la victime était réduite à l'état d'objet déshumanisé. La déresponsabilisation de l'intéressé reste massive, s'appuyant sur des mécanismes de déni, de projection, inversion, banalisation classiques dans les traits pervers de personnalité. La frontière du bien et du mal n'est pas définie, la violence niée. L'aspect narcissique renforce cette problématique, le prévenu se présentant comme au-dessus de la loi des hommes, et préoccupé avant tout de l'impact de la sanction sur lui-même. L'empathie envers les victimes est partielle et se limite à un souhait qu'elles aillent bien dans l'avenir. L'expertisé se perçoit comme une victime au même titre qu'elles. Les visions d'avenir du prévenu montrent une absence totale d'intégration des éléments précités. S'agissant du traitement en détention, l'engagement de l'expertisé reste passif et déresponsabilisé.