Faits :
A.
A.a. Par jugement du 27 juin 2008, le Tribunal criminel de l'arrondissement de l'Est vaudois a condamné X._ à la peine privative de liberté à vie pour le meurtre de sa mère, ainsi que l'assassinat de sa soeur et d'une amie de sa mère, le 24 décembre 2005.
Par arrêt du 29 octobre 2008, la Cour de cassation pénale du canton de Vaud a rejeté le recours formé contre ce jugement.
A.b. A la suite de l'admission par la Chambre des révisions civiles et pénales du canton de Vaud, le 23 novembre 2009, de la demande de révision déposée par X._, le Tribunal criminel de l'arrondissement de Lausanne a procédé à une nouvelle instruction complète de la cause. Par jugement du 18 mars 2010, il a maintenu la condamnation pénale prononcée le 27 juin 2008.
Par arrêt du 4 octobre 2010, la Cour de cassation pénale du canton de Vaud a rejeté le recours formé contre le jugement du 18 mars 2010.
A.c. Par arrêt du 20 décembre 2011 (6B_118/2009 - 6B_12/2011, en partie reproduit in ATF 138 I 97), le Tribunal fédéral a partiellement admis le recours 6B_12/2011, formé contre les décisions des 18 mars et 4 octobre 2010, en ce qui concerne l'une des indemnités pour tort moral prononcées. Il l'a rejeté pour le surplus. Il a déclaré le recours 6B_118/2009, formé contre l'arrêt du 29 octobre 2008, sans objet et rayé cette cause du rôle.
A.d. Par arrêt du 16 mars 2012 (6F_3/2012), le Tribunal fédéral a rejeté la demande de révision de l'arrêt du 20 décembre 2011 précité, formée par X._ le 24 janvier 2012.
B.
Par jugement du 30 juin 2014, la Cour d'appel pénale du canton de Vaud a déclaré irrecevables les demandes de récusation et de révision du jugement du 18 mars 2010 et de l'arrêt du 4 octobre 2010, formées par X._.
C.
Ce dernier dépose un recours en matière pénale auprès du Tribunal fédéral contre le jugement du 30 juin 2014. Il conclut à ce que sa demande de révision soit admise et renvoyée à l'autorité précédente pour nouvelle instruction, à l'annulation voire à la suspension des dispositifs du jugement du 18 mars 2010 et de l'arrêt du 4 octobre 2010. A titre subsidiaire, il requiert le renvoi de la cause à l'autorité précédente pour qu'elle ordonne la révision et prenne toutes les mesures utiles à cet effet. Il demande le bénéfice de l'assistance judiciaire.
Considérant en droit :
1.
Le Tribunal fédéral est lié par les constatations de fait de la décision entreprise (art. 105 al. 1 LTF), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst.
Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Toutefois, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, il n'examine en principe que les griefs soulevés. Le recourant doit par conséquent critiquer les motifs de la décision entreprise et indiquer précisément en quoi il estime que l'autorité précédente a méconnu le droit (ATF 140 III 86 consid. 2 p. 88 s.). En outre, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce moyen est invoqué et motivé par le recourant (art. 106 al. 2 LTF), c'est-à-dire s'il a été expressément soulevé et exposé de manière claire et détaillée. Les critiques de nature appellatoire sont irrecevables (ATF 140 III 264 consid. 4.2 p. 266).
2.
Le recourant soulève une violation des art. 9 Cst., interdisant l'arbitraire, et 29 al. 2 Cst. consacrant le droit d'être entendu. Dans ses conclusions, il invoque que sa requête de révision serait conforme aux art. 410 al. 1 let. a, art. 412 al. 3 et art. 413 al. 2 CPP.
2.1.
2.1.1. La demande de révision et la décision attaquée sont postérieures à l'entrée en vigueur du CPP. Il s'ensuit que les règles de compétence et de procédure des art. 410 ss CPP s'appliquent. Les motifs de révision pertinents sont en revanche ceux prévus par le droit applicable au moment où la décision dont la révision est demandée a été rendue. Cette réserve est toutefois sans portée s'agissant d'une révision en faveur du condamné, le motif de révision prévu à l'art. 410 al. 1 let. a CPP correspondant à celui de l'art. 385 CP, qui n'a d'ailleurs formellement pas été abrogé (arrêt 6B_1039/2013 du 10 mars 2014 consid. 2.1).
2.1.2. L'art. 410 al. 1 let. a CPP permet à toute personne lésée par un jugement entré en force d'en demander la révision s'il existe des faits ou des moyens de preuves qui étaient inconnus de l'autorité inférieure et qui sont de nature à motiver l'acquittement ou une condamnation sensiblement moins sévère ou plus sévère du condamné ou encore la condamnation de la personne acquittée.
Les faits ou moyens de preuve invoqués doivent ainsi être nouveaux et sérieux. Selon la jurisprudence, les faits ou moyens de preuve sont sérieux lorsqu'ils sont propres à ébranler les constatations de fait sur lesquelles se fonde la condamnation et lorsque l'état de fait ainsi modifié rend vraisemblable le prononcé d'un jugement sensiblement plus favorable au condamné (cf. ATF 137 IV 59 consid. 5.1.4 p. 68).
La question de savoir si un fait ou un moyen de preuve nouveau est propre à ébranler l'état de fait sur lequel est fondé le jugement relève de l'appréciation des preuves, étant rappelé que la vraisemblance suffit au stade du rescindant. Elle n'est revue par le Tribunal fédéral que sous l'angle limité de l'arbitraire (cf. ATF 130 IV 72 consid. 1 p. 73; arrêt 6B_601/2012 du 29 janvier 2013 consid. 1.2.3).
2.1.3. La procédure du rescindant instituée par le CPP se déroule, en principe, en deux phases comprenant un examen préalable de la recevabilité (art. 412 al. 1 et 2 CPP) puis celui des motifs invoqués (art. 412 al. 3 et 4 et art. 413 CPP). Il s'agit de deux étapes d'une seule et même procédure de la compétence de la juridiction d'appel (art. 412 al. 1 et 3 CPP).
Aux termes de l'art. 412 al. 2 CPP, la juridiction d'appel n'entre pas en matière sur la demande de révision si celle-ci est manifestement irrecevable ou non motivée ou si une demande de révision invoquant les mêmes motifs a déjà été rejetée par le passé. La procédure de non-entrée en matière selon cette disposition est en principe réservée à des vices de nature formelle. Il est néanmoins loisible à la juridiction d'appel de refuser d'entrer en matière si les motifs de révision invoqués apparaissent d'emblée non vraisemblables ou mal fondés (arrêt 6B_545/2014 du 13 novembre 2014 consid. 1.2 et les arrêts cités).
2.2. L'autorité précédente a estimé que les déclarations de D._ - frère du recourant -, reproduites dans l'ouvrage de Y._ et citées par le recourant à l'appui de sa demande de révision, ne fournissaient aucun élément révélateur de la culpabilité de D._ et donc de nature à disculper le recourant. Considérant que D._, en invoquant un souvenir d'enfance, n'avouait pas un fait que seul l'assassin aurait pu connaître, l'autorité précédente a également nié que ses déclarations constituent des éléments nouveaux. S'agissant de la lettre de D._ à sa mère du 7 janvier 1997, l'autorité précédente n'a pas tranché de son caractère nouveau, se bornant à constater que cette lettre ne pouvait être interprétée comme la chronique d'un homicide annoncé huit ans à l'avance. Au vu de ces considérations, elle a jugé que les moyens de révision invoqués apparaissaient d'emblée mal fondés au sens de l'art. 412 al. 2 CPP et a déclaré la demande de révision irrecevable.
On peut se demander si le raisonnement de l'autorité précédente relève encore de l'examen préalable de la recevabilité de la requête. La délimitation entre rejet après examen au fond et irrecevabilité parce que les motifs de révision invoqués apparaissent d'emblée non vraisemblables ou mal fondés est toutefois délicate à tracer (arrêt 6B_683/2013 du 26 novembre 2013 consid. 4.2). Cette question souffre de demeurer indécise. Lorsque, sous couvert d'examen préalable, l'autorité cantonale procède, en réalité, à une analyse des moyens de révision à l'aune de l'art. 410 al. 1 let. a CPP, on peut aussi considérer, même si elle déclare formellement irrecevable la requête, qu'elle a néanmoins examiné matériellement celle-ci et l'a rejetée. Dans une telle hypothèse, quelle que soit la formulation du dispositif de la décision attaquée (irrecevabilité ou rejet), le résultat est le même pour le requérant, qui se voit fermer l'accès au rescisoire après jugement de ses moyens (cf. arrêt 6B_683/2013 précité consid. 4.2). Il convient, dès lors, nonobstant l'irrecevabilité prononcée par l'autorité précédente d'examiner le bien fondé des motifs fondant sa décision.
2.3. Le recourant reproche à l'autorité précédente de n'avoir pas considéré que les propos de D._, durant une interview donnée à Y._, démontraient que D._ était présent au moment de la perpétration des crimes.
2.3.1. A l'appui de ce moyen, le recourant estime que l'autorité précédente a arbitrairement considéré que D._ avait décrit le drame lors de cette interview en se fondant sur des éléments connus, à l'époque, du dossier. Que l'autorité cantonale ne cite pas de pièces précises à cet égard ou que D._ n'ait prétendument - le recourant ne produit que trois pages de l'ouvrage à l'appui de sa demande de révision - jamais soutenu dans son interview qu'il allait raconter son scénario en s'appuyant sur les pièces au dossier ne suffisent pas à rendre insoutenable cette constatation. Au demeurant, D._ était partie à la procédure pénale ayant abouti au jugement du Tribunal criminel de l'arrondissement du 27 juin 2008, confirmé par celui du 18 mars 2010, dont le recourant demande la révision (cf. jugement du 4 octobre 2010, p. 2). Comme tel, D._ avait donc accès au dossier pénal. Or, il n'a été interviewé qu'après le début des débats du Tribunal criminel de l'arrondissement de l'Est vaudois en juin 2008 (cf. annexe 2 de la demande de révision). De plus, lors de cette interview, en réponse à la question de Y._ "Alors comment voyez-vous ce qui s'est passé", D._ a notamment déclaré "le scénario évoqué par l'accusation me paraît réaliste et plausible" (annexe 1 de la demande de révision, p. 154) et "quand on voit le compte rendu du médecin légiste" (annexe 1 de la demande de révision, p. 155). Au vu de ces éléments, il n'était de loin pas insoutenable de considérer que D._ s'était fondé pour présenter sa version des faits sur les éléments connus, à l'époque, du dossier pénal, parmi lesquels le fait que des ciseaux avaient été retrouvés à proximité du corps de sa mère, avec lesquels celle-ci s'était supposément défendue (jugement attaqué, p. 6 ch. 4 i. f.). Le grief d'arbitraire soulevé à cet égard est infondé.
2.3.2. Le recourant critique ensuite l'appréciation de l'autorité cantonale selon laquelle la description imaginée de la scène du crime par D._, citée dans l'ouvrage, ne fournissait aucun élément révélateur de sa culpabilité et donc de nature à disculper le recourant (jugement entrepris, p. 7). Il affirme que la version de D._ "contenait des précisions sur les mouvements réactionnels minute par minute des victimes" (recours, p. 6) et que cette version différait très sensiblement de celles des premiers juges.
La lecture des divers extraits qu'il cite - sans égard d'ailleurs au fait qu'ils ressortent ou non du jugement attaqué - ne convainc pas. Comme l'autorité précédente, on ne peut interpréter les déclarations de D._ que comme celles d'une personne ayant connaissance des éléments de la procédure pénale - et notamment de l'existence d'une paire de ciseaux avec laquelle la victime aurait pu tenter de se défendre - qui, interpellée, imagine comment les événements ont pu se dérouler, comme le ferait n'importe qui à sa place dans la même situation. Rien dans ses propos ne peut être compris comme un aveu de sa présence ce jour-là sur les lieux des crimes ou son implication dans ceux-ci. Il en va en particulier du fait que D._ ait indiqué que les ciseaux - sans préciser qu'il aurait reconnu ceux figurant au dossier pénal (contra recours, p. 7 s.) - étaient rangés, lorsqu'il était petit, dans une armoire de la cuisine.
Le recourant invoque la déclaration de D._ selon laquelle C._ aurait ouvert sa porte au moment où elle aurait entendu son amie chuter. Cette déclaration ne ressort pas de l'arrêt entrepris, sans que le recourant n'invoque l'arbitraire de son omission. Le grief est irrecevable. Au demeurant, cette déclaration est précédée des termes suivants: "Comme je vois le scénario", "Il l'a peut-être menacée", "je n'en sais rien", "c'est là que cela a peut-être dégénéré". A l'instar des autres propos de D._, la déclaration litigieuse ne peut être considérée que comme une supposition et non un aveu de sa présence sur les lieux des crimes, propre à fonder un motif de révision au sens de l'art. 410 al. 1 let. a CPP.
Pour le surplus, le recourant ne précise pas quelle autre réaction des victimes D._ aurait évoquée, qui se distinguerait en plus de la version retenue par les autorités judiciaires l'ayant condamné.
Dans ces conditions, l'autorité précédente n'a pas fait preuve d'arbitraire en estimant que les propos de D._ n'étaient pas sérieux, soit propres à modifier l'état de fait retenu, même au stade de la vraisemblance. Dans ces circonstances, la question de savoir si ces propos constituaient des faits ou moyens nouveaux, autre condition posée par l'art. 410 al. 1 let. a CPP, peut rester ouverte.
2.4. Le recourant invoque les propos du procureur, rapportés dans l'ouvrage de Y._. Il n'explique toutefois pas en quoi de tels éléments, par ailleurs non documentés, auraient dû être considérés, sous peine d'arbitraire, comme nouveaux et propres à modifier l'état de fait retenu.
2.5. Le recourant cite un passage de la lettre écrite par D._ à leur mère le 7 janvier 1997. Il reproche à l'autorité précédente de ne pas l'avoir vue comme la chronique des homicides perpétrés fin 2005. Il relève en particulier que D._ aurait "pris à témoin sa propre mère de ce qu'il était capable de faire contre elle pour arriver à ses fins" (recours, p. 8). La critique, telle que formulée, est appellatoire et dès lors irrecevable. Au demeurant, le texte en question, écrit huit ans avant les faits, ne parle pas de meurtre, son auteur se contentant de menacer sa mère, si elle ne le rencontre pas dans un délai imparti, de mettre en route une procédure judiciaire (cf. annexe 6, p. 2, de la demande de révision). Dans ces circonstances, il n'était pas arbitraire de considérer que cette lettre n'était pas propre à modifier, même au stade de la vraisemblance, l'état de fait retenu.
2.6. Pour le surplus, le recourant s'en prend à la constatation des faits opérée par les autorités précédentes ayant rendu les arrêts le condamnant. Comme cela a déjà été porté à son attention (cf. arrêts 6B_683/2011 du 21 novembre 2011 consid. 4.7 et 6B_731/2013 du 28 novembre 2013 consid. 3.5), de tels griefs sont irrecevables dans le cadre d'une procédure de révision. Le recourant feint en outre d'ignorer qu'il n'a pas été condamné dans l'attente de connaître l'auteur d'empreintes mais, notamment et sans arbitraire, car les traces de son ADN ont été retrouvées sur le col de la chemise de nuit portée par sa mère le jour de sa mort et sur la lame des ciseaux retrouvés sous son corps sans vie (cf. arrêt 6B_118/2009 - 6B_12/2011 du 20 décembre 2011 consid. 4.1.6.3).
2.7. Il résulte de ce qui précède que l'autorité cantonale a jugé sans arbitraire que, même au stade de la vraisemblance, les moyens de preuve avancés par le recourant à l'appui de sa demande de révision n'étaient pas de nature à ébranler l'état de fait sur lequel sont fondés les jugements objets de cette demande. Ces moyens n'étaient par conséquent pas propres à motiver une révision fondée sur l'art. 410 al. 1 let. a CPP, de sorte que celle-ci a été à juste titre écartée. Au vu du caractère clairement infondé des moyens invoqués, la décision d'écarter la requête par la voie de l'irrecevabilité au sens de l'art. 412 al. 2 CPP ne prête pas flanc à la critique, le recourant ne présentant par ailleurs aucune motivation conforme à l'art. 42 al. 2 LTF sur ce point ou s'agissant de l'application de l'art. 412 al. 3 CPP, disposition citée dans ses conclusions.
2.8. L'art. 29 al. 2 Cst., garantissant le droit d'être entendu, n'a pas pour vocation de permettre la révision d'un procès lorsque les conditions fixées par l'art. 385 CP, respectivement l'art. 410 CPP ne sont pas réunies (cf. arrêt 6B_731/2013 du 28 novembre 2013 consid. 3.5). Le grief de violation de l'art. 29 al. 2 Cst., dans la mesure où il est recevable, est ainsi infondé.
3.
Le recours doit être rejeté dans la mesure de sa recevabilité. Les conclusions étaient vouées à l'échec. L'assistance judiciaire est refusée (art. 64 al. 1 LTF). Le recourant supportera les frais, dont le montant sera fixé en tenant compte de sa situation financière défavorable (art. 65 al. 1 et 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 20 janvier 2015
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
La Juge présidant : Jacquemoud-Rossari
La Greffière : Cherpillod