Faits:
A. Par jugement du 27 juin 2008, le Tribunal criminel de l'arrondissement de l'Est vaudois a notamment condamné X._ à la peine privative de liberté à vie pour le meurtre de sa mère ainsi que l'assassinat de sa s?ur et d'une amie de sa mère le 24 décembre 2005.
Par arrêt du 29 octobre 2008, la Cour de cassation pénale du canton de Vaud a rejeté le recours formé contre ce jugement.
B. A la suite de l'admission par la Chambre des révisions civiles et pénales du canton de Vaud de la demande de révision formée par X._ le 25 février 2009, le Tribunal criminel de l'arrondissement de Lausanne a procédé à une nouvelle instruction complète de la cause et, par jugement du 18 mars 2010, notamment confirmé la condamnation pénale prononcée le 27 juin 2008.
Par arrêt du 4 octobre 2010, la Cour de cassation pénale du canton de Vaud a rejeté le recours formé contre le jugement du 18 mars 2010.
C. Par arrêt du 21 novembre 2011 (6B_683/2011), le Tribunal fédéral a rejeté le recours formé par X._ contre le jugement du 16 août 2011 de la Cour d'appel pénale du canton de Vaud rejetant, dans la mesure de sa recevabilité, la demande de révision formée le 22 juin 2011. Il a également écarté la demande de récusation contenue dans ce recours.
D. Par arrêt du 20 décembre 2011 (6b_118/2009 / 6B_12/2011), le Tribunal fédéral a admis le recours 6B_12/2011, formé contre les décisions des 18 mars et 4 octobre 2010, en ce qui concerne l'une des indemnités pour tort moral prononcées. Il l'a rejeté pour le surplus. Il a en outre déclaré le recours 6B_118/2009, formé contre l'arrêt du 29 octobre 2008, comme sans objet et rayé cette cause du rôle.
E. Par demande de révision du 24 janvier 2012, X._ conclut à l'annulation de l'arrêt du 20 décembre 2011 et à ce qu'un nouvel examen des recours 6B_12/2011 et 6B_118/2009 soit effectué, ce par une nouvelle composition de juges pour chaque recours et en tenant compte de la demande de révision formée le 22 juin 2011. Il requiert également l'effet suspensif.
Aucun échange d'écritures n'a été ordonné.
Considérant en droit:
1. Le requérant appuie sa demande sur l'art. 121 let. a LTF.
1.1 Aux termes de cette disposition, la révision d'un arrêt du Tribunal fédéral peut être demandée si les dispositions régissant la composition du tribunal ou la récusation n'ont pas été observées.
1.2 Le requérant invoque une violation des art. 6 par. 1 CEDH et 30 al. 1 Cst.
La jurisprudence a renoncé à résoudre de manière générale la question de savoir si, et quelles interventions successives d'un magistrat peuvent contrevenir à ces dispositions (ATF 131 I 24 consid. 1.2 p. 26). Elle a toutefois considéré que la garantie du juge impartial ne commandait pas la récusation d'un juge au simple motif qu'il aurait, dans une procédure antérieure, tranché en défaveur du recourant (ATF 129 III 445 consid. 4.2.2.2, p. 466; arrêt 6B_621/2011 du 19 décembre 2011 consid. 2.4.1 et arrêts cités). Dans un tel cas, il faut au contraire examiner les fonctions procédurales que le magistrat a été appelé à exercer lors de son intervention précédente, prendre en compte les questions successives à trancher à chaque stade de la procédure et mettre en évidence leur éventuelle analogie ou leur interdépendance. L'issue de la cause doit demeurer indécise quant à la constatation des faits et la résolution des questions juridiques (ATF 131 I 113 consid. 3.4 p. 116-117 et références citées; 24 consid. 1.2 p. 26; également 133 I 89 consid. 3.2 p. 92).
Il incombe au requérant, sous peine d'irrecevabilité, de démontrer dans une motivation conforme aux exigences posées par l'art. 42 LTF en quoi l'acte attaqué viole les droits fondamentaux invoqués (cf. ATF 134 II 244 consid. 2.1 p. 245; arrêt 2F_19/2011 du 22 décembre 2011 consid. 2).
Le requérant n'expose pas d'autre élément que la participation des mêmes juges et de la même greffière à l'arrêt 6B_683/2011 puis, un mois plus tard, à celui objet de la demande de révision, décisions toutes deux rendues en sa défaveur. De telles circonstances ne suffisent pas à fonder une violation des art. 6 par. 1 CEDH et 30 al. 1 Cst., pas plus qu'un motif de récusation au sens de l'art. 34 al. 1 LTF (art. 34 al. 2 LTF). Une demande en révision ne saurait dès lors être admise sur la base de l'art. 121 let. a LTF.
2. Le requérant se prévaut du motif de révision ancré à l'art. 121 let. d LTF.
2.1 Aux termes de cette disposition, la révision d'un arrêt du Tribunal fédéral peut être demandée si, par inadvertance, le tribunal n'a pas pris en considération des faits pertinents qui ressortent du dossier. Ce motif de révision correspond à celui que prévoyait l'art. 136 let. d OJ, de sorte que la jurisprudence relative à cette norme conserve toute sa valeur (arrêt 6F_11/2011 du 1er septembre 2011 consid. 2).
2.2 Selon cette jurisprudence, l'inadvertance suppose que le juge ait omis de prendre en considération une pièce déterminée, versée au dossier ou l'ai mal lue, s'écartant par mégarde de sa teneur exacte (ATF 122 II 17 consid. 3 p. 16). Elle doit se rapporter au contenu même du fait, à sa perception par le tribunal, mais non à son appréciation juridique (arrêt 1F_12/2009 du 23 août 2010 consid. 2 et arrêts cités).
Une inadvertance de la part du Tribunal fédéral ne peut être admise que si cette autorité avait le devoir de prendre en considération les faits dont on lui reproche de ne pas avoir tenu compte (ATF 115 II 399 consid. 2a p. 400; plus récemment arrêts 1F_12/2009 du 23 août 2010 consid. 2; 4F_8/2007 du 26 février 2008 consid. 2.3.1). Dans le cadre du traitement d'un recours en matière pénale, les faits dont le Tribunal fédéral doit tenir compte sont définis par l'art. 105 al. 1 et 2 LTF. Il s'agit d'une part des faits établis par l'autorité précédente (al. 1), d'autre part de ceux qui auraient été omis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (al. 2). La partie recourante qui entend s'écarter des constatations de l'autorité précédente (art. 97 al. 1 LTF) doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte dans le cadre du traitement du recours d'un état de fait qui diverge de celui de la décision attaquée (ATF 136 II 101 consid. 3 p. 104 et arrêts cités). Aussi celui qui omet de soulever, dans son recours auprès du Tribunal fédéral, le moyen tiré de l'art. 105 al. 2 LTF, ou qui ne le motive pas suffisamment, ne saurait-il reprocher ensuite à cette autorité, par la voie d'une demande de révision, de n'avoir pas rectifié d'office une constatation de fait de l'autorité cantonale, quand bien même cette constatation reposerait sur une inadvertance manifeste de l'autorité cantonale (cf. ATF 115 II 399 consid. 2a p. 400; arrêt 1F_12/2009 du 23 août 2010 consid. 2 et 9).
2.3 La demande de révision vise un arrêt statuant sur deux recours. Le premier déposé, réf. 6B_118/2009, ne se fondait que sur des griefs relatifs à l'appréciation des preuves et la constatation des faits opérées par le Tribunal d'arrondissement de l'Est vaudois. Or celles-ci ayant été remplacées, à la suite de l'admission de la première demande de révision du requérant, par la nouvelle appréciation des preuves faite par le Tribunal d'arrondissement de Lausanne, le recours 6B_118/2009 est devenu sans objet (cf. arrêt querellé, consid. 10.3). La question de savoir si le Tribunal fédéral a omis par inadvertance de prendre en compte des faits résultant du dossier ne se pose par conséquent que par rapport au recours 6B_12/2011 formé contre les décisions des 18 mars et 4 octobre 2010.
2.4 A l'appui de son grief, le requérant expose de très nombreux faits en se référant exclusivement aux pièces du dossier censées les appuyer et en invoquant qu'ils auraient été "écartés" par l'arrêt du 20 décembre 2011. Ce faisant, il ne démontre pas que ces faits auraient été retenus comme établis par les décisions des 18 mars et 4 octobre 2010, cette dernière décision renvoyant à l'état de fait exposé par la première. Tel n'est pas le cas. Le requérant n'expose pas non plus avoir invoqué et démontré, dans son recours 6B_12/2011, le caractère arbitraire de l'omission des faits indiqués dans sa demande de révision. On cherche en vain dans ce recours une argumentation en ce sens, respectant notamment le principe de l'épuisement des instances cantonales (cf. art. 80 al. 1 LTF ; ATF 135 I 91 consid. 2.1 p. 93) et les exigences de motivation strictes posées par l'art. 106 al. 2 LTF (sur ces exigences, cf. arrêt querellé, consid. 3.1 et 7.2.3). On ne saurait dans ces conditions considérer que les faits invoqués dans la demande de révision auraient dus être pris en compte par le Tribunal fédéral et reprocher par conséquent à cette autorité de les avoir ignorés par inadvertance au sens de l'art. 121 let. d LTF.
2.5 Au demeurant, pour justifier un cas de révision au sens de l'art. 121 let. d LTF, le fait invoqué, outre qu'il doit avoir été omis par inadvertance par le Tribunal fédéral, doit être pertinent, soit susceptible d'entraîner une décision différente de celle qui a été prise et plus favorable au requérant (cf. ATF 122 II 17 consid. 3 p. 19).
Les éléments invoqués par le requérant visent à remettre en question les faits constatés par les autorités cantonales, sur lesquels a statué le Tribunal fédéral. Or cette autorité ne pouvait revoir l'appréciation des preuves et l'établissement des faits qu'aux conditions prévues par l'art. 105 al. 2 LTF, soit essentiellement pour arbitraire (sur cette notion, cf. ATF 137 I 1 consid. 2.4 p. 5 ; 58 consid. 4.1.2 p. 62). La pertinence d'un fait ne peut dès lors être admise que si ce fait est susceptible de rendre manifestement insoutenable l'arrêt querellé.
Aucun des faits invoqués par le requérant ne remplit cette exigence. Ainsi que des fleurs aient été livrées le 23 décembre 2005 vers 17 h à la villa ou l'état psychique du témoin Y._ lors de son audition par la Chambre des révisions civiles et pénales du canton de Vaud ne rendent pas manifestement insoutenable la décision d'écarter, car non probante et ce de manière générale, la déposition de ce témoin, au vu des autres éléments du dossier, dont les déclarations du requérant, faites en présence de ses conseils, qui affirmait avoir vu sa mère morte avant l'heure à laquelle le témoin avait déclaré l'avoir vu vivante (cf. arrêt querellé, consid. 7.4). Que certains des documents d'enquête ne mentionnent pas la présence des ciseaux portant l'ADN du requérant sous le cadavre de sa mère n'est quant à lui pas propre à rendre arbitraire l'existence retenue desdits ciseaux, existence notamment établie de manière indubitable par les photographies prises lors de la découverte des corps (arrêt querellé, consid. 7.7.1). Le fait qu'un document d'enquête indique que la chemise de nuit portée par la mère du requérant le jour du drame était blanche n'est quant à lui pas suffisant pour rendre arbitraire le fait de retenir que la victime portait bel et bien la chemise de nuit bleue sur laquelle l'ADN du requérant a été retrouvé, ce fait étant établi non seulement par les autres documents d'enquête cités, mais également par les photographies couleur prises lors de la découverte des cadavres. Que le recourant ait invité des tiers à manger, à une date inconnue, est également insuffisant à rendre insoutenable le caractère extrêmement délicat de sa situation financière à fin décembre 2005, motif de sa visite chez sa mère le 24 décembre 2005 et établi par de nombreux éléments (cf. arrêt querellé, consid. 7.5). Le requérant invoque encore que des "habitantes" du village Z._ en Italie auraient vu sa soeur vivante peu avant l'été 2006, se référant sans autre détail à la pièce 288 comptant plus de trente pages. Ce fait, pour peu qu'il ressorte effectivement de la pièce citée - ce qu'il n'incombe pas au Tribunal fédéral de rechercher - n'a pas été retenu par les décisions cantonales. Le requérant n'invoque pas avoir démontré l'arbitraire de son omission dans son recours. Enfin, il n'explique aucunement en quoi de telles déclarations rendraient manifestement insoutenable la décision des autorités cantonales, fondée sur un ensemble d'éléments, de considérer que la s?ur du requérant était morte le 24 décembre 2005 (cf. arrêt querellé, consid. 7.9).
2.6 Le requérant fait référence aux « pièces extraites du dossier » reprises dans sa demande de révision du 22 juin 2011. Le renvoi à une écriture annexe est irrecevable (arrêt 6B_377/2011 du 23 septembre 2011 consid. 4). Au surplus, les motifs contenus dans cette demande ont été invoqués dans le cadre d'une procédure de révision auprès de la Cour d'appel pénale vaudoise avant le prononcé de l'arrêt querellé. Ils ne sauraient dès lors permettre la révision de cet arrêt (cf. art. 125 LTF).
2.7 En conclusion, aucun des faits invoqués par le requérant ne constitue un motif de révision au sens de l'art. 121 let. d LTF.
3. Le requérant invoque une violation du code pénal suisse (art. 3 à 6 CP). Il ne s'agit pas d'un motif de révision au sens de l'art. 121 LTF. La demande est irrecevable sur ce point.
4. La demande de révision doit dès lors être rejetée, dans la mesure de sa recevabilité, sans qu'il y ait lieu de procéder à un échange d'écritures (cf. art. 127 LTF). La cause étant tranchée, la requête d'effet suspensif devient sans objet.
Le requérant assumera les frais de la procédure de révision fixés en tenant compte de sa situation financière qui n'apparaît pas favorable (art. 65 al. 2 et 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. La demande de révision est rejetée dans la mesure où elle est recevable.
2. Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du requérant.
3. Le présent arrêt est communiqué aux parties et à la Cour de cassation pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 16 mars 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Cherpillod