Faits :
A.
Par jugement du 18 mars 2010, le Tribunal criminel de l'arrondissement de Lausanne a condamné A._ à la peine privative de liberté à vie pour le meurtre de sa mère, ainsi que l'assassinat de sa soeur et d'une amie de sa mère, le 24 décembre 2005. Ce jugement a été confirmé par arrêt du 4 octobre 2010 de la Cour de cassation pénale du Tribunal cantonal puis par arrêt du 20 décembre 2011 du Tribunal fédéral (6B_118/2009).
Par arrêts des 16 août 2011, 24 mai 2013, 30 juin 2014, 21 mai 2015 et 1er juin 2017, la Cour d'appel pénale du Tribunal cantonal a rejeté les demandes de révision déposées par A._.
Par arrêts des 21 novembre 2011, 16 mars 2012, 28 novembre 2013, 20 janvier 2015, 24 avril et 24 octobre 2017, la Cour de droit pénal du Tribunal fédéral a rejeté les demandes de révision de ce condamné.
A._ a été détenu aux Etablissements de la Plaine de l'Orbe du 15 septembre 2008 au 9 décembre 2010 et du 11 mai 2011 au 13 novembre 2018. A compter de cette date, A._ exécute sa peine à l'Etablissement d'exécution des peines de Bellevue à Gorgier.
B.
Le 20 octobre 2020, l'Office d'exécution des peines a saisi le Tribunal des mesures de contrainte d'une proposition de refus de la libération conditionnelle de la peine privative de liberté à vie prononcée à l'encontre de A._, dont le terme de l'exécution de 15 ans de privation de liberté au sens de l'art. 86 al. 5 CP est fixé au 31 janvier 2021.
Interpellé le 27 octobre 2020 par la Présidente du Collège des juges d'application des peines, le Procureur général du canton de Vaud Eric Cottier a, par courrier du 28 octobre 2020, répondu qu'il entendait intervenir à l'audience prévue dans le cadre de la procédure d'examen de la libération conditionnelle de A._.
Par courrier du 30 novembre 2020, A._ a questionné l'impartialité du Procureur général et, par courrier du 3 décembre 2020, il a formellement demandé sa récusation. Sa demande a été transmise à la Chambre des recours pénale du Tribunal cantonal.
Par décision du 10 décembre 2020, la Chambre des recours pénale du Tribunal cantonal vaudois a rejeté la demande de récusation déposée le 3 décembre 2020 par A._ à l'encontre du Procureur général du canton de Vaud Eric Cottier.
C.
A._ forme un recours en matière pénale à l'encontre de la décision de la Chambre des recours pénale du 10 décembre 2020. Il conclut principalement, sous suite de frais et dépens, à sa réforme en ce sens que sa demande de récusation est admise, subsidiairement, à son annulation et au renvoi de la cause à la Chambre des recours pénale pour nouvelle décision, plus subsidiairement encore, à son annulation et au renvoi de la cause à la Chambre des recours pénale pour nouvelle instruction par une nouvelle composition de juges. Il requiert également que son recours soit assorti de l'effet suspensif.
D.
Par ordonnance du 13 janvier 2021, la Présidente de la Cour de droit pénal du Tribunal fédéral a rejeté la requête d'effet suspensif formée par A._.

Considérant en droit :
1.
Le recourant reproche à l'autorité cantonale de ne pas avoir prononcé la récusation du procureur intimé en violation des art. 56 let. f CPP et 29 al. 1 Cst.
1.1. Le CPP règle la poursuite et le jugement, par les autorités pénales de la Confédération et des cantons, des infractions prévues par le droit fédéral (art. 1 CPP). Il ne régit en revanche pas la procédure d'exécution des jugements rendus, en particulier celle de libération conditionnelle, qui demeure de la compétence des cantons, sauf dispositions spéciales du CPP ou du CP (cf. art. 123 al. 2 Cst. et 439 al. 1 CPP; cf. arrêt 6B_621/2011 du 19 décembre 2011 consid. 2.1). Toutefois, selon l'art. 28a de la Loi cantonale vaudoise du 4 juillet 2006 sur l'exécution des condamnations pénales [LEP/VD; BLV 340.01], la procédure devant le juge d'application des peines est régie par le CPP, et notamment par ses art. 364 et 365. Les art. 56 ss CPP seraient donc ainsi applicables à la procédure devant le Juge d'application des peines par renvoi de l'art. 28a LEP, à titre de droit cantonal supplétif, étant précisé que le Tribunal fédéral ne revoit alors son application que sous l'angle de l'arbitraire (<ref-ruling> consid. 2.3 p. 387; <ref-ruling> consid. 2.2 p. 69).
En tout état, le recourant peut invoquer la garantie d'un tribunal indépendant et impartial découlant des art. 30 al. 1 Cst. et 6 par. 1 CEDH. Les motifs de récusation mentionnés à l'art. 56 CPP concrétisent cette garantie (<ref-ruling> consid. 3.2.1 p. 179; <ref-ruling> consid. 4.2.1 p. 428). Celle-ci peut dès lors être examinée à la lumière de l'art. 56 CPP, quand bien même cette disposition ne serait pas d'application directe en l'occurrence (cf. arrêt 6B_621/2011 du 19 décembre 2011 consid. 2).
1.2. Un magistrat est récusable, selon l'art. 56 let. f CPP, "lorsque d'autres motifs, notamment un rapport d'amitié étroit ou d'inimitié avec une partie ou son conseil, sont de nature à le rendre suspect de prévention". Cette disposition a la portée d'une clause générale recouvrant tous les motifs de récusation non expressément prévus aux lettres précédentes. Comme rappelé ci-dessus, elle correspond à la garantie d'un tribunal indépendant et impartial instituée par les art. 30 al. 1 Cst. et 6 par. 1 CEDH. Elle concrétise aussi les droits déduits de l'art. 29 al. 1 Cst. garantissant l'équité du procès et assure au justiciable cette protection lorsque d'autres autorités ou organes que des tribunaux sont concernés (<ref-ruling> consid. 3.2.2 p. 179). Elle n'impose pas la récusation seulement lorsqu'une prévention effective du magistrat est établie, car une disposition interne de sa part ne peut guère être prouvée. Il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale du magistrat. Seules les circonstances constatées objectivement doivent être prises en considération. Les impressions purement individuelles d'une des parties au procès ne sont pas décisives (<ref-ruling> consid. 4.3 p. 162; <ref-ruling> consid. 3.2 p. 74).
Des décisions ou des actes de procédure qui se révèlent par la suite erronés ne fondent pas en soi une apparence objective de prévention; seules des erreurs particulièrement lourdes ou répétées, constitutives de violations graves des devoirs du magistrat, peuvent fonder une suspicion de partialité, pour autant que les circonstances dénotent que le juge est prévenu ou justifient à tout le moins objectivement l'apparence de prévention. En effet, la fonction judiciaire oblige à se déterminer rapidement sur des éléments souvent contestés et délicats. Il appartient en outre aux juridictions de recours normalement compétentes de constater et de redresser les erreurs éventuellement commises dans ce cadre. La procédure de récusation n'a donc pas pour objet de permettre aux parties de contester la manière dont est menée l'instruction et de remettre en cause les différentes décisions incidentes prises notamment par la direction de la procédure (ATF <ref-ruling> consid. 3.2 p. 74 s. et les arrêts cités).
1.3. La cour cantonale a constaté que la demande de récusation du recourant avait été formée dans les délais et était donc recevable. Sur le fond, elle a considéré que le fait que le Procureur général ait été en charge du dossier aux débats de première instance, puis durant la suite de la procédure ayant mené à sa condamnation, ne suffisait pas pour constituer un indice de partialité de ce magistrat dans la procédure de libération conditionnelle, et cette circonstance ne constituait pas en soi un cas de récusation au sens de l'art. 56 let. b CPP. Il appartenait au recourant d'établir une suspicion de prévention au sens de l'art. 56 let. f CPP, ce qu'il n'avait pas fait. Ses griefs, à savoir que le prénommé serait le " premier responsable " de sa condamnation, qu'il aurait triché et serait un " personnage malhonnête ", ou qu'il en aurait fait une affaire personnelle, étaient de nature purement subjective et n'étaient pas suffisants pour créer une apparence objective de partialité devant conduire à la récusation de ce magistrat. Pour le reste, le recourant se bornait, encore, à contester le jugement au fond.
1.4. Comme devant la cour cantonale, le recourant affirme que les procédés inéquitables par lesquels l'intimé a soutenu l'accusation dans le procès qui a abouti à sa condamnation révèlent sa partialité à son endroit. Selon lui, l'intimé a avoué, dans l'ouvrage de C._ intitulé " Le triple meurtre de D._: synthèse de l'affaire A._ ", qu'il n'avait aucune preuve de ses accusations mais se serait uniquement fondé sur des " images de flashes ". Toujours selon ce livre, l'intimé avait demandé aux jurés de ne pas rechercher la vérité. Par ailleurs, il avait dissimulé un témoignage qui aurait permis d'innocenter le recourant dans le cadre d'une procédure en révision. Dès lors que l'intimé s'était acharné à obtenir sa condamnation alors qu'il ne disposait d'aucune preuve matérielle, violant ainsi les principes de droit gouvernant son action, il fallait reconnaître une apparence de prévention à son égard.
1.5. Le livre dont le recourant se prévaut ne fait pas partie des pièces de la procédure. A supposer que son grief soit recevable, les extraits cités hors contexte par le recourant ne sont, en tous les cas, pas significatifs du contenu qu'il leur prête. En effet, même dans l'hypothèse où les propos auraient été tenus comme il l'allègue, il n'en ressort pas que l'intimé aurait prétendu avoir fondé l'accusation sur des visions, mais bien plutôt qu'il aurait expliqué que les éléments du dossier permettaient d'obtenir certains " flashes ", soit certains instantanés des événements - par exemple le fait que la victime tenait des ciseaux en mains et que le recourant se trouvait à l'autre bout - et qu'à partir de ces différentes séquences, l'intimé avait pu proposer au tribunal un scenario relatif au déroulement des faits. Le recourant ne peut rien tirer non plus du bref extrait de ce même ouvrage en rapport avec les explications que l'intimé aurait données aux jurés, dont il ressort à tout le moins que ceux-ci devaient acquérir la conviction que l'accusé était coupable, même si tous les éléments circonstanciels n'étaient pas établis. Enfin, les allégations du recourant en lien avec le témoignage manuscrit que l'intimé aurait rangé dans un tiroir de son bureau ne sont nullement établies.
Il apparaît ainsi que le recourant se fonde sur ses propres impressions mais n'établit aucune circonstance constatée objectivement qui devrait être prise en compte sous l'angle d'une apparence de prévention. Il tient l'intimé pour responsable de sa condamnation, mais semble omettre que cette condamnation a été prononcée par un tribunal criminel, confirmée par les autorités de recours et non remise en cause par les juridictions en charge de la révision. En outre, comme l'intimé l'a relevé dans ses déterminations devant la cour cantonale, le fait que les conclusions du ministère public prises sous sa plume soient diamétralement opposées à celles du recourant n'est pas un indice de manque d'impartialité de sa part, même sous l'angle d'une éventuelle apparence de prévention, car si tel était le cas, tout magistrat du ministère public intervenu dans une procédure ayant conduit à une condamnation qu'il aurait requise devrait se récuser, ce qui ne serait pas concevable. Enfin, le recourant admet qu'il persiste à rediscuter son jugement de condamnation, estimant en avoir le droit. Or la question du bien-fondé du verdict de culpabilité n'a pas sa place dans une procédure de récusation, d'où il s'ensuit que les arguments du recourant à cet égard sont sans pertinence.
Sur le vu de ce qui précède, la cour cantonale n'a pas violé les art. 56 ss CPP applicables à titre de droit cantonal supplétif, ni les art. 30 al. 1 Cst. et 6 par. 1 CEDH, en rejetant la demande de récusation du recourant.
2.
Le recourant invoque la violation de son droit d'être entendu au motif que la cour cantonale aurait sélectionné les griefs qu'il avait formulés en reprenant quelques mots de sa requête. Il ne motive toutefois aucunement son grief mais se borne à discuter le fond du jugement attaqué, argumentation qui a été écartée selon ce qui précède (consid. 1 supra). Faute de motivation suffisante (cf. art. 42 al. 2 et 106 al. 2 LTF), le grief de violation du droit d'être entendu est irrecevable.
3.
Le recourant se plaint de la partialité de la cour cantonale, de manière générale, et de l'un de ses juges, en particulier. Il voit un motif de récusation dans le fait que le juge cantonal E._ a siégé dans la composition qui a rendu l'arrêt querellé alors qu'il avait rejeté sa demande de libération provisoire en 2007, puis avait " signé l'acte d'accusation rédigé par le procureur général " (comme on le comprend: l'a renvoyé en jugement devant le Tribunal criminel) en janvier 2008 et, enfin, avait rejeté son recours contre la décision de confiscation indépendante du Procureur général en 2013.
3.1. Au sens de l'art. 56 let. b CPP (cf. consid. 1.1), toute personne exerçant une fonction au sein d'une autorité pénale est tenue de se récuser lorsqu'elle a agi à un autre titre dans la même cause, en particulier comme membre d'une autorité, conseil juridique d'une partie, expert ou témoin. La notion de " même cause " s'entend de manière formelle, c'est-à-dire comme la procédure ayant conduit à la décision attaquée ou devant conduire à celle attendue. Elle n'englobe en revanche pas une procédure distincte ou préalable se rapportant à la même affaire au sens large, soit au même ensemble de faits et de droits concernant les mêmes parties (ATF <ref-ruling> consid. 3.1 p. 73). Ainsi, une " même cause " au sens de l'art. 56 let. b CPP implique une identité de parties, de procédure et de questions litigieuses (ATF <ref-ruling> consid. 3.1 p. 73; <ref-ruling> consid. 3.2 p. 91 s.; <ref-ruling> consid. 2d p. 237 s.).
3.2. Comme déjà dit plus haut, la présente procédure ne concerne pas la culpabilité du recourant. Elle constitue une procédure distincte abordant une question différente de celles traitées à l'époque par les autorités cantonales (libération provisoire, renvoi en jugement et confiscation indépendante). Les procédures antérieures invoquées par le recourant et celle ayant donné lieu à l'arrêt attaqué ne constituent donc pas une même cause au sens de l'art. 56 let. b CPP (voir en particulier: arrêt 6B_735/2016 du 24 octobre 2017 consid. 3 non publié in ATF 144 VI 1). Partant, supposé formé dans les délais (cf. art. 58 al. 1 CPP), le grief fondé sur la prévention de l'un des membres de l'autorité ayant rendu la décision attaquée est infondé.
3.3. Le recourant reproche encore à l'autorité précédente dans son ensemble d'avoir constaté qu'il tenait des propos inconvenants, ce qui révélerait selon lui sa partialité. A teneur de la décision attaquée, la cour cantonale s'est posée la question de l'application de l'art. 110 al. 4 CPP, qui prévoit qu'un acte inconvenant peut être retourné à son expéditeur, mais y a renoncé vu le sort de sa demande et la proximité de l'audience. Une telle observation ne suffit pas à démontrer une apparence de prévention des juges de la cour cantonale à l'égard du recourant, ce d'autant que le prénommé reconnaît avoir notamment traité l'intimé de " personnage malhonnête " dans ses écritures. Pour le surplus, il découle de la motivation du recourant qu'il fait en réalité grief à la cour cantonale de ne pas lui avoir donné gain de cause. En cela, il n'établit aucun motif de récusation valable.
4.
Compte tenu de ce qui précède, le recours est rejeté, dans la mesure de sa recevabilité. Le recourant supporte les frais de la cause, qui seront fixés en tenant compte de sa situation économique, laquelle n'apparaît pas favorable (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 1200 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 5 février 2021
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
La Présidente : Jacquemoud-Rossari
La Greffière : Musy