Faits:
A. Par jugement du 14 septembre 2011, le Juge d'application des peines du canton de Vaud a libéré conditionnellement X._ de l'exécution de trois peines privatives de liberté, totalisant 46 mois, à compter du 15 septembre 2011. Il a fixé la durée du délai d'épreuve à un an, trois mois et neuf jours, ordonné une assistance de probation et dit que l'Office d'exécution des peines était chargé de mettre en oeuvre et surveiller les conditions de la libération conditionnelle.
B. Par arrêt du 3 novembre 2011, la Chambre des recours pénale du Tribunal cantonal vaudois a admis le recours du Ministère public central du canton de Vaud et réformé le jugement de première instance en ce sens qu'il a révoqué la libération conditionnelle accordée à X._ et ordonné la réintégration du condamné.
C. Contre ce dernier arrêt, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Dénonçant la violation de la présomption d'innocence, l'arbitraire dans l'établissement des faits et une mauvaise application de l'<ref-law>, il conclut à la réforme de l'arrêt attaqué en ce sens que la décision du Juge d'application des peines octroyant la libération conditionnelle est confirmée. En outre, il sollicite l'effet suspensif et l'assistance judiciaire.
Invité à se déterminer, le Ministère public central conclut au rejet du recours. Il produit une pièce nouvelle, qui sera écartée en application de l'<ref-law>.
La cour cantonale se borne à se référer aux considérants de sa décision.
Informé de la réponse de la partie adverse et des observations de l'autorité précédente, le recourant dépose des déterminations complémentaires.

Considérant en droit:
1. Le recourant dénonce une mauvaise application de l'<ref-law>.
1.1 Selon l'<ref-law>, l'autorité compétente libère conditionnellement le détenu qui a subi les deux tiers de sa peine, mais au moins trois mois de détention, si son comportement durant l'exécution de la peine ne s'y oppose pas et s'il n'y a pas lieu de craindre qu'il ne commette de nouveaux crimes ou de nouveaux délits.
Cette disposition renforce le principe selon lequel la libération conditionnelle est la règle et son refus l'exception. Elle n'exige plus qu'il soit à prévoir que le condamné se conduira bien en liberté (cf. art. 38 ch. 1 al. 1 aCP), mais qu'il ne soit pas à craindre qu'il ne commette de nouveaux crimes ou délits. Autrement dit, il n'est plus nécessaire, pour l'octroi de la libération conditionnelle, qu'un pronostic favorable puisse être posé; il suffit que le pronostic ne soit pas défavorable (<ref-ruling> consid. 2.2 p. 203).
Les critères déterminants pour le diagnostic développés par la jurisprudence restent valables sous le nouveau droit. Il s'agit d'effectuer une appréciation globale des chances de réinsertion sociale du condamné, en prenant en considération les antécédents de l'intéressé, sa personnalité, son comportement en général et dans le cadre des délits qui sont à l'origine de sa condamnation et, surtout, le degré de son éventuel amendement ainsi que les conditions dans lesquelles il est à prévoir qu'il vivra (<ref-ruling> consid. 2.3 p. 203 s. et les arrêts cités).
Par sa nature même, le pronostic ne saurait être tout à fait sûr; force est de se contenter d'une certaine probabilité; un risque de récidive est inhérent à toute libération, conditionnelle ou définitive (<ref-ruling> consid. 1b p. 7). Pour déterminer si l'on peut courir le risque de récidive, il faut non seulement prendre en considération le degré de probabilité qu'une nouvelle infraction soit commise, mais également l'importance du bien qui serait alors menacé. Ainsi, le risque de récidive que l'on peut admettre est moindre si l'auteur s'en est pris à la vie ou à l'intégrité corporelle de ses victimes que s'il a commis par exemple des infractions contre le patrimoine (<ref-ruling> consid. 2.3 p. 203 et les arrêts cités). Il y a également lieu de rechercher si la libération conditionnelle, éventuellement assortie d'une assistance de probation et de règles de conduite, ne favoriserait pas mieux la resocialisation de l'auteur que l'exécution complète de la peine (<ref-ruling> consid. 4d/aa/bb p. 198 ss).
Dans l'émission du pronostic, l'autorité compétente dispose d'un large pouvoir d'appréciation, de sorte que le Tribunal fédéral n'intervient que si elle l'a excédé ou en a abusé, notamment lorsqu'elle a omis de tenir compte de critères pertinents et s'est fondée exclusivement sur les antécédents du condamné (<ref-ruling> consid. 2.3 p. 204).
1.2 En l'espèce, le recourant a subi les deux tiers de sa peine depuis le 15 septembre 2011, et il n'est pas contesté que son comportement en détention peut être qualifié de bon. Les deux premières conditions de la libération conditionnelle sont donc réalisées. Seul reste litigieux le pronostic sur son comportement futur.
1.2.1 La cour cantonale a fondé son pronostic défavorable essentiellement sur deux éléments : les propos peu respectueux à l'encontre des intervenants dans la procédure de libération conditionnelle figurant sur le site internet xxx et les plaintes pénales déposées par Y._, qui accuse notamment le recourant d'avoir maintenu en ligne des propos litigieux qu'il s'était engagé à purger lors de l'audience qui lui a valu sa condamnation et d'avoir créé un nouveau site internet sous le nom de domaine yyy.
Le recourant a contesté être l'auteur du premier site, xxx. Il a soutenu que, créé en 2003, ce site était géré par une organisation, active dans la protection des droits de l'homme et qu'il s'était borné à transmettre des informations concernant l'examen de sa libération conditionnelle aux administrateurs de ce site qui avaient pris contact avec lui. La cour cantonale a toutefois considéré que les informations y figurant pouvaient avoir été données uniquement par le recourant et que le style rappelait ceux de ses précédents écrits. Dès lors, elle a présumé que celui-ci savait comment les informations qu'il avait données seraient traitées et qu'il était responsable de ces propos peu respectueux (arrêt attaqué, p. 13, 1er par.).
En ce qui concerne les plaintes déposées par Y._, la cour cantonale parle de soupçons quant à de nouveaux comportements délictueux (arrêt attaqué, p. 13, 3e par.).
Les juges cantonaux ne sauraient se référer à des " présomptions " et des " soupçons ". S'ils veulent fonder leur pronostic défavorable sur l'existence de sites internet qui porteraient atteinte à l'honneur de certains juges, procureurs ou avocats, ils doivent démontrer que le recourant est bien l'auteur et le responsable de ces sites.
1.2.2 Pour le surplus, les juges cantonaux ont repris le constat du juge d'application des peines et ont répété que le recourant ne s'était pas amendé. Ils n'ont pas procédé à un examen global des chances de réinsertion sociale du recourant, lequel doit tenir compte, outre du degré d'amendement, des antécédents, de la personnalité, du comportement et des conditions de vie que le libéré aura lors de sa libération. Ils n'ont pas non plus examiné si la libération conditionnelle, accompagnée de règles de conduite (<ref-law>), n'aurait pas davantage d'effets bénéfiques sur le recourant que le fait de purger la totalité de sa peine, étant donné qu'il devra compter avec le risque de devoir purger le solde de sa peine dans l'hypothèse de comportements fautifs (nouvelles infractions, inobservation des règles de conduite).
1.2.3 En conclusion, l'examen auquel la cour cantonale a procédé pour refuser la libération conditionnelle se fonde non seulement sur des faits non établis (" présomptions ", " soupçons "), mais, en outre, il ne tient pas compte de l'ensemble des critères pertinents posés par la jurisprudence. Il convient dès lors d'admettre le recours et de renvoyer la cause à la cour cantonale pour qu'elle procède à un nouvel examen global des chances de réinsertion sociale du condamné, examen qui devra aussi tenir compte du comportement du recourant depuis sa libération.
2. Le recourant qui obtient gain de cause ne supporte pas de frais judiciaires (<ref-law>) et peut prétendre à une indemnité de dépens à la charge du canton de Vaud (art. 68 al. 1 et 2 LTF), ce qui rend sans objet la requête d'assistance judiciaire.
Aucun frais ne sera imposé au Ministère public, bien qu'il succombe (<ref-law>).
Vu l'issue du recours, la requête d'effet suspensif devient sans objet.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité cantonale pour nouvelle décision.
2. Il n'est pas perçu de frais judiciaires.
3. Le canton de Vaud versera au conseil du recourant une indemnité de 3'000 fr. pour ses dépens.
4. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 8 mai 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin