Faits: A. Par jugement du 14 septembre 2011, le Juge d'application des peines du canton de Vaud a libéré conditionnellement X._ de l'exécution de trois peines privatives de liberté, totalisant 46 mois, à compter du 15 septembre 2011. Il a fixé la durée du délai d'épreuve à un an, trois mois et neuf jours, ordonné une assistance de probation et dit que l'Office d'exécution des peines était chargé de mettre en oeuvre et de surveiller les conditions de la libération conditionnelle. B. B.a Par arrêt du 3 novembre 2011, la Chambre des recours pénale du Tribunal cantonal vaudois a admis le recours du Ministère public central du canton de Vaud et réformé le jugement de première instance en ce sens qu'elle a révoqué la libération conditionnelle accordée à X._ et ordonné la réintégration du condamné. Contre cet arrêt, X._ a déposé un recours en matière pénale devant le Tribunal fédéral. Statuant le 8 mai 2012, la Cour de droit pénal a admis ce recours, annulé l'arrêt du 3 novembre 2011 et renvoyé la cause à l'autorité cantonale pour nouvelle décision. Elle a considéré que l'examen auquel la Chambre des recours pénale cantonale avait procédé pour refuser la libération conditionnelle se fondait sur des faits non établis (" présomptions ", " soupçons ") et qu'il ne tenait pas compte de l'ensemble des critères pertinents posés par la jurisprudence. B.b Saisie à nouveau, la Chambre des recours pénale du Tribunal cantonal vaudois a admis le 14 juin 2012 le recours du Ministère public et réformé le jugement de première instance en ce sens qu'elle a révoqué la libération conditionnelle et ordonné la réintégration du condamné. C. Contre ce dernier arrêt, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Dénonçant la violation de la présomption d'innocence et une mauvaise application de l'art. 86 CP, il conclut, principalement, à la réforme de l'arrêt attaqué en ce sens que la décision du Juge d'application des peines octroyant la libération conditionnelle est confirmée et, subsidiairement, à l'annulation de l'arrêt attaqué. En outre, il sollicite l'assistance judiciaire. Il n'a pas été ordonné d'échange d'écritures.