Faits: A. Par jugement du 17 décembre 2010, le Tribunal pénal de l'arrondissement de la Sarine a refusé la levée de la mesure thérapeutique institutionnelle (art. 59 CP) prononcée le 26 septembre 2007 à l'encontre de X._. B. Par arrêt du 8 mai 2012, la Cour d'appel pénal du Tribunal cantonal fribourgeois a rejeté le recours formé par X._ et confirmé le jugement de première instance. En résumé, elle a retenu les faits suivants: B.a Par jugement du 16 avril 2007, le Tribunal pénal de l'arrondissement de la Sarine a condamné X._ à une peine privative de liberté de douze mois ferme et à une amende pour voies de fait, vol, tentative de vol, vol d'importance mineure, tentative de recel, violation de domicile, dommages à la propriété, injure, menaces, violence ou menace contre les autorités et les fonctionnaires, dénonciation calomnieuse, délit et contravention contre la loi fédérale sur les stupéfiants, délit contre la loi fédérale sur les armes et contravention à la loi fédérale sur les transports publics. En outre, un traitement institutionnel a été ordonné en application des art. 56, 57 et 60 CP (traitement des addictions). Le prononcé de cette mesure se fonde principalement sur l'expertise réalisée par le Dr A._ en date du 11 avril 2006. Le 26 septembre 2007, le Tribunal pénal de l'arrondissement de la Sarine a condamné X._, pour des infractions de la même nature, à une peine privative de liberté de dix mois ferme et à une amende, peine complémentaire à celle infligée le 16 avril 2007. En outre, il a ordonné un traitement thérapeutique institutionnel en application des art. 56, 57, 59 et 62c al. 6 CP, ce traitement remplaçant celui prononcé le 16 avril 2007. Ce jugement a été confirmé par la Cour d'appel pénal du Tribunal cantonal fribourgeois le 19 juin 2008. La nouvelle mesure se fonde essentiellement sur les compléments d'expertise effectués par le Dr A._ en date des 13 juin et 17 août 2007. B.b A la demande de X._, une nouvelle expertise psychiatrique a eu lieu lors de l'examen de la libération conditionnelle. Le Dr B._ a déposé son rapport d'expertise en date du 1er août 2009. Il a posé le diagnostic de troubles de la personnalité sociopathique et de toxicodépendance, actuellement abstinent, mais dans un environnement protégé. Il a noté que le risque de récidive avec usage de toxiques atteignait un niveau proche de la certitude, ce qui augmentait d'autant les risques de nouvelles conduites asociales, y compris la violence. Il a expliqué que les sciences médicales et psychologiques restaient démunies face à ce genre de trouble et qu'une aide psychiatrique n'entrait pas en question même sous la forme de la contrainte. Il a toutefois préconisé une approche socio-thérapeutique, à savoir la mise en place d'exercices pour un retour dans la vie sociale grâce à un entraînement progressif. Par décision du 3 novembre 2009, le Service fribourgeois de l'application de sanctions pénales et des prisons (ci-après: SASPP) a refusé la libération conditionnelle de X._, en raison du risque élevé de récidive. Le 3 février 2010, la Direction de la sécurité et de la justice du canton de Fribourg a rejeté le recours de X._, estimant que son état actuel ne justifiait pas (encore) de lui donner l'occasion de faire ses preuves en liberté. Statuant sur recours le 29 juin 2010, la Ière Cour administrative du Tribunal cantonal fribourgeois a renvoyé l'affaire au SASPP pour déterminer les possibilités de mise en oeuvre des mesures préconisées par le Dr B._, le traitement médical ordonné s'avérant inefficace. Le 17 août 2010, le SASPP a rejeté une nouvelle fois la demande de libération conditionnelle de X._ et ordonné la poursuite du traitement institutionnel aux Établissements de la plaine de l'Orbe (ci-après: EPO). Il a suspendu l'exécution des peines privatives de liberté et demandé aux EPO de lui envoyer régulièrement des rapports thérapeutiques. Il a soumis le dossier au Tribunal pénal de l'arrondissement de la Sarine pour examen quant à une éventuelle levée de la mesure thérapeutique institutionnelle ordonnée et à son remplacement par une autre mesure thérapeutique institutionnelle. Par jugement du 17 décembre 2010, le tribunal précité a refusé la levée de la mesure thérapeutique institutionnelle et maintenu cette mesure en application de l'art. 59 CP. Il a estimé que seule une mesure institutionnelle au sens de l'art. 59 CP était apte à détourner le détenu de commettre de nouvelles infractions et que, vu le risque élevé de récidive, cette mesure devait se poursuivre en milieu fermé. Il a insisté sur le fait que X._ devait pouvoir entamer une formation professionnelle dans les meilleurs délais. B.c Dans le cadre de l'appel dirigé contre cette dernière décision, la cour d'appel pénal du Tribunal cantonal fribourgeois a ordonné une nouvelle expertise. Le Dr C._ a déposé son rapport le 22 septembre 2011, qu'il a complété le 6 janvier 2012. Il a confirmé qu'aucun traitement spécifique médical ne pouvait être ordonné et que si des mesures devaient être prises, elles devraient être d'ordre socio-éducatif et réalisées dans un dispositif adéquat. Selon lui, le risque de nouvelles infractions serait diminué si un traitement était envisagé dans une institution spécialisée et principalement à vocation socio-éducative. La libération d'un cadre devrait se faire progressivement si l'on ne voulait pas être confronté à un risque de récidive maximal. C. Contre cet arrêt cantonal, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à la levée de la mesure thérapeutique institutionnelle ordonnée en 2007 et au renvoi du dossier aux autorités cantonales fribourgeoises d'exécution des peines et des mesures pour mise en place de mesures d'élargissement, sur la base des constats faits par l'expert. En outre, il sollicite l'assistance judiciaire. Il n'a pas été ordonné d'échange d'écritures.