Faits:
A. Par jugement du 4 octobre 2011, le Tribunal d'application des peines et des mesures du canton de Genève a ordonné la poursuite de la mesure de traitement institutionnel en milieu fermé prononcée le 26 mai 2009 par la Chambre d'accusation de Genève à l'encontre de X._ en application de l'<ref-law>.
B. Par arrêt du 14 mars 2012, la Chambre pénale d'appel et de révision de la Cour de justice genevoise a rejeté l'appel formé par X._ contre ce jugement.
En substance, elle a retenu les faits suivants:
Par ordonnance du 26 mai 2009, la Chambre d'accusation de Genève a prononcé un non-lieu à l'encontre de X._ du fait de son irresponsabilité sur le plan pénal et a ordonné qu'il soit soumis à un traitement institutionnel en milieu fermé au sens de l'<ref-law>.
Le 24 septembre 2008, refusant de quitter les locaux du parquet du Procureur général, X._ avait dû être évacué de force par deux agents de sécurité. Il les avait menacés en mimant le tir d'une arme à feu, leur avait dit qu'il reviendrait les tuer et avait hurlé à l'un d'eux " fils de pute, connard, va te faire foutre ". Lors de ces événements, il dissimulait dans les poches de ses vêtements, qu'il avait adaptées à cet effet, un pistolet chargé, une cartouche se trouvant dans le canon de l'arme, un magasin de réserve plein et deux couteaux, l'un avec la lame ouverte et l'autre ouvrable à une main. Il a expliqué qu'il conservait ces armes en permanence sur lui, car la police le menaçait de mort.
Dans son rapport du 6 mars 2009, établi sous la supervision du Dr A._, médecin psychiatre auprès de B._, l'expert a diagnostiqué que X._ souffrait d'un grave trouble mental sous la forme d'un trouble délirant persistant de type paranoïaque, dont la sévérité était élevée. De ce fait, l'expertisé ne possédait pas, lors des faits reprochés, la faculté d'apprécier le caractère illicite de ses actes et était par conséquent totalement irresponsable. Il existait un risque de commission de nouvelles infractions de même nature, ainsi que de nature différente et plus graves du fait du caractère persécutoire de son délire, sous la forme de possibles actes dangereux pour la société.
C. Contre l'arrêt cantonal, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à l'annulation de l'arrêt attaqué et à la levée du traitement institutionnel en milieu fermé. En outre, il sollicite l'assistance judiciaire.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. Se fondant sur l'<ref-law>, le recourant sollicite la levée du traitement au motif que sa poursuite serait vouée à l'échec.
1. Se fondant sur l'<ref-law>, le recourant sollicite la levée du traitement au motif que sa poursuite serait vouée à l'échec.
1.1 1.1.1 Selon l'<ref-law>, la mesure thérapeutique institutionnelle doit être levée si son exécution paraît vouée à l'échec. Cette règle concrétise le principe général énoncé à l'<ref-law> qui prévoit qu'une mesure dont les conditions ne sont plus remplies doit être levée.
Une mesure thérapeutique institutionnelle suppose, entre autres conditions, qu'il soit à prévoir que la mesure détourne l'auteur de commettre de nouvelles infractions (<ref-law>; <ref-ruling> consid. 3.4.1 p. 321). Cela signifie que la mesure doit être levée si le traitement médical n'a plus de chances de succès, à savoir lorsque l'auteur n'est pas (ou plus) soignable ou que le traitement n'est plus apte à prévenir la commission de nouvelles infractions (ROTH/THALMANN, in Commentaire romand, Code pénal I, 2009, n. 1 ad <ref-law>; STRATENWERTH, Schweizerisches Strafrecht, allgemeiner Teil II: Strafen und Massnahmen, 2006, 2e éd., § 9 n. 53; TRECHSEL ET AL., Schweizerisches Strafgesetzbuch, Praxiskommentar, 2008, n. 2-3 ad art. 62c). L'échec de la mesure peut résulter de l'insuffisance de possibilités thérapeutiques, du manque de respect des avis ou recommandations des thérapeutes ou du refus d'un traitement. Le traitement n'est voué à l'échec que s'il est définitivement inopérant; une simple crise de l'intéressé ne suffit pas (MARIANNE HEER, in Basler Kommentar, Strafrecht I, 2007, 2ème éd., n. 18-19 ad art. 62c).
Pour qu'une mesure thérapeutique institutionnelle puisse être maintenue, c'est le traitement médical, non la privation de liberté qui lui est associée, qui doit conserver une chance de succès du point de vue de la prévention spéciale. Une mesure thérapeutique institutionnelle ne saurait être maintenue au seul motif que la privation de liberté qu'elle comporte a pour effet d'empêcher l'auteur de commettre de nouvelles infractions (<ref-ruling> consid. 1.3 p. 204).
De manière générale, la levée d'une mesure en raison de son échec doit être admise de manière restrictive (ROTH/THALMANN, op. cit., n. 2 ad <ref-law>; MARIANNE HEER, op. cit., n. 18 ad <ref-law>; <ref-ruling> consid. 4a/dd p. 123 s. et 100 IV 205 consid. 4 p. 208 s. en relation avec le placement en maison d'éducation au travail prévu par l'ancien droit).
Lorsqu'il n'y a pas lieu de s'attendre à une amélioration de l'état de l'auteur, l'autorité compétente doit lever la mesure, en prenant au besoin une ou plusieurs des dispositions prévues à l'art. 62c al. 3 à 6 CP (<ref-ruling> consid. 1.3 p. 204). L'<ref-law> prévoit la possibilité de prononcer une autre mesure thérapeutique institutionnelle pendant l'exécution si celle-ci paraît mieux à même à prévenir la récidive.
1.1.2 Selon l'<ref-law>, l'autorité compétente examine, d'office ou sur demande, si l'auteur peut être libéré conditionnellement ou si la mesure doit être levée. Elle prend une décision à ce sujet au moins une fois par année. Au préalable, elle entend l'auteur et demande un rapport à la direction de l'établissement chargé de l'exécution de la mesure. Le rapport exigé par cette disposition doit émaner du médecin traitant, dresser un bilan du traitement, comporter les éléments d'appréciation médicaux utiles à l'évaluation de la dangerosité actuelle de l'auteur et se prononcer sur l'évolution probable de ces éléments en cas de poursuite du traitement selon les modalités les plus indiquées (<ref-ruling> consid. 1.1 p. 202; arrêt du Tribunal fédéral du 19 novembre 2009, 6B_714/2009, consid. 1.1).
L'<ref-law> n'exige pas que le juge s'appuie sur le rapport d'un expert chaque fois qu'il statue sur une mesure. Il est toutefois libre de demander un rapport ou une expertise s'il l'estime nécessaire (FF 1999 1787 1878).
1.2 1.2.1 L'expert a préconisé un traitement en deux phases. Le traitement devait commencer par l'administration d'un traitement neuroleptique pendant plusieurs mois pour que la maladie psychotique puisse entrer en rémission et que le recourant puisse saisir la nécessité de continuer lui-même ce traitement. Ensuite, une psychothérapie devait être mise en place pour lui permettre de mieux connaître sa maladie.
1.2.2 Les médecins et le service pénitentiaire de C._ ont constaté une très nette amélioration de l'état de santé du recourant et de son comportement en général depuis qu'un traitement neuroleptique lui est administré sous la forme de dépôt. Le recourant est devenu moins quérulent et plus apaisé. Il n'a plus fait l'objet de sanctions disciplinaires depuis le mois d'octobre 2010, ses relations avec les autres se sont améliorées et ses comportements oppositionnels ont diminué.
Les médecins de C._ ont toutefois estimé qu'il paraissait peu probable de pouvoir s'attendre " à une évolution plus largement favorable à court ou moyen terme dans le contexte actuel ", raison pour laquelle l'élargissement du cadre de la mesure thérapeutique leur semblait devoir être réexaminée. Ils ont souligné que le " minimum de collaboration du patient au traitement pharmacologique reste cependant un pré-requis ".
1.2.3 La première phase du traitement préconisé par l'expert, à savoir le traitement neuroleptique administré au recourant depuis plus d'un an, est positive, puisque celui-ci se montre plus apaisé et moins agressif. Il ne paraît certes pas avoir pris conscience de sa maladie et accepté de suivre une psychothérapie. Mais on sait que les mesures thérapeutiques appliquées à des malades mentaux chroniques n'agissent souvent que très lentement (cf. <ref-ruling> consid. 3.1 p. 207). Il paraît dès lors à l'heure actuelle prématuré de conclure que l'état du recourant ne peut plus s'améliorer et que le traitement préconisé par l'expert est voué à l'échec. Contrairement à ce que soutient le recourant, les médecins traitant n'ont pas affirmé que le traitement était voué à l'échec. Ils ont seulement émis certains doutes quant à une évolution plus favorable de la suite du traitement " dans le contexte actuel " et se sont demandés s'il ne faudrait pas aménager le traitement à l'avenir. En conclusion, la cour cantonale ne s'est pas écartée de l'avis des médecins traitant et n'a pas violé le droit fédéral en refusant la levée du traitement thérapeutique institutionnel. Elle a du reste relevé qu'il conviendra à l'occasion du prochain contrôle annuel de la mesure d'ordonner une nouvelle expertise psychiatrique, afin de savoir plus précisément quelle a été l'évolution de la maladie du recourant depuis mars 2009 et quelles sont les possibilités d'amélioration à l'avenir.
2. Le recourant se plaint également d'une violation de l'<ref-law>.
2.1 En règle générale, le traitement institutionnel s'effectue dans un établissement psychiatrique approprié ou dans un établissement d'exécution des mesures (<ref-law>). L'<ref-law> prévoit que, tant qu'il existe un risque de fuite ou de récidive, le traitement doit être exécuté dans un établissement fermé ; il peut aussi être effectué dans un établissement pénitentiaire au sens de l'<ref-law>, dans la mesure où le traitement thérapeutique nécessaire est assuré par du personnel qualifié (art. 59 al. 3 2e phrase CP).
Pour qu'un risque de fuite soit avéré, il faut que l'intéressé ait la ferme et durable intention de s'évader, en ayant recours à la force si nécessaire, et qu'il dispose des facultés intellectuelles, physiques et psychiques nécessaires pour pouvoir établir un plan et le mener à bien. Le fait que l'intéressé puisse tenter de s'enfuir sur un coup de tête et sans aucune préparation préalable ne suffit pas. Il est clair que le risque de fuite devra être lié à la peur que le condamné puisse représenter une menace envers les tiers une fois en liberté. Il s'agit ici de la dangerosité externe du prévenu (arrêts 6B_205/2012 du 27 juillet 2012, consid. 3.2.2; 6B_384/2010 du 15 septembre 2010, consid. 2.1.2 ; 6B_629/2009 du 21 décembre 2009, consid. 1.2.2.2)..
Le risque de récidive doit être concret et hautement probable, c'est-à-dire résulter de l'appréciation d'une série de circonstances. Il vise cette fois la dangerosité interne du prévenu. Au regard du principe de la proportionnalité, le placement dans un établissement fermé ne peut être ordonné que lorsque le comportement ou l'état du condamné représente une grave mise en danger pour la sécurité et l'ordre dans l'établissement. Ce sera, par exemple, le cas d'un condamné qui profère des menaces bien précises ou qui combat sciemment l'ordre de l'établissement ; en revanche, l'<ref-law> ne devrait pas s'appliquer à de simples difficultés de comportement ou à l'insoumission vis-à-vis des employés de l'établissement (arrêts 6B_205/2012 du 27 juillet 2012, consid. 3.2.2; 6B_384/2010 du 15 septembre 2010, consid. 2.1.2 ; 6B_629/2009 du 21 décembre 2009, consid. 1.2.2.2).
2.2 En l'espèce, le recourant reste dans le déni de son trouble, il refuse de voir le psychiatre et n'adhère pas au traitement neuroleptique, qui est la seule mesure permettant de lui assurer une certaine stabilité sur le plan psychologique et donc d'atténuer le danger de récidive tant à l'intérieur qu'à l'extérieur de l'institution. Etant donné qu'il ne s'estime pas malade et perçoit le traitement comme une persécution des autorités à son encontre, il est sérieusement à craindre qu'il profite d'un passage en milieu ouvert pour s'enfuir. Contrairement à ce que soutient le recourant, le refus de le transférer dans un établissement ouvert ne va pas à l'encontre de l'avis des médecins de C._. En effet, ceux-ci ont certes envisagé à terme un élargissement du cadre de la mesure thérapeutique, mais ont subordonné celui-ci au fait que le recourant collabore au traitement pharmacologique, ce qui n'est pas le cas à l'heure actuelle. En conclusion, la cour cantonale n'a pas violé l'<ref-law>, en refusant le transfert du recourant dans un établissement ouvert.
3. Le recourant soutient que la durée de la mesure thérapeutique viole le principe de la proportionnalité (<ref-law>), compte tenu du peu de gravité de l'infraction commise, de la durée de la détention déjà subie et de l'absence de chances de succès du traitement (respectivement de la très longue durée du traitement qui serait nécessaire pour parvenir à une possible évolution).
3.1 L'<ref-law> concrétise l'exigence de la proportionnalité au sens étroit. Même si elle est adéquate et nécessaire, une mesure peut être disproportionnée lorsque l'atteinte qu'elle implique est d'une sévérité exagérée eu égard au but poursuivi (FF 1999 1787 1877). Le tribunal ne peut donc ordonner une mesure que si l'atteinte aux droits de la personnalité qui en résulte pour l'auteur n'est pas disproportionnée au regard de la vraisemblance qu'il commette de nouvelles infractions et de leur gravité.
La pesée des intérêts doit s'effectuer entre, d'une part, le danger que la mesure veut prévenir et, d'autre part, la gravité de l'atteinte aux droits de la personne concernée. L'importance de l'intérêt public à la prévention d'infractions futures doit se déterminer d'après la vraisemblance que l'auteur commette de nouvelles infractions et la gravité des infractions en question. Plus les infractions que l'auteur pourrait commettre sont graves, plus le risque qui justifie le prononcé d'une mesure peut être faible, et inversement. Quant à l'atteinte aux droits de la personnalité de l'auteur, elle dépend non seulement de la durée de la mesure, mais également des modalités de l'exécution (MICHEL DUPUIS ET AL., CP, Code pénal, 2e éd., 2012, n. 7 ss ad <ref-law>).
3.2 En l'espèce, le recourant souffre d'un grave trouble mental sous la forme d'un trouble délirant persistant de type paranoïaque, dont la sévérité est élevée. Selon l'expert, sans traitement, la récidive est certaine, sous forme de possibles actes dangereux pour la société. La durée de la mesure est certes relativement longue, par rapport à la peine que le recourant encourrait du fait des infractions commises. Toutefois, une mesure dure en principe jusqu'à ce que son but soit atteint (ou que sa poursuite paraisse vouée à l'échec), et les traitements des malades mentaux chroniques peuvent durer longtemps (<ref-ruling> consid. 1.4 p. 205). En l'espèce, le traitement n'est pas voué à l'échec, mais a déjà donné de bons résultats, même si une évolution plus favorable dans le contexte actuel ne paraît pas certaine et qu'il conviendrait éventuellement à terme de réaménager la mesure. Compte tenu de la dangerosité que le recourant représente pour autrui et des perspectives de stabilisation et d'amélioration de son état de santé, la gravité de l'atteinte aux droits de sa personnalité qu'implique la poursuite du traitement institutionnel en milieu fermé n'apparaît pas disproportionnée. Le grief soulevé doit être rejeté.
4. Le recourant dénonce la violation de l'art. 5 § 1 let. e CEDH.
4.1 Selon l'art. 5 § 1 let. e CEDH, toute personne a droit à la liberté et à la sûreté. Nul ne peut être privé de sa liberté, sauf dans les cas suivants et selon les voies légales: s'il s'agit de la détention régulière d'une personne susceptible de propager une maladie contagieuse, d'un aliéné, d'un alcoolique, d'un toxicomane ou d'un vagabond. Selon la jurisprudence de la cour européenne, une personne ne peut être privée de sa liberté au sens de cette disposition, à moins que trois conditions minimales soient remplies: premièrement, un réel trouble mental doit être établi sur la base d'une expertise médicale objective; deuxièmement, le trouble mental doit être d'une sorte ou d'un degré qui impose nécessairement une privation de liberté; troisièmement, la prolongation de la détention dépend de la persistance du trouble (arrêt de la CourEDH c/Allemagne du 13 janvier 2011, requête n° 6587/2004, paragraphe 77). La jurisprudence de la cour européenne précise que la détention d'une personne souffrant d'une maladie mentale ne sera légale selon l'art. 5 § 1 let. e CEDH que si elle est effectuée dans un hôpital, une clinique ou un autre établissement approprié (arrêt précité).
4.2 Ces conditions sont manifestement réalisées. L'expert a constaté que le recourant souffrait d'un trouble délirant persistant de type paranoïaque, d'une sévérité élevée. Sans un traitement, la récidive est certaine, sous forme de possibles actes dangereux pour la société, de sorte qu'il convient de maintenir le recourant dans un milieu fermé, tant qu'il n'a pas adhéré au traitement neuroleptique. Même si le trouble du recourant est partiellement stabilisé grâce au traitement neuroleptique, le trouble persiste et nécessite la poursuite du traitement. En raison des risques de fuite, le recourant est détenu dans un établissement pénitentiaire, mais est soumis à un traitement assuré par du personnel qualifié (<ref-law>). Le recourant n'explique pas en quoi C._ n'est pas, dans ces conditions, un établissement approprié au sens de la jurisprudence européenne (<ref-law>). Le grief tiré de la violation de l'art. 5 CEDH doit donc être rejeté.
5. Au vu de ce qui précède, le recours doit être rejeté.
Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (<ref-law>). Le recourant devra donc supporter les frais (<ref-law>), dont le montant sera toutefois fixé en tenant compte de sa situation financière.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre pénale d'appel et de révision.
Lausanne, le 31 août 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin