Faits:
A. Par arrêt du 27 février 2009, la Cour d'assises du canton de Genève a condamné X._ à une peine privative de liberté de trente-quatre mois pour actes d'ordre sexuel commis sur la personne de A._, qui s'était retrouvée en état d'incapacité de discernement ou de résistance (art. 191 CP). La peine a été prononcée sans sursis à raison de dix-sept mois, X._ étant mis, pour le surplus, au bénéfice du sursis partiel, avec un délai d'épreuve fixé à cinq ans.
Cette condamnation repose sur les faits suivants :
Le 23 avril 2006, en début de matinée, après une nuit blanche et passablement arrosée (bière, vodka, whisky) passée dans deux établissements genevois, X._, B._, C._ et A._ ont accepté l'invitation de D._ de se rendre à son domicile pour y manger une soupe traditionnelle. B._ et C._ sont allés acheter deux bouteilles de vodka et une bouteille de Red Bull. Dans l'appartement, les cinq protagonistes ont joué à un jeu de la vérité à connotation sexuelle, ont persisté à s'enivrer et ont dansé. Après avoir bu une vodka Red Bull, A._ ne s'est plus souvenue de ce qui s'est passé. Elle n'a recouvré ses esprits qu'à 18 heures, où elle a alors constaté que son visage était tuméfié et que son corps présentait de nombreuses blessures et contusions. Les examens médicaux effectués le lendemain ont mis en évidence des lésions notamment anales.
A._ a déposé une plainte pénale contre X._, B._ et C._, lesquels, après avoir nié avoir eu des relations sexuelles, ont prétendu qu'elle avait consenti à leurs assauts sexuels conjugués, qu'ils avaient photographiés et filmés sur leur téléphone mobile, avant de les détruire pour partie.
B. B.a Par arrêt du 14 septembre 2009, la Cour de cassation genevoise a annulé l'arrêt du 27 février 2009 de la Cour d'assises en ce qui concerne la peine infligée à X._ et renvoyé la cause à l'autorité de jugement pour nouvelle décision. En effet, elle a considéré que l'autorité de jugement avait indiqué à tort qu'il y avait concours d'infractions justifiant une augmentation de la peine dans une juste proportion.
B.b Par arrêt du 7 juin 2010, la Cour d'assises du canton de Genève a condamné X._ à une peine privative de liberté de vingt-neuf mois et quinze jours pour actes d'ordre sexuel commis sur une personne incapable de discernement ou de résistance. Cette peine - complémentaire à celle prononcée le 2 juillet 2009 par le Ministère public genevois - a été prononcée sans sursis à raison de douze mois, X._ étant mis, pour le surplus, au bénéfice du sursis partiel, avec un délai d'épreuve fixé à cinq ans.
C. C.a Par arrêt du 25 novembre 2010, la Cour de cassation genevoise a admis partiellement le pourvoi de X._ en tant qu'il portait « sur la quotité de la peine ferme et la durée du délai d'épreuve » et a renvoyé la cause « à l'autorité de jugement pour nouvelle décision dans le sens des considérants ». En effet, elle a considéré qu'en fixant à douze mois la peine privative de liberté ferme à subir, l'autorité de jugement avait mal exercé son pouvoir d'appréciation, dès lors qu'elle avait infligé à X._ une peine ferme identique à celle de son coaccusé dont le cas était plus grave. Il en allait de même de la durée du délai d'épreuve du sursis partiel, fixée à cinq ans pour les deux protagonistes qu'il convenait de différencier.
C.b Par jugement du 21 mars 2011, le Tribunal correctionnel du canton de Genève a fixé à dix mois la partie de la peine devant être exécutée par X._ et l'a mis au bénéfice du sursis pour le solde de dix-neuf mois et quinze jours, avec un délai d'épreuve de trois ans.
D. Par jugement du 7 juillet 2011, la Chambre pénale d'appel et de révision de la Cour de justice genevoise a rejeté l'appel formé par X._ contre le jugement du 21 mars 2011.
E. X._ dépose un recours en matière pénale devant le Tribunal fédéral contre les arrêts du 14 septembre 2009 et du 25 novembre 2010 de la Cour de cassation et l'arrêt du 7 juillet 2011 de la Chambre pénale d'appel et de révision de la Cour de justice. Il conclut, principalement, à l'annulation des arrêts attaqués et au renvoi de la cause à l'autorité cantonale pour nouvelle décision.
En outre, il sollicite l'assistance judiciaire.
Considérant en droit:
1. Le recours est recevable dans la mesure où il est dirigé contre l'arrêt du 7 juillet 2011 de la Chambre pénale d'appel et de révision de la Cour de justice, qui met fin à la procédure et qui constitue donc une décision finale (art. 90 LTF).
Le recours porte également sur les arrêts de renvoi des 14 septembre 2009 et 25 novembre 2010 de la Cour de cassation, qui sont de nature incidente (art. 93 et 94 LTF). Il est admis qu'une décision de renvoi en vue de fixer la peine ne cause pas de préjudice irréparable ni n'engendre une procédure longue et coûteuse au sens de l'art. 93 LTF, de sorte qu'elle ne peut pas faire l'objet d'un recours direct au Tribunal fédéral, mais doit être attaquée avec la décision finale (art. 93 al. 3 LTF ; cf. arrêt 6B_364/2010 du 1er juin 2010, consid. 3.2 ; arrêt 6B_510/2009 du 18 août 2009 consid. 1). Le recours en matière pénale est donc également recevable contre les deux arrêts de renvoi.
2. Le recourant dénonce une violation des art. 448 ss CPP, dans la mesure où, à la suite de l'arrêt du 25 novembre 2010, les juridictions genevoises ont appliqué à tort le nouveau code de procédure pénale suisse.
2.1 Le Code de procédure pénale suisse (ci-après : CPP ; RS : 312) est entré en vigueur le 1er janvier 2011. Selon l'art. 453 al. 1 CPP, les décisions rendues avant son entrée en vigueur sont attaquées selon les voies de recours prévues par l'ancien droit devant les autorités compétentes en vertu de ce droit. Lorsque celles-ci admettent le recours, annulent la décision attaquée et renvoient la cause pour nouveau jugement, l'autorité qui eût été compétente selon le CPP pour rendre la décision annulée rendra le nouveau jugement en application des nouvelles règles de procédure (SCHMID, Handbuch des schweizerischen Strafprozessrechts, Zurich 2009, n. 1867). Si l'arrêt de renvoi est rendu encore avant l'entrée en vigueur du nouveau CPP, l'ancien droit s'applique au nouveau jugement rendu après l'entrée en vigueur du CPP (art. 450 CPP ; LIEBER, Kommentar zur Schweizerischen Strafprozessordnung (StPO), 2010, n. 8 ad art. 453 ; NIKLAUS OBERHOLZER, Das rechtsmittelsystem der Schweizerische Straprozessordnung - Beschwerde, Berufung, Revision, PJA 2011 p. 39 ss, spéc. p. 48).
2.1 Le Code de procédure pénale suisse (ci-après : CPP ; RS : 312) est entré en vigueur le 1er janvier 2011. Selon l'art. 453 al. 1 CPP, les décisions rendues avant son entrée en vigueur sont attaquées selon les voies de recours prévues par l'ancien droit devant les autorités compétentes en vertu de ce droit. Lorsque celles-ci admettent le recours, annulent la décision attaquée et renvoient la cause pour nouveau jugement, l'autorité qui eût été compétente selon le CPP pour rendre la décision annulée rendra le nouveau jugement en application des nouvelles règles de procédure (SCHMID, Handbuch des schweizerischen Strafprozessrechts, Zurich 2009, n. 1867). Si l'arrêt de renvoi est rendu encore avant l'entrée en vigueur du nouveau CPP, l'ancien droit s'applique au nouveau jugement rendu après l'entrée en vigueur du CPP (art. 450 CPP ; LIEBER, Kommentar zur Schweizerischen Strafprozessordnung (StPO), 2010, n. 8 ad art. 453 ; NIKLAUS OBERHOLZER, Das rechtsmittelsystem der Schweizerische Straprozessordnung - Beschwerde, Berufung, Revision, PJA 2011 p. 39 ss, spéc. p. 48).
2.2 2.2.1 La Chambre pénale d'appel et de révision a expliqué que la cour de cassation avait renvoyé la procédure à l'autorité de jugement pour nouvelle décision par arrêt du 25 novembre 2010 et qu'il était impossible d'organiser une nouvelle session d'assises avant la fin de l'année 2010, compte tenu notamment des délais de 21 jours imposés par les art. 258 al. 1 et 254 al. 1 par renvoi de l'art. 259 aCPP/GE. En outre, l'entrée en vigueur du CPP avait engendré plusieurs modifications au niveau de l'organisation judiciaire genevoise, notamment celle des tribunaux. Ainsi, depuis le 1er janvier 2011, le jury populaire, de même que la cour d'assises, n'existaient plus. Le maintien, à titre transitoire, de ces autorités (appelées par ailleurs à disparaître) aurait entraîné des difficultés pratiques et des coûts financiers non négligeables, notamment en raison de la procédure de désignation des jurés par les communes du canton.
2.2.2 L'arrêt de renvoi a été rendu le 25 novembre 2010, de sorte que, conformément aux art. 453 al. 2 et 450 CPP, le nouveau jugement aurait dû être rendu en application de l'ancien droit. La cour de céans ne voit toutefois pas l'intérêt juridique que le recourant avait à l'application de l'ancien code de procédure genevois. En effet, l'autorité appelée à rendre le nouveau jugement ne devait se prononcer que sur « la quotité de la peine ferme et la durée du délai d'épreuve » ; les faits à la base de la condamnation étaient déjà établis et la peine était déjà fixée. Or, il était sans incidence sur les deux questions qui restaient à trancher que l'on applique le nouveau ou l'ancien droit de procédure. Le recourant ne mentionne à cet égard aucune règle de l'ancien code de procédure pénale genevois qui lui aurait été plus favorable. Il se plaint d'avoir été jugé par des magistrats professionnels au lieu d'un jury. Mais il ne critique pas, sur le fond, la décision de la Chambre pénale d'appel et de révision de la Cour de justice, à savoir la quotité de la peine ferme ou la durée du délai d'épreuve ; il se borne à reprocher à cette autorité d'avoir refusé de revoir la mesure de la peine, refus qui s'imposait tant selon l'ancien droit de procédure que selon le nouveau (cf. consid. 5.3.3). Au vu de ce qui précède, il y a lieu de dénier au recourant tout intérêt juridique à l'annulation de l'arrêt attaqué en relation avec l'application de l'art. 453 CPP (art. 81 LTF). Le grief tiré de la violation des art. 448 ss CPP est donc irrecevable.
3. Le recourant se plaint d'un déni de justice formel et de la violation de son droit d'être entendu (art. 29 al. 1 et 2 Cst.). Dans son pourvoi du 6 mai 2009, il reprochait à la cour d'assises de ne pas avoir suffisamment motivé l'élément subjectif de l'infraction retenue à son encontre (art. 191 CP) et avoir ainsi violé son droit d'être entendu (art. 29 al. 2 Cst.). Or, la cour de cassation n'aurait pas traité ce grief dans son arrêt du 14 septembre 2009.
3.1 Selon la jurisprudence, l'autorité qui ne traite pas un grief relevant de sa compétence, motivé de façon suffisante et pertinente pour l'issue du litige commet un déni de justice formel proscrit par l'art. 29 al. 1 Cst. (ATF 117 Ia 116 consid. 3a p. 117).
Le droit d'être entendu consacré à l'art. 29 al. 2 Cst. implique l'obligation pour le juge de motiver sa décision, afin que le justiciable puisse la comprendre, la contester utilement s'il y a lieu et que l'autorité de recours puisse exercer son contrôle. Il suffit que le juge mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision. Il n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à ceux qui sont pertinents (ATF 134 I 83 consid. 4.1 p. 88; 133 III 439 consid. 3.3 p. 445; 130 II 530 consid. 4.3 p. 540).
3.2 Dans son arrêt du 14 septembre 2009, la Cour de cassation a analysé le déroulement des faits. Elle a constaté que la victime avait bu plus que de raison, que son comportement ne permettait pas de déduire l'acceptation des relations sexuelles, que les trois hommes, honteux de cette fin de soirée, avaient effacé les photos les plus compromettantes et que la victime s'était retrouvée tuméfiée au visage et blessée sur le corps. De l'ensemble de ces éléments, les juges cantonaux ont tiré la confirmation que les trois hommes avaient bien agi en pleine connaissance de cause, à tour de rôle, à réitérées reprises et en forçant une femme qui ne réagissait pas et gémissait.
Ils ont ajouté que la conviction du jury, à savoir « qu'en raison de la fatigue et de sa consommation d'alcool fort, elle (la victime) se trouvait hors d'état de résister aux accusés, ce que ces derniers savaient, vu les circonstances dans lesquelles les faits se sont déroulés » était fondée sur un ensemble d'éléments et d'indices convergents et sur la base des allégations et du comportement des parties. Dès lors, selon les juges cantonaux, la décision de la cour d'assises n'était pas insoutenable, ni discutable ou même critiquable, que ce soit dans sa motivation ou son résultat (arrêt attaqué du 14 septembre 2009, consid. 4, p. 14 et 15).
De la sorte, la cour de cassation a répondu au grief du recourant, selon lequel la cour d'assises n'aurait pas suffisamment motivé la réalisation de l'élément subjectif. Elle n'a donc commis aucun déni de justice formel, et le grief soulevé doit être rejeté.
4. Dénonçant une violation de l'art. 29 al. 2 Cst., le recourant reproche à la cour de cassation de ne pas avoir suffisamment motivé son raisonnement concernant la réalisation des éléments constitutifs de l'art. 191 CP.
Dans son arrêt du 14 septembre 2009, la cour de cassation a défini les éléments constitutifs de l'art. 191 CP, à savoir, en particulier, la notion d'incapacité de discernement ou de résistance. Sur la base des faits retenus par la cour d'assises, elle a admis que la victime se trouvait hors d'état de résister en raison de la fatigue et de sa consommation d'alcool. Pour le surplus, elle a retenu que les trois hommes, dont le recourant, s'en étaient rendu compte, se référant au déroulement des faits (consommation de grande quantité d'alcool en commun, honte de leur fin de soirée et suppression des photos compromettantes, lésions sur le corps de la victime attestant de rapports sexuels violents). De la sorte, la cour de cassation a suffisamment motivé la réalisation des éléments constitutifs de l'art. 191 CP. Le grief tiré du défaut de motivation doit être rejeté.
5. Le recourant se plaint de la mesure de la peine qui lui est infligée.
5.1 L'art. 47 CP prévoit que le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). L'alinéa 2 de cette disposition énumère une série de critères à prendre en considération pour déterminer la culpabilité de l'auteur (ATF 134 IV 17 consid. 2.1 et les références citées).
Pour fixer la peine, le juge dispose d'un large pouvoir d'appréciation. Il y a toutefois violation du droit fédéral lorsque le juge sort du cadre légal, se fonde sur des critères étrangers à l'art. 47 CP, omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (ATF 134 IV 17 consid. 2.1; 129 IV 6 consid. 6.1 et les références citées).
Sous le titre marginal "obligation de motiver", l'art. 50 CP prévoit que, si le jugement doit être motivé, le juge indique les circonstances pertinentes pour la fixation de la peine et leur importance. Cela signifie que le juge doit exposer, dans sa décision, les éléments essentiels relatifs à l'acte ou à l'auteur qu'il prend en compte, de manière à ce que l'on puisse constater que tous les aspects pertinents ont été pris en considération et comment ils ont été appréciés, que ce soit dans un sens atténuant ou aggravant. La motivation doit justifier la peine prononcée, en permettant de suivre le raisonnement adopté, mais le juge n'est nullement tenu d'exprimer en chiffres ou en pourcentage l'importance qu'il accorde à chacun des éléments qu'il cite (ATF 127 IV 101 consid. 2c p. 105).
5.2 Dans son arrêt du 7 juin 2010, la cour d'assises a estimé que la faute du recourant était lourde, dans la mesure où il avait agi « pour satisfaire des pulsions sexuelles au mépris de la liberté sexuelle de la victime, ainsi que de sa santé physique et psychique ». Elle a retenu que les trois accusés avaient agi en commun, ce qui a conduit le jury précédent a retenir la circonstance aggravante de l'art. 200 CP. A la décharge du recourant, elle a pris en considération son état d'alcoolisation, tout en précisant que sa responsabilité était pleine et entière. Elle a également tenu compte de la situation personnelle, familiale et professionnelle et relevé l'absence d'antécédents judiciaires. A propos du sursis partiel, elle a encore noté l'ancienneté des faits, son mariage récent et son comportement responsable dans le domaine professionnel où il exerçait une activité qui comportait une prise de responsabilités (voir arrêt du 25 novembre 2010 de la Cour de cassation, p. 3 ss).
Dans son arrêt du 25 novembre 2010, la cour de cassation a repris les éléments mentionnés par la cour d'assises et conclu que la faute du recourant était d'une gravité évidente (responsabilité pleine et entière, état d'alcoolisation, situation personnelle, familiale et professionnelle, circonstance aggravante de l'art. 200 CP). Compte tenu de l'ensemble des circonstances, elle a conclu que la cour d'assises n'avait pas violé les art. 47 et 50 CP en fixant une peine privative de liberté de vingt-neuf mois et quinze jours.
Dans son arrêt du 25 novembre 2010, la cour de cassation a repris les éléments mentionnés par la cour d'assises et conclu que la faute du recourant était d'une gravité évidente (responsabilité pleine et entière, état d'alcoolisation, situation personnelle, familiale et professionnelle, circonstance aggravante de l'art. 200 CP). Compte tenu de l'ensemble des circonstances, elle a conclu que la cour d'assises n'avait pas violé les art. 47 et 50 CP en fixant une peine privative de liberté de vingt-neuf mois et quinze jours.
5.3 5.3.1 Le recourant reproche à la cour cantonale de ne pas avoir tenu compte de son comportement après les faits et au cours de procédure. La cour d'assises et la cour de cassation ont expressément précisé que le recourant s'était récemment marié, envisageait de fonder une famille et travaillait dans un commerce de prêt-à-porter tenu par sa mère et son beau-père où il donnait entière satisfaction (arrêt du 25 novembre 2010 p. 4). La cour d'assises a ajouté, à propos du sursis partiel, qu'il y avait lieu de tenir compte de l'ancienneté des faits, de ce que le recourant venait de se marier et qu'il se comportait de manière responsable dans le domaine professionnel où il exerçait une activité qui comportait une prise de responsabilités (arrêt précité p. 5). La cour d'assises et la cour de cassation n'ont donc pas omis de tenir compte du comportement du recourant après les faits. Le grief soulevé est mal fondé.
5.3.2 Le recourant se plaint d'une motivation insuffisante de la mesure de la peine, en particulier des conditions permettant de retenir la circonstance aggravante de l'art. 200 CP.
Comme vu ci-dessus, la cour d'assises et la cour de cassation ont énuméré les éléments pertinents, et la motivation qu'elles développent permet de suivre leur raisonnement. S'agissant de l'application de l'art. 200 CP, la cour d'assises a précisé, dans son premier jugement, que les trois accusés avaient agi en commun et qu'ils étaient coauteurs (arrêt du 14 septembre 2009 p. 8 et 5). Au demeurant, au vu des faits constatés, la commission en commun au sens de l'art. 200 CP s'impose, sans qu'il soit nécessaire de faire de grands développements. En effet, il ressort de l'état de fait que les trois hommes ont accompli des actes sexuels et d'ordre sexuel en tant que coauteurs et qu'ils étaient tous présents au moment de la commission. Infondé, le grief soulevé doit être rejeté.
5.3.3 Enfin, le recourant reproche à la Chambre pénale d'appel et de revision d'avoir refusé de revoir la peine infligée au recourant au vu du temps écoulé depuis le précédent arrêt de la cour d'assises, alors que celui-ci s'est bien comporté et que, de jurisprudence constante, le temps écoulé diminue l'intérêt à punir.
Saisie après l'arrêt de renvoi du 25 novembre 2010, la cour cantonale ne pouvait plus revenir sur la mesure de la peine, cette question ayant été tranchée définitivement par les instances cantonales compétentes. La limitation du pouvoir d'examen de l'autorité saisie après un arrêt de renvoi est un principe général, qui s'applique tant dans l'ancienne procédure pénale genevoise (art. 356 CPP/GE) que selon le nouveau CPP. Au demeurant, il ne convenait pas de tenir compte du temps écoulé depuis le précédent arrêt de la cour d'assises. En effet, pour déterminer si un temps relativement long au sens de l'art. 48 let. e CP s'est écoulé, il convient de se référer à la date, à laquelle les faits ont été souverainement établis (ATF 115 IV 95 consid. 3 ; ATF 132 IV 1 consid. 6.2.1 p. 4). Or, en droit genevois, la cour d'assises établit les faits souverainement.
5.3.4 En définitive, la cour cantonale n'a pas omis d'élément important lors de la fixation de la peine et a correctement motivé celle-ci. Il convient encore d'examiner si, au vu des circonstances, la peine infligée apparaît sévère au point de constituer un abus du pouvoir d'appréciation.
En l'espèce, le recourant s'est rendu coupable d'actes d'ordre sexuel commis sur une personne incapable de discernement ou de résistance. Il convient de retenir la circonstance aggravante de l'art. 200 CP (commission en commun). A sa décharge, on peut mentionner son état d'alcoolisation. La faute doit ainsi être qualifiée de grave. Sur le plan personnel, on peut mentionner que le recourant s'est marié et qu'il exerce une activité professionnelle qui implique une prise de responsabilité. Au vu de l'ensemble de ces circonstances, la peine privative de liberté de vingt-neuf mois et quinze jours n'est pas sévère de sorte qu'il faille conclure à un abus du large pouvoir d'appréciation accordé à la cour cantonale.
6. Enfin, le recourant reproche à la cour de cassation d'avoir violé l'art. 29 al. 3 Cst. et appliqué arbitrairement l'art. 7 let. a du règlement genevois sur l'assistance judiciaire en mettant inconditionnellement à sa charge un émolument judiciaire de 1500 fr. alors qu'il était au bénéfice de l'assistance juridique totale au niveau cantonal. Il invoque, en particulier l'arrêt publié aux ATF 135 I 91 ss.
6.1 La jurisprudence à laquelle le recourant se réfère a trait aux frais de la défense d'office, mais non aux émoluments judiciaires en tant que tels. L'octroi de l'assistance juridique au sens de l'art. 29 al. 3 Cst. signifie que la personne indigente est dispensée de payer les avances de frais et les sûretés exigées par l'autorité et que les frais d'avocat sont couverts par l'Etat (AUER et al., Droit constitutionnel suisse, vol. II, Les droits fondamentaux, 2e éd., 2006, n. 1594, p. 709). L'art. 29 al. 3 Cst. offre une garantie d'accès à la justice et non la gratuité des procédures (ATF 135 I 91 consid. 2.4.2.3 p. 97). Or, le recourant ne démontre pas, par une argumentation précise (art. 106 al. 2 LTF) en quoi la mise à sa charge des frais, après la clôture de la procédure pénale, remet en cause son droit à l'accès de la justice.
6.2 Le recourant soutient en outre que la mise à sa charge des frais violerait arbitrairement l'art. 7 de l'ancien règlement cantonal sur l'assistance juridique, alors applicable (ci-après : aRAJ). Sauf dans les cas cités expressément à l'art. 95 LTF, le recours en matière pénale ne peut pas être formé pour violation du droit cantonal en tant que tel. En revanche, il est toujours possible de faire valoir que la mauvaise application du droit cantonal constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels (ATF 133 III 462 consid. 2.3 p. 466). A cet égard, le Tribunal fédéral n'examinera le moyen fondé sur la violation d'un droit constitutionnel que si le grief a été invoqué et motivé de manière précise (art. 106 al. 2 LTF). En l'espèce, le recourant se borne à reprendre la teneur de l'art. 7 aRAJ, sans expliquer en quoi consiste l'arbitraire. Son grief est irrecevable.
7. Le recours doit ainsi être rejeté dans la mesure où il est recevable.
Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (art. 64 al. 1 LTF). Le recourant devra donc supporter les frais (art. 66 al. 1 LTF), dont le montant sera toutefois fixé en tenant compte de sa situation financière.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 1600 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, à la Cour de justice du canton de Genève, Chambre pénale d'appel et de révision, et à la Cour de cassation du canton de Genève.
Lausanne, le 10 avril 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin