Faits:
A. Par arrêt du 24 septembre 2010, la Cour d'assises du canton de Genève a condamné D._ à une peine privative de liberté de six ans pour tentative d'assassinat sur la personne de A._.
Elle a acquitté X._ (gendre de la victime) et B._, respectivement poursuivi comme instigateur et complice de la tentative d'assassinat.
Cet arrêt repose, pour l'essentiel, sur les faits suivants :
A.a Le 24 août 2004, A._, partie civile dans la présente procédure, a tiré cinq coups de feu sur sa fille C._, épouse de X._. Cela a eu pour conséquence de la rendre paraplégique.
A.b Le 5 octobre 2007, D._ a tiré sur A._, qui se rendait à son procès et attendait le bus. Celui-ci n'a survécu aux lésions occasionnées que grâce à l'intervention rapide des secours.
D._ a été mis en oeuvre pour tuer A._, mais les éléments du dossier ne permettaient pas de conclure que ce fut le fait de X._ plutôt que d'un tiers, notamment un proche, tel son ami E._ qui aurait entrepris de lui venir en aide, en faisant laver son honneur. Au demeurant, le rôle joué par d'autres personnes dans cette affaire n'avait pas été suffisamment exploré ou du moins établi. En entendant X._, le jury a acquis la conviction que « son état mental lui permettait d'espérer qu'on s'en prenne à son beau-père et de ne pas s'opposer à un projet meurtrier à son encontre, mais pas de mettre en oeuvre concrètement lui-même un tel plan à exécution, ce qui impliquait trouver un tueur, organiser son voyage et sa prise en charge, lui procurer ou faire procurer une arme et assurer la logistique nécessaire à sa fuite » (verdict de culpabilité p. 6).
B. Par arrêt du 2 septembre 2011, la Cour de cassation genevoise a rejeté le pourvoi formé par le Ministère public contre l'acquittement de X._.
C. Contre cet arrêt, le Ministère public du canton de Genève dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut, principalement, à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale pour nouveau jugement ; subsidiairement, à la reconnaissance de la culpabilité de X._ pour instigation à assassinat et au renvoi de la cause à l'autorité cantonale pour fixation de la peine.
Il n'a pas été ordonné d'échange d'écritures.
Considérant en droit:
1. Le recourant invoque un déni de justice formel. En effet, dans son recours cantonal, il s'était plaint que la Cour d'assises avait retenu que l'état mental de l'intimé ne lui permettait pas d'accomplir les actes d'instigation et qu'elle s'était ainsi écartée arbitrairement de l'expertise psychiatrique qui concluait à une responsabilité pleine et entière de l'intimé. Or, la Cour de cassation n'aurait pas traité ce grief.
1.1 Selon la jurisprudence, l'autorité qui ne traite pas un grief relevant de sa compétence, motivé de façon suffisante et pertinente pour l'issue du litige commet un déni de justice formel proscrit par l'art. 29 al. 1 Cst. (ATF 117 Ia 116 consid. 3a p. 117).
1.2 La Cour de cassation a traité le grief du recourant, mais l'a déclaré non pertinent. En effet, elle a expliqué que la Cour d'assises avait acquitté l'intimé, non au motif que celui-ci aurait été irresponsable ou partiellement responsable, mais parce que le dossier ne contenait pas suffisamment d'éléments pour fonder une condamnation pour instigation à assassinat. En conséquence, aucun déni de justice formel ne peut lui être reproché. Le grief soulevé doit être rejeté.
2. Le recourant dénonce la violation du droit d'être entendu (art. 29 al. 2 Cst.). Il reproche à la Cour de cassation de ne pas avoir indiqué les raisons qui l'ont conduite à conclure que la Cour d'assises ne s'était pas écartée arbitrairement de l'expertise psychiatrique.
2.1 Le droit d'être entendu implique notamment pour l'autorité l'obligation de motiver sa décision. Il ne lui impose cependant pas d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties. L'autorité peut, au contraire, se limiter à ceux qui, sans arbitraire, lui paraissent pertinents (ATF 134 I 83 consid. 4.1 p. 88; 133 III 439 consid. 3.3 p. 445; 130 II 530 consid. 4.3 p. 540).
2.2 La Cour de cassation a expliqué que le grief soulevé par le recourant n'était pas pertinent, puisque les premiers juges avaient acquitté l'intimé faute d'élément suffisant pour établir sa participation à la tentative d'assassinat et non en raison de son état mental. Elle a donc motivé le rejet du grief soulevé par le recourant. Le reproche du recourant est infondé.
3. Le recourant reproche à la Cour de cassation d'avoir appliqué arbitrairement l'art. 340 let. f aCPP/GE, en refusant d'examiner un grief qui lui était valablement soumis.
3.1 L'art. 340 let. f aCPP/GE prévoit que la voie de la cassation est ouverte lorsque la décision repose sur des faits établis de façon manifestement inexacte.
3.2 Ce grief est également infondé, puisque la Cour de cassation a examiné le grief du recourant, mais l'a considéré comme non pertinent. Elle n'a donc pas restreint indûment son pouvoir d'examen.
4. Le recourant reproche à la Cour de cassation de s'être écartée arbitrairement des conclusions de l'expert psychiatre, qui a conclu que la responsabilité de l'accusé était entière au moment des faits.
4.1 Le juge n'est en principe pas lié par le résultat d'une expertise. Mais s'il entend s'en écarter, il doit motiver sa décision et ne saurait, sans motifs déterminants, substituer son appréciation à celle de l'expert, sous peine de verser dans l'arbitraire (ATF 129 I 49 consid. 4 p. 57 s.; 128 I 81 consid. 2 p. 86).
4.2 La Cour de cassation ne s'est toutefois pas écartée de l'expertise psychiatrique et n'a pas considéré que le recourant était irresponsable. Elle s'est référée à l'appréciation de la Cour d'assises qui a acquitté l'intimé parce que les éléments du dossier ne lui permettaient pas de conclure qu'il avait incité D._ à tirer sur son beau-père. La Cour d'assises a précisé que l'état mental (à savoir son caractère) lui permettait d'espérer qu'on s'en prenne à son beau-père et de ne pas s'opposer à un projet meurtrier à son encontre, mais pas de mettre concrètement lui-même un tel plan à exécution (cf. arrêt attaqué p. 6, verdict de culpabilité p. 6). Cette constatation de fait va du reste dans le sens de l'expertise qui constate que l'expertisé peut parfois agir de façon spectaculaire et peu réfléchie, mais que les actes qui lui sont reprochés nécessitaient patience et préparation (pièce 469). Mal fondé, le grief soulevé doit être rejeté.
5. Le recourant se plaint d'une mauvaise application des articles 24, 111 et 112 CP.
5.1 Est un instigateur celui qui, intentionnellement, décide autrui à commettre un crime ou un délit (art. 24 al. 1 CP). L'instigation consiste à susciter chez autrui la décision de commettre un acte déterminé. Il doit exister une relation de causalité entre le comportement incitatif de l'instigateur et la décision de l'instigué de commettre l'acte, bien qu'il ne soit pas nécessaire que l'instigateur ait dû vaincre la résistance de l'instigué. L'instigation implique une influence psychique ou intellectuelle directe sur la formation de la volonté d'autrui. Cette volonté peut être déterminée même chez celui qui est disposé à agir ou chez celui qui s'offre à accomplir un acte réprimé par le droit pénal et cela aussi longtemps que l'auteur ne s'est pas encore décidé à passer à l'action concrètement. L'instigation n'entre en revanche pas en considération si l'auteur de l'acte était déjà décidé à le commettre (ATF 128 IV 11 consid. 2a p. 14 s.).
5.2 Selon les constatations de fait de l'arrêt attaqué, l'intimé n'a ni décidé ni incité D._ à commettre l'acte ; il a su que cet acte était programmé, et il a « laissé faire » D._. En « laissant faire », il n'a pas suscité chez ce dernier la décision d'assassiner son beau-père ; aucun lien de causalité entre son comportement et la décision de D._ de tuer A._ ne peut donc être retenu, de sorte que toute instigation est exclue.
Dans son argumentation, le recourant affirme que l'intimé a exercé une influence psychique directe sur la formation de la volonté de D._, dès lors qu'il a sorti ce dernier de la misère dans laquelle il se trouvait en Arménie, lui a payé le voyage et le séjour à Genève, lui a de ce fait donné accès aux soins en Europe pour soigner son hépatite C et, surtout, l'a mis au contact de son épouse C._ en lui expliquant les motifs pour lesquels il n'a pas lui-même vengé l'acte irréparable commis par le père de C._ sur cette dernière. En argumentant ainsi, il remet en cause, de manière inadmissible, l'état de fait cantonal. En effet, il ne peut s'écarter des constatations de fait cantonales que s'il démontre que celles-ci sont manifestement inexactes (art. 97 al. 1 LTF) ou arbitraires (ATF 137 II 353 consid. 5.1 p. 356 ; sur la notion d'arbitraire : ATF 137 I 1 consid. 2.4 p. 5). Or, son argumentation est purement appellatoire, le recourant se contentant de plaider à nouveau la cause, sans démontrer un quelconque arbitraire. Ses griefs sont donc irrecevables.
6. Le recours doit être rejeté dans la mesure où il est recevable.
Conformément à l'art. 66 al. 4 LTF, il est statué sans frais.
Il n'y a pas lieu d'allouer d'indemnité à l'intimé qui n'a pas déposé de mémoire dans la procédure devant le Tribunal fédéral.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Il n'est pas perçu de frais judiciaires ni alloué de dépens.
3. Le présent arrêt est communiqué aux parties, à la Cour de cassation du canton de Genève et à l'Hoirie de feu A._.
Lausanne, le 23 février 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin