Faits:
A. Par jugement du 21 septembre 2011, le Tribunal de police du canton de Genève a condamné X._, pour abus de confiance et faux dans les titres, à une peine pécuniaire de 300 jours-amende à 20 fr., avec sursis pendant deux ans. Il a contraint l'intéressé à verser à Y._ la somme de CHF 211'764, contre-valeur au 11 décembre 2000 du montant de FF 863'785.34, avec intérêts à 5 % dès le 11 décembre 2000.
B. Par arrêt du 5 mars 2012, la Chambre pénale d'appel et de révision de la Cour de justice genevoise a rejeté l'appel formé par X._ contre ce jugement.
En résumé, la condamnation de X._ repose sur les faits suivants:
B.a Le 18 octobre 1990, Y._, née le *** 1923, a déclaré constituer son gendre, X._, comme son mandataire et lui a donné une procuration en vue de recueillir la succession de feu A._, son cousin, décédé à Paris et dont elle était l'une des héritières.
De 1990 à 1999, X._ a entrepris nombre de démarches dans le but de recueillir la succession. Le 1er septembre 1999, dans le cadre des opérations de succession avant partage, il s'est vu remettre un chèque de FF 85'000, montant qu'il a versé sur le compte de sa société. Il a versé la contre-valeur de cette somme, à savoir CHF 25'000, sur le compte bancaire de Y._ (valeur au 25 février 2000).
Le 8 décembre 2000, l'acte de partage a été dressé. Il prévoyait que Y._ hérite de l'actif successoral à hauteur de FF 888'007.12, à savoir FF 863'785.34 net après paiement des frais, honoraires et soulte. Le 11 décembre 2000, X._ s'est donc vu remettre des titres, à savoir 2003 parts de fonds de placement qu'il s'est fait virer sur son compte auprès de H._ à Paris. Il a vendu les titres et disposé du produit de la vente. Il ne l'a pas versé à Y._.
B.b Postérieurement au mois d'août 2001, vraisemblablement entre décembre 2004 et juin 2005, mais à une date restée inconnue, X._ a établi trois courriers dactylographiés, qu'il a rédigés au nom de Y._ et qu'il lui a fait signer, simultanément, alors qu'elle se trouvait à la gériatrie de B._ ou à l'EMS de C._.
Ces courriers avaient la teneur suivante:
- Dans un courrier daté du 16 novembre 1990, Y._ confirmait avoir mandaté X._ ainsi que sa société, la Société F._ SA, afin de gérer l'ensemble des affaires ayant trait à la succession de A._ avec tout pouvoir, conformément à une procuration précédemment remise. Comme l'affaire revêtait un certain nombre de difficultés et nécessitait un travail considérable, X._ avancerait les frais, y compris les honoraires d'avocat dans une procédure intentée contre l'Etude de généalogie D._ et les coûts liés à la recherche des héritiers de la branche maternelle du de cujus. La rémunération de X._ était fixée à 50 % de toutes les sommes récoltées sur cette succession.
- Dans un courrier du 17 décembre 1999, Y._ remerciait X._ des informations transmises, notamment quant au montant des actifs nets de la succession, de EUR 200'000, dont un montant de EUR 37'000 correspondant aux frais et honoraires d'avocat devant être déduits, de même que les frais avancés par X._. Le travail effectué par ce dernier s'étant révélé considérable, il méritait une rémunération supérieure à celle initialement convenue, de sorte qu'elle lui cédait l'ensemble des droits de la succession, moyennant le versement d'un montant de CHF 25'000 en sa faveur.
- Dans un courrier daté du 7 janvier 2000, Y._ remerciait X._ de l'avoir tenue informée de l'ensemble des démarches effectuées et du travail accompli et confirmant lui céder la totalité de l'héritage de A._ en remboursement des frais avancés et de ses honoraires, ainsi que ceux de la Société F._ SA, moyennant le versement d'une somme forfaitaire de CHF 25'000 en sa faveur.
Selon le rapport d'expertise du 24 mars 2010 établi par E._, les signatures de Y._ figurant sur les courriers des 16 novembre 1990, 17 décembre 1999 et 7 janvier 2000 ne présentaient pas de signe d'imitation et avaient été apposées au moyen d'un même stylo à bille après l'impression des textes, les lettres ayant été imprimées sur le même papier à la même époque. Les trois signatures avaient été apposées au même moment sur les trois documents litigieux et elles révélaient le même défaut d'habileté se traduisant par de légers tremblements, de sorte qu'elles étaient postérieures au mois d'août 2001.
C. Contre l'arrêt cantonal, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à l'annulation de l'arrêt attaqué et à son acquittement.
Par ordonnance du 5 avril 2012, la cour de droit pénal du Tribunal fédéral a suspendu l'instruction du recours, précisant que celle-ci serait reprise à la requête des parties ou d'office, après la décision de la Chambre pénale d'appel et de révision genevoise sur la requête tendant à la révision de l'arrêt cantonal attaqué. X._ a formé recours devant le Tribunal fédéral contre le jugement de la cour cantonale genevoise déclarant sa demande de révision irrecevable (réf. 6B_415/2012). Après avoir rejeté ledit recours, la cour de céans a repris d'office l'instruction du présent recours.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. Le recourant invoque la présomption d'innocence.
1.1 Telle qu'elle est invoquée, à savoir comme règle de l'appréciation des preuves, la présomption d'innocence interdit au juge de se déclarer convaincu d'un état de fait défavorable à l'accusé, lorsqu'une appréciation objective des éléments de preuve recueillis laisse subsister un doute sérieux et insurmontable quant à l'existence de cet état de fait (<ref-ruling> consid. 2a p. 41 et les arrêts cités). Le Tribunal fédéral ne revoit que sous l'angle de l'arbitraire la question de savoir si le juge aurait dû éprouver un doute, c'est-à-dire celle de l'appréciation des preuves (<ref-ruling> consid. 2 p. 40 ss; <ref-ruling> consid. 4 p. 211; <ref-ruling> consid. 2d p. 37/38). La notion d'arbitraire a été rappelée récemment dans l'<ref-ruling> consid. 6.1 p. 379 s., auquel on peut donc se référer. En bref, une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable, et cela non seulement dans sa motivation mais dans son résultat. Le grief d'arbitraire doit être invoqué et motivé de manière précise (art. 106 al. 2 LTF). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 5.1 p. 356 ; <ref-ruling> consid. 6 p. 397).
1.2 En l'espèce, le recourant se borne à reprocher à la cour cantonale d'avoir retenu la version de l'intimée plutôt que ses dénégations. Il n'établit pas en quoi ni sur quel point l'état de fait retenu par la cour cantonale serait arbitraire. Insuffisamment motivé, le grief soulevé est irrecevable.
2. Le recourant conteste sa condamnation pour faux dans les titres.
2.1 Selon l'art. 251 CP, se rend coupable de faux dans les titres celui qui, dans le dessein de porter atteinte aux intérêts pécuniaires ou aux droits d'autrui, ou de se procurer ou de procurer à un tiers un avantage illicite, aura créé un titre faux, falsifié un titre, abusé de la signature ou de la marque à la main réelles d'autrui pour fabriquer un titre supposé, ou constaté ou fait constater faussement, dans un titre, un fait ayant une portée juridique, ou aura, pour tromper autrui, fait usage d'un tel titre.
L'article 251 CP réprime aussi bien la création d'un titre faux ou la falsification d'un document (faux matériel) que l'établissement d'un écrit constatant un fait faux (faux intellectuel).
2.2 Il y a création d'un titre faux (unecht, c'est-à-dire un titre qui n'est pas authentique) lorsqu'une personne crée un titre dont l'auteur réel ne coïncide pas avec l'auteur apparent (<ref-ruling> consid. 5.1.1 p. 60) ou, en d'autres termes, en faisant apparaître un auteur qui n'est pas celui dont émane en réalité la pensée (CORBOZ, Les infractions en droit suisse, vol. II, 3e éd., 2010, n. 55 ad art. 251 CP). Il est admis que celui qui obtient, d'une autre personne, une déclaration par la tromperie, crée un titre faux (unechte Urkunde) si cette personne n'a pas la conscience d'émettre une déclaration ou si elle n'a même pas remarqué qu'elle émettait une déclaration ou signait un document (MARKUS BOOG, in Basler Kommentar, Strafrecht II, 2e éd., 2007, n. 22a et 6 ad art. 251). En revanche, la tromperie sur le contenu de la déclaration ne concerne pas l'authenticité du titre (Echtheit); dans ce cas, il s'agit d'un faux intellectuel, la personne trompée étant considérée comme auteur médiat (MARKUS BOOG, ibidem; CORBOZ, op. cit., n. 88 ad art. 251).
Selon l'expertise, les signatures apposées sur chacun des trois courriers litigieux émanent de l'intimée et sont authentiques. Il convient dès lors de déterminer si l'intimée a eu conscience d'apposer sa signature sur les lettres litigieuses. Déterminer ce qu'une personne a su, envisagé ou accepté relève de l'établissement des faits (<ref-ruling> consid. 2.3.2 p. 156), que le Tribunal fédéral ne peut réexaminer que lorsqu'il est entaché d'inexactitude manifeste (art. 97 al. 1 LTF), à savoir d'arbitraire (<ref-ruling> consid. 1.4.1 p. 39). La cour cantonale a retenu que le recourant avait extorqué la signature à l'intimée qui ne s'était pas rendue compte qu'elle émettait des déclarations de volonté ayant une portée juridique. Elle s'est fondée sur l'âge de l'intimée, le fait qu'elle se trouvait dans un EMS, que les courriers, tous antidatés et de contenus contradictoires, avaient été signés le même jour, ainsi que sur les déclarations de l'intimée et de sa fille. Le recourant ne démontre pas que cette constatation de fait (à savoir que l'intimée n'a pas eu conscience de signer les lettres litigieuses) serait arbitraire (art. 97 al. 1 et 106 al. 2 LTF), de sorte que celle-ci lie la cour de céans (art. 105 al. 1 LTF). Au vu de ces faits, il faut admettre que le recourant a créé un titre dont l'auteur réel (lui-même) ne coïncide pas avec l'auteur apparent (l'intimée) et qu'il a en conséquence établi un faux matériel.
2.3 Reste à déterminer si les lettres litigieuses peuvent être qualifiées de titres. Comme il s'agit de faux matériels, la conception restrictive de la jurisprudence en matière de faux intellectuels dans les titres n'est pas applicable en l'espèce (<ref-ruling> consid. 5.2 p. 62). Selon la loi, précisée par la jurisprudence, sont réputés titres tous les écrits destinés et propres à prouver un fait ayant une portée juridique (art. 110 al. 4 CP). La doctrine exige encore que l'écrit exprime une pensée humaine et qu'il émane d'une personne identifiable (MICHEL DUPUIS ET AL., Petit commentaire du Code pénal, 2012, n. 19 ad art. 110 CP).
En l'espèce, les trois lettres litigieuses confirment l'existence d'un contrat de mandat entre l'intimée et le recourant et fixent la rémunération à la moitié de la part successorale de l'intimée, puis à la totalité de cette part. Ces lettres étaient dès lors propres et destinées à prouver la volonté de l'intimée de rémunérer le recourant pour le travail accompli, en lui abandonnant d'abord une partie, puis toute sa part successorale. Elles étaient, en outre, susceptibles de constituer un moyen de preuve dans un litige opposant le recourant avec l'intimée. C'est donc avec raison que la cour cantonale a considéré que les faux créés par le recourant constituaient des titres au sens de l'art. 110 al. 4 CP.
2.4 Le faux dans les titres n'est punissable que s'il est commis intentionnellement. L'intention doit porter sur tous les éléments constitutifs de l'infraction. Le dol éventuel suffit (cf. <ref-ruling> consid. 2.2 p. 15). Il faut non seulement que l'auteur crée ou utilise le faux volontairement, mais encore qu'il veuille ou accepte que le document contienne une altération de la vérité et qu'il ait une valeur probante à cet égard. L'auteur doit donc être conscient du fait que l'écrit est objectivement susceptible de servir de moyen de preuve (ATF 79 IV 162 consid. 3). Il est également nécessaire que l'auteur veuille ou accepte l'idée de tromper autrui. L'auteur doit encore avoir agi dans un dessein spécial, qui peut être alternativement le dessein de nuire à autrui (porter atteinte aux intérêts pécuniaires d'autrui ou aux droits d'autrui) ou le dessein de se procurer ou de procurer à un tiers un avantage illicite.
En l'espèce, la cour cantonale a retenu que le recourant savait que l'intimée n'avait pas la moindre idée de la portée de ces documents et que ceux-ci lui permettraient de contrer toute prétention en restitution formée par l'intimée. Au vu de ces faits - qui lient la cour de céans, dans la mesure où le recourant n'en démontre pas l'arbitraire -, il y a lieu d'admettre que le recourant a agi avec conscience et volonté. Le dessein spécial, sous la forme d'un avantage illicite, doit être également admis, puisque ces documents permettaient au recourant de s'opposer à la restitution des valeurs.
2.5 Au vu de ce qui précède, la cour cantonale n'a pas violé le droit fédéral en condamnant le recourant pour faux (matériel) dans les titres.
3. Le recourant critique également sa condamnation pour abus de confiance.
3.1 Le recourant s'en prend d'abord à l'état de fait. Il soutient que l'intimée lui a cédé la totalité de la succession A._, sous réserve d'un montant de CHF 25'000 dont il s'est acquitté. Il se fonde à cet égard sur une lettre manuscrite de l'intimée, datée du 11 décembre 1991.
Le Tribunal fédéral est juge du droit. Il ne peut revoir les faits établis par l'autorité précédente que si ceux-ci l'ont été de manière manifestement inexacte (art. 97 al. 1 LTF), c'est-à-dire arbitraire (sur cette notion, cf. <ref-ruling> consid. 6.1 p. 379 s.). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
Présentée pour la première fois devant le Tribunal fédéral, cette pièce est un moyen de preuve nouveau, dont la cour de céans ne peut tenir compte conformément à l'art. 99 al. 1 LTF. Le grief est donc irrecevable.
Le recourant a également fait valoir ce moyen de preuve nouveau dans le cadre d'une procédure de révision. La Chambre pénale d'appel et de révision de la Cour de justice genevoise, puis la cour de céans ont déclaré cette demande de révision irrecevable (6B_415/2012).
3.2 Il convient encore d'examiner si les faits retenus par la cour cantonale peuvent être qualifiés d'abus de confiance.
3.2.1 Commet un abus de confiance au sens de l'art. 138 ch. 1 al. 2 CP celui qui, sans droit, aura employé à son profit ou au profit d'un tiers, des valeurs patrimoniales qui lui avaient été confiées.
Sur le plan objectif, l'auteur doit avoir acquis la possibilité de disposer des valeurs patrimoniales qui appartiennent économiquement à autrui, mais, conformément à un accord (exprès ou tacite) ou à un autre rapport juridique, il ne peut en faire qu'un usage déterminé (à savoir les conserver, les gérer ou les remettre; <ref-ruling> consid. 6.2 p. 27). Les valeurs patrimoniales peuvent avoir été remises à l'auteur aussi bien par le lésé lui-même que par un tiers (DUPUIS ET AL., Petit commentaire du Code pénal, 2012, n. n. 30 ad art. 138 CP). Le comportement délictueux consiste à utiliser les valeurs patrimoniales contrairement aux instructions reçues, en s'écartant de la destination fixée (<ref-ruling> consid. 2.2.1 p. 259).
Du point de vue subjectif, l'auteur doit avoir agi intentionnellement et dans un dessein d'enrichissement illégitime. Ce dessein fait défaut si l'auteur est en droit de compenser (<ref-ruling> consid. 3a p. 35).
3.2.2 Conformément à la procuration qui lui a été conférée, le recourant a reçu les titres, à savoir 2003 parts de fonds de placement, qui correspondaient à la part de succession de l'intimée et les a déposés sur le compte de sa société. Devenu propriétaire juridique de ces valeurs, il était tenu d'en conserver constamment la contre-valeur en vue de les restituer à l'intimée ou de les transférer à un tiers. Toutefois, outrepassant les pouvoirs conférés par la procuration, il a disposé des valeurs patrimoniales dans son propre intérêt.
Sur le plan subjectif, il connaissait l'objet de son mandat et savait que les valeurs remises ne lui appartenaient pas économiquement, mais qu'il devait en conserver la valeur pour les remettre à sa mandante ou à un tiers. Le dessein d'enrichissement est également réalisé. En effet, la cour cantonale a retenu que le mandat donné au recourant était gratuit et que les lettres du 16 novembre 1990, du 17 décembre 1999 et 7 janvier 2000 qui prévoyaient une rémunération du recourant étaient des faux. Ces constatations de fait lient la cour de céans (art. 105 al. 1 LTF), dans la mesure où le recourant n'en démontre pas l'arbitraire (art. 97 al. 1 et 106 al. 2 LTF). Pour le surplus, la cour cantonale a constaté que le recourant pouvait certes avoir eu certains frais, mais que ceux-ci étaient nettement inférieurs à FF 863'785.34. Le recourant ne démontre pas non plus que cette constatation de fait serait arbitraire, laquelle lie donc aussi la cour de céans. Dans ces conditions, il faut admettre que, même si le recourant a eu des frais et qu'il avait l'intention de se rembourser pour une partie, il a eu l'intention de s'enrichir en s'appropriant la totalité de la part successorale. Le recourant n'était pas en droit de faire valoir la compensation, à tout le moins pour refuser de remettre la totalité de la part successorale.
3.2.3 Au vu de ce qui précède, les conditions objectives et subjectives de l'abus de confiance sont réalisées, et la cour cantonale n'a pas violé le droit fédéral en condamnant le recourant pour abus de confiance.
4. Dans la mesure de sa recevabilité, le recours doit être rejeté.
Le recourant qui succombe doit être condamné aux frais (art. 66 al. 1 LTF).
Il n'y a pas lieu d'allouer des dépens à l'intimée qui n'a pas déposé de mémoire dans la procédure devant le Tribunal fédéral.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre pénale d'appel et de révision.
Lausanne, le 14 décembre 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin