Faits: A. Par jugement du 21 septembre 2011, le Tribunal de police du canton de Genève a condamné X._, pour abus de confiance et faux dans les titres, à une peine pécuniaire de 300 jours-amende à 20 fr., avec sursis pendant deux ans. Il a contraint l'intéressé à verser à Y._ la somme de CHF 211'764, contre-valeur au 11 décembre 2000 du montant de FF 863'785.34, avec intérêts à 5 % dès le 11 décembre 2000. B. Par arrêt du 5 mars 2012, la Chambre pénale d'appel et de révision de la Cour de justice genevoise a rejeté l'appel formé par X._ contre ce jugement. En résumé, la condamnation de X._ repose sur les faits suivants: B.a Le 18 octobre 1990, Y._, née le *** 1923, a déclaré constituer son gendre, X._, comme son mandataire et lui a donné une procuration en vue de recueillir la succession de feu A._, son cousin, décédé à Paris et dont elle était l'une des héritières. De 1990 à 1999, X._ a entrepris nombre de démarches dans le but de recueillir la succession. Le 1er septembre 1999, dans le cadre des opérations de succession avant partage, il s'est vu remettre un chèque de FF 85'000, montant qu'il a versé sur le compte de sa société. Il a versé la contre-valeur de cette somme, à savoir CHF 25'000, sur le compte bancaire de Y._ (valeur au 25 février 2000). Le 8 décembre 2000, l'acte de partage a été dressé. Il prévoyait que Y._ hérite de l'actif successoral à hauteur de FF 888'007.12, à savoir FF 863'785.34 net après paiement des frais, honoraires et soulte. Le 11 décembre 2000, X._ s'est donc vu remettre des titres, à savoir 2003 parts de fonds de placement qu'il s'est fait virer sur son compte auprès de H._ à Paris. Il a vendu les titres et disposé du produit de la vente. Il ne l'a pas versé à Y._. B.b Postérieurement au mois d'août 2001, vraisemblablement entre décembre 2004 et juin 2005, mais à une date restée inconnue, X._ a établi trois courriers dactylographiés, qu'il a rédigés au nom de Y._ et qu'il lui a fait signer, simultanément, alors qu'elle se trouvait à la gériatrie de B._ ou à l'EMS de C._. Ces courriers avaient la teneur suivante: - Dans un courrier daté du 16 novembre 1990, Y._ confirmait avoir mandaté X._ ainsi que sa société, la Société F._ SA, afin de gérer l'ensemble des affaires ayant trait à la succession de A._ avec tout pouvoir, conformément à une procuration précédemment remise. Comme l'affaire revêtait un certain nombre de difficultés et nécessitait un travail considérable, X._ avancerait les frais, y compris les honoraires d'avocat dans une procédure intentée contre l'Etude de généalogie D._ et les coûts liés à la recherche des héritiers de la branche maternelle du de cujus. La rémunération de X._ était fixée à 50 % de toutes les sommes récoltées sur cette succession. - Dans un courrier du 17 décembre 1999, Y._ remerciait X._ des informations transmises, notamment quant au montant des actifs nets de la succession, de EUR 200'000, dont un montant de EUR 37'000 correspondant aux frais et honoraires d'avocat devant être déduits, de même que les frais avancés par X._. Le travail effectué par ce dernier s'étant révélé considérable, il méritait une rémunération supérieure à celle initialement convenue, de sorte qu'elle lui cédait l'ensemble des droits de la succession, moyennant le versement d'un montant de CHF 25'000 en sa faveur. - Dans un courrier daté du 7 janvier 2000, Y._ remerciait X._ de l'avoir tenue informée de l'ensemble des démarches effectuées et du travail accompli et confirmant lui céder la totalité de l'héritage de A._ en remboursement des frais avancés et de ses honoraires, ainsi que ceux de la Société F._ SA, moyennant le versement d'une somme forfaitaire de CHF 25'000 en sa faveur. Selon le rapport d'expertise du 24 mars 2010 établi par E._, les signatures de Y._ figurant sur les courriers des 16 novembre 1990, 17 décembre 1999 et 7 janvier 2000 ne présentaient pas de signe d'imitation et avaient été apposées au moyen d'un même stylo à bille après l'impression des textes, les lettres ayant été imprimées sur le même papier à la même époque. Les trois signatures avaient été apposées au même moment sur les trois documents litigieux et elles révélaient le même défaut d'habileté se traduisant par de légers tremblements, de sorte qu'elles étaient postérieures au mois d'août 2001. C. Contre l'arrêt cantonal, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à l'annulation de l'arrêt attaqué et à son acquittement. Par ordonnance du 5 avril 2012, la cour de droit pénal du Tribunal fédéral a suspendu l'instruction du recours, précisant que celle-ci serait reprise à la requête des parties ou d'office, après la décision de la Chambre pénale d'appel et de révision genevoise sur la requête tendant à la révision de l'arrêt cantonal attaqué. X._ a formé recours devant le Tribunal fédéral contre le jugement de la cour cantonale genevoise déclarant sa demande de révision irrecevable (réf. 6B_415/2012). Après avoir rejeté ledit recours, la cour de céans a repris d'office l'instruction du présent recours. Il n'a pas été ordonné d'échange d'écritures.