Faits: A. A la suite d'une procédure de rappel d'impôts, l'Administration fiscale du canton de Genève (ci-après: l'Administration fiscale cantonale) a reproché à X._, ingénieur architecte actif dans le domaine de l'immobilier, de ne pas avoir déclaré un abandon de créance de 2'130'500 fr. octroyé par la banque A._ dans le cadre d'une opération immobilière menée avec B._ sur la commune de C._ dans le canton de Vaud. L'abandon de créance était soumis à la condition que X._ paie à la banque A._ 50'000 fr. et que B._ paie 250'000 fr. L'opération immobilière ayant entraîné une perte, le canton de Vaud a constaté l'absence de gain immobilier imposable. Le 5 septembre 2006, l'Administration fiscale cantonale a notifié à X._ un bordereau de rappel pour l'impôt cantonal et communal ainsi qu'une amende pour soustraction fiscale. Le prononcé de l'amende a été confirmé par le Tribunal fédéral dans un arrêt du 7 octobre 2010 (2C_336/2010). Le 5 septembre 2006 également, l'Administration fiscale cantonale a notifié un bordereau de rappel pour l'impôt fédéral direct 2002 de 86'077 fr. 50 plus 8'067 fr. 40 d'intérêts de retard, un bordereau de rappel pour l'impôt fédéral direct 2003 de 71'496 fr. 90 plus 4'198 fr. 45 d'intérêts de retard ainsi qu'une amende de 118'181 fr. réduite à 75 % de l'impôt soustrait, pour tenir compte de la bonne collaboration de l'intéressé ainsi que de celle de son mandataire. Le 29 septembre 2006, X._ a déposé une réclamation visant uniquement le bordereau d'amende. Le 5 octobre 2006, l'Administration fiscale cantonale a maintenu le bordereau d'amende tel qu'il avait été notifié. Par décision du 28 mars 2011, le Tribunal administratif de première instance du canton de Genève a rejeté le recours de X._ contre la décision sur réclamation du 5 octobre 2006 et confirmé l'amende. Le 30 mai 2011, X._ a saisi la Chambre administrative de la Cour de justice de la République et canton de Genève (ci-après: la Cour de justice) d'un recours contre la décision du 28 mars 2011. L'intéressé a exposé que l'opération s'était soldée par une perte de l'ordre de 4'561'000 fr. A aucun moment il n'avait eu connaissance du fait que l'abandon de créance constituait un revenu imposable. Il s'était fié à l'avis de taxation des autorités vaudoises qui avaient admis que l'opération avait entraîné une perte. Par arrêt du 21 août 2012, reprenant les considérants développés dans l'arrêt du Tribunal fédéral du 7 octobre 2010 (2C_336/2010), la Cour de justice a rejeté le recours de X._. En abandonnant une créance hypothécaire de 2'130'000 fr. contre le paiement d'une somme modique de 50'000 fr., l'intéressé pouvait et devait comprendre que la banque renonçait à diminuer son patrimoine. Le fait que le décompte de l'opération immobilière fourni aux autorités fiscales n'ait pas été accompagné d'un compte d'exploitation constituait un indice de sa volonté de cacher au fisc un élément de sa capacité économique et financière. Dans ces circonstances, en s'accommodant d'une éventuelle soustraction fiscale, l'intéressé avait agi à tout le moins par dol éventuel. B. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, avec suite de dépens, d'annuler l'arrêt rendu le 21 août 2012 par la Cour de justice et de renvoyer la cause pour nouvelle décision. Il demande au Tribunal fédéral d'accorder l'effet suspensif et de suspendre l'instruction du recours. Il conclut également à ce que le Tribunal fédéral ordonne l'apport de la procédure A/39/2009-ICC. L'intéressé se plaint de la violation des art. 56 al. 1 de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; RS 642.14), 175 al. 1 et 2 de la loi fédérale du 14 décembre 1990 sur l'impôt fédéral direct (LIFD; RS 642.11), 1 et 13 al. 1 CP, 29 al. 1 Cst. et 6 par. 2 de la Convention européenne de sauvegarde des droits de l'homme et des libertés fondamentales du 4 novembre 1950 (CEDH; RS 0.101). Par ordonnance du 12 octobre 2012, le Président de la deuxième Cour de droit public a rejeté la demande de suspension. La demande d'effet suspensif a été rejetée par ordonnance présidentielle du 6 novembre 2012. L'Administration fiscale cantonale conclut au rejet du recours, avec suite d'émolument. Elle fait valoir en substance que conformément au principe de l'harmonisation fiscale, il convient de se référer aux arguments et conclusions du Tribunal fédéral dans l'arrêt du 7 octobre 2010 en relation avec l'impôt cantonal et communal. L'Administration fédérale des contributions se rallie aux observations de l'Administration fiscale cantonale et conclut au rejet du recours, avec suite de frais. X._ a encore répliqué.