Faits:
A. A.a R._, né en 1951, est rentier de l'assurance-invalidité. Il a bénéficié de prestations complémentaires fédérales et cantonales à partir du 1er juin 2000 (décisions du 27 novembre 2000). Dans le cadre d'une révision de son dossier, intervenue en mai 2010, le Service des prestations complémentaires du canton de Genève (SPC) a constaté que l'assuré percevait également une rente d'invalidité de la CNA depuis le 1er décembre 2000, ce qui l'a conduit à reprendre le calcul des prestations complémentaires depuis cette date en tenant compte de ce revenu. Par décision du 27 mai 2010, le SPC a supprimé le droit aux prestations complémentaires.
Par décision du 27 octobre 2010, confirmée sur opposition le 14 décembre 2010, le SPC a réclamé à l'assuré la restitution de la somme de 170'841 fr. 75, représentant les prestations complémentaires fédérales (13'617 fr.), les prestations complémentaires cantonales (99'960 fr.), les subsides à l'assurance-maladie obligatoire (50'337 fr. 40) et le remboursement de frais médicaux (6'927 fr. 35) versés à tort du 1er décembre 2000 au 31 octobre 2010. Par jugement du 22 mars 2011, qui n'a pas été attaqué, la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, a rejeté le recours que l'assuré avait formé contre la décision du 14 décembre 2010.
A.b Le 23 novembre 2010, l'assuré a demandé au SPC de remettre son obligation de restituer le montant de 170'841 fr. 75, en tout ou partie. Par décision du 1er juin 2011, confirmée sur opposition le 30 septembre 2011, le SPC a refusé d'accorder la remise.
B. R._ a déféré la décision du 30 septembre 2011 à la Cour de justice, qui l'a débouté par jugement du 8 mai 2012.
C. R._ interjette un recours en matière de droit public ainsi qu'un recours constitutionnel subsidiaire contre ce jugement en concluant notamment à son annulation, avec suite de frais et dépens.
Considérant en droit:
1. Le recours en matière de droit public réalise les conditions de recevabilité posées par les art. 82 à 85 LTF. Partant, en raison de son caractère subsidiaire, le recours constitutionnel n'est pas recevable (art. 113 LTF).
2. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être limité par les arguments de la partie recourante ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF, et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). La partie recourante qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF sont réalisées sinon un état de fait divergent ne peut être pris en considération.
3. La question de l'obligation du recourant de restituer la somme de 170'841 fr. 75 a fait l'objet du jugement du 22 mars 2011 qui est passé en force. Il s'ensuit que toute l'argumentation que le recourant développe à propos du bien-fondé de son obligation de restituer, singulièrement sur la question de la péremption au sens de l'art. 25 al. 2 LGPA et de l'art. 28 de loi genevoise sur les prestations complémentaires cantonales du 25 octobre 1968 (LPCC-GE; RSG J 4 25), est dépourvue de pertinence.
4. 4.1 Le litige porte uniquement sur la remise de l'obligation de restituer le montant de 170'841 fr. 75. La solution du litige ressortit à l'art. 25 al. 1, 2e phrase LPGA ainsi qu'aux art. 4 et 5 OPGA pour les prestations complémentaires fédérales, de même qu'à l'art. 24 al. 1, 2e phrase LPCC-GE pour les prestations cantonales. Aussi bien pour les premières que les secondes, la restitution ne peut être exigée lorsque l'intéressé était de bonne foi et qu'elle le mettrait dans une situation difficile.
4.2 La bonne foi, en tant que condition de la remise, est exclue d'emblée lorsque les faits qui conduisent à l'obligation de restituer (violation du devoir d'annoncer ou de renseigner) sont imputables à un comportement dolosif ou à une négligence grave. Selon la jurisprudence (arrêt P 42/92 consid. 5b, cité par ULRICH MEYER, Die Rückerstattung von Sozialversicherungsleistungen, RSJB 131/1995 p. 483), on peut attendre d'un assuré qu'il décèle des erreurs manifestes et qu'il en fasse l'annonce à la caisse (arrêt 9C_189/2012 du 21 août 2012 consid. 4). En revanche, l'assuré peut invoquer sa bonne foi lorsque l'acte ou l'omission fautifs ne constituent qu'une violation légère de l'obligation d'annoncer ou de renseigner (ATF 112 V 97 consid. 2c p. 103 et les références; arrêt 9C_474/2009 du 21 août 2009 consid. 2).
La jurisprudence distingue entre la bonne foi en tant que manque de conscience, de la part de l'intéressé, d'agir contrairement au droit et la question de savoir s'il peut invoquer la bonne foi dans les circonstances données ou s'il aurait dû, en faisant preuve de l'attention que l'on pouvait exiger de lui, reconnaître l'irrégularité juridique qui s'est produite. Alors que la présence ou le défaut de conscience d'agir contrairement au droit relève d'une question de fait, qui ne peut être examinée par le Tribunal fédéral que sous l'angle de l'art. 105 al. 2 LTF (consid. 2 supra), l'examen de l'attention exigible constitue une question de droit qui peut être revue librement, dans la mesure où il s'agit d'examiner si l'intéressé peut invoquer sa bonne foi au vu des circonstances de fait données (arrêt 9C_674/2012 du 15 janvier 2013 consid. 3.3, citant l'arrêt 8C_1/2007 du 11 mai 2007, in SVR 2007 EL n° 8 p. 19; ATF 122 V 221 consid. 3 p. 223).
4.3 Même si la qualification pénale joue un rôle important lorsque le comportement à l'origine de l'éventualité assurée est une infraction réprimée par le droit pénal (cf. par ex. en ce qui concerne les infractions au droit de la circulation routière ATF 120 V 227 consid. 2d, 119 V 245 consid. 3a), le juge des assurances sociales n'est lié par les constatations et l'appréciation du juge pénal ni en ce qui concerne la désignation des prescriptions enfreintes, ni quant à l'évaluation de la faute commise. Mais il ne s'écarte des constatations de fait du juge pénal que si les faits établis au cours de l'instruction pénale et leur qualification juridique ne sont pas convaincants, ou s'ils se fondent sur des considérations spécifiques du droit pénal, qui ne sont pas déterminantes en droit des assurances sociales (ATF 125 V 237 consid. 6a p. 242 et les références).
5. 5.1 En l'espèce, l'intimé a refusé d'accorder au recourant la remise de l'obligation de restituer le montant de 170'841 fr. 75 au motif que la condition de la bonne foi n'était pas remplie. Les premiers juges ont confirmé le point de vue de l'intimé. Ils ont considéré que même si le recourant s'estimait convaincu que les différentes assurances et services de l'administration communiquaient entre eux, il ne pouvait cependant pas manquer de constater que la rente qu'il percevait de la CNA n'apparaissait dans aucun des plans de calculs du SPC. En cas de doute, le recourant aurait dû interroger le SPC à ce sujet; son silence constituait une négligence grave.
5.2 Le recourant se prévaut d'une application arbitraire, au sens de l'art. 9 Cst., des art. 25 al. 2 LPGA, 30 OPC-AVS/AI, 24 et 28 LPCC-GE. Il soutient qu'il n'avait pas déclaré sa rente de l'assurance-accidents au SPC, car il pensait que la CNA avait intégré dans son calcul le montant des prestations complémentaires qui lui étaient versées par le SPC. C'est d'ailleurs en raison de sa bonne foi que le Ministère public de la République et canton de Genève n'est pas entré en matière sur une plainte du Département de la solidarité et de l'emploi de ce canton, par ordonnance du 21 mars 2011, de sorte que la sécurité du droit commanderait au juge administratif de ne pas s'écarter du jugement pénal (cf. ATF 123 II 97 consid. 3c/aa p. 104, 109 Ib 209 consid. 1 p. 204, 96 I 766 consid. 4 p. 774).
A cet égard, le recourant allègue qu'il avait en toute bonne foi, chaque année, rempli ses déclarations fiscales en inscrivant les montants reçus par l'AI, le SPC et la CNA. A son avis, il aurait suffi au SPC de demander une copie de ses déclarations fiscales pour constater que la rente de la CNA n'était pas prise en compte. Il estime qu'il ne doit pas supporter les conséquences des dysfonctionnements internes du SPC, notamment quant à l'obligation de réexaminer périodiquement les prestations, tous les quatre ans au moins, laquelle n'a pas été respectée.
5.3 Dans sa demande de prestations complémentaires du 21 juillet 2000, le recourant avait annoncé qu'il percevait une rente AI mensuelle de 2'300 fr. A cette occasion, il s'était engagé à informer l'Office cantonal des personnes âgées (OCPA, auquel le SPC a succédé) sans retard de tout changement de sa situation personnelle, de ses revenus, de son patrimoine et de ses dépenses; l'OCPA lui avait rappelé cette obligation lors de la notification des décisions de prestations complémentaires du 27 novembre 2000 (lettre du 5 décembre 2000). Dès lors, avec les premiers juges, on doit admettre que le manque de vigilance du recourant, qui a omis d'annoncer à l'administration qu'une rente d'invalidité de 45 % de la CNA lui avait été allouée subséquemment par décision du 10 octobre 2001 (mensuellement 1'872 fr. en 2000), relève assurément de la négligence grave, d'autant que ses revenus avaient à l'évidence augmenté depuis l'octroi de cette prestation.
La négligence grave dont le recourant a fait preuve exclut sa bonne foi au sens des art. 25 al. 1, 2e phrase LPGA et 24 al. 1, 2e phrase LPCC-GE, indépendamment des considérations spécifiques de l'autorité pénale (cf. ordonnance du Ministère public du 21 mars 2011) qui ne sont pas déterminantes en droit des assurances sociales. Quant aux réexamens périodiques, leur omission dans les délais prescrits (art. 30 OPC-AVS/AI) ne libérait pas pour autant le recourant de son obligation d'annoncer tout changement dans sa situation patrimoniale, ce qu'il n'a pas fait.
6. Le recourant, qui succombe, supportera les frais de la procédure (art. 66 al. 1 LTF). Vu les circonstances du cas d'espèce, ceux-ci sont arrêtés à 3'000 fr.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est rejeté.
3. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 7 mars 2013
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
Le Greffier: Berthoud