Faits:
A.
A.a. F._, né en 1956, a travaillé dans le bâtiment, en dernier lieu en qualité de poseur de marbre. A ce titre, il était assuré obligatoirement contre le risque d'accident auprès de la Caisse nationale suisse d'assurance en cas d'accidents (ci-après: la CNA). Le 25 octobre 2002, il a été victime d'un accident survenu sur son lieu de travail, où il a glissé sur un panneau d'échafaudage. Atteint de contusions lombaires, il a présenté une incapacité totale de travail à partir de ce moment-là. La CNA a pris en charge le cas.
Le prénommé a séjourné du 24 juin au 16 juillet 2003 dans le service de réadaptation de la Clinique X._. Dans un rapport du 5 août 2003, les docteurs Z._ et K._ ont posé le diagnostic primaire de thérapies physiques et fonctionnelles et les diagnostics secondaires de lombalgies avec irradiation au membre inférieur droit et d'arthrose lombaire discale et inter-apophysaire postérieure des deux derniers étages. Ils indiquaient qu'à partir du 4 août 2003, la capacité de travail était théoriquement de 100 %, dans tous les cas eu égard aux éléments objectivables actuellement, tant sur le plan somatique que psychiatrique. Dans un examen par le médecin d'arrondissement du 10 novembre 2003, le docteur G._ (spécialiste FMH en chirurgie orthopédique) a conclu qu'en l'absence de toute lésion de caractère traumatique, les conséquences de l'accident pouvaient être considérées comme terminées. Par décision du 18 novembre 2003, la CNA a informé F._ qu'elle mettait fin avec effet au 30 novembre 2003 au versement de l'indemnité journalière et au paiement des frais de traitement.
A.b. Le 11 décembre 2003, F._ a présenté une demande de prestations de l'assurance-invalidité. Dans deux rapports du 11 juin 2004, dont un rapport médical détaillé E 213, le docteur B._ (spécialiste FMH en médecine interne), posant le diagnostic de syndrome douloureux vertébral lombaire et retenant une incapacité de travail de 100 % depuis le 25 octobre 2002, a répondu par la négative aux questions de savoir si l'assuré pouvait exercer à temps plein son ancienne activité, si un travail adapté était possible et pouvait cas échéant être accompli à plein temps. Le docteur M._, médecin du Service médical régional de l'AI (ci-après: SMR), a considéré qu'il n'y avait aucune raison objective de s'écarter de l'avis des médecins de la Clinique X._ dans leur rapport du 5 août 2003, dont il partageait les conclusions en ce qui concerne la capacité de travail exigible de 100 % dans l'activité habituelle. Par décision du 26 mai 2005, confirmée sur opposition le 4 juillet 2005, l'Office de l'assurance-invalidité du canton de Genève a refusé toutes prestations de l'assurance-invalidité. Sur recours de l'assuré, le Tribunal cantonal des assurances sociales de la République et canton de Genève, par arrêt du 13 décembre 2005, a annulé les décisions des 26 mai et 4 juillet 2005 et renvoyé la cause à l'office AI pour instruction complémentaire au sens des considérants et nouvelle décision.
Le 25 avril 2006, les médecins du SMR ont procédé à un examen clinique rhumato-psychiatrique. Dans un rapport du 27 avril 2006, ils ont posé le diagnostic avec répercussion sur la capacité de travail de troubles dégénératifs lombaires bas étagés et les diagnostics sans répercussion sur la capacité de travail de trouble douloureux somatoforme persistant ([CIM-10] F45.4) et d'obésité. Ils concluaient que la capacité de travail exigible était nulle dans l'activité habituelle de poseur de marbre pour des raisons somatiques et de 100 % dans une activité adaptée aux limitations fonctionnelles (nécessité de pouvoir alterner une fois par heure la position assise et la position debout, pas de soulèvement régulier de charges d'un poids excédant 5 kg, pas de port régulier de charges d'un poids excédant 10 kg, pas de travail en porte-à-faux statique prolongé du tronc, pas de travail effectué sur des engins vibrants) depuis août 2003. Dans un préavis de refus de rente et de mesures professionnelles du 13 novembre 2006, l'office AI a informé F._ qu'il présentait une invalidité de 35.3 %, taux ne donnant pas droit à une rente, et que des mesures professionnelles n'étaient actuellement pas indiquées vu qu'il avait la conviction qu'il était incapable de mettre à profit sa capacité résiduelle de travail dans une activité adaptée. Le 18 décembre 2006, l'assuré a fait part à l'office AI de ses observations. Par décision du 24 janvier 2007, l'office AI, tout en rejetant les arguments de F._ pour les motifs exprimés par les médecins du SMR dans un avis du 17 janvier 2007 où ils confirmaient les conclusions de l'examen du 25 avril 2006, a nié tout droit de l'assuré à une rente d'invalidité et à des mesures d'ordre professionnel. Par arrêt du 4 mars 2008, le Tribunal cantonal des assurances sociales de la République et canton de Genève, considérant que l'invalidité était de 39 % (compte tenu d'un abattement de 20 % dans le calcul du revenu d'invalide), taux ne donnant pas droit à une rente d'invalidité, a rejeté pour ce motif le recours formé par l'assuré contre cette décision.
A.c. Le 21 juillet 2008, F._ a présenté une nouvelle demande de prestations de l'assurance-invalidité en raison d'une atteinte à la santé sur le plan psychique, attestée par la doctoresse D._ (cheffe de clinique du Service de psychiatrie adulte de l'Hôpital Y._) dans un certificat médical du 21 avril 2008 et par le docteur B._ dans un certificat médical du 9 juin 2008. Dans un résumé de séjour du 2 mai 2008, les docteurs L._ et C._ ont indiqué que l'assuré avait été hospitalisé le 29 avril 2008 dans l'Unité d'observation et évaluation de l'Hôpital Y._ suite à une crise de panique, établissement où il avait séjourné jusqu'au 5 mai 2008. Dans un rapport du 10 septembre 2008, la doctoresse D._ a posé les diagnostics avec effet sur la capacité de travail de trouble dépressif récurrent, épisode actuel moyen avec syndrome somatique ([CIM-10] F33.11), de trouble somatoforme, sans précision (F45.9) et de trouble panique (F41.0), en indiquant que le patient présentait une incapacité de travail de 100 % depuis le 25 mars 2008. Elle a répondu par la négative aux questions de savoir si d'un point de vue médical l'activité exercée jusque-là était encore exigible et si l'on pouvait s'attendre à une reprise de l'activité professionnelle, respectivement à une amélioration de la capacité de travail. Dans un rapport du 10 septembre 2008, le docteur B._ a posé le diagnostic avec effet sur la capacité de travail d'état dépressif majeur et attesté une incapacité de travail de 100 % depuis le 25 octobre 2002.
Le 20 novembre 2008, la doctoresse V._ (spécialiste FMH en psychiatrie et psychothérapie), médecin du SMR, a procédé à un examen clinique psychiatrique. Dans un rapport du 3 décembre 2008, elle a conclu qu'il n'y avait pas d'atteinte psychiatrique ayant une répercussion sur la capacité de travail et que le trouble somatoforme douloureux persistant était associé à une composante dépressive légère ([CIM-10] F45.4 et F32.0), mais dont l'intensité pouvait être moyenne à d'autres moments. Dans son appréciation de l'exigibilité, elle a considéré que la capacité de travail était depuis toujours de 100 % sur le plan psychiatrique. La doctoresse U._, médecin du SMR, dans un rapport d'examen du 13 janvier 2009, a conclu qu'il n'y avait pas eu de modification de l'exigibilité depuis la décision de refus de rente du 24 janvier 2007, que l'activité de poseur de marbre n'était toujours pas exigible vu que l'assuré présentait des troubles dégénératifs lombaires bas étagés (qui constituaient l'atteinte principale à la santé), et que dans une activité adaptée, la nouvelle atteinte à la santé (cancer du colon) n'avait pas motivé d'incapacité de longue durée et il n'y avait pas d'atteinte à la santé psychiatrique ayant une répercussion sur la capacité de travail. Dans un préavis de refus de rente du 19 janvier 2009, l'office AI a informé F._ des conclusions des médecins du SMR mentionnées ci-dessus et évalué à 39 % l'invalidité qu'il présentait, taux ne donnant pas droit à une rente. L'assuré a fait part à l'office AI de ses observations. Du 27 février au 12 mars 2009, il a séjourné dans une Unité hospitalière du Service de psychiatrie de l'Hôpital Y._ où les docteurs A._ (chef de clinique) et O._ (médecin interne), dans un résumé de séjour du 16 mars 2009, ont posé le diagnostic principal de trouble dépressif récurrent, épisode actuel sévère sans symptômes psychotiques (F33.2). Dans un rapport médical intermédiaire du 15 juin 2009, le docteur P._, chef de clinique, a indiqué que l'état de santé du patient s'était aggravé et que le trouble dépressif récurrent épisode actuel sévère et le trouble panique rendaient la capacité de travail dans toutes activités nulle, cela au moins depuis mars 2008. La doctoresse S._, médecin du SMR, dans un avis médical du 4 août 2009, a maintenu les conclusions du rapport d'examen du 13 janvier 2009. Le 14 septembre 2009, l'office AI a rendu une décision de refus de rente. Sur recours de l'assuré contre cette décision, le Tribunal cantonal des assurances sociales de la République et canton de Genève, par arrêt du 5 octobre 2010, l'a annulée, renvoyant la cause à l'office AI pour instruction complémentaire sous la forme d'une expertise psychiatrique et nouvelle décision.
L'office AI a confié une expertise psychiatrique au docteur J._, spécialiste FMH en psychiatrie-psychothérapie. Dans un rapport du 9 mai 2011, l'expert a retenu sur le plan diagnostic psychiatrique les diagnostics sans répercussion sur la capacité de travail de processus d'invalidation, très avancé ([CIM-10] F68.0), de dysthymie (F34.1) et de syndrome douloureux somatoforme persistant (F45.4). Relevant qu'il n'y avait pas de comorbidité psychiatrique importante liée au syndrome douloureux et que les notions étaient très largement relativisées par le premier diagnostic ainsi que les observations comportementales, il indiquait qu'il n'existait sur le plan psychiatrique aucune incapacité de travail ni diminution de rendement de principe et que les fluctuations dysthymiques n'avaient pas d'influence durable et incapacitante sur l'assuré. De leur côté, les médecins du SMR ont considéré qu'il n'y avait pas de faits nouveaux permettant à l'expert J._ de se distancer de leurs conclusions, qui restaient toujours valables (avis médical du 20 juin 2011). Dans un préavis du 12 juillet 2011, l'office AI s'est fondé derechef sur une invalidité de 39 % pour nier tout droit de l'assuré à une rente d'invalidité. Les 18 juillet et 11 octobre 2011, F._ a fait part à l'office AI de ses observations. Il produisait une lettre du 15 août 2011 des docteurs H._ et P._ annonçant une investigation polysomnographique, un résumé de polysomnographie (laboratoire du sommeil) de la doctoresse E._ du 28 septembre 2011, ainsi qu'une lettre des docteurs H._ et P._ du 3 octobre 2011 indiquant que plusieurs éléments cliniques et paracliniques ainsi que plusieurs médecins concluaient à un diagnostic principal de dépression et confirmant que le patient était en incapacité de travail à 100 % en lien avec la dépression. Dans un avis du 12 octobre 2011, la doctoresse R._ a pris position sur ces documents. Le 29 février 2012, l'office AI a rendu une décision de refus de rente.
B.
F._ a formé recours contre cette décision devant la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, en concluant, sous suite de dépens, à son annulation, la juridiction cantonale étant invitée à reconnaître que son incapacité de travail était de 100 % et à lui accorder des prestations de l'assurance-invalidité sous la forme d'une rente entière d'invalidité dès le 1 er juin 2007, subsidiairement dès le 1er juillet 2008, et à fixer à 25 % le taux d'abattement dans le calcul du revenu d'invalide. A titre préalable, il demandait que soit ordonnée, si besoin était, l'audition du docteur P._.
L'Office de l'assurance-invalidité du canton de Genève a conclu au rejet du recours. F._ a déposé ses observations.
Par arrêt du 23 octobre 2012, la juridiction cantonale a rejeté le recours.
C.
F._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de frais et dépens, à son annulation, le Tribunal fédéral étant invité à reconnaître que son incapacité de travail est de 100 % et à lui accorder des prestations de l'assurance-invalidité sous la forme d'une rente entière d'invalidité dès le 1 er juin 2007, subsidiairement dès le 1er juillet 2008, et à fixer à 25 % le taux d'abattement dans le calcul du revenu d'invalide. A titre subsidiaire, il demande que la cause soit renvoyée à la juridiction cantonale pour qu'elle mette en place une expertise judiciaire visant à établir son état de santé et statue à nouveau dans le sens des considérants.

Considérant en droit:
1.
1.1. Le recours en matière de droit public (art. 82 s. LTF) peut être formé pour violation du droit selon les art. 95 et 96 LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Le recourant ne peut critiquer la constatation de faits importants pour le jugement en cause que si ceux-ci ont été établis en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF), c'est-à-dire insoutenable, voire arbitraire, et si la correction du vice est susceptible d'influer sur le sort de la cause. L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier, ou contraire au sens de la justice et de l'équité ou lorsque l'autorité ne tient pas compte, sans raison sérieuse, d'un élément propre à modifier la décision, se trompe sur le sens et la portée de celui-ci ou, se fondant sur les éléments recueillis, en tire des constatations insoutenables (<ref-ruling> consid. 4.3 p. 62 et les références). Il appartient au recourant de démontrer le caractère insoutenable ou arbitraire par une argumentation répondant aux exigences de l'art. 42 al. 2, respectivement de l'art. 106 al. 2 LTF (<ref-ruling> consid. 2.5 p. 314, 135 III 127 consid. 1.6 p. 130 et l'arrêt cité, 232 consid. 1.2 p. 234, 134 II 244 consid. 2.2 p. 246, 133 II 249 consid. 1.4.2 p. 254, 396 consid. 3.1 p. 399).
1.2. Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF). Le recourant produit devant la Cour de céans un document du docteur P._ du 19 novembre 2012, dans lequel ce médecin a pris position sur l'expertise du docteur J._ du 9 mai 2011. Dans son mémoire de recours, il reprend les déclarations du docteur P._ figurant dans le document du 19 novembre 2012 en ce qui concerne les diagnostics retenus sur le plan psychiatrique par l'expert, en affirmant qu'ils sont erronés et reposent sur des contradictions. Nouveaux, ces moyens ne sont pas admissibles au regard de l'art. 99 al. 1 LTF, le jugement entrepris ne justifiant pas pour la première fois de les soulever et le recourant ne montrant pas en quoi les conditions d'une exception à l'interdiction des faits ou moyens de preuve nouveaux selon cette disposition légale sont remplies (<ref-ruling> consid. 4.1 p. 266; <ref-ruling> consid. 3 p. 395; ULRICHMEYER/JOHANNA DORMANN in: M.A. Niggli/P. Uebersax/H. Wiprächtiger [édit.], Bundesgerichtsgesetz, Bâle 2011 (2 ème éd.), ad art. 99 LTF, n° 40 p. 1319).
1.3. Les principes relatifs au pouvoir d'examen développés dans l'<ref-ruling> consid. 3 p. 397 s. continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application du droit par cette dernière (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité - dans la mesure où elle dépend d'une évaluation de la personne concrète, de son état de santé et de ses capacités fonctionnelles - relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (<ref-ruling> consid. 3.2 p. 398).
2.
2.1. Le litige a trait au droit du recourant à une rente d'invalidité et porte sur l'état de santé du recourant sur le plan psychique et son incidence sur sa capacité de travail, singulièrement sur le revenu d'invalide et le taux d'invalidité fondant le droit à la prestation.
2.2. Le jugement entrepris expose correctement les dispositions légales relatives aux notions d'incapacité de gain (art. 7 al. 1 et 2 LPGA depuis le 1 er janvier 2008) et d'invalidité (art. 4 al. 1 LAI et art. 8 al. 1 LPGA) et les règles légales régissant l'évaluation de l'invalidité des assurés exerçant une activité lucrative (art. 16 LPGA en corrélation avec l'art. 28a al. 1 LAI depuis le 1er janvier 2008) et jurisprudentielles dont il y a lieu de relever qu'elles continuent à s'appliquer après l'entrée en vigueur, le 1er janvier 2008, de la novelle du 6 octobre 2006 [5 e révision de l'AI] (arrêt 8C_373/2008 du 28 août 2008, consid. 2.1). On peut ainsi y renvoyer.
2.3. S'agissant des règles et principes jurisprudentiels sur la valeur probante d'un rapport médical (<ref-ruling> consid. 5.1 p. 232, 133 V 450 consid. 11.1.3 p. 469, 125 V 351 consid. 3a p. 352), ils sont exposés dans le jugement entrepris, auquel on peut aussi renvoyer.
Il n'existe pas, dans la procédure d'octroi ou de refus de prestations d'assurances sociales, de droit formel à une expertise menée par un médecin externe à l'assurance (<ref-ruling> consid. 4.3 p. 468). Il convient toutefois d'ordonner une telle expertise si des doutes, même faibles, subsistent quant à la fiabilité et à la pertinence des constatations médicales effectuées par le service médical interne de l'assurance (<ref-ruling> consid. 4.6 p. 471).
Au vu de la divergence consacrée par la jurisprudence entre un mandat thérapeutique et un mandat d'expertise (<ref-ruling> consid. 4 p. 175; arrêt I 514/06 du 25 mai 2007 consid. 2.2.1, in SVR 2008 IV Nr. 15 p. 43), on ne saurait remettre en cause une expertise ordonnée par l'administration ou le juge et procéder à de nouvelles investigations du seul fait qu'un ou plusieurs médecins traitants ont une opinion contradictoire. Il n'en va différemment que si ces médecins font état d'éléments objectivement vérifiables ayant été ignorés dans le cadre de l'expertise et qui sont suffisamment pertinents pour remettre en cause les conclusions de l'expert.
3.
Les premiers juges ont accordé pleine valeur probante au rapport d'expertise du docteur J._ du 9 mai 2011. Considérant qu'il n'y avait pas lieu de s'écarter des conclusions de l'expertise psychiatrique, ils ont retenu que le recourant ne présentait pas d'atteinte à la santé psychique entraînant une incapacité de travail de longue durée.
3.1. Le recourant conteste que l'expertise psychiatrique du docteur J._ ait pleine valeur probante. Il reproche à la juridiction cantonale de n'avoir pas accordé valeur probante aux avis des docteurs H._ et P._ et de la doctoresse E._, singulièrement d'avoir écarté les lettres des docteurs H._ et P._ des 15 août et 3 octobre 2011 qui, selon lui, permettaient de démontrer les nombreuses contradictions et erreurs contenues dans le rapport du docteur J._ du 9 mai 2011.
3.2. Le choix de suivre les conclusions d'une expertise, et non pas celles auxquelles arrivent les médecins mandatés par l'assuré, à propos des atteintes diagnostiquées et de leur répercussion sur la capacité de travail relève de la libre appréciation des preuves. Lorsque l'autorité inférieure juge l'expertise concluante et en fait sien le résultat, le Tribunal fédéral n'admet le grief d'appréciation arbitraire que si l'expert n'a pas répondu aux questions posées, si ses conclusions sont contradictoires ou si, d'une quelconque autre façon, l'expertise est entachée de défauts à ce point évidents et reconnaissables, même sans connaissances spécifiques, que le juge ne pouvait tout simplement pas les ignorer. Il n'appartient pas au Tribunal fédéral de vérifier si toutes les affirmations de l'expert sont exemptes d'arbitraire; sa tâche se limite plutôt à examiner si l'autorité intimée pouvait, sans arbitraire, se rallier au résultat de l'expertise (arrêt 4P.263/2003 du 1er avril 2004 consid. 2.1).
3.3. La juridiction cantonale a considéré que le rapport du docteur J._ du 9 mai 2011 répondait en tous points aux critères dégagés par la jurisprudence permettant de reconnaître une pleine valeur probante à un document médical. Dans son expertise psychiatrique, ce médecin s'était en effet fondé sur l'étude du dossier, avait procédé à une anamnèse détaillée, avait relaté les plaintes de l'assuré et complété son examen clinique par des analyses sanguines. Ses conclusions étaient par ailleurs motivées et convaincantes.
Les déclarations du recourant (supra, consid. 3.1) sont une pure critique appellatoire des constats du docteur J._ qui ont amené ce médecin à conclure qu'il n'existait sur le plan psychiatrique aucune incapacité de travail ni diminution de rendement de principe. Il n'appartient pas à la Cour de céans de vérifier si toutes les affirmations de l'expert sont exemptes d'arbitraire (supra, consid. 3.2). Dans leurs lettres des 15 août et 3 octobre 2011, les docteurs H._ et P._ ont qualifié de principal le diagnostic de dépression et indiqué qu'il restait actuellement le diagnostic pour lequel le patient était en incapacité de travail de 100 %, mais ils ne se sont pas exprimés sur les conclusions du docteur J._, singulièrement n'ont fait état ni d'erreurs ni de contradictions dans l'expertise psychiatrique du 9 mai 2011.
Le jugement entrepris expose que l'expert mentionné ci-dessus a examiné chacun des critères de la classification internationale pour la recherche d'un trouble dépressif (F32). Il en ressort que le docteur J._ est arrivé à la conclusion que dans le cas du recourant les critères étaient insuffisants pour constater un état dépressif et qu'il ressortait avec clarté qu'on se trouvait plutôt dans un état de dysthymie (F34.1), ce qu'il a vérifié en examinant les critères d'une dysthymie, dont il résultait qu'ils étaient applicables. Examinant les critères du syndrome douloureux somatoforme persistant, il a considéré qu'après pondération les critères étaient insuffisants pour retenir un aspect invalidant. L'expert indiquait que s'il pouvait ainsi appliquer le diagnostic de trouble douloureux somatoforme d'une manière "phénoménologique" et descriptive, il n'en résultait aucun impact sur la capacité de travail; surtout en l'absence d'une comorbidité psychiatrique sévère et d'autres critères clés remplis, ce diagnostic résumait donc juste un état de fait. Le docteur J._ a relevé qu'en définitive, il restait l'image d'un homme très avancé dans un processus d'invalidation, qui s'était non seulement créé une identité de handicapé lourd, mais dont il était lui-même à 100 % convaincu, vivant pour et dans sa maladie et étant justement par cette unité si convaincant que son entourage était très soutenant. Sur le vu de ce qui précède, il y a lieu d'admettre que les conclusions du docteur J._ sont dûment motivées et que les premiers juges pouvaient sans arbitraire reconnaître une pleine valeur probante à son expertise du 9 mai 2011. Le recours est mal fondé de ce chef.
3.4. Le recourant allègue que la juridiction cantonale a violé son droit d'être entendu en refusant sans raison valable de donner suite à ses offres de preuves. Il lui reproche de n'avoir pas procédé à une instruction complémentaire, notamment par la mise en place d'une expertise judiciaire. Il fait valoir qu'étant donné que la doctoresse E._ a effectué une polysomnographie dont il résulte qu'il existe un lien de corrélation entre les troubles du sommeil dont il est atteint et la problématique anxio-dépressive sous-jacente, il appartenait aux premiers juges d'instruire sur ce point, singulièrement d'examiner à la lumière du résumé de polysomnographie du 28 septembre 2011 et des conclusions des docteurs H._ et P._ dans leur lettre du 2 octobre 2011 les critères permettant d'admettre le diagnostic de trouble dépressif, dont il allègue qu'un au moins était réalisé, voire d'inviter le docteur J._ à compléter sous cet angle son expertise psychiatrique.
3.5. Il n'est pas démontré que les premiers juges ont violé le droit fédéral dans l'application des règles pertinentes du droit matériel et de preuve (art. 95 let. a LTF). A partir du moment où l'arrêt du 5 octobre 2010 renvoyait la cause à l'office AI pour instruction complémentaire sous la forme d'une expertise psychiatrique au motif notamment que le rapport d'examen des médecins du SMR du 3 décembre 2008 devait être pris avec circonspection, le recourant ne s'est pas retrouvé dans la procédure ultérieure devant la juridiction cantonale dans la situation dont il est question dans l'arrêt <ref-ruling> consid. 4.6 p. 471 (supra, consid. 2.3). Les premiers juges, procédant par appréciation anticipée des preuves, ont estimé qu'une deuxième audition du docteur P._, déjà entendu le 22 juin 2010 dans le cadre de la procédure ayant conduit à l'arrêt de renvoi du 5 octobre 2010 et qui n'a pas fait état d'éléments que le docteur J._ aurait ignorés, se révélait superflue. Une telle manière de procéder ne viole pas le droit d'être entendu selon l'art. 29 al. 2 Cst. (<ref-ruling> consid. 5.3 p. 236; <ref-ruling> consid. 4b p. 94; <ref-ruling> consid. 1d p. 162). Le jugement entrepris expose que la lettre du 15 août 2011 des docteurs H._ et P._ ne contient aucun status et ne mentionne aucune observation clinique susceptible d'étayer le diagnostic de trouble dépressif retenu par ces médecins. En considérant que cette lettre ne suffisait pas à remettre en cause les conclusions du docteur J._, ce que le recourant ne discute pas, la juridiction cantonale n'a pas procédé à une appréciation arbitraire des preuves.
Les affirmations du recourant (supra, consid. 3.4) ne permettent pas de considérer que les premiers juges, en constatant que la polysomnographie avait mis en évidence des troubles du sommeil, élément qui ne suffisait cependant pas à lui seul à objectiver un trouble dépressif, contrairement à ce que semblaient sous-entendre les docteurs H._ et P._ dans leur lettre du 3 octobre 2011, ont établi les faits de façon manifestement inexacte. Eux-mêmes, ces médecins ont relevé dans la lettre mentionnée ci-dessus que la polysomnographie n'est pas un examen à fin diagnostic. L'examen du 22 septembre 2011 ne permet donc de tirer aucune conclusion sous cet angle. On ne saurait dès lors considérer que les conclusions des docteurs H._ et P._ dans leur lettre du 3 octobre 2011 sont dûment motivées et que ce document a valeur de preuve (supra, consid. 2.3), vu que l'examen de polysomnographie n'a aucun caractère de preuve. La juridiction cantonale a noté que la doctoresse E._, dans son résumé de polysomnographie du 28 septembre 2011, n'établissait pas de corrélation entre les troubles constatés et une éventuelle atteinte psychique. Même si ce médecin a indiqué dans le résumé de polysomnographie mentionné ci-dessus que les changements (troubles du sommeil) étaient probablement imputables à la problématique anxio-dépressive sous-jacente, cela ne permet de tirer aucune conclusion en ce qui concerne l'existence d'un trouble psychique invalidant. Sous cet angle, l'argumentation du recourant fondée sur la réalisation des critères permettant d'admettre le diagnostic de trouble dépressif ne répond pas aux exigences de l'art. 42 al. 2 LTF.
Sur le vu de ce qui précède, les premiers juges pouvaient, sans arbitraire, considérer que les psychiatres de l'Hôpital Y._ ne faisaient état d'aucune observation clinique concrète permettant de mettre en doute les observations du docteur J._. Le recours est mal fondé de ce chef.
3.6. Dans l'arrêt du 4 mars 2008, entré en force, la juridiction cantonale avait considéré qu'un abattement de 20 % s'imposait dans le calcul du revenu d'invalide. Dans le jugement entrepris, elle a considéré que vu la situation du recourant, caractérisée par le fait qu'il est né en 1956, maîtrise le français et dispose d'une capacité de travail entière dans une activité adaptée, l'application du taux de réduction maximal de 25 % sur le revenu d'invalide ne se justifiait pas. L'étendue de l'abattement (justifié dans un cas concret) constitue une question typique relevant du pouvoir d'appréciation. Il n'est pas démontré que l'autorité précédente a exercé son pouvoir d'appréciation de manière contraire au droit, par un excès positif ou négatif de son pouvoir d'appréciation ou un abus de celui-ci (<ref-ruling> consid. 3.3 p. 399). Le recours est mal fondé.
4.
Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (art. 66 al. 1 LTF). Il ne saurait prétendre une indemnité de dépens pour l'instance fédérale (art. 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 4 juin 2013
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
Le Greffier: Wagner