Faits:
A. A.a A._ a travaillé en qualité de maçon. Il a été victime d'une déchirure de la coiffe des rotateurs de l'épaule gauche le 8 mai 2003, date à partir de laquelle il a été en arrêt de travail. La Caisse nationale suisse d'assurance en cas d'accidents lui a alloué une rente d'invalidité à partir du 1er mai 2005 pour une incapacité de gain de 30 % (décision du 30 août 2005). Le prénommé a présenté le 1er mars 2004 une demande de prestations de l'assurance-invalidité. Dans un rapport d'examen du 20 juillet 2004, le docteur T._, spécialiste FMH en chirurgie orthopédique et traumatologie de l'appareil locomoteur et médecin du SMR, a conclu à une capacité de travail exigible de 100 % dans une activité adaptée aux limitations fonctionnelles dès mai 2004. Du 14 novembre 2005 au 19 février 2006, l'assuré a bénéficié d'un stage d'observation professionnelle auprès du Centre X._ (rapport du 16 mars 2006). Le 10 avril 2006, l'Office de l'assurance-invalidité du canton de Genève a rendu une décision de refus de rente (invalidité de 29 %) et une décision de refus de reclassement. A._ a formé opposition contre ces décisions. Le docteur L._, médecin du SMR, a admis une baisse de rendement de 20 à 25 % dans les activités légères (avis médical du 7 juin 2006). Par décision du 31 janvier 2007, l'office AI a maintenu le refus de prestations aux motifs que si l'on prenait en compte dans le calcul du revenu d'invalide une baisse de rendement de 25 % la comparaison des revenus donnait une invalidité de 37,3 %, ce qui confirmait que le taux d'invalidité était inférieur à 40 % à compter du mois de mai 2004, et qu'un reclassement professionnel ne constituait pas une mesure simple et adéquate pour permettre à l'intéressé de réintégrer le monde du travail. Par arrêt du 22 novembre 2007, le Tribunal cantonal des assurances sociales de la République et canton de Genève a rejeté le recours formé par l'assuré contre cette décision.
A.b Le 6 juin 2008, A._, par son médecin traitant, le docteur R._ (spécialiste FMH en médecine interne), a présenté une nouvelle demande de prestations de l'assurance-invalidité où il indiquait qu'il avait effectué du 11 février au 7 mars 2008 un stage à l'Atelier de réadaptation préprofessionnelle de l'Hôpital Y._, à l'issue duquel les responsables avaient conclu que malgré un investissement maximum du patient les cumuls de ses connaissances partielles et de son état physique ne donnaient aucune piste pour un travail adapté. Par décision du 23 octobre 2008, l'Office de l'assurance-invalidité du canton de Genève n'est pas entré en matière sur la demande. L'assuré a formé recours contre cette décision devant le Tribunal cantonal des assurances sociales de la République et canton de Genève. A partir du 25 novembre 2008, il a bénéficié de soins psychiatriques auprès de la doctoresse E._, qui a demandé son admission en milieu hospitalier où il a séjourné du 16 au 31 mars 2009. Par arrêt du 10 décembre 2009, la juridiction cantonale a partiellement admis le recours, annulé la décision attaquée et renvoyé la cause à l'office AI pour instruction complémentaire et nouvelle décision. Elle a considéré qu'en l'état du dossier, elle n'était pas en mesure de se prononcer sur la question d'une aggravation de l'état de santé de l'assuré sur le plan psychique, singulièrement sur l'incidence de ses troubles sous cet angle sur sa capacité de travail et de gain.
L'office AI a confié au docteur N._, spécialiste FMH en psychiatrie et psychothérapie, le mandat d'effectuer une expertise psychiatrique. Dans un rapport du 8 décembre 2010, ce médecin a indiqué qu'il n'avait pas trouvé de signes ou symptômes parlant en faveur d'une maladie psychiatrique ou d'un trouble de la personnalité aigu ou chronique qui justifie une incapacité de travail. Posant les diagnostics sans répercussion sur la capacité de travail de troubles mentaux et troubles du comportement liés à l'utilisation d'alcool, actuellement abstinent ([CIM-10] F10.20), de trouble anxieux et dépressif mixte léger (F41.2) et d'autres troubles spécifiques de la personnalité (F60.8), l'expert a conclu que du point de vue psychiatrique et en l'absence de maladie psychique, A._ était capable de travailler à 100 %. Dans un avis médical du 9 février 2011, la doctoresse S._, médecin du SMR, a noté que l'assuré avait présenté une incapacité de travail transitoire de novembre 2008 à fin mars 2009 et retenu qu'il présentait une pleine capacité de travail dans une activité adaptée aux limitations fonctionnelles liées à la pathologie de l'épaule. Dans un préavis du 9 mai 2011, l'office AI a informé A._ de son refus de rente d'invalidité et de mesures professionnelles, lequel a fait part à l'office AI de ses observations le 9 juin 2011. Par décision du 14 juin 2011, l'office AI a nié tout droit de l'assuré à des prestations de l'assurance-invalidité.
B. A._ a formé recours contre cette décision devant la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, en concluant, sous suite de dépens, à son annulation. Il demandait à être mis au bénéfice d'une rente pour une invalidité de 60 % au moins à compter du 1er juin 2007, d'une durée indéterminée, à titre subsidiaire de mesures de réadaptation d'ordre professionnel. Au préalable, il requérait l'audition du docteur D._, spécialiste FMH en psychiatrie. Il a produit des attestations de la psychologue M._ des 21 juillet et 27 septembre 2011 et une attestation médicale du 29 septembre 2011 du docteur O._, spécialiste FMH en psychiatrie et psychothérapie, selon lesquelles le patient était au bénéfice d'un suivi psychiatrique intégré, hebdomadaire depuis juin 2011 en raison d'un épisode dépressif sévère sans symptômes psychotiques.
Le 1er décembre 2011, la juridiction cantonale a procédé à l'audition de la psychologue G._ (à laquelle le docteur D._ avait adressé le patient) et a tenu une audience de comparution personnelle des parties. Le 19 janvier 2012, l'office AI a déposé ses observations. De son côté, A._, dans un courrier du 17 février 2012, a déposé ses observations et produit une attestation du 17 janvier 2012 de la doctoresse B._, spécialiste FMH en médecine générale. Le 26 mars 2012, l'office AI a transmis au Tribunal un avis de la doctoresse S._ du 15 mars 2012. Par arrêt du 16 août 2012, la juridiction cantonale a rejeté le recours.
C. A._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de dépens, à son annulation. Il invite le Tribunal fédéral à dire et constater qu'il a droit à une rente d'invalidité fondée sur un degré d'invalidité de 60 % au moins à compter du 1er juin 2007, d'une durée indéterminée, et à ordonner le versement en ses mains des rentes dues à ce titre.

Considérant en droit:
1. 1.1 Le recours en matière de droit public (art. 82 s. LTF) peut être formé pour violation du droit selon les art. 95 et 96 LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Le recourant ne peut critiquer la constatation de faits importants pour le jugement en cause que si ceux-ci ont été établis en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte (<ref-law>), c'est-à-dire insoutenable, voire arbitraire, et si la correction du vice est susceptible d'influer sur le sort de la cause. L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier, ou contraire au sens de la justice et de l'équité ou lorsque l'autorité ne tient pas compte, sans raison sérieuse, d'un élément propre à modifier la décision, se trompe sur le sens et la portée de celui-ci ou, se fondant sur les éléments recueillis, en tire des constatations insoutenables (<ref-ruling> consid. 4.3 p. 62 et les références). Il appartient au recourant de démontrer le caractère insoutenable ou arbitraire par une argumentation répondant aux exigences de l'art. 42 al. 2, respectivement de l'<ref-law> (<ref-ruling> consid. 2.5 p. 314, 135 III 127 consid. 1.6 p. 130 et l'arrêt cité, 232 consid. 1.2 p. 234, 134 II 244 consid. 2.2 p. 246, 133 II 249 consid. 1.4.2 p. 254, 396 consid. 3.1 p. 399).
1.2 Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>). Le recourant produit devant la Cour de céans une attestation des psychologues G._ et M._ du Centre médical Z._ et de la doctoresse B._ du Centre médico-chirurgical W._ du 19 septembre 2012. Il affirme que ce médecin et les psychologues se distancient dans ce document des conclusions du docteur N._ dans son expertise du 8 décembre 2010 et considèrent que des mesures de réadaptation professionnelle sont souhaitables. Nouveaux, ces moyens ne sont pas admissibles au regard de l'<ref-law>, le jugement entrepris ne justifiant pas pour la première fois de le soulever et le recourant ne montrant pas en quoi les conditions d'une exception à l'interdiction des faits ou moyens de preuve nouveaux selon cette disposition légale sont remplies (<ref-ruling> consid. 4.1 p. 266, 133 III 393 consid. 3 p. 395; ULRICH MEYER/JOHANNA DORMANN in: M.A. Niggli/P. Uebersax/H. Wiprächtiger [édit.], Bundesgerichtsgesetz, Bâle 2011 (2ème éd.), ad <ref-law>, n° 40 p. 1319).
1.3 Les principes relatifs au pouvoir d'examen développés dans l'<ref-ruling> consid. 3 p. 397 s. continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application du droit par cette dernière (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité - dans la mesure où elle dépend d'une évaluation de la personne concrète, de son état de santé et de ses capacités fonctionnelles - relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (<ref-ruling> consid. 3.2 p. 398).
2. S'agissant du droit du recourant à une rente d'invalidité, le litige porte sur le point de savoir si l'atteinte à la santé que l'assuré présente a subi un changement important sur le plan psychique ayant eu une incidence sur sa capacité de travail et de gain et si le taux d'invalidité fondant le droit à la prestation a subi une modification notable. S'agissant du droit du recourant à des mesures de réadaptation professionnelle, ce droit a été nié par la juridiction cantonale dans le jugement entrepris, point sur lequel porte également le litige, ainsi que cela ressort de la motivation du recours devant la Cour de céans.
2.1 A la suite de l'arrêt de renvoi du 10 décembre 2009, l'office AI est entré en matière sur la nouvelle demande du 6 juin 2008. Il devait donc examiner l'affaire au fond et par conséquent procéder de la même manière qu'en cas de révision au sens de l'<ref-law> (cf. <ref-ruling>). Ainsi que l'a relevé la juridiction cantonale, le point de savoir si un changement important des circonstances s'est produit doit être tranché en comparant les faits tels qu'ils se présentaient au moment de la décision de refus de prestations du 31 janvier 2007 et les circonstances régnant à l'époque de la décision administrative litigieuse du 14 juin 2011 (<ref-ruling> consid. 5 p. 110 s.).
2.2 Le jugement entrepris expose correctement les dispositions légales relatives aux notions d'incapacité de gain (art. 7 al. 1 et 2 LPGA depuis le 1er janvier 2008) et d'invalidité (<ref-law> et <ref-law>) et les dispositions légales réglant le droit à des mesures de réadaptation (art. 8 al. 1 let. a et b LAI), singulièrement le droit à l'orientation professionnelle selon l'<ref-law> (<ref-ruling> consid. 1a p. 29 s.; arrêt [du Tribunal fédéral des assurances] I 552/86 du 27 novembre 1987, consid. 4a in RCC 1988 p. 195), le droit au reclassement selon l'art. 17 al. 1 et 2 LAI (sur le seuil minimum fixé par la jurisprudence pour ouvrir droit à une mesure de reclassement [diminution de la capacité de gain de 20 % environ], cf. <ref-ruling> consid. 2b p. 110 s.) et le droit à des mesures d'aide au placement au sens de l'<ref-law>.
On peut renvoyer au jugement entrepris sur ce qui précède, de même qu'en ce qui concerne les règles et principes jurisprudentiels sur la valeur probante d'un rapport médical (<ref-ruling> consid. 5.1 p. 232, 133 V 450 consid. 11.1.3 p. 469, 125 V 351 consid. 3a p. 352) tels qu'ils sont exposés. A juste titre, la juridiction cantonale a rappelé qu'au vu de la divergence consacrée par la jurisprudence entre un mandat thérapeutique et un mandat d'expertise (<ref-ruling> consid. 4 p. 175; arrêt I 514/06 du 25 mai 2007 consid. 2.2.1, in SVR 2008 IV Nr. 15 p. 43), on ne saurait remettre en cause une expertise ordonnée par l'administration ou le juge et procéder à de nouvelles investigations du seul fait qu'un ou plusieurs médecins traitants ont une opinion contradictoire. Il n'en va différemment que si ces médecins font état d'éléments objectivement vérifiables ayant été ignorés dans le cadre de l'expertise et qui sont suffisamment pertinents pour remettre en cause les conclusions de l'expert.
3. Les premiers juges, examinant si l'état de l'assuré s'était aggravé depuis la décision du 31 janvier 2007 au point de lui ouvrir droit à des prestations de l'assurance-invalidité, ont relevé qu'ils avaient d'ores et déjà constaté dans l'arrêt de renvoi du 10 décembre 2009 qu'aucune aggravation n'avait été démontrée sur le plan physique et que cela n'était pas remis en cause par le recourant. Considérant que l'expertise psychiatrique du 8 décembre 2010 avait pleine valeur probante, que les avis des docteurs O._ et B._ et de la psychologue M._ n'étaient pas de nature à faire douter des conclusions du docteur N._ et qu'il y avait donc lieu de se conformer à l'avis de l'expert, ils ont constaté l'absence d'aggravation - tant sur le plan physique que psychique - pendant la période déterminante, de sorte que le degré d'invalidité de 37,3 % était demeuré inchangé.
3.1 La juridiction cantonale a considéré que l'expertise du docteur N._ du 8 décembre 2010 reposait sur une étude complète et circonstanciée de la situation médicale, avait été établie en pleine connaissance du dossier médical, des plaintes exprimées par l'assuré et de l'anamnèse, et que les considérations médicales étaient clairement exprimées. Elle a admis que les conclusions de l'expert étaient dûment motivées et explicites, en ce sens que pour le docteur N._ le recourant présentait certes des atteintes psychiques, mais insuffisantes pour entraîner une incapacité de travail. Elle a rejeté l'argument du recourant selon lequel c'est son inactivité qui provoquait et entretenait une atteinte psychique incapacitante, en considérant qu'il ne suffisait pas à faire douter des conclusions de l'expert. Elle a relevé que le docteur N._ avait admis au demeurant que l'inactivité de l'assuré avait eu pour conséquences un trouble anxieux et dépressif mixte léger et d'autres troubles spécifiques de la personnalité, dont il avait cependant estimé qu'ils ne revêtaient pas une gravité suffisante pour justifier une incapacité de travail.
Devant la Cour de céans, le recourant reprend son argument fondé sur la chronologie des événements, en alléguant qu'il est contradictoire de la part de l'expert d'admettre que son inactivité avait eu pour conséquences un trouble anxieux et dépressif mixte léger et d'autres troubles spécifiques de la personnalité et de répondre par la négative à la question de savoir si des mesures de réadaptation professionnelle étaient envisageables. Il n'est toutefois pas démontré que la teneur du rapport d'expertise psychiatrique du 8 décembre 2010 soit contradictoire. Sous la rubrique relative à l'influence des troubles sur l'activité exercée jusque-là, l'expert a retenu que le trouble mixte anxiodépressif léger était réactionnel à la situation d'inactivité de l'assuré et ne revêtait pas un degré tel qu'il provoque une atteinte psychique à caractère handicapant. Il n'y a aucune contradiction entre les conclusions du docteur N._ sur ce point et le fait qu'il a répondu par l'affirmative à la question de savoir si en raison de ses troubles psychiques l'assuré était capable de s'adapter à son environnement professionnel et par la négative à la question de savoir si des mesures de réadaptation professionnelle étaient envisageables, cette réponse-ci de l'expert étant motivée par l'insuccès des essais déjà réalisés.
Les affirmations du recourant sont une pure critique appellatoire des éléments sur lesquels s'est fondé le docteur N._ pour conclure à l'absence de maladie psychique invalidante. Même si le rapport d'expertise psychiatrique du 8 décembre 2010 ne fait pas mention de l'incapacité de travail transitoire de novembre 2008 à fin mars 2009 dont parle la doctoresse S._ dans son avis du 9 février 2011, l'expert a tenu compte de l'hospitalisation de l'assuré du 16 au 31 mars 2009, en constatant que le trouble dépressif survenu en 2008 était lié au sevrage à l'alcool et qu'il n'y avait pas eu de péjoration après l'hospitalisation. Il a indiqué dans son rapport qu'il n'avait pas trouvé de signes ou de symptômes parlant en faveur d'une maladie psychiatrique ou d'un trouble de la personnalité aigu ou chronique qui justifie l'incapacité de travail du recourant qui, du point de vue psychiatrique, était apte à travailler à 100 %. Sur le vu de ce qui précède, il y a lieu d'admettre que les conclusions du docteur N._ sont dûment motivées et que les premiers juges pouvaient sans arbitraire reconnaître une pleine valeur probante à son expertise du 8 décembre 2010. Le recours est mal fondé de ce chef.
3.2 La juridiction cantonale a constaté que le docteur O._ et la psychologue M._ n'avaient commencé à suivre le patient qu'en juin 2011, soit au moment même où la décision administrative litigieuse du 14 juin 2011 avait été rendue, et qu'ils ne se prononçaient pas sur l'état de l'assuré antérieurement à leur prise en charge. Quant à l'opinion de la doctoresse B._, les premiers juges ont considéré que l'avis de ce médecin, en sa qualité de spécialiste en médecine générale, ne saurait l'emporter sur l'avis du docteur N._ en sa qualité de spécialiste en psychiatrie et psychothérapie.
Le recourant fait valoir que même si le suivi psychiatrique n'a commencé qu'en juin 2011, les docteurs O._ et B._ et les psychologues M._ et G._ étaient en mesure de confirmer le diagnostic d'épisode dépressif récurrent d'intensité moyenne à sévère sur la base de l'anamnèse du patient, des pièces médicales à disposition et de leur appréciation en fonction également des plaintes subjectives de l'intéressé. Toutefois, cet argument ne permet pas de considérer que la juridiction cantonale, en constatant que le docteur O._ et la psychologue M._ ne se prononçaient pas sur l'état de l'assuré antérieurement à leur prise en charge, a établi les faits de façon manifestement inexacte. L'avis du docteur O._ du 29 septembre 2011, extrêmement bref, n'indique pas sur quels éléments ce médecin s'est fondé pour retenir le diagnostic d'épisode dépressif sévère sans symptômes psychotiques, ni ne repose sur un examen de la capacité de travail de l'assuré sur le plan psychiatrique, de sorte qu'il n'a pas valeur probante (supra, consid. 2.2). Cela vaut également en ce qui concerne les avis des psychologues M._ et G._. Quant à la doctoresse B._, elle ne s'est pas prononcée sur la capacité de travail du recourant et son attestation du 17 janvier 2012, également extrêmement brève, n'a pas non plus valeur probante. Le fait que ce médecin a indiqué dans l'attestation mentionnée ci-dessus que le patient souffrait notamment de troubles de la concentration ne permet dès lors de tirer aucune conclusion.
Il ressort des éléments ci-dessus que les premiers juges pouvaient, sans arbitraire, considérer que les avis des docteurs O._ et B._ et de la psychologue M._ n'étaient pas de nature à mettre en doute les conclusions du docteur N._. Le recours est mal fondé sur ce point.
3.3 Il résulte de ce qui précède (supra, consid. 3.2) que les affirmations du recourant selon lesquelles les différents intervenants ont observé une aggravation symptomatique liée à l'épisode dépressif moyen et sont de l'avis qu'il a présenté des périodes d'incapacité totale ou partielle de travail dès le 1er février 2011 en raison de troubles de la concentration et d'un ralentissement psychomoteur significatif en lien avec l'épisode dépressif récurrent d'intensité sévère, ne sont ni prouvées ni rendues vraisemblables. En tant qu'il reproche aux premiers juges d'avoir procédé à une appréciation arbitraire des faits et des preuves, le recourant ne démontre pas par une argumentation qui réponde aux exigences de l'art. 42 al. 2, respectivement de l'<ref-law> (supra, consid. 1.1) que la juridiction cantonale, en constatant l'absence d'aggravation - tant sur le plan physique que psychique - pendant la période déterminante, a établi les faits de façon manifestement inexacte ou en violation du droit. Le jugement entrepris, qui considère que le taux d'invalidité de 37,3 % demeuré inchangé est insuffisant pour ouvrir droit à une rente d'invalidité, est ainsi conforme au droit fédéral (supra, consid. 2.2). Le recours est mal fondé de ce chef.
3.4 Les premiers juges, retenant que l'assuré était apte à exercer une activité adaptée aux limitations fonctionnelles, ont considéré qu'il n'y avait pas lieu de lui octroyer une mesure de reclassement et qu'une aide au placement n'entrait pas en ligne de compte, l'assurance-invalidité n'ayant pas à répondre de ses difficultés linguistiques et de son manque de formation. Le recourant ne démontre pas par une argumentation qui réponde aux exigences de l'art. 42 al. 2, respectivement de l'<ref-law> (supra, consid. 1.1) que le jugement entrepris est sur ce point contraire au droit fédéral. Il affirme que les médecins et psychologues ont mis en exergue un sérieux ralentissement psychomoteur ainsi qu'un retrait social non moins significatif qui constituent en l'état une entrave à toute réintégration professionnelle. Cela n'est toutefois pas démontré. Ainsi que cela ressort de l'expertise psychiatrique du 8 décembre 2010 (page 11), le docteur N._ a constaté qu'il n'y avait pas de signes ou de symptômes parlant en faveur d'un ralentissement psychomoteur, point sur lequel les docteurs O._ et B._ et les psychologues M._ et G._ ne se sont nullement exprimés. En outre, l'expert a indiqué dans son rapport qu'il n'y avait pas de signes ou de symptômes parlant en faveur d'une claustrophobie, d'agoraphobie ni de phobies sociales et que l'assuré ne présentait aucune limitation du point de vue social. La psychologue M._, même si elle a relevé dans son attestation du 27 septembre 2011 que le patient tendait à s'isoler socialement, n'a pas fait état d'éléments objectivement vérifiables qui auraient été ignorés dans le cadre de l'expertise psychiatrique. Le recours est mal fondé.
4. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (<ref-law>). Il ne saurait prétendre une indemnité de dépens pour l'instance fédérale (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 11 avril 2013
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
Le Greffier: Wagner