Faits: A. S._, né en 1959, a exercé l'activité de maçon et oeuvré au service d'une entreprise de nettoyage. Dès le 1er septembre 2000, il a été engagé en qualité de concierge par X._ SA. Le 15 août 2006, S._ a présenté une demande de prestations de l'assurance-invalidité. Dans un rapport du 29 août 2006, le docteur G._ a posé les diagnostics de lombalgies chroniques non déficitaires, de status post-décompression sélective L5-S1 (pratiquée par le docteur P._ le 5 octobre 2004) pour une dégénérescence discale L5-S1 de type Modic II avec sténose foraminale bilatérale et d'état dépressif modéré existant depuis janvier 2006. Il indiquait que le patient avait présenté une incapacité de travail de 50 % dans la profession de concierge dès le 13 janvier 2006, d'une durée indéterminée. Dans un rapport du 18 avril 2007, la doctoresse L._, spécialiste FMH en médecine interne et rhumatologie et médecin traitant de l'assuré depuis le 22 novembre 2006, a posé les diagnostics ayant des répercussions sur la capacité de travail de lombalgies invalidantes sur discopathies, d'arthrose inter-apophysaire postérieure et de fibrose épidurale. Concluant à une incapacité de travail de 100 % dès le 22 novembre 2006 dans l'activité de concierge, elle signalait un état dépressif sévère. Dans une lettre du 27 juillet 2007, le docteur D._, spécialiste FMH en psychiatrie et psychothérapie, a constaté que la capacité de travail de l'assuré n'était apparemment pas compromise par l'état dépressif, mais plutôt par la problématique rachidienne. Le 27 juin 2007, X._ SA a résilié les rapports de travail pour le 30 septembre 2007. L'Office cantonal genevois de l'assurance-invalidité a confié au COMAI une expertise interdisciplinaire, laquelle a été réalisée par les médecins de la Clinique Y._. Dans un rapport d'expertise interdisciplinaire du 23 janvier 2008, comprenant une expertise de l'appareil locomoteur par le docteur U._, spécialiste FMH en rhumatologie, médecine interne et médecine du sport, et une expertise de psychiatrie par la doctoresse I._, spécialiste FMH en psychiatrie et psychothérapie, ces médecins ont posé les diagnostics ayant une répercussion sur la capacité de travail de lombo-pseudo-sciatalgies bilatérales chroniques, de troubles disco-dégénératifs sévères de L5-S1, de status après décompression sélective de L5-S1 et fixation inter-épineuse selon DIAM du même niveau le 5 octobre 2004 et d'épisode dépressif moyen avec syndrome somatique ([CIM-10] F32.11). Ils indiquaient que sur le plan ostéo-articulaire, S._ était limité dans toute activité professionnelle nécessitant la réalisation de travaux lourds, le port de charges supérieures à 10 kg, des mouvements répétitifs en porte-à-faux, des travaux empêchant l'alternance des positions assise et debout ou demandant de longs déplacements en terrain irrégulier, un travail en hauteur ou sur une échelle, la position accroupie ou à genoux, ou encore l'utilisation d'engins vibrants. Sa capacité de travail était nulle dans son ancienne activité de concierge pour des raisons ostéo-articulaires. Dans une activité professionnelle légère respectant les limitations mentionnées ci-dessus, sa capacité de travail était entière, avec une légère diminution de rendement de 20 % pour des raisons ostéo-articulaires, voire de 10 à 15 % d'un point de vue psychiatrique lors des pics de symptomatologie dépressive. Dans un rapport d'examen SMR du 6 février 2008, le docteur O._ a conclu à une capacité de travail exigible de 100 % dans une activité adaptée, avec une diminution de rendement de 20 %. L'office AI, dans un préavis du 27 février 2008, a informé S._ qu'il était raisonnablement exigible de sa part qu'il exerce à plein temps une activité plus légère physiquement que celle de concierge, avec un rendement diminué de 20 %, et qu'il présentait une invalidité de 25 % (compte tenu d'un revenu sans invalidité de 63'514 fr. et d'un revenu d'invalide de 47'358 fr. par année), taux ne donnant pas droit à une rente d'invalidité. Par lettre du 3 mars 2008, S._ a fait part à l'office AI de ses observations. Par décision du 21 avril 2008, l'office AI, rejetant la demande, a refusé d'allouer à S._ une rente d'invalidité. B. Le 21 mai 2008, S._ a formé recours contre cette décision devant le Tribunal cantonal des assurances sociales de la République et canton de Genève, en concluant, sous suite de dépens, à son annulation et à l'octroi d'une rente d'invalidité. Produisant copie d'un rapport du 16 mai 2008 de la doctoresse H._, spécialiste FMH en psychiatrie et psychothérapie, et d'une attestation médicale du 16 mai 2008 du docteur G._, il demandait à titre préalable que soient ordonnées la comparution personnelle des parties et l'audition de ces médecins. Il a aussi produit deux rapports des 31 octobre 2007 et 8 juillet 2008 et une lettre du 8 juillet 2008 de la doctoresse L._, un rapport de la doctoresse H._ du 18 juillet 2008 et un rapport de la Clinique Z._ du 22 septembre 2008. Produisant un avis médical SMR du 9 juin 2008, l'Office cantonal genevois de l'assurance-invalidité a conclu au rejet du recours. Le 2 mars 2009, le Tribunal cantonal des assurances sociales a procédé à l'audition de la doctoresse H._ et entendu les parties en audience de comparution personnelle. A l'issue de celle-ci, il a ordonné l'audition de la doctoresse I._, à laquelle il a procédé le 7 mai 2009 en présence des parties. Par lettre du 28 mai 2009, S._ a déposé ses observations et produit deux écrits de la doctoresse H._ des 4 et 18 mai 2009. Par lettre du 2 juin 2009, l'office AI a maintenu ses conclusions tendant au rejet du recours. Par arrêt du 2 juillet 2009, le Tribunal cantonal des assurances sociales a admis le recours (ch. 2 du dispositif), annulé la décision de l'Office cantonal genevois de l'assurance-invalidité du 21 avril 2008 (ch. 3 du dispositif), dit que S._ avait droit à une rente entière de l'assurance-invalidité dès le 1er novembre 2007 (ch. 4 du dispositif), condamné l'office AI à lui verser une indemnité de 2'300 fr. à titre de dépens (ch. 5 du dispositif) et mis à sa charge un émolument de 500 fr. (ch. 6 du dispositif). C. L'Office cantonal genevois de l'assurance-invalidité interjette un recours en matière de droit public contre ce jugement, en concluant à son annulation, à titre subsidiaire au renvoi de la cause à l'administration pour instruction complémentaire et nouvelle décision. Sa requête d'effet suspensif a été admise par ordonnance du 16 novembre 2009. S._ conclut, sous suite de dépens, au rejet du recours. Dans un préavis du 11 novembre 2009, l'Office fédéral des assurances sociales en propose l'admission.