Faits:
A. I._, né en 1947, originaire de Serbie, a travaillé en Suisse en qualité de maçon, en dernier lieu dès le 18 avril 1994 au service de l'entreprise X._, à S._. A l'arrêt de travail à partir du 10 décembre 2002, il a présenté le 4 novembre 2003 une demande de prestations de l'assurance-invalidité.
Le docteur J._, médecin de la Permanence médicale Y._ et médecin traitant de l'assuré depuis le 12 février 2003, a produit un rapport médical du 27 novembre 2003, dans lequel il attestait une incapacité de travail de 100 % dans l'activité de maçon depuis le 10 décembre 2002, d'une durée indéterminée. Dans un rapport médical du 16 avril 2004, le docteur V._, médecin traitant de l'assuré depuis le 28 avril 2003, a retenu les diagnostics ayant des répercussions sur la capacité de travail d'épisode dépressif moyen avec syndrome somatique et d'affaiblissement intellectuel débutant, tout en évoquant aussi des problèmes somatiques.
Sur requête de son Service médical régional, l'Office cantonal de l'assurance-invalidité de Genève a confié une expertise au COMAI de Genève. Le 23 août 2005, les médecins ont procédé à un examen clinique. Le 6 septembre 2005, le docteur D._, spécialiste FMH en médecine physique et réadaptation-rhumatologie, a effectué un examen rhumatologique. Le 20 septembre 2005, la doctoresse E._, spécialiste FMH en psychiatrie, a effectué un examen psychiatrique. Dans un rapport d'expertise interdisciplinaire du 21 décembre 2005, les médecins du Centre d'expertise médicale ont posé les diagnostics avec répercussion sur la capacité de travail de syndrome douloureux somatoforme persistant ([CIM-10] F45.4) et de trouble panique (anxiété épisodique paroxystique [F41.0]). Ils indiquaient que pour autant que l'assuré n'ait à soulever ni à transporter de charge lourde, la capacité de travail était réduite à l'heure actuelle à 50 % pour des raisons psychiatriques.
Dans un avis médical du 13 février 2006, les médecins du SMR ont conclu que I._ ne souffrait d'aucune atteinte à la santé au sens de la LAI et que sa capacité de travail était entière dans la profession antérieure. Ils ont constaté que les diagnostics posés dans le rapport d'expertise du 21 décembre 2005 ne pouvaient être retenus, dès lors que les critères nécessaires et requis à leur établissement, codifiés dans la CIM-10, n'étaient pas présents.
Par décision du 22 mars 2006, l'office AI, rejetant la demande, a refusé toutes prestations. Il avisait I._ que le diagnostic de syndrome douloureux somatoforme persistant ne saurait être retenu, étant donné que les critères nécessaires pour poser ce diagnostic n'étaient pas présents dans le rapport d'expertise. Par ailleurs, l'assuré ne présentait pas d'atteinte psychique depuis son dernier jour de travail. En conséquence, sa capacité de travail était entière dans l'activité habituelle de maçon.
Les 3 avril et 8 mai 2006, I._ a formé opposition contre cette décision.
Dans un avis médical du 12 juin 2006, les médecins du SMR ont constaté qu'aucune des pièces versées au dossier depuis leur avis médical du 13 février 2006 n'était susceptible de modifier leur appréciation du cas.
Par décision du 8 août 2006, l'office AI a rejeté l'opposition.
B. Statuant sur le recours formé par I._ contre cette décision, le Tribunal cantonal des assurances sociales de la République et canton de Genève, par jugement du 2 mai 2007, l'a partiellement admis en ce sens que, se ralliant aux conclusions des experts du COMAI dans leur rapport du 21 décembre 2005, il a retenu que l'assuré présentait un trouble psychique limitant sa capacité de travail à 50 % dans une activité légère. Annulant les décisions des 22 mars et 8 août 2006, il a renvoyé la cause à l'office AI pour instruction complémentaire dans le sens des considérants et nouvelle décision, afin qu'il procède à l'évaluation de l'invalidité de l'assuré et fixe le montant de la rente.
C. L'Office cantonal de l'assurance-invalidité de Genève interjette un recours en matière de droit public contre ce jugement, en concluant à l'annulation de celui-ci. Il demande que la décision sur opposition du 8 août 2006 et la décision de refus de prestations du 22 mars 2006 soient confirmées.
I._ conclut, sous suite de frais et dépens, au rejet du recours. Dans son préavis, l'Office fédéral des assurances sociales propose l'admission du recours.

Considérant en droit:
1. 1.1 Constitue une décision incidente pouvant faire séparément l'objet d'un recours aux conditions prévues à l'<ref-law>, la décision cantonale qui, d'une part, tranche une question de fond et, d'autre part, renvoie la cause à l'administration pour complément d'instruction sur un autre point (<ref-ruling> consid. 4.2 p. 481 s.). En l'occurrence, le jugement de renvoi pour évaluation de l'invalidité de l'assuré et calcul du montant de la rente ne laisse à l'office AI aucune latitude de jugement d'un point de vue matériel, en ce qui concerne l'atteinte à la santé et la capacité de travail de l'intimé, et peut ainsi causer un préjudice irréparable au sens de l'<ref-law> (arrêt I 126/07 du 6 août 2007, consid. 1.2 non publié aux <ref-ruling>). Le recours est dès lors recevable.
1.2 Le recours en matière de droit public peut être formé notamment pour violation du droit fédéral (<ref-law>), que le Tribunal fédéral applique d'office (<ref-law>), n'étant limité ni par les arguments du recourant, ni par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). Le recourant qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> sont réalisées, sinon un état de fait divergent ne peut être pris en considération.
2. 2.1 Le litige porte sur l'atteinte à la santé et la capacité de travail de l'intimé.
2.2 Les principes relatifs au pouvoir d'examen développés dans l'<ref-ruling> consid. 3 p. 397 s. (en relation avec l'art. 132 OJ dans sa version en vigueur du 1er juillet au 31 décembre 2006) continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application qu'elle fait du droit (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (<ref-ruling> consid. 3.2 p. 398).
3. Les premiers juges ont retenu le diagnostic de syndrome douloureux somatoforme persistant posé par les experts du COMAI. Constatant que la doctoresse E._, dans son évaluation du 20 septembre 2005, avait posé les diagnostics de trouble panique (anxiété épisodique paroxystique [F41.0]) et de probable trouble mental, ils ont considéré que le trouble panique constituait une comorbidité psychiatrique. Se ralliant aux conclusions des experts du COMAI dans leur rapport du 21 décembre 2005, ils ont admis que l'atteinte psychique et le manque de ressources propres de l'assuré limitaient sa capacité de travail, qui était de 50 % dans une activité légère.
3.1 Se fondant sur l'avis médical SMR du 13 février 2006, le recourant nie que les éléments soient réunis pour retenir le diagnostic de syndrome douloureux somatoforme persistant.
S'agissant là d'une question de fait, il n'appartient pas au Tribunal fédéral, dont le pouvoir d'examen est limité (supra, consid. 2.2), de procéder une nouvelle fois à l'appréciation des preuves administrées. Le recourant ne démontre pas en quoi celle opérée par la juridiction cantonale serait manifestement inexacte.
Même si l'on confrontait les faits constatés par les premiers juges avec le contenu de l'avis médical SMR du 13 février 2006, on ne voit pas que le diagnostic de syndrome douloureux somatoforme persistant soit manifestement inexact. Ce diagnostic émane d'experts du COMAI, dont la doctoresse E._, spécialiste en psychiatrie, et s'appuie lege artis sur les critères d'un système de classification reconnu ([CIM-10] F45.4; <ref-ruling>). Selon les constatations de la juridiction cantonale, il a été retenu par les experts du COMAI en l'absence d'atteinte ostéoarticulaire significative objective. Dans leur rapport du 21 décembre 2005, ceux-ci ont indiqué qu'ils pouvaient évoquer un diagnostic de trouble somatoforme douloureux en raison de la présentation clinique qui ne correspondait à aucune entité pathologique connue et qui était en discordance avec les plaintes de l'assuré, ainsi que de la présence d'un trouble anxieux. Sur ce point, la juridiction cantonale a relevé que les experts du COMAI, prenant en compte les résultats de l'imagerie par résonance magnétique du cerveau du 11 juillet 2005, étaient de l'avis que les changements intervenant sur le caractère pouvaient être expliqués par la décompensation du trouble anxieux. Cela n'est pas discuté par le recourant ni par les médecins du SMR.
3.2 Les premiers juges ont qualifié de comorbidité psychiatrique le trouble panique diagnostiqué par les experts du COMAI.
Avec raison, le recourant fait valoir que l'on n'est pas en présence d'une comorbidité psychiatrique importante par sa gravité, son acuité et sa durée (<ref-ruling> consid. 1.2 p. 50, 130 V 352 consid. 2.2.3 p. 354).
Dans leurs constatations relatives au trouble panique, les premiers juges ont retenu qu'il s'agissait d'une comorbidité psychiatrique, qui se manifestait dans le cas de l'intimé sous forme de malaises, d'angoisse importante avec attaques de panique lors de réveils nocturnes (transpirations profuses, tachychardies, difficultés respiratoires avec oppressions thoraciques, peur de mourir).
Toutefois, ces faits n'établissent pas la présence d'une comorbidité psychiatrique importante par sa gravité, son acuité et sa durée.
Dans le rapport du 21 décembre 2005, sur lequel se fonde la juridiction cantonale, les experts du COMAI ont expressément déclaré que l'atteinte psychique, en soi, n'était pas grave. A aucun moment, ils n'ont évoqué la présence d'une comorbidité psychiatrique importante par sa gravité, son acuité et sa durée. Les arguments de l'intimé, qui fait état d'un important mal-être et d'une limitation importante de sa capacité de travail, n'y changent rien.
Le recours est bien fondé de ce chef.
3.3 Parmi les autres critères consacrés par la jurisprudence, dont l'existence permet d'admettre le caractère non exigible de la reprise du travail (<ref-ruling> consid. 1.2 p. 50 s., 130 V 352 consid. 2.2.3 p. 354 s.), le manque de ressources propres (facultés de mentalisation carrément absentes, ressources scolaires et professionnelles rudimentaires) dont les experts du COMAI ont fait état dans leur rapport du 21 décembre 2005 ne constitue pas un de ces critères.
Les premiers juges, à l'instar des experts du COMAI, se sont fondés sur le manque de ressources propres. Ces faits ne sont pas pertinents. Il convient dès lors de compléter le jugement entrepris, dans la mesure où les critères consacrés par la jurisprudence n'ont pas été pris en considération.
Ainsi, l'existence d'un processus maladif s'étendant sur plusieurs années sans rémission durable (symptomatologie inchangée ou progressive) n'est évoquée ni par le docteur J._ dans son rapport médical du 27 novembre 2003, ni par le docteur V._ dans son rapport médical du 16 avril 2004, ni par les experts du COMAI dans leur rapport du 21 décembre 200. Le critère de la perte d'intégration sociale dans toutes les manifestations de la vie n'est pas non plus réalisé. Certes, l'intimé, se référant à l'anamnèse de la doctoresse E._ dont il ressort qu'il n'ose plus faire de déplacements éloignés et qu'il n'a pas de copains ni d'amis, parle d'attitude de repli sur lui-même. Il n'en demeure pas moins que ce médecin, sous la rubrique de son évaluation du 20 septembre 2005 relative au status psychiatrique, indique qu'il n'y a pas d'isolement social (notamment pas de différence par rapport à ses habitudes sociales). L'existence d'un état psychique cristallisé n'est attestée par aucun médecin. Il n'y a pas eu d'échec de traitements médicaux qui soit attesté par un médecin.
3.4 Il résulte de ce qui précède (supra, consid. 3.2 et 3.3) que le syndrome douloureux somatoforme persistant ne se manifeste pas avec une sévérité telle que, d'un point de vue objectif, seule une mise en valeur limitée de la capacité de travail de l'intimé puisse être raisonnablement exigée de lui.
Il s'ensuit que le jugement attaqué, qui admet une capacité de travail réduite de 50 % au plan psychique en l'absence des critères de morbidité retenus par la jurisprudence, viole le droit fédéral (<ref-law>).
4. Etant donné que l'intimé ne présente aucune atteinte à la santé invalidante, les conditions du droit à une rente d'invalidité ne sont donc pas remplies. Dès lors, un renvoi de la cause à l'office AI pour qu'il procède à l'évaluation de l'invalidité de l'assuré et qu'il fixe le montant de la rente ne se justifie pas, ce qui conduit à l'annulation du ch. 4 du dispositif du jugement entrepris.
5. Compte tenu de l'issue du litige, les frais judiciaires doivent être supportés par l'intimé qui succombe (<ref-law>). Il ne saurait prétendre une indemnité de dépens pour l'instance fédérale (<ref-law>). Il n'a pas droit non plus au remboursement de ses frais et dépens de l'instance inférieure (art. 61 let. g LPGA), de sorte que le ch. 5 du dispositif du jugement attaqué doit être annulé.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et le jugement du Tribunal cantonal des assurances sociales de la République et canton de Genève, du 2 mai 2007, est annulé.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimé.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal des assurances sociales de la République et Canton de Genève et à l'Office fédéral des assurances sociales.
Lucerne, le 30 avril 2008
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
p. Le Président: Le Greffier:
Borella Wagner