Faits:
A. B._, né en 2006, est atteint d'agénésie du corps calleux, de microcéphalie et d'hypotonie axiale. Le 18 décembre 2006, agissant par son père, il a demandé des prestations de l'assurance-invalidité, en particulier l'octroi de mesures médicales.
A.a Par communication du 8 mars 2007, l'Office de l'assurance-invalidité de la République et canton de Genève (ci-après : l'Office AI) a admis la prise en charge des frais de traitement de l'infirmité congénitale OIC 395 (légers troubles moteurs cérébraux) jusqu'à l'âge de deux ans révolus, soit du 27 novembre 2006 au 31 juillet 2008. Par décision du 10 mai 2007, il a par contre refusé la prise en charge d'autres mesures médicales en l'absence d'infirmités congénitales OIC 381 et 386. Cette décision a fait l'objet d'un recours auprès du Tribunal cantonal des assurances sociales de la République et canton de Genève (TCAS), qui l'a partiellement admis. La juridiction cantonale a confirmé que B._ ne souffrait pas d'infirmités congénitales (OIC 381 et 386) au sens de l'<ref-law>, mais elle a renvoyé l'affaire à l'office AI pour qu'il examine si les conditions d'application de l'<ref-law> étaient données.
A.b Statuant à nouveau après instruction du dossier, l'office AI a, par décision du 24 février 2009, refusé la prise en charge des mesures médicales, y compris les traitements de physiothérapie et d'ergothérapie, estimant que l'assuré ne remplissait pas les conditions d'application de l'<ref-law>.
B. B._, agissant par ses parents, a déféré cette décision au Tribunal cantonal des assurances sociales de la République et canton de Genève. Produisant un rapport médical du docteur O._, neuropédiatre, du 17 mars 2009, un rapport de G._, ergothérapeute, du 20 mars 2009 et un rapport de D._, physiothérapeute, du 26 mars 2009, il s'est fondé sur ces avis pour établir que les mesures médicales demandées ne visaient pas le traitement de l'affection elle-même mais bien les conséquences de celle-ci sur sa scolarisation et sa capacité de gain futures.
Par jugement du 29 octobre 2009, la juridiction cantonale a admis le recours et annulé la décision attaquée. Elle a reconnu à B._ le droit à des mesures médicales sous forme d'ergothérapie et de physiothérapie dès le 1er août 2008, date à laquelle a pris fin la prise en charge des frais de traitement de l'infirmité congénitale OIC 395.
C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut à la confirmation de sa décision du 24 février 2009. Il demande la restitution de l'effet suspensif au recours.
B._ conclut, sous suite de frais et dépens, au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer.
L'effet suspensif au recours a été accordé par ordonnance du juge instructeur du 5 mai 2010.

Considérant en droit:
1. 1.1 Le recours en matière de droit public (<ref-law>) peut être formé pour violation du droit selon les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente ; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. <ref-ruling> consid. 1.4 p. 140).
1.2 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Il peut cependant rectifier ou compléter d'office les constatations de l'autorité précédente si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>).
2. 2.1 A teneur de l'<ref-law>, l'assuré a droit, jusqu'à l'âge de 20 ans, aux mesures médicales qui n'ont pas pour objet le traitement de l'affection comme telle, mais sont directement nécessaires à la réadaptation professionnelle ou à sa réadaptation en vue de l'accomplissement de ses travaux habituels, et sont de nature à améliorer de façon durable et importante sa capacité de gain ou l'accomplissement de ses travaux habituels, ou à les préserver d'une diminution notable.
L'<ref-law> vise notamment à tracer une limite entre le champ d'application de l'assurance-invalidité et celui de l'assurance-maladie et accidents. Cette délimitation repose sur le principe que le traitement d'une maladie ou d'une lésion, sans égard à la durée de l'affection, ressortit en premier lieu au domaine de l'assurance-maladie et accidents (<ref-ruling> consid. 1, 102 V 41 consid. 1 ; RCC 1981 p. 519 consid. 3a).
La loi désigne sous le nom de « traitement de l'affection comme telle » les mesures médicales que l'assurance-invalidité ne doit pas prendre en charge. Aussi longtemps qu'il existe un phénomène pathologique labile et qu'on applique des soins médicaux, qu'ils soient de nature causale ou symptomatique, qu'ils visent l'affection originaire ou ses conséquences, ces soins représentent, du point de vue du droit des assurances sociales, le traitement de l'affection comme telle. La jurisprudence a de tout temps, en principe, assimilé à un phénomène pathologique labile toutes les atteintes à la santé non stabilisées qui ont valeur de maladie. Ainsi, les soins qui ont pour objet de guérir ou de soulager un phénomène de nature pathologique labile ou ayant d'une autre manière valeur de maladie, ne ressortissent pas à l'assurance-invalidité. En règle générale, l'assurance-invalidité ne prend en charge que des mesures qui sont propres à éliminer ou à corriger des états stables défectueux ou des pertes de fonction, pour autant qu'on puisse en attendre une amélioration durable et importante au sens de l'<ref-law>. En revanche, l'assurance-invalidité n'a pas à prendre en charge une mesure destinée au traitement de l'affection comme telle, même si l'on peut prévoir qu'elle améliorera de manière importante la réadaptation. Dans le cadre de l'<ref-law>, le succès de la réadaptation ne constitue pas, en lui-même, un critère décisif car, pratiquement, toute mesure qui réussit du point de vue médical a simultanément des effets bénéfiques sur la vie active (<ref-ruling> consid. 3a, 115 V 194 consid. 3, 112 V 349 consid. 2, 105 V 19 et 149, 104 V 82, 102 V 42).
2.2 Les assurés mineurs sans activité lucrative sont réputés invalides s'ils présentent une atteinte à leur santé physique, mentale ou psychique qui provoquera probablement une incapacité de gain totale ou partielle (<ref-law>). Lorsqu'il s'agit de mineurs, la jurisprudence a précisé que des mesures médicales pouvaient déjà être utiles de manière prédominante à la réadaptation professionnelle et, malgré le caractère encore provisoirement labile de l'affection, pouvaient être prises en charge par l'AI si, sans ces mesures, la guérison serait accompagnée de séquelles ou s'il en résulterait un état défectueux stable d'une autre manière, ce qui nuirait à la formation professionnelle, diminuerait la capacité de gain ou aurait ces deux effets en même temps (VSI 2000 p 65 ; <ref-ruling>).
2.3 Pour les jeunes assurés, une mesure médicale permet d'atteindre une amélioration durable au sens de l'<ref-law> lorsque, selon toute vraisemblance, elle se maintiendra durant une partie significative des perspectives d'activités (<ref-ruling>, 101 V 50 consid. 3b avec les références). De plus, l'amélioration au sens de cette disposition légale doit être qualifiée d'importante. En règle générale, on doit pouvoir s'attendre à ce que des mesures médicales atteignent, en un laps de temps déterminé, un résultat certain par rapport au but visé (<ref-ruling> consid. 3c, 98 V 211 consid. 4b).
3. La juridiction cantonale a admis que les mesures médicales refusées par l'office AI, n'avaient pas pour but le traitement de l'affection comme telle, car on était en présence d'une affection d'origine inconnue pour laquelle il n'existait pas de traitement en soi. Elle a considéré que ces mesures visaient à augmenter l'autonomie de l'assuré dans une phase d'apprentissage de la motricité. En ce qui concerne la durée prévisible des mesures médicales, l'autorité cantonale a retenu qu'elles prendraient fin lorsque le développement moteur sera optimisé. Elle a admis que l'ergothérapie et la physiothérapie devaient permettre, selon toute probabilité, la scolarisation de l'assuré et l'amélioration de sa capacité de gain à l'âge adulte.
4. 4.1 Dans un premier argument, le recourant affirme que les mesures médicales envisagées ont pour but le traitement de l'affection comme telle. Il admet que la physiothérapie et l'ergothérapie ne traitent pas l'atteinte cérébrale proprement dite mais qu'elles soignent les conséquences de l'atteinte au niveau de la motricité et du développement psychomoteur. Se fondant sur la jurisprudence, le recourant considère que les mesures médicales qui visent l'affection originaire ou ses conséquences, doivent être considérées comme des mesures ayant pour objet le traitement de l'affection elle-même, ce qui exclut une prise en charge par l'assurance-invalidité.
4.2 Sur la base des faits retenus par l'autorité cantonale et de ceux contenus dans le dossier, il est très difficile de savoir si on est en présence d'un traitement visant l'affection comme telle ou non. En effet, le docteur O._, neuropédiatre (rapports des 5 juin 2008, 2 juillet 2008 et 17 mars 2009) affirme que le traitement ne vise pas l'affection comme telle sans explication, alors que le docteur A._, médecin au SMR (rapports des 18 novembre 2008 et 17 février 2009) prétend le contraire sans plus d'explication. Cette question peut toutefois être laissée ouverte car une autre condition d'octroi des mesures médicales n'est pas donnée (consid. 5.2).
5. 5.1 Dans un deuxième argument, le recourant considère que le fait de ne pas pouvoir fixer la durée d'une mesure médicale exclut sa prise en charge par l'assurance-invalidité.
5.2 Les premiers juges ont retenu, de façon à lier le Tribunal fédéral, que la durée des mesures médicales ne pouvait pas être prévue de manière précise et qu'elles prendraient fin lorsque le développement moteur sera optimisé. A cette constatation faite par l'autorité cantonale, s'ajoute le fait que, selon le docteur O._ (avis du 5 juin 2008 et questionnaire du 2 juillet 2008), la durée peut être limitée «pour autant que l'évolution de l'enfant se poursuive de façon favorable». Interpelé à ce sujet par le docteur A._ (avis médical SMR du 5 septembre 2008), le docteur O._, qui est certainement le médecin qui connaît le mieux le cas, a dit ne pas pouvoir être plus précis. La Cour de céans constate que la durée des mesures médicales dépend d'une évolution favorable du cas, dont on ne peut pas dire si elle se réalisera ou non et, le cas échéant, quand. On relèvera que G._, ergothérapeute, n'a pas pris position sur la durée du traitement et qu'elle s'est bornée à signaler une progression douce dans l'acquisition de la position assise (rapport du 16 juin 2008). D._, physiothérapeute, a, pour sa part, fait état de progrès très lents (rapport du 27 octobre 2008). En mars 2009, le docteur O._, la physiothérapeute et l'ergothérapeute n'ont pas donné d'autres précisions sur la durée des mesures médicales.
Il ressort de ces différents faits que la durée du traitement n'est pas déterminée et qu'elle est aléatoire dans la mesure où elle est conditionnée par « l'évolution favorable de l'enfant ». Compte tenu de ces éléments, il apparaît qu'une des conditions d'octroi des mesures médicales au sens de l'<ref-law> n'est pas donnée et qu'en conséquence celles-ci doivent être refusées. Le recours est dès lors bien fondé.
6. La procédure est onéreuse (<ref-law>). L'intimé, qui succombe, supportera les frais judiciaires (<ref-law>). Il ne saurait prétendre une indemnité de dépens pour l'instance fédérale (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et le jugement du Tribunal cantonal des assurances sociales de la République et canton de Genève du 29 octobre 2009 est annulé.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimé.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal des assurances sociales de la République et canton de Genève et à l'Office fédéral des assurances sociales.
Lucerne, le 30 septembre 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Wagner