Faits: A. B._, né en 2006, est atteint d'agénésie du corps calleux, de microcéphalie et d'hypotonie axiale. Le 18 décembre 2006, agissant par son père, il a demandé des prestations de l'assurance-invalidité, en particulier l'octroi de mesures médicales. A.a Par communication du 8 mars 2007, l'Office de l'assurance-invalidité de la République et canton de Genève (ci-après : l'Office AI) a admis la prise en charge des frais de traitement de l'infirmité congénitale OIC 395 (légers troubles moteurs cérébraux) jusqu'à l'âge de deux ans révolus, soit du 27 novembre 2006 au 31 juillet 2008. Par décision du 10 mai 2007, il a par contre refusé la prise en charge d'autres mesures médicales en l'absence d'infirmités congénitales OIC 381 et 386. Cette décision a fait l'objet d'un recours auprès du Tribunal cantonal des assurances sociales de la République et canton de Genève (TCAS), qui l'a partiellement admis. La juridiction cantonale a confirmé que B._ ne souffrait pas d'infirmités congénitales (OIC 381 et 386) au sens de l'art. 13 LAI, mais elle a renvoyé l'affaire à l'office AI pour qu'il examine si les conditions d'application de l'art. 12 LAI étaient données. A.b Statuant à nouveau après instruction du dossier, l'office AI a, par décision du 24 février 2009, refusé la prise en charge des mesures médicales, y compris les traitements de physiothérapie et d'ergothérapie, estimant que l'assuré ne remplissait pas les conditions d'application de l'art. 12 LAI. B. B._, agissant par ses parents, a déféré cette décision au Tribunal cantonal des assurances sociales de la République et canton de Genève. Produisant un rapport médical du docteur O._, neuropédiatre, du 17 mars 2009, un rapport de G._, ergothérapeute, du 20 mars 2009 et un rapport de D._, physiothérapeute, du 26 mars 2009, il s'est fondé sur ces avis pour établir que les mesures médicales demandées ne visaient pas le traitement de l'affection elle-même mais bien les conséquences de celle-ci sur sa scolarisation et sa capacité de gain futures. Par jugement du 29 octobre 2009, la juridiction cantonale a admis le recours et annulé la décision attaquée. Elle a reconnu à B._ le droit à des mesures médicales sous forme d'ergothérapie et de physiothérapie dès le 1er août 2008, date à laquelle a pris fin la prise en charge des frais de traitement de l'infirmité congénitale OIC 395. C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut à la confirmation de sa décision du 24 février 2009. Il demande la restitution de l'effet suspensif au recours. B._ conclut, sous suite de frais et dépens, au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer. L'effet suspensif au recours a été accordé par ordonnance du juge instructeur du 5 mai 2010.