A.- R._ est atteint du syndrome polymalformatif congénital de Simpson-Golabi-Behmel. Il a ainsi présenté dès la naissance, entre autres affections, une fente labio-maxillo palatine droite, un reflux vésico-urétéral, une hypotonie et une hyporéflexie ainsi qu'une anomalie cardiaque (communication interauriculaire).
L'Office de l'assurance-invalidité pour le canton de Vaud (ci-après : l'office AI) lui a alloué des mesures médicales en vue de traiter ces infirmités. Il a notamment pris en charge, jusqu'à la deuxième année de l'enfant, une physiothérapie selon Bobath, afin de soigner l'hypotonie musculaire dont il souffrait. Par lettre du 26 août 1998, la mère de R._ a requis la prolongation de cette mesure au-delà de l'âge de deux ans; la physiothérapie suivie était en effet essentielle au développement psychomoteur de son fils, selon le pédiatre de ce dernier, le docteur C._ (rapport du 25 août 1998). Cette demande fut rejetée le 29 octobre 1999 par l'office AI.
B.- Le 28 juillet 2000, le Tribunal des assurances du canton de Vaud rejeta le recours formé par l'assuré contre cette décision.
C.- R._ interjette un recours de droit administratif contre ce jugement. Il conclut en substance à ce que soit reconnu son droit à la prise en charge, par l'assurance-invalidité, de la physiothérapie suivie postérieurement au 31 août 1998. L'office AI conclut au rejet du recours, ce que propose également l'Office fédéral des assurances sociales (ci-après : OFAS).
Considérant en droit :
1.- Est litigieux le point de savoir si le recourant peut prétendre, postérieurement à l'accomplissement de sa deuxième année de vie, la prise en charge par l'assurance-invalidité d'une physiothérapie, puis d'une ergothérapie.
2.- Aux termes de l'art. 13 LAI, les assurés ont droit aux mesures médicales nécessaires au traitement des infirmités congénitales jusqu'à l'âge de 20 ans révolus (al. 1).
Le Conseil fédéral établira une liste des infirmités pour lesquelles ces mesures sont accordées; il pourra exclure la prise en charge du traitement d'infirmités peu importantes (al. 2). La liste des infirmités congénitales prévue dans cette disposition fait l'objet d'une ordonnance spéciale (art. 3 RAI). Selon cette ordonnance, sont réputées infirmités congénitales au sens de l'art. 13 LAI les infirmités présentes à la naissance accomplie de l'enfant (art. 1 al. 1 OIC) et qui figurent dans la liste annexée à l'OIC (art. 1 al. 2 1ère phrase OIC); le Département fédéral de l'intérieur (ci-après : DFI) peut également qualifier d'infirmités congénitales au sens de l'art. 13 LAI les infirmités congénitales évidentes qui ne figurent pas dans cette liste (art. 1 al. 2 2ème phrase OIC).
3.- Les premiers juges ont considéré que ni le syndrome de Simpson-Golabi-Behmel, ni l'hypotonie musculaire ne figuraient dans la liste des infirmités congénitales. Sur ce point, le jugement entrepris n'est pas critiquable. En particulier, le chiffre 390 de cette liste, invoqué par le recourant, qualifie d'infirmités congénitales au sens de l'art. 13 LAI les paralysies cérébrales congénitales, en précisant qu'elles doivent se manifester sous la forme de troubles spastiques, athétosiques ou ataxiques. Tel n'est pas le cas de l'hypotonie musculaire, comme l'admet la doctoresse D._ (rapport du 21 mars 2000, auquel se réfère le recourant) et comme le retiennent la pratique administrative (chiffre 390. 2 de la circulaire de l'OFAS concernant les mesures de réadaptation de l'AI, ci-après :
CMRM) et la jurisprudence (arrêts non publiés A. du 7 novembre 1997 [I 125/96] consid. 2, G. du 11 février 1997 [I 60/96] consid. 1, F. du 22 octobre 1990 [I 227/90] consid. 4b).
4.- Le recourant soutient que, sur le plan médical, le syndrome de Simpson-Golabi-Behmel dont il souffre est indubitablement d'origine congénitale, ce qui suffit à lui ouvrir droit aux prestations de l'assurance-invalidité. Il fait par ailleurs valoir que les symptômes liés à son manque de tonus musculaire sont comparables à ceux que présente une personne souffrant de paralysie cérébrale congénitale au sens de l'art. 390 OIC, de sorte que cette disposition devrait à tout le moins lui être appliquée par analogie, afin d'éviter toute inégalité de traitement.
a) aa) Le Tribunal fédéral des assurances examine en principe librement la légalité des dispositions d'application prises par le Conseil fédéral. En particulier, il exerce son contrôle sur les ordonnances (dépendantes) qui reposent sur une délégation législative. Lorsque celle-ci donne au Conseil fédéral un large pouvoir d'appréciation, le tribunal doit se borner à examiner si les dispositions incriminées sortent manifestement du cadre de la délégation de compétence donnée par le législateur à l'autorité exécutive ou si, pour d'autres motifs, elles sont contraires à la loi ou à la Constitution. Dans l'examen auquel il procède, le juge ne doit toutefois pas substituer sa propre appréciation à celle de l'autorité dont émane la réglementation en cause (ATF 127 V 7 consid. 5a, 126 II 404 consid. 4a, 573 consid. 41, 126 V 52 consid. 3b, 365 consid. 3, 473 consid. 5b et les références).
bb) Dans le cadre de ce contrôle, le Tribunal fédéral des assurances n'examine qu'avec une grande retenue le contenu du catalogue annexé à l'OIC. En effet, l'art. 13 al. 2 LAI confère au Conseil fédéral une large compétence de déterminer, parmi les infirmités congénitales au sens médical, celles pour lesquelles les prestations de l'art. 13 LAI doivent être accordées (infirmités congénitales au sens de la LAI; ATF 105 V 22 consid. 1b). Le catalogue dressé à cette fin par le Conseil fédéral, parfois en tenant légitimement compte d'impératifs de praticabilité (arrêt cité), présente un caractère technique marqué; il a été établi en collaboration avec la Commission fédérale des questions de réadaptation médicale dans l'AI, sur la base des propositions de groupes de travail ad hoc composés de médecins spécialisés (OFAS, La révision de l'ordonnance concernant les infirmités congénitales de l'assurance-invalidité, valable dès le 1.1.86 in : Bulletin des médecins suisses no 9/86, tirage à part, p. 1). Cette procédure, à l'instar de celle mise en oeuvre pour établir l'Ordonnance sur les prestations dans l'assurance obligatoire des soins en cas de maladie (OPAS), est de nature à assurer au contenu de la liste en cause une certaine homogénéité, qu'il est difficile de conserver lorsque le juge complète cette liste sur la base d'expertises mises en oeuvre de cas en cas (cf.
ATF 125 V 30 sv. consid. 6a et ATF 124 V 195 sv. consid. 6).
Par ailleurs, dans la mesure où le DFI peut corriger la liste à bref délai en y ajoutant des infirmités congénitales évidentes (art. 1 al. 1 2ème phrase OIC), le système mis en place permet de tenir raisonnablement compte des progrès de la science médicale.
b) aa) Comme l'ont exposé de manière exacte les premiers juges, le syndrome de Simpson-Golabi-Behmel, à l'instar d'autres pathologies entraînant des symptômes multiples - par exemple le syndrome de Down (cf. ATF 114 V 26) -, ne peut pas être traité directement dans son ensemble, de sorte qu'il n'est pas susceptible de figurer comme tel dans la liste des infirmités congénitales. D'après la jurisprudence, il est conforme à la loi que, pour de telles affections polysymptomatiques, le traitement des divers troubles dont souffre l'assuré soit à charge de l'assurance-invalidité uniquement si ces troubles, considérés isolément, correspondent à l'une ou l'autre des infirmités congénitales énumérées dans l'annexe à l'OIC (chiffre 6 et 10 CMRM; VSI 1999 174 consid. 4a et les références). Partant, le syndrome de Simpson-Golabi-Behmel ne saurait ouvrir droit, comme tel, aux prestations litigieuses.
bb) Il est vrai que, selon le rapport du 21 mars 2000 de la doctoresse D._, les troubles présentés par le recourant sont peu spécifiques et se retrouvent aussi dans d'autres contextes, comme par exemple l'ataxie congénitale.
Toutefois, la liste des infirmités congénitales est exhaustive et ne saurait être étendue par le juge - serait-ce à l'aide d'un raisonnement par analogie (cf. ATF 125 V 30 sv.
consid. 6a) -, sous réserve de son pouvoir de contrôler la légalité et la constitutionnalité de l'OIC. Or, à cet égard, le seul fait que les symptômes liés à l'hypotonie musculaire soient relativement proches de ceux que présente une personne souffrant d'ataxie n'obligeait pas le Conseil fédéral à traiter de la même manière ces affections d'origines différentes, compte tenu du large pouvoir d'appréciation qui lui a été reconnu. C'est donc à juste titre que la juridiction cantonale a nié le droit du recourant à la prise en charge du traitement litigieux au titre de l'art. 13 LAI.
5.- Le recourant soutient qu'à défaut de le mettre au bénéfice de l'art. 13 LAI, l'intimé devait lui allouer les mesures médicales demandées en vertu de l'art. 12 al. 1 LAI.
a) La disposition invoquée confère à tout assuré le droit aux mesures médicales qui n'ont pas pour objet le traitement de l'affection comme telle, mais sont directement nécessaires à la réadaptation professionnelle et sont de nature à améliorer de façon durable et importante la capacité de gain ou à la préserver d'une diminution notable.
L'art. 13 LAI confère des droits plus étendus, en ce sens qu'il permet également la prise en charge par l'assurance-invalidité du traitement de l'affection comme telle, indépendamment des possibilités de réadaptation; il limite toutefois le cercle des bénéficiaires de ces prestations aux assurés de moins de vingt ans atteints d'infirmité congénitale. Il est donc possible qu'un assuré ne remplissant pas les conditions restrictives posées à l'art. 13 LAI - par exemple parce que l'affection dont il souffre n'est pas une infirmité congénitale au sens de cette disposition - puisse cependant prétendre des prestations limitées à des mesures médicales de réadaptation au sens de l'art. 12 LAI (arrêt non publié J. du 30 décembre 1994 [I 196/94], consid. 1b).
b) En règle générale, la guérison ou l'amélioration d'un phénomène pathologique labile constitue un traitement de l'affection comme telle, que l'art. 12 al. 1 LAI exclut de prendre en charge à titre de mesure médicale de réadaptation.
A cet égard, seules entrent en considération, en principe, les mesures médicales qui visent directement à éliminer ou à corriger des états défectueux stables, ou du moins relativement stables, ou des pertes de fonction si ces mesures permettent de prévoir un succès durable et important (cf. ATF 120 V 279 consid. 3a et les références).
Les assurés mineurs qui n'exercent pas d'activité lucrative doivent être considérés comme invalides lorsque l'atteinte à leur santé aura pour conséquence probable, à l'avenir, une incapacité de gain (art. 5 al. 2 LAI). Dès lors, selon la jurisprudence, des mesures médicales appliquées à de jeunes gens peuvent tendre de manière prédominante à la réadaptation professionnelle - et être prises en charge par l'assurance-invalidité malgré le caractère encore momentanément labile de l'affection - lorsque, à défaut de ces mesures, il n'y aurait qu'une guérison imparfaite, ou qu'il subsisterait un état stabilisé défectueux qui entraverait la formation professionnelle ou la capacité de gain, voire toutes les deux (ATF 105 V 20). A cet égard, peu importe que les mesures ordonnées soient des mesures d'urgence (opération chirurgicale, par exemple) ou des mesures d'une certaine durée, telles que la physiothérapie ou l'ergothérapie (RCC 1984 525 consid. 3). Mais des mesures médicales illimitées dans le temps en vue d'empêcher la survenance d'un état pathologique définitif ou d'en atténuer les conséquences n'ont pas un caractère prépondérant de mesures de réadaptation; elle constituent plutôt un traitement de l'affection comme telle, de sorte qu'elles ne sont pas à charge de l'assurance-invalidité (ATF 102 V 42 sv., 100 V 43 sv. consid. 2a, 100 V 107 sv.; VSI 1999 p. 130; RCC 1984 524 sv. consid. 1 et 2).
c) Selon le docteur E._, médecin chef de la Division autonome de génétique médicale du Centre hospitalier X._, la possibilité pour R._ de suivre correctement l'école, puis d'avoir un métier, dépend essentiellement d'une stimulation appropriée pendant son jeune âge; selon ce praticien, cette dernière passerait notamment par une physiothérapie intensive (rapport du 23 novembre 1999). Par ailleurs, d'après les documents médicaux produits à l'appui du recours, une ergothérapie stimulant la motricité globale et fine de l'assuré permettrait d'augmenter son autonomie dans la vie quotidienne et d'influencer à long terme ses capacités d'intégration scolaire et d'apprentissage (rapports des 3 et 15 novembre 2000 ainsi que du 19 janvier 2001 du Service d'ergothérapie Y._).
Tant le docteur E._ que les médecins du Service d'ergothérapie Y._ semblent donc considérer qu'une physiothérapie, puis une ergothérapie sont susceptibles de permettre au recourant de suivre ultérieurement une formation scolaire et d'améliorer sa capacité de gain. Toutefois, si le docteur E._ insiste sur la nécessité d'intervenir pendant le jeune âge de l'assuré déjà, il n'indique pas si les mesures préconisées pourront par la suite être levées, de manière prévisible. Les autres pièces médicales figurant au dossier ne permettent pas davantage de se prononcer sur ce point. Aussi la cause sera-t-elle retournée à l'intimé pour qu'il rende une nouvelle décision, après instruction complémentaire sur le caractère permanent ou non des mesures de physiothérapie et d'ergothérapie préconisées pour le recourant.
Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est partiellement admis; le jugement du 28 juillet 2000 du Tribunal des assurances du canton
de Vaud et la décision du 29 octobre 1999 de l'Office
de l'assurance-invalidité pour le canton de Vaud sont
annulés, la cause étant renvoyée à cet office pour
instruction complémentaire au sens des motifs et
nouvelle décision.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 20 février 2002
Au nom du
Tribunal fédéral des assurances
La Présidente de la IVe Chambre :
Le Greffier :