A.- a) B._, domiciliée en France, a épousé A._ le 18 avril 1992. Elle est mère de deux filles, Z._ et Y._, nées respectivement le 11 décembre 1975 et le 27 août 1978 d'un premier mariage.
L'autorité parentale a été confiée au père, P._.
b) En 1994, B._ dut cesser toute activité professionnelle en raison d'atteintes à sa santé. Comme son époux, A._, était lui aussi totalement incapable de travailler pour des raisons de santé, l'Office AI pour les assurés résidant à l'étranger mit les conjoints au bénéfice d'une rente pour couple dès le 1er mai 1995, dont il versa la moitié - soit 992 fr. par mois jusqu'au 31 décembre 1996, puis 1'018 fr. - à B._ (décision du 29 octobre 1998). Par décision séparée, également datée du 29 octobre 1998, il alloua en outre à l'assurée une rente simple pour enfant d'un montant de 388 fr. (398 fr. dès le 1er janvier 1997), versée directement à Y._, alors en apprentissage.
c) Lors de la survenance de son invalidité, B._ était affiliée au Fonds de prévoyance de l'Association vaudoise d'établissements médico-sociaux (ci-après: le fonds de prévoyance). Le 22 février 1999, celui-ci lui reconnut le droit à une rente d'invalidité de 421 fr. par mois depuis le 1er juin 1996. Apprenant par la suite que B._ était titulaire d'une rente pour enfant de l'assurance-invalidité, il se ravisa: à la rente d'invalidité, il ajouta une rente d'enfant d'invalide, mais réduisit ces prestations respectivement à 300 fr. et 108 fr. par année, pour cause de surindemnisation. Il indiqua en outre que la rente d'enfant d'invalide serait payée jusqu'à ce que Y._ ait fini son apprentissage, en août 1999; elle serait ensuite supprimée et la rente d'invalidité de B._ augmentée à 421 fr. par mois (lettre du 26 juin 1999 du fonds de prévoyance).
L'assurée contesta, sans succès, la réduction de la rente d'invalidité, faisant valoir qu'elle ne bénéficiait pas des prestations pour enfant de l'assurance-invalidité, versées directement en main de sa fille.
B.- Par acte du 26 juillet 1999, complété par courrier du 5 octobre 1999, B._ saisit le Tribunal des assurances du canton de Vaud d'une action en paiement de 15'093 fr. par le fonds de prévoyance. Ce montant correspondait à une rente mensuelle non réduite pour la période du 1er juin 1996 au 31 août 1999 (16'419 fr.), après déduction d'un versement de 1'326 fr. effectué par le fonds en août 1999.
Le 20 décembre 2000, la juridiction cantonale rejeta la demande.
C.- L'assurée interjette un recours de droit administratif contre ce jugement, en concluant au paiement par le fonds de prévoyance du "montant indiqué dans [sa] lettre du 22 février 1999, soit 13'893 fr. (./. 1'326 fr. versé le 5 août 1999)". Après avoir invité l'intimé à produire son règlement, le Tribunal fédéral des assurances a donné la possibilité aux parties, ainsi qu'à l'Office fédéral des assurances sociales, de se déterminer sur la manière dont la rente pour couple allouée à A._ devait être prise en considération pour calculer la surindemnisation de la recourante. Cette dernière, au terme de ses observations, a maintenu ses conclusions, alors que le fonds de prévoyance a conclu au rejet du recours. Pour sa part l'Office fédéral des assurances sociales a renoncé à prendre position.
Considérant en droit:
1.- La contestation ici en cause relève des autorités juridictionnelles mentionnées à l'art. 73 LPP, tant du point de vue de la compétence ratione temporis que de celui de la compétence ratione materiae (ATF 122 V 323 consid. 2, 120 V 18 consid. 1a et les références). Le recours de droit administratif est donc recevable de ce chef.
2.- Le litige porte sur le droit de la recourante au versement, par le fonds de prévoyance, d'une rente d'invalidité et d'une rente d'enfant d'invalide pour la période du 1er juin 1996 au 31 août 1999. Il s'agit en particulier de déterminer si l'intimé peut réduire ses prestations pour cause de surindemnisation, eu égard aux rentes versées par l'assurance-invalidité à la recourante et à sa fille.
Dès lors que le droit à des prestations d'assurance est litigieux, le pouvoir d'examen du Tribunal fédéral des assurances n'est pas limité à la violation du droit fédéral - y compris l'excès et l'abus du pouvoir d'appréciation - mais s'étend également à l'opportunité de la décision attaquée. Le tribunal n'est pas lié par l'état de fait constaté par la juridiction inférieure, et il peut s'écarter des conclusions des parties à l'avantage ou au détriment de celles-ci (art. 132 OJ).
3.- a) Selon l'art. 24 al. 1 OPP 2, édicté par le Conseil fédéral en vertu de la délégation de compétence de l'art. 34 al. 2 LPP, l'institution de prévoyance peut réduire les prestations d'invalidité et de survivants, dans la mesure où, ajoutées à d'autres revenus à prendre en compte, elles dépassent 90 pour cent du gain annuel dont on peut présumer que l'intéressé est privé. Sont considérées comme des revenus à prendre en compte les prestations d'un type et d'un but analogues qui sont accordées à l'ayant droit en raison de l'événement dommageable, telles que les rentes ou les prestations en capital prises à leur valeur de rentes provenant d'assurances sociales ou d'institutions de prévoyance suisse et étrangères, à l'exception des allocations pour impotents, des indemnités pour atteinte à l'intégrité et de toutes autres prestations semblables. Le revenu provenant d'une activité lucrative exercée par un assuré invalide est aussi pris en compte (art. 24 al. 2 OPP 2). La rente pour couple de l'AVS/AI n'est comptée que pour deux tiers (art. 24 al. 3 1ère phrase OPP 2).
b) La réglementation ainsi décrite ne vaut toutefois que pour les prestations de la prévoyance professionnelle obligatoire. Pour ce qui est de la prévoyance plus étendue, dite pré-obligatoire, sous-obligatoire ou sur-obligatoire (cf. ATF 114 V 37 in initio), les institutions de prévoyance restent libres de régler différemment la coordination avec d'autres assurances sociales (art. 49 al. 2 LPP; ATF 122 V 155 consid. 3d et les références citées, ainsi que SVR 2000 BVG no 6 p. 32). Lorsque l'affilié travaille pour le compte d'une entreprise privée - tel était le cas de la recourante -, les statuts ou le règlement constituent un contrat préformé (sui generis) dit de prévoyance, à savoir ses conditions générales, auxquelles l'intéressé se soumet expressément ou par actes concluants (ATF 112 II 249; RSAS 2000 p. 546 consid. 3b, 1999 p. 385 consid. 2a). Selon la jurisprudence (ATF 122 V 146 consid. 4c, 116 V 222 consid. 2; RSAS 1996 p. 154 consid. 3c, 1995 p. 51 et 1994 p. 205 consid. 3c), il convient, si nécessaire, d'interpréter ce contrat selon le principe de la confiance, en tenant compte du mode d'interprétation des conditions générales, en particulier de la règle de la clause peu claire (ATF 110 II 146 consid. 2b) et de la règle dite de l'inhabituel ou de l'insolite (cf.
ATF 108 II 418 consid. 1b).
4.- a) Avant la survenance de son invalidité, la recourante réalisait un salaire annuel de 18'837 fr., inférieur au montant minimum du salaire coordonné prévu à l'art. 8 al. 1 LPP, en corrélation avec l'art. 5 OPP 2 (ce montant était de 22'560 fr. du 1er janvier 1993 au 31 décembre 1994, puis de 23'280 fr., jusqu'au 31 décembre 1996, conformément aux modification successives de l'art. 5 OPP 2; RO 1992 2045, 1994 3095, 1996 3037). En l'espèce, le rapport d'assurance relève donc exclusivement de la prévoyance sous-obligatoire.
b) L'art. 25 du règlement du fonds de prévoyance intimé (ci-après: le règlement) prévoit notamment, afin d'éviter une surindemnisation de la personne affiliée:
" 1. [...] la rente d'invalidité et les rentes
d'enfants d'invalide, à elles seules ou ajoutées aux
prestations énumérées à l'alinéa 2, ne doivent pas
dépasser le 90 % du dernier salaire cotisant; en cas
de réduction, chaque rente est diminuée dans la même
proportion.
2. Les prestations prises en compte pour le calcul de
la réduction sont:
- les prestations de l'assurance-vieillesse et
survivants (AVS) et de l'assurance-invalidité (AI)
fédérales (allocation pour impotent non comprise);
- [...]".
c) Les expressions "prestations" (al. 1) et "prestations de l'assurance-invalidité" (al. 2) n'ont de sens, dans le cadre d'une disposition visant à empêcher la surindemnisation, que si les revenus ainsi désignés sont dans un rapport de connexité plus ou moins étroit avec les rentes dont le fonds de prévoyance envisage la réduction. A cet égard, faute pour les parties au contrat de prévoyance d'avoir défini plus précisément ce rapport de connexité dans le règlement litigieux, on peut interpréter ce dernier en s'inspirant du principe de concordance des droits, qui trouve notamment son expression à l'art. 24 al. 2 OPP 2.
Selon ce principe, seules sont susceptibles de conduire à une surindemnisation les prestations d'un type et d'un but analogue accordées à l'ayant droit en raison de l'événement dommageable (cf. ATF 126 V 473 sv. consid. 6a, 124 V 281 sv. consid. 2a et les références). A cet égard, les précisions apportées par la jurisprudence relative à l'art. 24 OPP 2 peuvent être appliquées, mutatis mutandis, dans le cadre de l'art. 25 du règlement litigieux.
5.- C'est à juste titre que le premier juge a pris en compte la rente pour enfant allouée à B._ en vertu de l'art. 35 al. 1 LAI. Cette rente, à l'instar des prestations du fonds prévoyance intimé, est en effet allouée exclusivement en raison de l'invalidité de la recourante.
Elle poursuit un but similaire aux prestations de prévoyance versées pour le même événement dommageable (cf.
ATF 126 V 478 consid. 8), qui comprennent une rente d'enfant d'invalide dont la prise en compte dans le calcul de surindemnisation est expressément prévue par l'art. 25 al. 1 du règlement du fonds intimé.
Contrairement à ce que soutient la recourante, il n'est pas décisif que la rente pour enfant de l'assurance-invalidité ait été versée directement en mains de sa fille.
Une telle prestation est en effet exclusivement destinée à l'entretien de l'enfant (ATF 103 V 134 consid. 3; Thomas Geiser, Das EVG als heimliches Familiengericht?, in:
Mélanges pour le 75ème anniversaire du TFA, p. 361). Cette utilisation peut être garantie, comme en l'espèce, par le versement de la prestation en mains de l'enfant devenu majeur, quand bien même celui-ci n'a pas un droit propre à la rente (cf. SVR 1999 IV no 2 p. 5). Toutefois, si ce mode de règlement n'avait pas été suivi, la recourante n'en eût pas été pour autant dispensée d'affecter la rente pour enfant à l'entretien de sa fille.
Par conséquent, l'intimé pouvait intégrer dans le calcul de la surindemnisation de la recourante le montant de la rente versée à Y._ par l'assurance-invalidité, soit 388 fr. par mois pour la période du 1er juin 1996 au 31 décembre 1996, puis 398 fr. jusqu'au 31 août 1999.
6.- a) D'après la juridiction cantonale, la recourante était également au bénéfice, pendant la période litigieuse, d'une rente simple de l'assurance-invalidité. En réalité, B._ se voyait verser la moitié d'une rente pour couple, son époux étant lui aussi invalide (voir la décision du 29 octobre 1998 de l'office AI, ainsi que l'art. 33 LAI, dans sa teneur jusqu'à l'entrée en vigueur de la dixième révision de la LAVS, le 1er janvier 1997 [RO 1987 450, 1996 2493]). Cette rente a été maintenue pendant toute la période litigieuse (cf. let. c al. 5 des dispositions transitoires relatives aux modifications de la LAVS introduites par la loi fédérale du 7 octobre 1994, ainsi que let. 2 al. 1 des dispositions transitoires relatives à la modification de la LAI [RO 1996 2486/2489]).
Cela étant, il convient de déterminer dans quelle mesure elle concorde avec les prestations de prévoyance dont la réduction est litigieuse.
b) La rente pour couple de l'AVS/AI, dont l'époux est titulaire, s'élève à 150 % de la rente simple d'invalidité correspondant au revenu annuel moyen déterminant (art. 35 LAVS et 37 al. 1 LAI, tels qu'en vigueur avant la 10ème révision de la LAVS [RO 1972 2490, 1959 838]). Elle est versée en raison de deux événements assurés, à savoir, d'une part, l'invalidité de l'époux, et d'autre part, celle de l'épouse. En revanche, les prestations allouées au titre de la prévoyance professionnelle ne couvrent en principe que l'invalidité de la personne affiliée. Par conséquent, l'art. 24 al. 3 OPP 2 concrétise le principe de concordance à raison de l'événement assuré d'une manière schématique, en ce sens que l'invalidité de l'épouse est censée entrer - forfaitairement - pour un tiers dans la rente pour couple allouée à l'époux (Franz Schlauri, Beiträge zum Koordinationsrecht der Sozialversicherungen, St-Gall 1995, p. 98 sv.). Cette part de la rente pour couple n'a pas à entrer dans le calcul de la surindemnisation de l'époux, mais doit, le cas échéant, être imputée à l'épouse par l'institution de prévoyance à laquelle elle est affiliée.
Cette réglementation, dont le Tribunal fédéral des assurances a admis la conformité à la loi (ATF 126 V 477 sv.) n'est pas directement applicable en l'espèce. On peut cependant s'en inspirer, par analogie, en l'absence de disposition idoine dans le règlement de l'intimé, dès lors que le principe de concordance des droits doit également être concrétisé, de manière praticable, dans le cadre de ce règlement. Cela conduit à admettre une prise en compte, à raison d'un tiers seulement, de la rente pour couple de l'assurance-invalidité allouée à l'époux de la recourante, dans le calcul de la surindemnisation de cette dernière.
Cette part correspond à un montant de 661 fr. 30 par mois, pour la période du 1er juin au 31 décembre 1996, puis de 678 fr. 70.
7.- a) Le dernier salaire cotisant de la recourante était de 18'837 fr. par année. Par conséquent, abstraction faite d'une éventuelle réduction de ses prestations pour cause de surindemnisation, l'intimé aurait dû verser à la recourante, pendant toute la période litigieuse, une rente d'invalidité de 470 fr. 90 par mois, ou 5'651 fr. 10 par année (18'837 fr. x 30 %; cf. art. 19 al. 2 du règlement, ainsi que la lettre du 26 juin 1999 de l'intimé à la recourante). Le fonds de prévoyance aurait également dû verser une rente mensuelle d'enfant d'invalide de 157 fr., ou 1'883 fr. 70 par année (18'837 fr. x 10 %; cf. art. 20 al. 2 du règlement, ainsi que la lettre précitée). Autrement dit, les prestations non réduites de l'intimé devaient s'élever, au total, à 627 fr. 90 par mois.
b) aa) La limite de surindemnisation était de 1'412 fr. 80 par mois, ou 16'953 fr. 30 par année (18'837 fr. x 90 %; art. 25 al. 1 du règlement), comme l'a retenu à juste titre le premier juge. Aussi, compte tenu de la rente pour enfant et de la rente pour couple de l'assurance-invalidité, les prestations de l'intimé ne devaient pas dépasser un montant mensuel total de 363 fr. 50, pour les mois de juin à décembre 1996, conformément au tableau suivant:
. limite de surindemnisation 1'412 fr. 80. rente pour enfant de l'AI - 388 fr. 00. 1/3 de la rente pour couple de l'AI - 661 fr. 30Différence à charge de l'intimé 363 fr. 50
Chaque rente devant être diminuée dans la même proportion (art. 25 al. 1 du règlement), la recourante peut prétendre, après réduction, une rente d'invalidité de 272 fr. 60 (470 fr. 90 x 363 fr. 50 / 627 fr. 90) et une rente d'enfant d'invalide de 90 fr. 90 (157 fr. x 363 fr. 50 / 627 fr. 90), soit un montant total de 2'544 fr. 50 pour les mois de juin à décembre 1996 ([272 fr. 60 + 90 fr. 90] x 7 mois).
bb) Pour la période du 1er janvier 1997 au 31 août 1999, les prestations de l'intimé ne devaient pas dépasser un montant mensuel total de 336 fr. 10, conformément au tableau suivant:
. limite de surindemnisation 1'412 fr. 80. rente pour enfant de l'AI - 398 fr. 00. 1/3 de la rente pour couple de l'AI - 678 fr. 70Différence à charge de l'intimé 336 fr. 10
Après réduction, le recourante peut prétendre une rente d'invalidité de 252 fr. 10 (470 fr. 90 x 336 fr. 10 / 627 fr. 90) et une rente d'enfant d'invalide de 84 fr.
(157 fr. x 336 fr. 10 / 627 fr. 90), soit un montant total de 10'755 fr. 20 pour les mois de janvier 1997 à août 1999 ([252 fr. 10 + 84 fr.] x 32 mois).
c) Vu ce qui précède, les montants dus par l'intimé à la recourante pour la période litigieuse s'élevaient au total à 13'299 fr. 70 (2'544 fr. 50 + 10'755 fr. 20). Après déduction des prestations déjà versées par la caisse (1'326 fr.), le solde en faveur de B._ s'élève à 11'973 fr. 70.
Par ces motifs, le Tribunal fédéral des assurances
p r o n o n c e:
I. Le recours est admis et le jugement du 20 décembre
2000 du Tribunal des assurances du canton de Vaud est
annulé.
II. Le Fonds de prévoyance de l'association vaudoise d'établissements médicaux sociaux versera à B._ un montant de 11'973 fr. à titre de rente d'invalidité
et de rente d'enfant d'invalide, pour la période du 1er juin 1996 au 31 août 1999.
III. Il n'est pas perçu de frais de justice.
IV. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 25 septembre 2002
Au nom du
Tribunal fédéral des assurances
Le Président de la Ière Chambre:
Le Greffier: