A.- M._, a été engagé par Y._ en qualité d'employé de musée qualifié dès le 1er juin 1996. A ce titre, il a été affilié, à partir de la même date, à la Caisse de pensions X._. Au mois de janvier 1999, il a racheté 15 années et 10 mois d'assurance, par le versement d'un montant de 193 125 fr. 70.
Dans le courant du mois de mai 2000, M._ a informé X._ qu'il prendrait sa retraite à l'âge de 62 ans et qu'il quitterait définitivement la Suisse. Il désirait bénéficier, le moment venu, d'un versement en capital en lieu et place d'une rente. Par lettre du 16 mai 2000, X._ lui a répondu que ses dispositions réglementaires ne permettaient pas le versement d'une prestation en capital après l'âge minimum de la retraite selon les statuts (60 ans). Si l'assuré entendait bénéficier d'une prestations de sortie en espèces, il devrait impérativement cesser ses fonctions, au plus tard, le 31 juillet 2000, à l'âge de 59 ans.
B.- Par écriture des 21 mai et 22 août 2000, M._ a ouvert action contre X._ devant le Tribunal des assurances du canton de Vaud en prenant les conclusions suivantes :
"I.Dire que, s'il cesse ses fonctions le 31 août 2002 et
s'il quitte définitivement la Suisse M._ aura
droit au versement par la Caisse de pensions
X._ à une prestation de sortie en espèces d'un
montant à déterminer selon l'art. 47 al. 2 de la loi
sur la Caisse de pensions X._.
II.A titre subsidiaire, ordonner le versement par la Caisse de pensions X._ de la somme de 193 125 fr. 70, plus intérêts dès le 3 février 1999, à
M._".
X._ a conclu au rejet de la demande.
Statuant le 27 mars 2001, le tribunal des assurances a rejeté l'action.
C.- M._ interjette un recours de droit administratif en reprenant ses précédentes conclusions.
X._ conclut, sous suite de frais et dépens, au rejet du recours. L'Office fédéral des assurances sociales propose également de le rejeter.

Considérant en droit :
1.- Le Tribunal fédéral des assurances examine d'office les conditions formelles de validité et de régularité de la procédure administrative, soit en particulier le point de savoir si c'est à juste titre que la juridiction cantonale est entrée en matière sur le recours ou sur l'action (<ref-ruling> consid. 1a).
Dans le cas particulier, le recourant a déposé devant le tribunal des assurances une demande en constatation portant sur la nature et l'étendue de ses droits au moment de la cessation future de ses fonctions, le 31 août 2002.
En principe, l'objet d'une demande en justice ne peut porter que sur des questions juridiques actuelles dont les conséquences touchent concrètement le justiciable. La jurisprudence admet cependant la recevabilité d'une action en constatation si le demandeur a un intérêt digne de protection à la constatation immédiate d'un rapport de droit litigieux.
Un intérêt de fait suffit, pour autant qu'il s'agisse d'un intérêt actuel et immédiat (<ref-ruling> consid. 3, 121 V 317 consid. 4a, 120 V 301 consid. 2a, 119 V 13 consid. 2a). En matière de prestations futures, l'existence d'un intérêt digne de protection est admise lorsque le justiciable serait enclin, en raison de l'ignorance de ses droits ou obligations, à prendre des dispositions ou au contraire à y renoncer, avec le risque de subir un préjudice de ce fait (<ref-ruling> consid. 1; RSAS 1998 p. 379 consid. 2a).
En l'espèce, l'existence d'un tel intérêt doit être reconnue, étant donné la proximité de la date à laquelle le recourant cessera ses fonctions au service de Y._ et compte tenu de son intérêt à être fixé maintenant déjà sur le point litigieux, afin de prendre d'éventuelles dispositions en relation notamment avec son départ annoncé pour l'étranger.
2.- a) Lorsque l'assuré quitte l'institution de prévoyance, son droit à une prestation de sortie en vertu de l'<ref-law> suppose qu'il n'y ait pas encore eu de survenance d'un cas de prévoyance. Selon la définition qu'en donne l'<ref-law>, le cas de prévoyance survient lorsque l'institution accorde sur la base de son règlement un droit à des prestations lors de l'atteinte de la limite d'âge ou en cas de décès ou d'invalidité. Cette limite d'âge peut donc être inférieure à l'âge légal d'ouverture du droit à des prestations de vieillesse selon l'<ref-law> (62 ans pour les femmes et 65 ans pour les hommes). Dans cette éventualité, l'assuré ne saurait se voir reconnaître la faculté de choisir entre l'octroi d'une rente de vieillesse et celui d'une prestation de sortie, car le droit à celle-ci n'a pas pu prendre naissance (sur ces divers points, voir <ref-ruling> consid. 5b). Le Tribunal fédéral des assurances a par ailleurs précisé que cette jurisprudence ne préjugeait pas de l'obligation faite à l'ancienne institution de prévoyance de verser, le cas échéant, la prestation de sortie à une nouvelle institution aux conditions de l'<ref-law> (<ref-ruling> consid. 5b), question qui ne se pose toutefois pas dans le cas particulier.
En vertu de l'art. 43 al. 1 de la loi cantonale vaudoise sur la Caisse de pensions X._ (LCP), les assurés peuvent prendre leur retraite au plus tôt à l'âge de 60 ans révolus. Lorsque l'assuré a atteint cet âge minimum, il n'a donc plus droit à une prestation de sortie (éventuellement payable en espèces aux conditions de l'<ref-law>), mais à des prestations de vieillesse, en raison de la survenance du cas de prévoyance (cf. aussi l'art. 44 al. 1LPC).
En l'occurrence, le recourant sera âgé de 62 ans lors de la cessation des rapports de travail. Comme il aura dépassé l'âge minimum d'ouverture du droit à une rente selon 43 al. 1 LCP, il n'aura pas droit à une prestation de sortie.
b) Les mêmes principes s'appliquent au montant de 193 125 fr. 70, correspondant au rachat opéré par l'assuré en 1999. Les sommes de rachat ne connaissent pas un sort distinct de celui des montants accumulés par les cotisations de l'employeur et du salarié. Le rachat d'années d'assurance vise à améliorer les prestations de l'institution de prévoyance (notamment les rentes de vieillesse) et, du reste, lors de la survenance du cas d'assurance, l'institution ne serait pas autorisée à opérer des distinctions entre les prestations qui ont été obtenues pendant la période de cotisation et celles qui ont été acquises par la prestation d'entrée (<ref-law>; cf. <ref-ruling>).
3.- Le recourant reproche d'autre part aux premiers juges d'avoir écarté le moyen tiré du droit à la protection de la bonne foi. En procédure cantonale, il a allégué qu'il s'était renseigné par téléphone auprès de X._, en décembre 1998, pour savoir à quelles conditions il pourrait bénéficier d'un versement en espèces. A cette époque, disait-il, il envisageait déjà de quitter la Suisse au moment de prendre sa retraite. Son interlocuteur lui aurait alors répondu qu'il suffirait d'avertir X._ deux ans avant la date à laquelle il mettrait fin à son activité professionnelle.
S'agissant des mesures prises sur la foi de ce renseignement, le recourant a expliqué qu'il avait acheté un appartement en Espagne, pour aller y vivre après sa retraite. S'il avait su qu'il ne recevrait pas un versement en capital, il n'aurait pas procédé au rachat d'années d'assurance et aurait utilisé le montant qui a servi à ce rachat pour amortir une hypothèque grevant son appartement en Espagne.
a) Les principes que la jurisprudence déduisait de l'art. 4 al. 1 aCst. , en ce qui concerne le droit à la protection de la bonne foi, valent également sous le régime de l'art. 9 Cst. (<ref-ruling> consid. 3a). C'est ainsi qu'un renseignement ou une décision erronés peuvent obliger l'administration à consentir à l'administré un avantage contraire à la loi, si certaines conditions - cumulatives - sont réunies. Il faut que l'autorité soit intervenue dans une situation concrète à l'égard d'une personne déterminée, qu'elle ait agi ou soit censée avoir agi dans les limites de sa compétence, que l'administré n'ait pas pu se rendre compte immédiatement de l'inexactitude du renseignement obtenu et qu'il se soit fondé sur celui-ci pour prendre des dispositions qu'il ne saurait modifier sans subir un préjudice; il faut enfin que la loi n'ait pas changé depuis le moment où le renseignement a été donné (<ref-ruling> consid. 2a et les références).
b) En l'espèce, les allégués du recourant ne sont étayés par aucun indice qui permettrait de conclure à l'existence d'un renseignement erroné de la part de X._. S'il est exact que le recourant a eu un entretien téléphonique avec un employé de la caisse, il semble en revanche, sur le vu des pièces du dossier, que cet entretien n'ait pas porté sur la question d'un versement en capital en lieu et place d'une rente. Dans une note datée du 7 décembre 1998, établie probablement par l'employé de X._ qui a répondu à l'appel téléphonique du recourant, il est indiqué, comme motif de cet appel : "Projet de retraite avec rachat de 200 000 fr. et sans rachat + encouragement à la retraite (62 ans)". A la suite de cet entretien téléphonique, X._ a écrit à l'assuré, le 15 décembre 1998, pour lui indiquer en détail le montant des rentes de vieillesse qui lui seraient servies à l'âge de 62 ans, à défaut de rachat ou moyennant un rachat d'un montant de 200 000 fr. Cette correspondance ne fait pas allusion à la possibilité pour l'assuré d'obtenir un paiement en espèces.
Dans ces conditions, on ne peut pas considérer comme établi au degré de la vraisemblance prépondérante - appliquée généralement à l'appréciation des preuves dans l'assurance sociale (<ref-ruling> consid. 2, 121 V 47 consid. 2a) - que le recourant a reçu un renseignement inexact. Il n'est ainsi pas nécessaire d'examiner si les autres conditions susmentionnées du droit à la protection de la bonne foi sont remplies.
4.- Vu la nature du litige, la procédure est gratuite (art. 134 OJ).
Bien qu'elle obtienne gain de cause, l'intimée n'a pas droit, contrairement à ses conclusions, à une indemnité de dépens. En règle ordinaire une telle indemnité n'est pas allouée aux institutions de prévoyance, qu'elles soient ou non représentées par un avocat (art. 159 al. 2 in fine OJ; <ref-ruling> consid. 6 et la jurisprudence citée).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice ni alloué de dépens.
III. Le présent arrêt sera communiqué aux parties, au Tribunal
des assurances du canton de Vaud et à l'Office
fédéral des assurances sociales.
Lucerne, le 23 août 2001
Au nom du
Tribunal fédéral des assurances
p. le Président de la IIIe
Chambre :
Le Greffier :