A.- Le 15 avril 1994, le notaire Y._ a instrumenté un acte par lequel X._ S.A. vendait à M._ 4443 m2 de terres viticoles, pour le prix total de 111'075 fr., payable au plus tard le 30 juin 1994.
Avant la signature de l'acte, le notaire a présenté aux parties un plan, daté du 14 avril 1994, établi par un géomètre. M._ affirme qu'ayant vu ce plan, il a immédiatement signalé que le tracé proposé ne correspondait pas à l'alignement des ceps de vigne et il a demandé au notaire de faire rectifier le plan. La venderesse était représentée par dame T._, qui, entendue plus tard en qualité de témoin, s'est exprimée de la manière suivante au sujet de l'intervention de M._: "il y a eu un problème de plan où l'on disait qu'une limite était en discussion, le demandeur voulant la changer". Le notaire a alors immédiatement téléphoné au géomètre, devant les parties, pour lui demander si la modification requise par l'acheteur était possible; le géomètre a répondu affirmativement. L'acte a ensuite été signé par les parties.
Le même jour, le notaire a envoyé aux parties une copie libre de l'acte, ainsi qu'une lettre dans laquelle il écrivait ceci:
"Lors de l'instrumentation de l'acte, M.
M._ a demandé que la nouvelle limite suive
l'alignement des ceps de vigne, ce qui n'était pas
le cas du plan de fractionnement qui m'avait été
remis.
Vérification faite séance tenante avec le géomètre,
il s'avère que cela est possible sans changement
de surface.
Le géomètre a donc été chargé de modifier son
plan et d'aborner en conséquence.. "
Le 20 avril 1994, le géomètre a établi un nouveau plan, qui suivait l'alignement des ceps.
Le notaire a ensuite adressé aux parties une lettre, datée du 24 mai 1994, contenant le passage suivant:
"Au moment de l'instrumentation de l'acte,
M. M._ a demandé que la nouvelle limite suive
l'alignement des ceps de vigne.
Le géomètre a donc été chargé séance tenante de
modifier son plan de fractionnement.
Il a dès lors établi le plan provisoire, daté
du 20 avril 1994, dont vous trouverez inclus photocopie.
Cette modification de limite suppose en définitive
une emprise réduite à quelques mètres carrés
sur la parcelle ... contrairement à ce que le géomètre
m'avait laissé entendre lors de notre entretien
téléphonique du 15 avril dernier.
Il en découle que la modification de limite entraînerait
un échange mètre par mètre portant sur
une surface de 1319 m2.
Vous voudrez bien me faire savoir, à bref délai,
si je dois préparer cet échange ou non.. "
Par courrier du 30 mai 1994, X._ S.A. a répondu qu'elle n'était pas disposée à procéder à l'échange proposé.
M._ a indiqué au notaire, par lettre du 13 juin 1994, qu'il conditionnait le versement du prix de vente à l'échange de terrains nécessaire pour que le tracé puisse suivre l'alignement des ceps.
A l'échéance du 30 juin 1994, le prix fixé dans l'acte n'a pas été payé.
Le 26 juillet 1994, X._ S.A. a fait notifier un commandement de payer à M._, lui réclamant la somme de 111'075 fr. avec intérêts à 5% dès le 1er juillet 1994 ainsi que les frais. Opposition ayant été formée, la mainlevée provisoire a été prononcée le 31 août 1994.
B.- Le 10 octobre 1994, M._ a déposé devant la Cour civile du Tribunal cantonal vaudois une action en libération de dette, soutenant "que le contrat ne l'oblige pas".
Entendu en qualité de témoin, le géomètre a expliqué qu'après la passation de l'acte, il avait tracé une nouvelle limite et placé deux bornes artificielles, qu'il avait dû ensuite enlever. Au sujet de ces événements, il s'est exprimé de la manière suivante: "on a voulu anticiper en pensant que cette rectification de limite - qui nous paraissait logique parce qu'adaptée aux cultures - serait finalement adoptée, ce qui n'a pas été le cas par la suite".
Il ressort d'une expertise privée et de l'expertise judiciaire que le tracé figurant sur le plan du 14 avril 1994, qui coupe l'alignement des ceps, rend plus difficile l'exploitation de la parcelle litigieuse.
La cour cantonale a retenu que le demandeur, avant de signer l'acte, avait exprimé son désaccord sur le tracé.
Procédant à une appréciation des preuves, elle a conclu: "on ignore en revanche si un accord est intervenu oralement entre les parties à cette occasion". S'agissant du notaire, appelé en cause par le demandeur, les premiers juges ont relevé ce qui suit: "Il n'est guère discutable qu'en instrumentant l'acte de vente du 15 avril 1994, alors qu'il savait que le contenu de celui-ci ne correspondait pas, sur un point accessoire au moins - la limite de la parcelle - à la réelle volonté de l'acheteur, l'appelé en cause a commis un acte illicite.
Il lui incombait en effet de surseoir à l'instrumentation de l'acte, le temps que le nouveau plan soit dressé et approuvé par les parties". Et plus loin: "en instrumentant l'acte du 15 avril 1994 alors qu'il savait que celui-ci ne reflétait pas parfaitement la volonté concordante des parties, l'appelé en cause a indiscutablement commis une faute".
Par jugement du 11 mai 1999, la Cour civile du Tribunal cantonal a rejeté les conclusions prises par le demandeur à l'encontre de la défenderesse et de l'appelé en cause; elle a, en conséquence, constaté la somme due par l'acheteur et prononcé la levée définitive de l'opposition à concurrence de 111'075 fr., sous déduction de deux montants de 6033 fr.80 et 13'444 fr. 20 que la défenderesse reconnaissait devoir au demandeur à un autre titre et qu'elle entendait compenser avec sa créance en paiement du prix de vente. La cour cantonale a considéré que les arguments invoqués par le demandeur, à savoir l'erreur essentielle et, subsidiairement, le défaut de la chose vendue, n'étaient pas fondés, dès lors que la parcelle mise à sa disposition correspondait au plan du 14 avril 1994 auquel le contrat signé se référait. En ce qui concerne les conclusions prises contre l'appelé en cause, les juges cantonaux ont estimé que le notaire avait commis un acte illicite et fautif, mais que la preuve d'un dommage n'avait pas été apportée.
C.- Le demandeur interjette un recours en réforme au Tribunal fédéral. Il y reprend ses conclusions sur le fond, aussi bien contre la défenderesse que contre l'appelé en cause.
La défenderesse propose le rejet du recours.
L'appelé en cause conclut à l'irrecevabilité du recours et, subsidiairement, à son rejet.
Le demandeur a déposé parallèlement un recours en réforme cantonal, qui a été déclaré irrecevable, par arrêt du 20 septembre 2000 de la Chambre des recours, en tant qu'il avait trait à l'action en libération de dette; ledit recours est toujours pendant en ce qui concerne l'action dirigée contre le notaire.

Considérant en droit :
1.- a) La cour cantonale a rejeté les conclusions prises par le recourant contre le notaire. Le recours en réforme porte également sur ce point.
b) Il faut cependant constater que les instances cantonales ne sont pas épuisées, puisque le recours en réforme cantonal est toujours pendant.
S'il s'agissait d'un recours ordinaire, cela entraînerait l'irrecevabilité du recours en réforme (art. 48 al. 1 OJ). Si l'on était en présence d'un recours extraordinaire, il y aurait lieu de surseoir à statuer (art. 57 al. 1 OJ); il est cependant admis qu'il n'y a pas lieu d'attendre si le recours en réforme est manifestement irrecevable ou infondé (Poudret, Commentaire de l'OJ, n. 1.3 ad art. 57, p. 458; Corboz, Le recours en réforme au Tribunal fédéral, in SJ 2000 II p. 53).
En l'espèce, le recours en réforme est manifestement irrecevable, indépendamment de la nature du recours cantonal.
En effet, le recours en réforme n'est ouvert que pour violation du droit fédéral (art. 43 al. 1 OJ). On en déduit que le recours en réforme est irrecevable lorsque la prétention litigieuse est soumise au droit cantonal (art. 55 al. 1 let. c OJ), même si celui-ci incorpore des notions de droit fédéral ou renvoie au droit fédéral (<ref-ruling> consid. 5, 125 III 461 consid. 2 p. 463, 123 III 395 consid. 1b).
Lorsque le notaire accomplit ses fonctions ministérielles, ses relations avec ses clients relèvent du droit public et échappent au champ d'application des dispositions contractuelles sur le mandat; la responsabilité du notaire pour une éventuelle mauvaise exécution de ses tâches officielles ne relève donc pas du droit des contrats (<ref-ruling> consid. 7a et les références). La responsabilité des fonctionnaires et employés publics cantonaux est en principe régie par les <ref-law>, sauf si le canton, en vertu de l'<ref-law>, a réglementé la question (<ref-ruling> consid. 2a p. 103). Il n'est pas contesté en l'espèce que le canton de Vaud a réglementé la responsabilité des notaires (cf. art. 111 de la loi vaudoise du 10 décembre 1956 sur le notariat). La prétention litigieuse relève donc entièrement du droit public cantonal, ce qui exclut d'emblée un recours en réforme.
c) Cela étant, les frais et dépens se rapportant aux conclusions irrecevables prises contre le notaire appelé en cause doivent être mis à la charge du recourant (art. 156 al. 1 et 159 al. 1 OJ).
2.- a) Il y a lieu, partant, de restreindre l'examen du cas au litige de droit privé qui oppose l'acheteur et la venderesse.
b) Interjeté par la partie qui a succombé dans ses conclusions libératoires et dirigé contre un jugement final rendu en dernière instance cantonale par un tribunal supérieur (art. 48 al. 1 OJ) sur une contestation civile dont la valeur litigieuse atteint le seuil de 8000 fr. (art. 46 OJ), le recours en réforme est en principe recevable, puisqu'il a été formé en temps utile (art. 54 al. 1 et art. 34 al. 1 let. a OJ) dans les formes requises (art. 55 OJ).
c) Le recours en réforme est ouvert pour violation du droit fédéral, mais non pour violation directe d'un droit de rang constitutionnel (art. 43 al. 1 OJ) ou pour violation du droit cantonal (<ref-ruling> consid. 2a, 370 consid. 5, 125 III 311 consid. 3e).
Saisi d'un recours en réforme, le Tribunal fédéral doit conduire son raisonnement juridique sur la base des faits contenus dans la décision attaquée, à moins que des dispositions fédérales en matière de preuve n'aient été violées, qu'il y ait lieu à rectification de constatations reposant sur une inadvertance manifeste (art. 63 al. 2 OJ) ou qu'il faille compléter les constatations de l'autorité cantonale parce que celle-ci n'a pas tenu compte de faits pertinents et régulièrement allégués (art. 64 OJ; <ref-ruling> consid. 2a et les arrêts cités). Dans la mesure où un recourant présente un état de fait qui s'écarte de celui contenu dans la décision attaquée sans se prévaloir avec précision de l'une des exceptions qui viennent d'être rappelées, il n'est pas possible d'en tenir compte. Il ne peut être présenté de griefs contre les constatations de fait, ni de faits ou de moyens de preuve nouveaux (art. 55 al. 1 let. c OJ).
Le Tribunal fédéral ne peut aller au-delà des conclusions des parties, mais il n'est pas lié par les motifs qu'elles invoquent (art. 63 al. 1 OJ), ni par l'argumentation juridique retenue par la cour cantonale (art. 63 al. 3 OJ; <ref-ruling> consid. 2a, 123 III 246 consid. 2, 122 III 150 consid. 3). Le Tribunal fédéral peut donc admettre un recours pour d'autres motifs que ceux invoqués par le recourant et il peut également rejeter le recours en adoptant une autre argumentation juridique que celle retenue par la cour cantonale (Corboz, op. cit. , p. 59).
3.- a) Le recourant se plaint d'une inadvertance manifeste au sens de l'art. 163 (recte: 63) al. 2 OJ. Il reproche à la cour cantonale d'avoir méconnu la lettre du notaire du 15 avril 1994. Cet argument est de toute évidence mal fondé, puisque le passage invoqué par le recourant est entièrement et correctement reproduit dans l'arrêt attaqué à la page 7, de sorte que l'on ne saurait dire que la cour cantonale a méconnu cette pièce.
Invoquant l'<ref-law>, le recourant reproche à la cour cantonale d'avoir mal dégagé le sens de ce document. Savoir si une lettre est propre à fonder une conviction sur la volonté réelle d'une personne est une question d'appréciation des preuves, qui n'est pas régie par l'<ref-law>. En effet, cette disposition ne prescrit pas comment le juge doit apprécier les preuves et sur quelles bases il peut parvenir à une conviction (cf. <ref-ruling> consid. 3c p. 223, 119 III 60 consid. 2c, 118 II 365 consid. 1 p. 366).
S'il faut interpréter une manifestation de volonté selon le principe de la confiance, il s'agit d'une question de droit que le Tribunal fédéral peut revoir librement (<ref-ruling> consid. 3c, 59 consid. 5a, 375 consid. 2e/aa p. 379, 125 III 305 consid. 2b p. 308, 435 consid. 2a/aa), sans qu'intervienne ici l'<ref-law>.
Il n'y a donc pas trace d'une violation de cette disposition.
b) La cour cantonale a retenu que l'acheteur savait, au moment de signer l'acte de vente, que le plan du 14 avril 1994 ne correspondait pas à ce qu'il souhaitait, de sorte qu'il n'y a pas eu d'erreur de sa part (cf. <ref-law>); au demeurant, comme le terrain mis à sa disposition est conforme à ce plan, la chose n'est pas défectueuse (cf.
art. 197 et 200 CO).
Ces questions ne se posent que pour autant que le contrat de vente ait été valablement conclu.
C'est le lieu de rappeler que le Tribunal fédéral, saisi d'un recours en réforme, n'est pas lié par l'argumentation juridique des parties ou de la cour cantonale. Le juge doit examiner d'office si le contrat invoqué est venu à chef (Kramer, Commentaire bernois, n. 6 ad <ref-law>), en tout cas lorsqu'une partie soutient qu'elle n'est pas liée (cf. Bucher, Commentaire bâlois, n. 25 ad <ref-law>). On se trouve ici dans cette dernière hypothèse. En effet, contrairement à l'acheteur qui, en concluant principalement à la réduction du prix en raison des défauts de la chose vendue, manifeste, ce faisant, sa volonté de maintenir la vente, mais avec un contenu modifié (<ref-ruling>; arrêt du 13 août 1991, consid. 1, reproduit in SJ 1992 p. 13), l'acheteur qui, tel le recourant, invoque au premier chef le moyen tiré de l'erreur (<ref-law>), fait valoir qu'il n'a jamais été lié par le contrat en cause (cf. <ref-ruling> consid. 3b p. 143; Engel, Traité des obligations en droit suisse, 2e éd., p. 339) à l'égal de celui qui soutient que les parties ne se sont pas mises d'accord sur les points essentiels du contrat de vente.
c) La cour cantonale semble avoir admis implicitement que l'acheteur ne pouvait pas remettre en cause la conclusion du contrat, parce qu'il avait signé un acte authentique.
Selon l'<ref-law>, les ventes d'immeubles ne sont valables que si elles sont faites par acte authentique.
L'observation de la forme requise par la loi est donc une condition de validité du contrat (<ref-law>). La conclusion du contrat n'en est pas moins soumise aux règles générales des art. 1er et 2 CO et l'interprétation de cet acte juridique doit être faite conformément à l'<ref-law>. Il est donc possible, même pour un contrat soumis à une exigence de forme, que ce qui a été déclaré ne corresponde pas à la volonté réelle et commune des parties (<ref-law>; <ref-ruling> consid. 4 p. 366, 121 III 118 consid. 4b/bb et les références).
Certes, les faits constatés dans un titre authentique sont présumés exacts, mais il n'est pas exclu de renverser cette présomption (<ref-law>; <ref-ruling> consid. 3d p. 34).
d) Selon l'<ref-law>, le contrat est parfait lorsque les parties ont, réciproquement et d'une manière concordante, manifesté leur volonté. Si les parties ne se sont pas mises d'accord sur tous les éléments essentiels du contrat, celui-ci n'est pas venu à chef (Bucher, op. cit. , n. 20, 22 et 23 ad <ref-law>; Kramer, ibid. ; Engel, op. cit. , p. 218).
Savoir ce qui constitue un élément essentiel est une question de qualification juridique que le Tribunal fédéral, saisi d'un recours en réforme, peut revoir librement (cf. dans le cas de l'erreur essentielle: <ref-ruling> consid. 1a p. 27, 105 II 16 consid. 5 p. 22).
Dans un contrat de vente, la détermination de l'objet vendu constitue l'un des éléments essentiels (<ref-ruling> consid. 1 p. 193; Bucher, Schweizerisches Obligationenrecht, Allgemeiner Teil, 2e éd., p. 117 note 28; Guhl/Koller, Das schweizerische Obligationenrecht, 9e éd., p. 106 n. 8; Keller/Schöbi, Allgemeine Lehren des Vertragsrechts, 3e éd., p. 53; Engel, op. cit. , p. 219; Jäggi, Commentaire zurichois, n. 3 ad <ref-law>). Dans le cas d'une vente immobilière, l'indication d'une surface ne suffit pas; il faut que soient déterminés la forme et l'emplacement de la parcelle (<ref-ruling> consid. 1; <ref-ruling> consid. 1). L'objet vendu doit être déterminé ou à tout le moins déterminable sur la base de l'accord des parties (von Tuhr/Peter, Allgemeiner Teil des Schweizerischen Obligationenrechts, vol. I, p. 191).
Si un élément essentiel fait défaut, l'<ref-law> n'est pas applicable (Kramer, ibid.).
e) Il arrive que les parties ne puissent pas se mettre d'accord sur tous les éléments essentiels du contrat et qu'elles réservent l'un ou l'autre des points à un accord ultérieur; dans ce cas, le contrat n'est pas encore conclu et il ne vient à chef que lorsque tous les points essentiels ont fait l'objet d'un accord (von Tuhr/Peter, ibid.).
La réserve d'un point à régler peut être convenue de manière informelle, même dans le cadre d'un contrat soumis à une exigence de forme (Jäggi, op. cit. , n. 20 et 21 ad <ref-law>).
f) Selon les constatations souveraines de la cour cantonale, le notaire a soumis aux parties, lors de la séance du 15 avril 1994, un projet qui fixait tous les éléments essentiels d'une vente immobilière. Le recourant a cependant exprimé son désaccord à l'égard du plan, manifestant la volonté que le tracé suive l'alignement des ceps de vigne. Il y avait dès cet instant un désaccord patent portant sur un élément essentiel, à savoir la détermination exacte de la chose à vendre.
La cour cantonale constate, à la page 37 de son jugement, qu'elle n'est pas parvenue à établir si un accord était alors intervenu oralement entre les parties. Dès lors, en l'absence d'une constatation quant à une commune et réelle intention, il faut interpréter les manifestations de volonté selon le principe de la confiance (sur cette notion: <ref-ruling> consid. 2e/aa p. 380 et les arrêts cités).
Il résulte des constatations des premiers juges que la représentante de la venderesse a pris connaissance de la demande du recourant, mais ne s'est pas déterminée à son sujet.
On ne peut donc pas déduire de l'attitude des parties, telle qu'elle a été constatée en fait par la cour cantonale, que la modification du tracé demandée par le recourant ait été acceptée.
On ne saurait non plus déduire de l'attitude du recourant que ce dernier aurait renoncé à son exigence. C'est le contraire qui ressort des circonstances. Le notaire a téléphoné au géomètre, avant que le recourant ne signe le contrat, pour s'assurer qu'il était possible de modifier le tracé conformément à son désir; à la suite d'une réponse affirmative du géomètre, on sait qu'il lui a été donné pour instruction de modifier le bornage en conséquence (lettre du notaire du 15 avril 1994); la représentante de la venderesse n'a pas opposé de veto; ce n'est que dans ces circonstances que le recourant a accepté de signer le contrat.
Il suit de là que le recourant a clairement manifesté son désaccord avec le tracé proposé et qu'il n'est pas revenu sur cette prise de position. Il a certes signé le contrat - ce qui constituait une imprudence de sa part - en partant de l'idée, reconnaissable pour son cocontractant, que la question du tracé était réservée et ferait l'objet d'un accord ultérieur. Les lettres du notaire des 15 avril et 24 mai 1994, ainsi que les déclarations du géomètre sont corroboratives et montrent que c'est bien de cette manière que la position prise par le recourant devait être comprise de bonne foi.
Si le recourant a signé malgré tout, ce n'est pas - comme semble le croire la cour cantonale - parce qu'il considérait que la question était d'importance mineure. Il ressort au contraire des constatations des juges précédents que le tracé avait une grande importance pour l'exploitation viticole et affectait, par voie de conséquence, la valeur du terrain.
En réalité, il a signé parce qu'il pensait que le point essentiel réservé pourrait être facilement réglé, sur la base des assurances du géomètre transmises par le notaire.
L'erreur commune, au moment de la signature de l'acte, a consisté à minimiser les problèmes à résoudre pour donner satisfaction au recourant. Cela résulte clairement de la lettre du notaire rédigée le 24 mai 1994 après dissipation de cette erreur: "cette modification de limite suppose en définitive une emprise (...) sur la parcelle ... contrairement à ce que le géomètre m'avait laissé entendre lors de notre entretien téléphonique du 15 avril dernier". Il est ainsi apparu postérieurement, sur le point essentiel réservé, qu'il était plus difficile qu'on ne le pensait de donner satisfaction au recourant et les parties ont buté sur une difficulté qui n'a pas pu être surmontée.
En signant l'acte le 15 avril 1994, les parties sont allées trop vite en besogne, comme cela ressort clairement des déclarations du géomètre ("on a voulu anticiper en pensant que cette rectification de limite - qui nous paraissait logique parce qu'adaptée aux cultures - serait finalement adoptée, ce qui n'a pas été le cas par la suite") et des reproches adressés par la cour cantonale au notaire ("en instrumentant l'acte du 15 avril 1994 alors qu'il savait que celui-ci ne reflétait pas parfaitement la volonté concordante des parties, l'appelé en cause a indiscutablement commis une faute").
D'un point de vue juridique, il faut retenir que le recourant, bien qu'il ait signé le contrat, n'a pas accepté le tracé résultant du plan du 14 avril 1994, ce que sa cocontractante savait. Il résulte de l'attitude des parties que cet élément essentiel, touchant la détermination de l'objet vendu, a été réservé lors de la passation de l'acte, un accord ultérieur sur cette question étant envisagé. Comme cet accord - contrairement à ce que les parties espéraient - n'est jamais intervenu, il faut constater qu'il n'y a pas eu d'accord sur tous les éléments essentiels du contrat, de sorte que celui-ci n'est pas venu à chef.
En conséquence, le recourant ne doit pas le prix de vente et le jugement attaqué doit être réformé sur ce point dans le sens de l'admission de l'action en libération de dette et du maintien de l'opposition formée par le recourant au commandement de payer litigieux. Il va sans dire, pour le surplus, que, dans la mesure où l'intimée n'était titulaire d'aucune créance en paiement du prix de vente à l'égard du recourant, elle n'a pu valablement éteindre les dettes qu'elle admet avoir envers celui-ci (soit les montants précités de 6033 fr.80 et 13'444 fr.20) par voie de compensation avec cette prétendue créance qui s'est avérée inexistante.
4.- Les frais et dépens concernant le recours en réforme dirigé contre la venderesse doivent être mis à la charge de l'intimée qui succombe (art. 156 al. 1 et art. 159 al. 1 OJ).

Par ces motifs,
le Tribunal fédéral :
1. Déclare le recours irrecevable en tant qu'il est dirigé contre l'intimé Y._;
Met un émolument judiciaire de 1000 fr. à la charge du recourant;
Condamne le recourant à verser à l'intimé une indemnité de 2000 fr. à titre de dépens;
2. Admet le recours en réforme, en tant qu'il est dirigé contre l'intimée X._ S.A., et réforme le jugement attaqué, en ce qui concerne les rapports entre le recourant et l'intimée, de la manière suivante:
L'action en libération de dette est admise et
il est constaté que le recourant ne doit pas à
l'intimée la somme de 111'075 fr., avec intérêts à
5% l'an dès le 1er juillet 1994;
L'opposition formée par le recourant au commandement
de payer ... est maintenue;
Renvoie la cause à la cour cantonale pour nouvelle décision sur les frais et dépens de la procédure cantonale;
Met un émolument judiciaire de 5000 fr. à la charge de l'intimée X._ S.A.;
Condamne l'intimée X._ S.A. à verser au recourant une indemnité de 6000 fr. à titre de dépens;
3. Communique le présent arrêt en copie aux mandataires des parties et à la Cour civile du Tribunal cantonal du canton de Vaud.
_
Lausanne, le 27 mars 2001 ECH
Au nom de la Ie Cour civile
du TRIBUNAL FEDERAL SUISSE:
Le Président,
Le Greffier,