Faits:
A. Par acte du 21 juin 1994 instrumenté par le notaire Z._, W._ SA, société administrée par A._, a vendu à H.Y._ et F.Y._ la part de propriété par étages (lot n° 6) correspondant à l'appartement de 3,5 pièces situé au deuxième étage de l'immeuble «Résidence ...», à .... Le prix a été fixé à 540'000 fr. Lors de la signature de l'acte, les acheteurs étaient représentés par un collaborateur du notaire, au bénéfice d'une procuration signée à l'étude début juin 1994 par les époux Y._, dont les signatures avaient été légalisées par Me Z._.
En février 1995, H.Y._ et F.Y._, représentés par C._, ont contracté un prêt hypothécaire de 270'000 fr. auprès d'une banque de la place. Tout en se référant à l'appartement de ..., le contrat précisait que le prêt était destiné à procurer aux emprunteurs des liquidités dans le cadre de leurs activités commerciales. Le prêt était garanti par une cédule hypothécaire de 237'000 fr. grevant en premier rang l'immeuble des époux Y._ (n° 1), ainsi que par une cédule en second rang de 90'000 fr. (n° 2). A la suite du remboursement complet du prêt hypothécaire accordé aux époux Y._, la banque a renvoyé à Me Z._ les deux cédules précitées en juillet 1996. En août 1996, D._, au bénéfice d'une procuration signée par les époux Y._, a retiré les deux cédules à l'étude du notaire. On ignore quel fut ensuite le cheminement exact de ces papiers-valeurs.
Au printemps 1998, Me Z._ a établi un projet de vente de l'appartement de ... en faveur de E._; le prix était fixé à 520'000 fr. La signature de l'acte devait avoir lieu le 8 mai 1998, mais la vente ne s'est finalement pas réalisée parce que, d'après les vendeurs, ils ne détenaient pas les cédules hypothécaires.
Au début 1999, le notaire a été contacté par B._ et A._, le premier en tant que représentant des époux Y._ et le second comme représentant de V._ SA. B._ et A._ entretiennent des relations d'affaires et de confiance depuis plusieurs années. Selon la procuration du 31 décembre 1998 présentée à Me Z._, H.Y._ et F.Y._ conféraient à B._ le pouvoir de vendre l'appartement de ...; c'est le représentant lui-même qui, devant le notaire, a complété la procuration en y ajoutant son nom et le prix de vente. Le 12 février 1999, Me Z._ a légalisé les signatures des époux Y._ figurant sur la procuration, attestant leur authenticité. Par acte authentique du 15 février 1999 instrumenté par Me Z._, H.Y._ et F.Y._, représentés par B._, ont vendu à V._ SA l'appartement de ... pour le prix de 225'000 fr. Lors de l'instrumentation de la vente, B._ était porteur des cédules hypothécaires nos 1 et 2; l'acte de vente précise que lesdites cédules sont remises gratuitement à l'acquéreuse, libres de prêt et de nantissement.
V._ SA a financé l'acquisition de l'appartement par un prêt hypothécaire de 267'000 fr. accordé par une banque de la place.
Le 24 mars 1999, la régie mandatée par V._ SA pour la mise en location a requis l'intervention de la police afin de procéder à l'ouverture forcée de l'appartement, habituellement occupé par E._. Ce dernier a alerté H.Y._, lequel a déposé plainte pénale deux jours plus tard, accusant B._ d'avoir falsifié sa signature et celle de son épouse sur la procuration du 31 décembre 1998 et d'avoir vendu indûment l'appartement.
Au cours de la procédure pénale dirigée contre B._, un expert graphologue a été désigné. Celui-ci est arrivé à la conclusion que les signatures des époux Y._ figurant sur la procuration du 31 décembre 1998 étaient des faux réalisés par calque indirect.
B. Par demande du 11 juin 2002, H.Y._ et F.Y._ ont ouvert action contre V._ SA. La demande tendait notamment à la constatation de la nullité du contrat de vente du 15 février 1999 et à l'annulation des cédules hypothécaires nos 1 et 2.
La défenderesse a déposé une requête d'appel en cause de Z._, laquelle a été acceptée par jugement incident du 27 octobre 2003.
V._ SA a conclu notamment au rejet de la demande. Pour le cas où les conclusions de la demande seraient admises, elle a pris les conclusions suivantes:
«IV. Les demandeurs (...) sont reconnus les débiteurs de la défenderesse (...) d'un montant de Fr. 50'000.- avec intérêt à 5% l'an dès le 30 novembre 2001, au titre d'impenses nécessaires et utiles faites par la défenderesse en rapport avec l'appartement de trois pièces et demie (...) situé au deuxième étage de l'immeuble dénommé Résidence de ... (...).
V. L'appelé en cause Z._ est tenu de relever V._ SA de toute condamnation en capital, intérêt, frais et dépens dont elle pourrait faire l'objet en faveur des époux Y._.
VI. Au cas où le contrat de vente du 15 février 1999 (...) est déclaré nul et de nul effet, Z._ est reconnu débiteur de V._ SA et lui doit paiement immédiat de la somme de Fr. 350'000.- (...), plus intérêt à 5% l'an dès le 8 octobre 2003.»
Par la suite, la défenderesse a amplifié ses conclusions subsidiaires en paiement, portant à 420'000 fr. le montant qu'elle réclame aux demandeurs et à l'appelé en cause.
Par contrat de fusion du 29 juin 2010, V._ SA a repris les actifs et passifs de X._ SA; sa raison sociale est désormais X._ SA.
Par jugement du 12 novembre 2010, la Cour civile du Tribunal cantonal du canton de Vaud a notamment dit que le contrat de vente du 15 février 1999 était nul, que les demandeurs devaient payer à la défenderesse le montant de 27'364 fr.35 avec intérêts à 5% dès le 24 août 2004 et que l'appelé en cause devait payer à la défenderesse la somme de 328'505 fr. avec intérêts à 5% dès le 10 octobre 2003; la conclusion en annulation des cédules hypothécaires a été rejetée.
Selon l'état de fait retenu par la Cour civile, H.Y._ et F.Y._ sont inscrits au registre foncier comme copropriétaires de l'immeuble litigieux. A ce titre, les juges de première instance leur ont reconnu un intérêt à faire constater la nullité de la vente, afin notamment de s'opposer à une éventuelle réquisition d'inscription au registre foncier du transfert en cause. Après avoir constaté la nullité de la vente conclue par un falsus procurator et non ratifiée, la Cour civile a fixé la prétention de l'«acquéreuse» envers les «vendeurs» à 27'364 fr.35, soit 8'313 fr.50 à titre de remboursement d'arriérés d'impôts, 3'375 fr. à titre de remboursement de l'impôt foncier et 15'675 fr.85 à titre de remboursement des charges de la propriété par étages; par ailleurs, la défenderesse ne pouvait pas se voir rembourser le prix de vente de 225'000 fr., dès lors qu'elle n'avait ni allégué ni établi que les demandeurs avaient reçu ce montant. En ce qui concerne l'appelé en cause, les premiers juges ont estimé que sa responsabilité de notaire, fondée sur le droit public cantonal, était engagée pour avoir légalisé les signatures de la procuration du 31 décembre 1998 et instrumenté l'acte de vente litigieux sans prendre suffisamment en compte les circonstances douteuses entourant l'affaire. Le dommage subi par la défenderesse a été fixé à 328'505 fr., soit 236'250 fr. représentant le prix de vente et les frais d'achat, 3'375 fr. correspondant à l'impôt complémentaire dû par les personnes morales propriétaires d'immeuble, 77'880 fr. pour les intérêts hypothécaires et 11'000 fr. pour les frais administratifs. La Cour civile a condamné le notaire à prendre à sa charge la totalité du dommage.
H.Y._ et F.Y._, d'une part, et X._ SA, d'autre part, ont formé des recours en nullité. Z._ a interjeté un recours en réforme. Statuant le 24 août 2011, la Chambre des recours du Tribunal cantonal du canton de Vaud a déclaré les deux recours en nullité irrecevables, admis le recours en réforme et réformé le jugement attaqué en ce sens notamment que les conclusions en paiement de la défenderesse envers l'appelé en cause sont rejetées.
Pour la cour cantonale, le recours en nullité de X._ SA était irrecevable, car le grief invoqué - l'appréciation arbitraire des preuves - aurait pu et dû être soulevé dans un recours en réforme.
Par ailleurs, la Chambre des recours a corrigé l'état de fait établi par la Cour civile en ce sens que l'inscription au registre foncier de la défenderesse comme propriétaire de l'appartement litigieux est un fait patent qui doit être retenu. Cette modification a eu une conséquence sur le plan juridique. Tout en jugeant, comme la Cour civile, que le notaire avait enfreint son devoir de diligence et engagé sa responsabilité, la Chambre des recours a nié que la défenderesse ait subi un dommage. Elle a considéré en effet que, dès l'instant où la propriété de l'immeuble litigieux avait passé à la défenderesse, celle-ci n'avait assumé en vain aucun des montants mis à la charge de l'appelé en cause par la Cour civile, soit le prix de vente, l'impôt complémentaire, les intérêts hypothécaires et les frais administratifs.
C. X._ SA interjette un recours en matière civile. Ses conclusions tendent tout d'abord à l'annulation de l'arrêt cantonal en tant qu'il déclare irrecevable son recours en nullité contre le jugement de la Cour civile. La recourante conclut également à la réforme de l'arrêt cantonal en ce sens que Z._ est condamné à lui payer le montant de 328'505 fr. avec intérêts à 5% l'an dès le 10 octobre 2003; à titre subsidiaire, elle demande le renvoi de la cause aux juges précédents afin qu'ils statuent à nouveau dans le sens des considérants.
Dans sa réponse, Z._ propose le rejet du recours.
Par la suite, X._ SA a déposé des observations, suivies par d'autres observations de l'appelé en cause.
H.Y._ et F.Y._ ne se sont pas déterminés sur le recours.
Pour sa part, la Chambre des recours s'est référée aux considérants de son arrêt.
Considérant en droit:
1. 1.1 L'arrêt attaqué a été rendu en matière civile (art. 72 al. 1 LTF), en tant qu'il concerne les relations entre la recourante et les intimés Y._; il a été rendu en application de normes de droit public dans une matière connexe au droit civil (art. 72 al. 2 let. b LTF), en tant qu'il a trait à la responsabilité de l'intimé Z._ envers la recourante (cf. ATF 133 III 462 consid. 2.1 p. 465). Au surplus, interjeté par une partie qui a succombé dans ses conclusions devant l'autorité précédente (art. 76 al. 1 LTF) et dirigé contre un arrêt final (art. 90 LTF) prononcé par une autorité cantonale de dernière instance statuant sur recours (art. 75 LTF) dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 30'000 fr. (art. 74 al. 1 let. b LTF), le recours en matière civile est en principe recevable, puisqu'il a été déposé dans le délai (art. 45 al. 1 et art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 137 II 313 consid. 1.4 p. 317 s.; 135 III 397 consid. 1.4 p. 400). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF 135 II 384 consid. 2.2.1 p. 389; 135 III 397 consid. 1.4 p. 400). Par exception à la règle selon laquelle il applique le droit d'office, le Tribunal fédéral ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire au sens de l'art. 9 Cst. (ATF 137 I 58 consid. 4.1.2 p. 62; 137 II 353 consid. 5.1 p. 356) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 137 II 353 consid. 5.1 p. 356; 136 I 184 consid. 1.2 p. 187). Une rectification de l'état de fait ne peut être demandée que si elle est de nature à influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
2. La recourante s'en prend tout d'abord à l'arrêt cantonal en tant que son recours en nullité cantonal a été déclaré irrecevable. D'une part, la Chambre des recours aurait commis un déni de justice formel prohibé par l'art. 29 al. 2 Cst. Invoquant l'art. 444 al. 1 ch. 3 du code de procédure civile du canton de Vaud du 14 décembre 1966 (CPC/VD), la recourante fait valoir que la cour cantonale aurait dû examiner le grief tiré de l'appréciation arbitraire des preuves, qui devait obligatoirement lui être soumis avant la saisie du Tribunal fédéral. D'autre part, la Chambre des recours aurait violé arbitrairement l'art. 451a CPC/VD en considérant que la Cour civile avait appliqué concurremment le droit fédéral et le droit cantonal, alors qu'aucune des contestations faisant l'objet de la procédure - celle opposant les vendeurs à l'acheteuse et celle entre l'acheteuse et le notaire - n'impliquait une application concurrente des deux droits.
2.1 La recourante se plaint d'arbitraire dans l'application du droit cantonal. Sous réserve d'exceptions qui ne sont pas pertinentes en l'espèce (cf. art. 95 let. c à e LTF), la violation du droit (de procédure) cantonal n'est pas un motif de recours; en revanche, la partie recourante peut faire valoir que la mauvaise application du droit cantonal constitue une violation du droit fédéral, en particulier de l'art. 9 Cst. (ATF 134 III 379 consid. 1.2; 133 III 462 consid. 2.3). Encore faut-il qu'un tel moyen soit motivé en conformité des exigences posées par l'art. 106 al. 2 LTF (ATF 135 III 397 consid. 1.4 p. 400 s.); en d'autres termes, le recourant ne saurait se borner à critiquer la décision attaquée comme il le ferait en instance d'appel, où l'autorité de recours jouit d'une libre cognition, mais doit démontrer, par une argumentation précise, que cette décision se fonde sur une application manifestement insoutenable de la loi (ATF 134 II 349 consid. 3 et les arrêts cités).
2.2 Dans son recours en nullité cantonal, la recourante faisait valoir une violation des règles essentielles de la procédure au sens de l'art. 444 al. 1 ch. 3 CPC/VD. Elle soutenait que la Cour civile avait apprécié arbitrairement les preuves en considérant, d'une part, que les époux Y._ étaient toujours inscrits au registre foncier comme propriétaires et, d'autre part, que la preuve de la fausseté des signatures apposées sur la procuration du 31 décembre 1998 avait été rapportée à satisfaction. Ces points concernaient avant tout les relations entre les parties au contrat de vente du 15 février 1999.
Selon l'art. 444 al. 1 ch. 3 CPC/VD alors applicable, le recours en nullité est ouvert contre un jugement de la Cour civile pour violation des règles essentielles de la procédure, lorsque l'informalité est de nature à influer sur le jugement; encore faut-il que le grief ne puisse pas être soumis au Tribunal cantonal par un recours en réforme ou que l'irrégularité ne puisse être corrigée par le Tribunal cantonal dans l'examen d'un tel recours. Le recours en nullité fondé sur l'art. 444 al. 1 ch. 3 CPC/VD revêt ainsi un caractère subsidiaire.
En l'espèce, la Chambre des recours a jugé tout d'abord que le recours en réforme cantonal était ouvert contre le jugement de la Cour civile sur la base de l'art. 451a al. 1 CPC/VD. Cette disposition prévoit notamment que, dans les contestations civiles portant sur un droit de nature pécuniaire, le recours en réforme est recevable contre un jugement de la Cour civile lorsque celle-ci a appliqué concurremment le droit fédéral et le droit cantonal. Selon la Chambre des recours, cette condition était réalisée en l'occurrence puisque la Cour civile avait appliqué, d'une part, le droit fédéral pour juger de la validité de l'acte de vente du 15 février 1999 conclu entre les intimés et la recourante et, d'autre part, le droit cantonal pour se prononcer sur la prétention en dommages-intérêts de la recourante envers le notaire, prétention n'entrant en ligne de compte que parce que la nullité de la vente avait été préalablement constatée. Les juges vaudois ont considéré qu'il n'y avait pas lieu de faire une distinction selon les parties (demandeurs, défenderesse, appelé en cause) et leurs différentes conclusions. Dans un deuxième temps, la Chambre des recours a constaté qu'en vertu de l'art. 452 al. 2 CPC/VD, elle disposait, dans le cadre d'un recours en réforme contre un jugement de la Cour civile, d'un large pouvoir, lui permettant en particulier d'examiner le moyen tiré d'une appréciation arbitraire des preuves. Comme le grief soulevé par la recourante aurait pu et dû être examiné dans le cadre d'un recours en réforme, la cour cantonale est parvenue à la conclusion que le recours en nullité était irrecevable.
La Chambre des recours a examiné la procédure ayant conduit au jugement de la Cour civile dans son ensemble; elle a jugé qu'un seul recours - le recours en réforme - était ouvert contre cette décision et que, contre un jugement qui tranche deux contestations différentes mais liées, il n'était pas possible d'ouvrir deux voies de droit selon le droit applicable à chaque contestation, faute de quoi la situation deviendrait inextricable. Quoi qu'en dise la recourante, cette motivation n'a rien d'arbitraire. Dès l'instant où, dans la même procédure ayant conduit à un seul jugement, la Cour civile a appliqué le droit matériel fédéral au litige opposant les intimés Y._ à la recourante et le droit cantonal sur la responsabilité du notaire au litige mettant aux prises la recourante et l'appelé en cause, on ne voit pas en quoi il serait insoutenable d'admettre qu'il y a eu application concurrente des deux droits au sens de l'art. 451a al. 1 CPC/VD.
Au surplus, la recourante ne prétend, ni a fortiori ne démontre que la Chambre des recours aurait versé dans l'arbitraire en ne convertissant pas le recours en nullité en un recours en réforme.
Le grief tiré d'une application arbitraire du droit cantonal de procédure se révèle ainsi mal fondé.
3. La seconde partie du recours a trait aux relations entre l'appelé en cause et la défenderesse. Invoquant l'application arbitraire du droit fédéral appliqué à titre de droit cantonal supplétif, la recourante reproche aux juges vaudois d'avoir nié le dommage qu'elle a éprouvé au motif qu'en l'état, elle serait propriétaire de l'appartement du fait de son inscription au registre foncier.
3.1 Comme les faits litigieux se sont déroulés avant l'entrée en vigueur, le 1er janvier 2005, de la loi vaudoise sur le notariat du 29 juin 2004, la Chambre des recours les a examinés au regard de la loi vaudoise du 10 décembre 1956 sur le notariat (aLN/VD). Selon l'art. 111 aLN/VD, le notaire est civilement responsable de tout dommage qu'il cause dans l'exercice de ses activités ministérielles et professionnelles, soit intentionnellement, soit par négligence (al. 1), les règles du code des obligations étant applicables à titre de droit cantonal supplétif (al. 3).
Comme déjà relevé (consid. 2.1), le Tribunal fédéral revoit l'application du droit cantonal sous l'angle de l'arbitraire. Selon la jurisprudence, une décision ne sera annulée pour arbitraire que lorsqu'elle est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridique indiscuté, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité. Par ailleurs, il faut que la décision apparaisse arbitraire dans son résultat (ATF 137 I 1 consid. 2.4 p. 5; 136 III 552 consid. 4.2 p. 560; 135 V 2 consid. 1.3 p. 4 s.).
Dans la responsabilité du notaire, notamment vaudois, la notion juridique du dommage correspond à celle consacrée par le droit fédéral en matière de responsabilité civile (cf. MICHEL MOOSER, Le droit notarial en Suisse, 2005, n° 316 p. 142 s.; DENIS PIOTET, La responsabilité patrimoniale du notaire et autres officiers publics, 1981, p. 153; SYLVIE D'AUMERIES, La responsabilité civile du notaire et son assurance - Etude de droit vaudois, 1980, p. 144). Consistant dans la diminution involontaire de la fortune nette, le dommage représente la différence entre le montant actuel du patrimoine du lésé et le montant que ce même patrimoine aurait si l'événement dommageable ne s'était pas produit. Il peut survenir sous la forme d'une diminution de l'actif, d'une augmentation du passif, d'une non-augmentation de l'actif ou d'une non-diminution du passif (ATF 133 III 462 consid. 4.4.2 p. 471; 132 III 359 consid. 4 p. 366; 132 III 321 consid. 2.2.1 p. 323/324). En cas de nullité d'un acte authentique qui ne peut être refait, le dommage (Ungültigkeitsschaden) consiste essentiellement dans les dispositions que le lésé a prises en se fondant sur l'acte qu'il pensait valable (LEONHARD MÜLLER, Die Haftung der Urkundsperson, 2000, p. 95; CHRISTIAN BRÜCKNER, Schweizerisches Beurkundungsrecht, 1993, n° 646 p. 198). Au surplus, la réparation du dommage ne doit pas causer l'enrichissement de la victime (ATF 132 III 321 consid. 2.2.1 p. 323; 131 III 12 consid. 7.1 in initio, 360 consid. 6.1 p. 365; 129 III 135 consid. 2.2 p. 143).
3.2 Appliquant ce dernier principe, la Chambre des recours a considéré que, si le notaire devait réparer le dommage invoqué - correspondant au prix de vente de l'immeuble, à l'impôt complémentaire, aux intérêts hypothécaires et aux frais administratifs -, la recourante se trouverait enrichie puisqu'elle a assumé ces dépenses en tant que propriétaire de l'immeuble et qu'à l'heure actuelle, elle est toujours inscrite en tant que telle au registre foncier. La cour cantonale en conclut que la recourante ne subit aucun dommage du fait que le notaire a enfreint ses devoirs en légalisant la procuration du 31 décembre 1998 et en instrumentant l'acte de vente du 15 février 1999.
Le raisonnement de la Chambre des recours part de la prémisse selon laquelle la recourante est propriétaire de l'appartement litigieux puisqu'elle est inscrite comme telle au registre foncier, quand bien même la nullité de l'acte de vente a été constatée. Ce faisant, la cour cantonale méconnaît un principe cardinal des droits réels, soit le principe de la causalité (ou de la légalité matérielle). Ce principe, déduit de l'art. 974 al. 2 CC, tient en échec la règle de l'inscription dans le domaine du principe absolu de l'inscription (art. 971 CC) (ATF 64 II 284 consid. 2a p. 286 s.; arrêt 5A_846/2009 du 12 mars 2010 consid. 3.2, in RNRF 92/2011 p. 112). Il signifie en particulier que l'inscription au registre foncier ne suffit pas pour transférer le droit réel (PAUL-HENRI STEINAUER, Les droits réels, tome I, 4e éd. 2007, n° 138 p. 70); encore faut-il que l'inscription n'ait pas été faite indûment (HENRI DESCHENAUX, Le registre foncier, TDPS vol. V, tome II,2, 1983, p. 590/591; ARTHUR HOMBERGER, Zürcher Kommentar, 1938, n° 3 ad art. 974 CC). Selon l'art. 974 al. 2 CC, l'inscription est faite indûment lorsqu'elle a été opérée sans droit ou en vertu d'un acte juridique non obligatoire. L'inscription constitutive est indue chaque fois qu'il manque l'une de ses deux conditions matérielles, à savoir un titre juridique valable (acte générateur d'obligations) et une réquisition émanant de la personne compétente (acte de disposition). Est ainsi indue l'inscription opérée sur la base d'une vente nulle. L'inscription indue ne produit pas d'effets, sous réserve de la protection de l'acquéreur de bonne foi (art. 973 CC). En particulier, elle est dépourvue d'effets entre les parties initiales, à savoir les personnes directement impliquées dans le rapport juridique (arrêt précité du 12 mars 2010 consid. 3.2 et 3.3 et les références). L'inscription d'un contrat de vente immobilière dont la nullité est constatée par le juge est ainsi dénuée d'effets réels et le vendeur reste propriétaire, sauf si les conditions de l'acquisition de la propriété par prescription ordinaire au sens de l'art. 661 CC sont réunies (BÉNÉDICT FOËX, in Commentaire romand, Code des obligations I, 2003, n° 18 ad art. 216 CO; HANS GIGER, Berner Kommentar, 1997, n° 332 ad art. 216 CO).
Dans le cas présent, la recourante n'est jamais devenue propriétaire de l'appartement, la prescription acquisitive ordinaire n'entrant pas en ligne de compte en l'occurrence. Il n'y a pas eu transfert de propriété et l'inscription de la recourante au registre foncier comme propriétaire n'y change rien. Appelée à comparer deux états du patrimoine de la recourante pour déterminer le dommage, la Chambre des recours a, de manière manifestement erronée, inclus l'immeuble litigieux dans le patrimoine actuel de la lésée, ce qui l'a amenée à conclure à un enrichissement de la recourante. Ce faisant, elle a versé dans l'arbitraire. La motivation avancée dans l'arrêt attaqué pour nier l'existence d'un dommage se révélant insoutenable, il convient d'annuler la décision entreprise dans la mesure où elle rejette, pour ce motif, les prétentions de la recourante envers le notaire.
Dans son recours en réforme cantonal, l'intimé invoquait d'autres griefs pour contester le dommage établi par la Cour civile, lesquels n'ont pas été examinés par la Chambre des recours vu l'argumentation qu'elle a développée. Le notaire faisait valoir en particulier que la possession des cédules hypothécaires nos 1 et 2 par la recourante excluait que celle-ci subisse un préjudice ensuite du comportement incriminé lors de la légalisation des signatures et de l'instrumentation de l'acte de vente. Vu l'admission partielle du recours en matière civile, il se justifie de renvoyer la cause à la Chambre des recours afin que cette autorité se penche à présent sur les moyens susmentionnés de l'intimé.
4. Le recours en matière civile tendait, d'une part, à ce que la Chambre des recours doive examiner le recours en nullité cantonal de la recourante, lequel concernait son litige avec les intimés Y._, et, d'autre part, à ce que la motivation de la Chambre des recours à propos du dommage soit reconnue arbitraire, ce qui avait trait à la contestation avec le notaire intimé. La recourante obtient gain de cause uniquement sur le second point. Il convient par conséquent de mettre à sa charge la moitié des frais judiciaires, l'autre moitié étant supportée par l'intimé Z._ (art. 66 al. 1 LTF). Ce dernier versera en outre des dépens à la recourante (art. 68 al. 1 et 2 LTF). Aucuns dépens ne seront alloués aux intimés Y._, qui n'ont pas déposé de réponse.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis, les chiffres III, IV, VI, VII et VIII du dispositif de l'arrêt attaqué sont annulés et la cause est renvoyée à la Chambre des recours du Tribunal cantonal du canton de Vaud pour nouvelle décision.
2. Les frais judiciaires, arrêtés à 6'500 fr., sont mis pour moitié à la charge de la recourante et de l'intimé Z._.
3. L'intimé Z._ versera à la recourante une indemnité de 3'750 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 3 avril 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Godat Zimmermann