Faits:
A. Par jugement du 1er juin 2011, le Tribunal correctionnel de l'arrondissement de Lausanne a libéré X._ des accusations de contrainte sexuelle, abus de la détresse et contravention à la loi fédérale sur les professions médicales. Il a constaté qu'il s'était rendu coupable d'actes d'ordre sexuel commis sur une personne incapable de discernement ou de résistance et l'a condamné à 2 ans et 5 jours de privation de liberté, dont 9 mois à titre ferme, le solde avec sursis pendant 5 ans. La peine a été déclarée complémentaire à celles infligées respectivement les 27 février 2006 et 8 octobre 2009 par les juges d'instruction de Lausanne et de la Côte. Ce jugement dit, par ailleurs, que X._ est débiteur de 20'000 fr. de Y._ à titre d'indemnité pour tort moral, donnant pour le surplus acte de ses réserves civiles à cette dernière. Il interdit, enfin, à X._ de procéder à toute forme de traitement psychothérapeutique pour une durée de 5 ans.
B. Statuant sur appel du condamné, le 23 septembre 2011, la Cour d'appel pénale du Tribunal cantonal vaudois a réformé ce jugement en qualifiant les infractions de contrainte sexuelle.
En bref, le condamné, médecin généraliste, a été consulté par Y._ dès 1992 pour des problèmes de médecine générale. Il l'a suivie jusqu'à fin 2006. Ayant appris qu'elle avait été victime d'un viol à l'âge de 6 ans, il lui a proposé une liste de psychiatres qu'elle n'a pas consultés. Il lui a alors fait savoir qu'il avait suivi une formation de 2 ans en psychiatrie, qu'il était qualifié pour traiter les personnes abusées et prêt à la prendre en charge. Très rapidement, X._ a nourri des sentiments ambigus à l'égard de sa patiente, sachant qu'elle était extrêmement faible psychologiquement et qu'il avait créé un lien de dépendance de celle-ci envers lui-même. Dans ce contexte et dans le cadre d'un « contrat thérapeutique » signé le 25 octobre 1994, X._ a touché, à diverses reprises, entre juillet 1995 et fin 1999, les seins de sa patiente et posé ses mains sur le haut de ses cuisses, sans toutefois toucher le pubis. A une occasion (en 2002 ou 2003), il lui a caressé le dos, à même la peau, durant près de 5 minutes en lui déclarant que son geste devrait lui « faire chaud en bas ». Sous couvert d'actes symboliques dans le cadre d'une « sexothérapie », il lui a également administré des fessées à quatre reprises (décembre 1996, juillet 1998 et les 6 et 7 juin 2002) et fait subir deux touchers vaginaux (les 11 octobre 1996 et 11 décembre 1999). Au début de l'année 2004, il a mis ses mains sur la poitrine de sa patiente, par-dessus ses habits, pendant une minute nonobstant le refus d'un tel geste. Enfin, entre janvier et mars 2004, au prétexte d'un autre acte symbolique à des fins de « purification », il lui a massé les seins, à mains nues, à l'eau tiède durant deux à trois minutes.
Y._ a déposé plainte le 24 mars 2009.
X._ était, par ailleurs, le médecin de famille de Z._ depuis 1992. En 2001, cette dernière lui a dit avoir été victime de viols dans sa jeunesse. Profitant de la fragilité psychologique de sa patiente, X._ a entamé une « thérapie » à base de jeux de rôles, de debriefing et de sexothérapie selon un schéma identique à celui suivi avec Y._. Il a ainsi régulièrement demandé à cette patiente de se déshabiller et de l'enlacer et en a profité pour lui caresser le dos. Sous couvert d'une « opération symbolique », il lui a introduit un couteau suisse (lame fermée) dans le vagin.
Les actes commis par X._ sur ces deux patientes n'ont aucune justification médicale ou thérapeutique reconnue par le corps médical.
C. X._ recourt en matière pénale contre cet arrêt. Il conclut, avec suite de frais et dépens, principalement à sa réforme dans le sens de son acquittement, de sa libération de toute mesure et de toute condamnation au paiement de tort moral. A titre subsidiaire, il demande l'annulation de la décision querellée et le renvoi de la cause à l'autorité cantonale pour instruction et jugement au sens des considérants. Plus subsidiairement, il en requiert la réforme dans le sens de sa condamnation à une peine de 12 mois de privation de liberté avec sursis pendant 5 ans.
Invités à déposer des observations sur le recours, la cour cantonale y a renoncé en se référant aux considérants de son arrêt, cependant que le Ministère public et Y._ ont conclu à son rejet, cette dernière requérant, par ailleurs, le bénéfice de l'assistance judiciaire. X._ s'est déterminé sur ces écritures par courrier du 11 juin 2012, lequel a été communiqué à titre de renseignement aux autres parties le 12 juin 2012.
Considérant en droit:
1. Le recours s'ouvre sur un bref résumé des moyens et griefs soulevés et l'exposé de diverses particularités de l'instruction et des faits. On n'examinera les points ainsi exposés qu'autant que le recourant développe, dans la suite de son mémoire, des griefs répondant aux exigences de motivation déduites des art. 42 al. 2 et 106 al. 2 LTF.
2. Le recourant conteste la contrainte sexuelle (art. 189 CP).
Aucun élément de fait ne suggère une contrainte physique. La cour cantonale a exclu, pour des motifs convaincants, les actes d'ordre sexuel sur une personne incapable de discernement ou de résistance (art. 191 CP; arrêt entrepris, consid. 4.3 et 4.4 p. 20 s.). Par ailleurs, l'autorité de première instance a jugé que les jeux de rôle et les attouchements furtifs, les fessées de 1996 et 1998 ainsi que le toucher vaginal de 1996 n'étaient pas punissables, faute de plainte ou de plainte formée en temps utile pour les premiers, respectivement en raison de la prescription et, pour le dernier acte cité, également d'un doute quant à une possible justification somatique (jugement, p. 38). L'appel émanant du seul condamné, la cour cantonale n'avait pas à se pencher sur les points sur lesquels les premiers juges ont admis l'existence d'un doute, respectivement que la prescription était acquise (art. 404 al. 1 et 2 CPP). Elle était, de surcroît, liée par l'interdiction de la reformatio in pejus (art. 391 al. 2 CPP). Il s'ensuit que seule doit être examinée la qualification de contrainte par des pressions psychiques en relation avec les caresses du dos à même la peau, les fessées de 2002, les attouchements prolongés sur les seins, y compris leur massage à l'eau tiède, et le toucher vaginal de 1999 commis sur Y._ ainsi que celui effectué sur Z._ au moyen d'un couteau suisse.
3. Dans un premier moyen, le recourant fait grief à la cour cantonale de n'avoir pas constaté qu'il aurait eu l'intention de se procurer ou d'induire sur ses patientes une excitation sexuelle. Cet aspect subjectif constituerait un élément déterminant pour exclure du champ de la répression pénale des actes conçus et perçus comme thérapeutiques.
3.1 Le recourant ne conteste pas le caractère objectivement sexuel des actes qui lui sont reprochés. Ce point n'est, du reste, pas discutable, dès lors que la cour cantonale a constaté l'absence de toute justification médicale ou thérapeutique reconnue par le corps médical aux comportements du recourant. Cela suffit, même pour des actes simplement ambivalents, tel un examen gynécologique ou des soins d'hygiène corporels prodigués sur des zones connotées sexuellement, à les qualifier de sexuels du point de vue d'un observateur neutre (ATF 125 IV 58 consid. 3b p. 62 et les réf.).
3.2 Au plan subjectif, l'auteur d'un acte d'ordre sexuel doit agir intentionnellement. Il faut qu'il soit conscient du caractère sexuel de son comportement (arrêt du 7 décembre 2006, 6S.355/2006, consid. 3.1), mais ses motifs ne sont pas déterminants, de sorte qu'il importe peu que l'acte tende ou non à l'excitation ou à la jouissance sexuelle (arrêt 6B_103/2011 du 6 juin 2011 consid. 2.2.1; ANDREAS DONATSCH, Strafrecht III, 9e éd. 2008, p. 464; ULRICH WEDER, in StGB Kommentar, 18e éd. 2010. art. 187 CP, n. 30).
En l'espèce, il est établi que lorsqu'il a caressé le dos de sa patiente à même la peau durant près de 5 minutes, le recourant lui a expliqué que ce geste devrait lui « faire chaud en bas ». L'excitation sexuelle est revendiquée. En ce qui concerne le toucher réalisé en décembre 1999, le recourant prétendait « enlever le zizi du violeur », « nettoyer », puis vérifier s'il y « avait encore quelque chose » (arrêt entrepris, consid. 2.2 p. 15). Au-delà du symbole affirmé à la patiente, l'évocation explicite du viol exclut tout doute sur une orientation sexuelle voulue de l'acte. La similarité des motifs ayant conduit à l'introduction d'un couteau suisse dans le sexe de l'autre patiente, qui avait aussi été abusée dans son enfance, « pour extirper le mal de son corps » impose, dans ce cas également, de retenir que l'intention portait sur le caractère sexuel de l'acte. Celle relative à l'apposition par le recourant de ses mains sur les seins de Y._, par- dessus les habits, pendant une minute nonobstant le refus de cette dernière, de même que le massage des seins à l'eau tiède à mains nues pendant 2 à 3 minutes à des fins de « purification », en l'absence de toute justification somatique ou d'hygiène, n'est pas contestable non plus. Cela suffit à réaliser l'élément subjectif dans tous ces cas.
3.3 Pour le surplus, une éventuelle motivation thérapeutique d'actes au caractère sexuel accepté, telle que revendiquée au moins implicitement par le recourant, pourrait tout au plus entrer en considération au titre d'un fait justificatif. Mais les autorités cantonales ont retenu que les actes commis par le recourant n'ont aucune justification médicale ou thérapeutique reconnue par le corps médical. Cela supposerait, du reste, comme pour toute atteinte médicale à l'intégrité physique, le consentement éclairé du patient (cf. ATF 134 II 235 consid. 4.1 p. 237). Or, la cour cantonale a retenu que ce consentement avait été vicié par l'état de dépendance de Y._ et que ce même état pouvait être constaté chez l'autre patiente (arrêt entrepris, p. 23). Enfin, l'arrêt entrepris ne constate pas que le recourant aurait cru, à tort, à la valeur thérapeutique de sa démarche nonobstant l'absence de fondement médical reconnu et le recourant, qui ne plaide pas l'erreur (art. 13 al. 1 CP), ne soulève ni expressément ni précisément aucun grief sur ce point de fait (art. 106 al. 2 LTF). Il n'y a donc pas lieu d'examiner plus avant l'hypothèse d'un éventuel fait justificatif putatif.
4. Le recourant conteste ensuite avoir exercé une contrainte psychique sur ses patientes.
4.1 Le crime réprimé par l'art. 189 CP (comme celui sanctionné par l'art. 190 CP) est une infraction de violence, qui suppose, en règle générale, une agression physique. En introduisant la notion de "pressions psychiques", le législateur a aussi voulu viser les cas où la victime se trouve dans une situation sans espoir, sans pour autant que l'auteur ait recouru à la force physique ou à la violence (ATF 131 IV 107 consid. 2.2 p. 109). La délimitation entre les pressions psychiques au sens des art. 189 et 190 CP et la dépendance selon l'art. 193 CP (abus de la détresse) est parfois délicate. Pour l'application de cette dernière disposition, la jurisprudence exige tout d'abord, objectivement, que la personne dépendante ne veuille, en réalité, pas l'acte sexuel, qu'elle ne s'y soumette, malgré l'opposition de son for intérieur, que sous l'effet de l'autorité de l'autre. En d'autres termes, le consentement doit être vicié par la dépendance. Au plan subjectif, l'intention est exigée. L'auteur doit savoir ou tout au moins prendre en compte que la personne ne se soumet à l'acte qu'en raison de sa dépendance (ATF 131 IV 114 consid. 1 p. 119 et les réf.). Celle-ci peut résulter de la relation entre un psychothérapeute et son patient. Mais la seule existence du rapport thérapeutique ne suffit pas encore à l'établir (ATF 131 IV 114 consid. 1 p. 117; 128 IV 106 consid. 3b). Lorsque l'auteur profite d'une situation préexistante entraînant une dépendance de la victime envers lui, c'est l'infraction définie à l'art. 193 CP qui entre en considération. Les spécificités du rapport de dépendance et la faiblesse particulière de la victime influencent alors, sous l'angle de la faute, la sanction. En revanche, le juge appliquera les art. 189 ou 190 CP si l'auteur contribue à ce que la victime se trouve (subjectivement) dans une situation sans issue en usant de moyens d'action excédant la seule exploitation de la situation de dépendance, et que la pression exercée atteigne l'intensité qui caractérise la contrainte. Il convient de déterminer dans chaque cas à partir de quand le rapport de dépendance de l'art. 193 CP se transforme en pressions psychiques selon les art. 189 et 190 CP, en tenant, en particulier, compte du fait que ces deux dernières normes répriment des infractions de violence. Elles doivent ainsi être interprétées dans la perspective des moyens que l'on peut attendre que la victime oppose. L'importance de l'influence exercée a, dans ce contexte, une portée décisive (ATF 128 IV 106 consid. 3b p. 112 ss, spéc. p. 113).
4.2 L'arrêt entrepris retient, à propos de Y._, que durant les trois semaines qui ont précédé le toucher vaginal de décembre 1999, les consultations étaient journalières, samedi compris et que, de manière générale, le recourant s'était immiscé dans la vie privée de la plaignante au point de s'inviter à la cérémonie lors de laquelle cette dernière a été consacrée pasteure ou d'être sollicité pour corriger le courrier qu'elle entendait adresser à son entourage. Le recourant était conscient du fait que sa patiente était en situation de dépendance vis-à-vis de lui et qu'elle était incapable de repousser ou de s'opposer à un acte dépassant un cadre thérapeutique normal de soins. Cette dernière avait déclaré aux débats de première instance qu'avec le recul, elle avait le sentiment d'avoir été mise dans un état de dépendance, le recourant critiquant son entourage, sa famille et son employeur de l'époque. Elle avait exposé que le recourant l'avait isolée, qu'elle avait accepté les actes symboliques qu'il lui proposait « par désespoir de ne pas guérir » et qu'il ne lui venait pas à l'esprit de lui dire non car elle voulait guérir. La cour cantonale en a conclu que l'accord donné par cette patiente aux actes symboliques accomplis durant la thérapie, en particulier les touchers vaginaux d'octobre 1996 et de décembre 1999, ainsi que le lavage des seins à mains nues avec de l'eau tiède en mars 2004, était vicié et que le recourant avait exercé sur elle des pressions psychiques au sens de l'art. 189 CP.
En ce qui concerne Z._, la cour cantonale a relevé que le même état de dépendance pouvait être constaté, en soulignant que le recourant avait conçu, en mai 2007, un brouillon que sa patiente avait recopié et dans lequel elle était censée décrire la thérapie suivie auprès de lui de manière relativement positive, avec la conclusion que le traitement était bénéfique. Le recourant avait admis ce lien de dépendance en consentant que l'intéressée avait fait sur sa personne « un transfert d'ordre sentimental, la réciproque n'étant pas vraie » (arrêt entrepris, consid. 5.2 p. 22 s.).
4.3 Il ressort de ce qui précède que la cour cantonale a admis l'existence d'un rapport de dépendance thérapeutique tant en ce qui concerne Z._ que Y._ envers le recourant. Cette conclusion n'est pas critiquable compte tenu de la durée des thérapies, respectivement de l'extrême faiblesse psychologique de Y._, de la fréquence des interventions du recourant et de la perte de la distance thérapeutique dans ce cas (ATF 131 IV 114 consid. 1 p. 117). Les développements de la cour cantonale ne distinguent, en revanche, pas clairement ce qui ressortit, en l'espèce, à l'exploitation de ce rapport de dépendance d'avec les moyens supplémentaires, caractéristiques de la contrainte psychique. La cour cantonale souligne certes la fréquence des consultations durant certaines périodes et l'intervention du recourant dans la vie privée de Y._ ainsi que le sentiment de cette dernière d'avoir été mise dans cet état de dépendance par les critiques formulées par le recourant sur son entourage, sa famille et son employeur de l'époque ainsi que son sentiment d'avoir été isolée. La fréquence des consultations n'est cependant pas entièrement dissociable du rapport thérapeutique et de son exploitation. Quant aux autres éléments, le brouillon rédigé par Z._ en particulier, les considérants de la cour cantonale ne démontrent pas encore en quoi ils pourraient atteindre l'intensité caractéristique de la contrainte. Par comparaison, une telle intensité a été déduite, par exemple, du fait de tourmenter continuellement sa victime et de la terroriser sans cesse (ATF 126 IV 124 consid. 3b p. 129). Elle a aussi été admise dans un cas où l'auteur avait menacé la victime anonymement de faire subir à ses proches de graves atteintes à leur vie ou à leur intégrité physique, en se faisant lui-même passer pour victime des mêmes menaces pour les rendre crédibles (ATF 131 IV 167 consid. 3.3 p. 172) ou encore dans le cas d'un thérapeute qui avait prétendu que ses soins auraient permis d'éviter le développement du SIDA chez sa patiente infectée, qui avait contribué à la dépendance économique de cette dernière et lui avait fait un chantage au suicide (arrêt 6S.143/2002 du 11 juin 2002). Elle a, en revanche, été niée, dans le cas d'un thérapeute qui avait imposé à sa patiente adulte de se taire en la menaçant de révéler à ses proches ce que ceux-ci savaient déjà d'elle, et alors que pour l'intéressée la perte du traitement et d'une figure paternelle ne pouvaient être appréhendés comme un inconvénient majeur (ATF 128 IV 106 consid. 3c/bb et d p. 114 ss).
Il convient dès lors de renvoyer la cause à la cour cantonale, afin qu'elle réexamine cette question en distinguant précisément les éléments ressortissant à la relation de dépendance thérapeutique et à son exploitation de ceux susceptibles de constituer la contrainte en exposant, cas échéant, en quoi ces derniers atteignent l'intensité exigée par la jurisprudence précitée. Elle réexaminera ensuite, sur cette base, la qualification des infractions, le cas échéant la prescription, la peine, la mesure, et les suites civiles ainsi que le frais et dépens.
5. Le recourant soulève encore divers griefs relatifs à l'établissement des faits, en relation avec le refus de la cour cantonale de répéter ou de procéder à certaines mesures d'instruction.
5.1 Vu l'issue du recours les griefs du recourant portant sur le refus des autorités cantonales d'administrer des preuves tendant à établir si les patientes étaient incapables de résister pour des raisons psychiques au sens de l'art. 191 CP sont sans objet.
5.2 Le recourant conteste aussi le refus de la cour cantonale de prendre en considération, au stade de l'appel, différents enregistrements de Y._, dans lesquels celle-ci s'exprimait 2 ans après les faits sur ceux-ci et qui seraient susceptibles d'apporter des informations de fait sur l'impact des agissements du recourant, le consentement de la plaignante et sa capacité de résister.
Sur ce point, la cour cantonale s'est bornée à objecter que « les enregistrements en question datent d'une époque où le litige était déjà survenu entre les parties au présent procès, de sorte qu'ils n'ont aucune force probante ». Cette seule motivation lapidaire ne convainc guère dans son schématisme. Il n'en résulte pas pour autant que l'arrêt entrepris soit insoutenable dans son résultat. On peut en effet considérer, comme l'autorité de première instance (jugement, consid. 3c/dd p. 32 s.), que l'enregistrement en question remonte à 2006, soit au début de la période de prise de conscience par la plaignante de ce qui s'était passé et au début du processus de prise de distance entre la patiente et le médecin. Le ressenti de cette dernière à ce moment-là ne saurait ainsi renseigner sur les intentions du recourant et les conséquences à long terme de ses actes.
5.3 Le recourant conteste aussi le refus d'entendre les docteurs A._ et B._. Il s'agissait, avec le premier témoin d'établir de quelle manière exactement et à quel moment il s'était exprimé sur ses pratiques dans le cadre d'un groupe de travail médical afin d'éclairer ses motivations, respectivement l'élément subjectif de l'infraction. Par l'audition du second, qui avait été son formateur en sexologie, le recourant entendait mettre en évidence ses motivations, les raisons de ses gestes et des dérapages graves constatés.
On renvoie en ce qui concerne l'aspect subjectif de l'infraction à ce qui a été exposé à ce sujet (supra consid. 3.2 et 3.3). Quant aux motivations du recourant, comme élément d'appréciation de la culpabilité dans le cadre de la fixation de la peine, la cour cantonale s'est bornée à relever que « les critères déterminants consacrés par l'art. 47 CP ont été correctement examinés par les premiers juges » et que « la sanction initialement arrêtée est justifiée au regard des infractions commises, de la culpabilité de l'appelant et de sa situation personnelle » (arrêt entrepris, consid. 6 p. 24). Elle a, ce faisant, opéré implicitement un renvoi aux considérants du jugement de première instance. Celui-ci n'exclut pas toute motivation thérapeutique du recourant mais stigmatise, en résumé, sa persévérance dans une démarche d'expérimentation de traitements dénués de tout fondement objectif, dont il ne mesurait pas la portée (jugement, consid. 8 p. 40). Dans ces conditions, la cour cantonale pouvait, sans arbitraire, renoncer à établir plus précisément les motivations du recourant et dans quelles circonstances il se serait ouvert à ses pairs de ses pratiques.
6. Le recourant obtient gain de cause. Il ne supporte pas de frais et peut prétendre des dépens à la charge du canton de Vaud (art. 65 al. 2, 66 al. 1 et 68 al. 1 LTF).
L'intimée a requis le bénéfice de l'assistance judiciaire. Dès lors qu'elle est dans le besoin et que ses conclusions ne paraissaient pas d'emblée vouées à l'échec, l'assistance judiciaire doit lui être accordée (art. 64 al. 1 LTF). Elle requiert la désignation de Me Antonella Cereghetti Zwahlen en qualité d'avocat d'office. Il y a lieu d'accéder à cette requête et de fixer d'office les honoraires de l'avocat, qui seront supportés par la caisse du Tribunal fédéral (art. 64 al. 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. L'arrêt entrepris est annulé et la cause renvoyée à la cour cantonale afin qu'elle rende une nouvelle décision au sens des considérants qui précèdent.
2. La requête d'assistance judiciaire de l'intimée est admise et Me Antonella Cereghetti Zwahlen, avocate à Lausanne, désignée conseil d'office de l'intimée.
3. Il n'est pas perçu de frais.
4. Le canton de Vaud versera la somme de 3000 fr. au recourant à titre de dépens.
5. Une indemnité de 1000 fr. est allouée à Me Antonella Cereghetti Zwahlen par la caisse du Tribunal fédéral, au titre de l'assistance judiciaire.
6. Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 29 juin 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
Le Greffier: Vallat