Faits:
A. X._, né en 1957, est médecin généraliste depuis 1985. Il exerce sa profession au Centre d'urgences médicales de A._, à B._, dont il a également été administrateur jusqu'au mois de juin 2005.
A la suite d'un litige qui l'opposait à l'un de ses confrères depuis le mois d'août 2002, au sujet d'une patiente qui s'était rendue en urgence au centre A._, X._ a fait l'objet d'investigations pour utilisation abusive du chiffre 23, examen plurisystémique de l'ancienne tarification NMT (Nomenclature Médicale Tarifée) et utilisation abusive du tarif "urgence" dans la nomenclature TARMED. L'enquête administrative concernant ces faits a été ouverte par lettre du Chef du Département de la santé et de l'action sociale du 26 septembre 2005. Elle a été étendue, le 18 janvier 2007, à une dénonciation formulée par une patiente du Dr X._, Mme Y._, qui s'était adressée au médecin cantonal en décembre 2006.
La délégation du Conseil de la santé a instruit l'affaire et entendu les intéressés, dont l'interprétation des faits est divergente. Il ressort de cette instruction que Mme Y._, née en 1968, avait consulté le Dr X._ en 1992, puis en 1994 pour troubles urinaires. Confiante dans les capacités de ce médecin, qui avait déclaré avoir fait deux ans de psychiatrie dans le cadre de sa formation, elle lui avait parlé du viol dont elle avait fait l'objet à l'âge de 6 ans, sans avoir osé en parler pendant dix-sept ans. Le Dr X._ lui avait alors remis une liste de psychiatres, mais les recherches de la patiente n'avaient pas abouti. Ce dernier lui a alors proposé d'effectuer une thérapie afin d'apprendre à résister aux agressions. Dans un premier temps, la patiente a écrit des messages de remerciement à son médecin, démontrant qu'elle lui accordait entière confiance, puis elle a peu à peu pris conscience de la gravité de certains actes pratiqués lors de cette thérapie et en a parlé, en novembre 2006, à Z._, médecin psychiatre au Centre A._, qui la suivait depuis plusieurs mois. Le Dr X._ a lui-même qualifié la thérapie pratiquée sur Mme Y._ "d'actes sexothérapeutiques". Ces actes ont notamment consisté pour le médecin à prendre la patiente dans ses bras pour la réconforter, à lui donner des fessées symboliques (en décembre 1996, juillet 1998, 6 et 7 juin 2002), à procéder à des touchers vaginaux au moins à deux reprises (dont une "opération symbolique", le 11 décembre 1999), à lui caresser le dos et les seins, ainsi qu'à procéder une fois à un lavage des seins (le 22 mars 2004). La délégation a aussi déclaré avoir été frappée par l'état de dépendance que le Dr X._ avait instauré à l'égard de sa patiente, Mme Y._ ayant passé un contrat avec lui, aux termes duquel elle devait lui présenter toute personne avec qui elle entendait avoir une relation intime. Elle a considéré que le comportement du Dr X._ paraissait immoral et constituait une faute grave, dans la mesure où l'intéressé avait jugé que son traitement était pertinent, sans procéder à des recherches ou demander conseil à des collègues psychiatres.
B. Par décision du 9 juillet 2008, le Chef du Département de la santé et de l'action sociale, suivant les conclusions du Conseil de la santé, a prononcé un retrait temporaire pour une durée de six mois de l'autorisation de pratiquer de X._, dit qu'il lui soit interdit de procéder à toute forme de traitement psychothérapeutique et lui a infligé une amende de 5'000 fr.
C. X._ a recouru contre cette décision auprès du Tribunal cantonal (Cour de droit administratif et public) qui, par arrêt du 31 octobre 2008, a rejeté le recours. Estimant tout d'abord que le grief de violation du droit d'être entendu était mal fondé, la juridiction cantonale a retenu en substance que le recourant avait lui-même admis avoir utilisé fréquemment la position 23 de l'ancienne tarification NMT, afin de pallier aux difficultés rencontrées lors de la création du centre A._ et qu'il avait également reconnu avoir adopté une interprétation personnelle, voire extensive, de l'examen plurisystémique, de sorte que l'existence de procédés frauduleux au sens de l'art. 191 al. 1 de la loi vaudoise sur la santé publique du 29 mai 1985 (LSP; RSVD 800.01) devait être confirmée. Quant aux faits relatifs à Mme Y._, les premiers juges ont constaté que le recourant les avait admis pour l'essentiel, mais qu'il estimait n'avoir commis aucune erreur en les pratiquant, les reproches formulés par sa patiente provenant, selon lui, d'un échec que celle-ci aurait rencontré dans une relation amoureuse. Pourtant, ces actes étaient graves, à défaut de pouvoir se fonder sur une pratique reconnue et une formation adéquate, et avaient causé des souffrances psychiques importantes à la patiente; ils constituaient ainsi une négligence professionnelle qui devait être sanctionnée conformément à l'art. 191 al. 1 LSP. Enfin, le Tribunal cantonal a estimé que les sanctions prises ne violaient pas les principes de la proportionnalité et d'égalité de traitement.
D. X._ forme un recours en matière de droit public au Tribunal fédéral et conclut, avec suite de frais et dépens, à la réformation de l'arrêt du Tribunal cantonal du 31 octobre 2008, en ce sens qu'aucune sanction n'est prononcée contre lui, subsidiairement que seule une réprimande lui est adressée. A titre subsidiaire, le recourant conclut à l'annulation de l'arrêt attaqué, la cause étant renvoyée au Chef du Département de la santé et de l'action sociale, subsidiairement au Tribunal cantonal, pour nouvelle décision dans le sens des considérants. Il présente également une demande d'effet suspensif.
Le Tribunal cantonal se réfère à son arrêt et conclut au rejet du recours. Au terme de ses observations, le Chef du Département de la santé et de l'action sociale conclut également au rejet du recours.
E. L'effet suspensif a été accordé à titre préprovisoire au recours en ce qui concerne le retrait temporaire de l'autorisation de pratiquer et l'amende.
F. Le 6 janvier 2009, le recourant a produit l'ordonnance de mesures provisionnelles rendue le 8 décembre 2008 par le Président du Tribunal d'arrondissement de Lausanne, qui rejetait la requête de Y._ tendant à interdire à X._ de prendre contact avec elle de quelque manière que ce soit et d'approcher des lieux de son domicile et de son travail. Il a motivé cette production par le fait que le Chef du Département avait fait référence à cette procédure dans ses déterminations.

Considérant en droit:
1. 1.1 Le recours est dirigé contre un arrêt rendu dans une cause de droit pu recours est dirigé contre une décision finale (<ref-law>) rendue dans une cause de droit public (<ref-law>) par un tribunal supérieur statuant en dernière instance cantonale (art. 86 a. 1 let. d et al. 2 LTF). Déposé en temps utile (<ref-law>) par le recourant, qui a un intérêt digne de protection à son annulation ou à sa modification (art. 89 al. 1 let. c LTF), le présent recours est en principe recevable comme recours en matière de droit public.
1.2 Il n'a pas lieu de tenir compte de l'ordonnance de mesures provisionnelles produite, dans la mesure où il s'agit d'une pièce nouvelle ne résultant pas de l'arrêt attaqué (<ref-law>). Le Chef du Département n'avait d'ailleurs invoqué cette procédure que pour justifier le rejet de la demande d'effet suspensif contenue dans le recours. Partant, la pièce produite n'est pas recevable.
1.3 Sous réserve d'exceptions (cf. art. 95 let. c et d LTF) non réalisées en l'espèce, le Tribunal fédéral ne contrôle pas l'application du droit cantonal en tant que tel, mais examine uniquement si celle-ci viole le droit fédéral au sens de l'<ref-law>, qui comprend les droits constitutionnels des citoyens. Lorsque, comme dans le présent recours, il est question de la violation de droits fondamentaux, ainsi que de l'application arbitraire d'une disposition de droit cantonal (art. 191 al. 1 LSP), le Tribunal fédéral n'examine pas le droit d'office, mais se prononce uniquement sur les griefs invoqués et motivés de façon suffisante par le recourant (cf. <ref-law>).
2. Le recourant invoque la violation de son droit d'être entendu (art. 29 al. 2 Cst.), grief d'ordre formel qu'il y a lieu d'examiner en premier lieu.
2.1 Le droit d'être entendu, tel qu'il est garanti par l'art. 29 al. 2 Cst., comprend le droit pour l'intéressé de prendre connaissance du dossier (<ref-ruling> consid. 2b p. 10), de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 3.1 p. 277; <ref-ruling> consid. 5b p. 285 et les références citées).
2.2 Le recourant prétend que la décision d'ouverture d'enquête du 26 septembre 2005 ne correspondait pas aux éléments énumérés par le Médecin cantonal dans sa lettre du 30 août 2005, soit l'utilisation abusive du chiffre 23 de l'ancienne tarification NMT (ch. 1), l'utilisation abusive du tarif urgence dans la nomenclature TARMED (ch. 2) le refus de prendre en charge certains patients (ch. 3) et la suspicion de compérage (ch. 4). A cela s'ajoute que, par la suite, la position de l'autorité d'instruction aurait varié à plusieurs reprises, de sorte qu'il n'a pas pu connaître précisément les griefs retenus à son encontre.
Il ressort cependant du dossier que le recourant a été très clairement invité à s'expliquer sur les problèmes de tarification qui avaient donné lieu, bien avant l'ouverture de la procédure disciplinaire, à un abondant échange de correspondances avec le médecin qui l'avait dénoncé. Faute d'éléments suffisants, la délégation du Conseil de la santé n'a toutefois pas retenu les deux derniers griefs mentionnés par le Médecin cantonal et a donc très vite abandonné le grief de refus de prise en charge de patients, puis celui de compérage. Le fait que ce dernier soit encore mentionné dans la décision du Chef du Département ne signifie nullement qu'il aurait été pris en considération. Le recourant est ainsi particulièrement de mauvaise foi lorsqu'il soutient qu'il ne savait pas sur quels points portait la procédure disciplinaire, en particulier lorsqu'il déclare qu'au vu de la lettre du Médecin cantonal du 30 août 2005, il pouvait partir de l'idée que seule l'accusation de compérage était retenue contre lui, alors que l'auteur de ce courrier commentait les points 1 à 3 et relevait en quoi ceux-ci pourraient constituer des infractions, s'ils étaient avérés. A cet égard, le Tribunal cantonal a donc admis à juste titre que le recourant avait été entendu sur l'ensemble des griefs qui lui étaient reprochés et qu'il n'avait en rien été prétérité par le manque d'exactitude de l'autorité intimée dans ses reproches. Le recourant ne prétend d'ailleurs pas le contraire et se borne à critiquer l'autorité de première instance à laquelle il s'était adressé pour qu'elle rectifie son erreur, en demandant au Chef du Département de prononcer une nouvelle décision d'ouverture d'enquête. On ne voit cependant pas en quoi l'absence d'une décision plus précise l'aurait empêché de s'expliquer sur les quatre griefs mentionnés par le Médecin cantonal dans sa lettre du 30 août 2005. Au demeurant, le recourant a encore pu présenter son point de vue devant le Tribunal cantonal.
Il s'ensuit que le grief de violation du droit d'être entendu doit être rejeté comme étant manifestement mal fondé.
3. Le recourant s'en prend aussi aux faits retenus dans l'arrêt attaqué qui, selon lui, auraient été établis de façon manifestement incomplète et inexacte sur plusieurs points.
3.1 Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué lorsque des lacunes ou erreurs dans l'établissement de celui-ci lui paraissent d'emblée manifestes. Quant au recourant, il ne peut critiquer la constatation de faits pertinents que si ceux-ci ont été constatés de façon manifestement inexacte (soit arbitraire; <ref-ruling> consid. 7.1 p. 398) ou en violation du droit au sens de l'<ref-law>. Tel est le cas, lorsque l'autorité n'a manifestement pas compris le sens et la portée d'un moyen de preuve, si elle n'a pas pris en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision ou lorsqu'elle a tiré des constatations insoutenables des éléments recueillis (<ref-ruling> consid. 2.1 p. 9; <ref-ruling> consid. 2a p. 41).
3.2 En l'espèce, le recourant reproche au Tribunal cantonal de n'avoir pas suffisamment pris en compte les onze témoignages écrits de patients ayant apprécié ses méthodes peu classiques de soins, qui attestaient ses compétences et les succès rencontrés dans sa pratique "psychothérapeutique", au sens où l'entendait l'autorité intimée. Il en allait de même de son courrier du 20 décembre 2006 et de la lettre du même jour de Mme Y._, ces deux correspondances étant propres à établir qu'il avait toujours eu à coeur l'intérêt de sa patiente.
A cet égard, les témoignages de patients favorables au médecin ne signifient nullement que les actes qui lui sont reprochés à l'encontre de Mme Y._ n'auraient pas été réalisés. Ils permettent seulement de démontrer que les traitements qu'il a prodigués, notamment par le biais d'actes symboliques, ont pu avoir des effets positifs, ce qui n'est en soi pas contesté. C'est en revanche l'accomplissement de certains actes symboliques, de nature sexuelle, qui pose problème. Ainsi, le témoignage de la patiente qui mentionne un toucher vaginal avec un couteau suisse (lame fermée) pour extirper le mal dans son corps, ne fait que renforcer la position exprimée dans l'arrêt attaqué, même si l'intéressée écrit qu'elle s'était sentie libérée après. Pour le reste, le recourant ne démontre pas en quoi la juridiction cantonale aurait abouti à des constatations insoutenables par rapport aux témoignages produits ou aux courriers du 20 décembre 2006, qui n'étaient qu'une première ébauche des faits et ont été ensuite largement complétés par les écrits et les auditions du recourant et de sa patiente.
3.3 En ce qui concerne le procès-verbal de l'audition du Professeur honoraire C._, psychiatre, devant le Conseil de la santé du 20 février 2008, le recourant fait observer que le Tribunal cantonal a retranscrit ce document sans prendre en considération les corrections que l'intéressé y avait apportées et qu'il avait déclarées indispensables dans sa lettre du 5 mars 2008. Cette affirmation est exacte et l'on s'étonne que l'arrêt entrepris cite in extenso le procès-verbal de cette audition (p. 13 lettre b), sans tenir compte des remarques écrites du témoin. Le recourant estime que cette façon de procéder a pour résultat de tronquer les déclarations d'un témoin important et que cela a un impact direct sur la gravité de la faute et l'appréciation de l'exigence la proportionnalité. Bien que cela reste à vérifier, le Tribunal fédéral peut, en vertu de l'<ref-law>, rectifier l'état de fait de l'arrêt attaqué sur les points modifiés à la main par le Prof. C._ (en italique):
- "Comme ("psychiatre et" biffés) psychanalyste, je peux affirmer que tout attouchement à caractère sexuel et a fortiori toute relation sexuelle est prohibée dans le cadre d'une relation psychothérapique/ psychanalytique.
On peut dire que comme ("psychiatre et" biffés) psychanalyste, il y a un tabou du toucher. Il n'en va pas de même du généraliste, ni de certaines écoles psychiatriques.
Pour cette raison, j'estime qu'un médecin généraliste ne dispose pas du cadre nécessaire pour procéder à une psychothérapie psychanalytique. Mais c'est ma position personnelle, qui n'est pas partagée par celle de nombreux médecins.
(...)
Sur la présente enquête, le Dr X._ m'a juste dit qu'il avait suivi une patiente victime d'abus un certain temps (...). Je n'ai pas voulu poser plus de questions et n'en sais donc pas plus. Par ailleurs, je ne suis pas sûr de traduire directement ce qu'il m'a dit. (...).
Par rapport aux attouchements que vous décrivez (fessée, toucher vaginal, caresse de seins), s'il m'avait parlé de cette méthode, je lui aurait dit de ne pas le faire ( "C'est la 1ère fois que j'entends parler d'un traitement impliquant de tels actes" biffés). Comme je l'ai dit, je sais que certains médecins ont préconisé des rapports sexuels avec leurs patients pour soigner leurs troubles, mais je ne crois pas que ces pratiques aient été officiellement agréées. Par ailleurs, certaines écoles comportementalistes semblent avoir engagé des infirmières pour des actes sexuels en vue du traitement de patients. Je ne sais pas si des médecins se sont eux-mêmes aussi prêtés à de telles pratiques. Toutefois, je précise que je n'ai rien lu à ce sujet puisque ce n'est pas mon domaine d'activité."
Le Tribunal fédéral tiendra ainsi compte de ces modifications dans l'appréciation du comportement du recourant.
4. Sur le fond, le recourant se plaint aussi d'une violation de l'art. 9 Cst. et reproche aux juges cantonaux d'avoir appliqué arbitrairement l'art. 191 al. 1 LSP, en ce qui concerne les griefs économiques, d'une part, et les griefs relatifs à la patiente, d'autre part.
4.1 L'art. 191 al. 1 LSP est ainsi libellé:
"Lorsqu'une personne exerçant ou ayant exercé une profession relevant de la présente loi a fait l'objet d'une condamnation pour un crime ou un délit, lorsqu'elle est convaincue d'immoralité ou de procédés frauduleux ou lorsqu'elle fait preuve dans l'exercice de sa profession de négligence, résistance aux ordres de l'autorité et d'incapacité, le département peut la réprimander, lui infliger une amende de Fr. 500.- à Fr. 200'000.-, restreindre le champ de son autorisation de pratiquer, la lui retirer à titre temporaire ou définitif. Il peut exclure de la pratique une personne exerçant à titre dépendant sans droit de pratique. Ces sanctions peuvent être cumulées."
Pour que l'arbitraire prohibé par l'art. 9 Cst. puisse être retenu, il faut que la décision attaquée viole gravement une règle ou un principe juridique clair et indiscuté ou qu'elle contredise d'une manière choquante le sentiment de la justice ou de l'équité; le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction évidente avec la situation de fait, si elle a été adoptée sans motif objectif ou en violation d'un droit certain; en outre, il n'y a pas arbitraire du seul fait qu'une autre solution que celle adoptée par l'autorité intimée serait concevable, voire préférable (<ref-ruling> consid. 4.1 p. 133 et les arrêts cités; <ref-ruling> consid. 3.1). Il appartient au recourant de démontrer l'arbitraire en vertu de l'<ref-law> (<ref-ruling> consid. 1 p. 265).
4.2 Il est en l'espèce constant que, suivant le préavis du Conseil de la santé, le Département a pris en compte l'ensemble des "graves dérives" du recourant pour cumuler un retrait de pratiquer d'une durée de six mois, une interdiction de procéder à toute forme de traitement psychothérapeutique et une amende de Fr. 5'000.-, ainsi que le permet l'art. 191 al. 1 LSP. Le Tribunal cantonal a confirmé ces sanctions.
4.2.1 Les juges cantonaux ont relevé que l'amende était principalement justifiée par les griefs d'ordre économique, "soit la liberté que le recourant s'est accordée dans sa facturation", jugée frauduleuse au sens l'art. 191 al. 1 LSP. Ils se sont fondés sur les déclarations de l'intéressé qui avait reconnu avoir adopté une interprétation personnelle, voire extensive de l'examen pluridisciplinaire et du tarif d'urgence, appliqué de manière large aux patients qui n'avaient pas pris rendez-vous, afin de pallier aux difficultés financières rencontrées lors de la création du centre A._. Les premiers juges ont ainsi estimé que l'avis donné au Médecin cantonal par Me D._, avocat et secrétaire adjoint de la FMH, le 28 avril 2005, ne permettait pas de "valider" l'ensemble des écarts que le recourant avait commis avec la tarification et ne liait donc pas le Tribunal, cela d'autant plus qu'en octobre 2002 déjà, la Commission de modération des honoraires de la Société vaudoise de médecine lui avait signalé que sa facturation systématique de la position 23 de la NMT n'était en aucun cas justifiée.
Sur ce point, le recourant reproche en fait aux juges cantonaux de s'être fondés uniquement sur ses déclarations, alors que le dossier n'aurait pas permis d'établir que des prestations supplémentaires auraient été mises à la charge de l'assurance de base ou à celle des patients sans leur consentement éclairé. Ce faisant, il estime que la juridiction cantonale aurait dû elle-même s'écarter de ses propres aveux pour procéder à des investigations plus précises sur les circonstances concrètes des facturations litigieuses, puisque le Conseil de la santé ne l'avait pas fait malgré l'avis de Me D._. Cette argumentation, à la limite de la témérité, est de nature appellatoire, dans la mesure où l'on ne voit pas en quoi le fait d'examiner plus en détail les tarifications opérées par le recourant aurait permis d'apprécier différemment sa manière d'agir. Au vu des éléments figurant au dossier, il n'était en tout cas pas insoutenable de s'en tenir aux explications que l'intéressé avait lui-même fournies dans sa lettre du 17 février 2005 et lors de son audition du 18 avril 2007 pour retenir l'existence de procédés frauduleux. On ne saurait donc reprocher au Tribunal cantonal d'avoir appliqué arbitrairement l'art. 191 al. 1 LSP en confirmant l'amende pour ces délits.
4.2.2 Le recourant soutient ensuite que le Tribunal cantonal a violé l'art. 191 al. 1 LSP, en confirmant le retrait d'exercer pendant six mois et l'interdiction définitive de pratiquer tout acte de nature psychothérapeutique, alors qu'il avait produit les témoignages de onze patients attestant ses compétences dans la réalisation d'actes symboliques. Le Tribunal cantonal aurait, selon lui, écarté arbitrairement ces témoignages au motif qu'un seul provenait d'une victime d'abus sexuel. Il n'avait pas davantage examiné l'objectif thérapeutique poursuivi et le consentement éclairé du patient.
Sur ce point, le Tribunal cantonal a relevé qu'il n'y avait pas lieu de remettre en cause la sincérité des déclarations des patients, mais que les "actes symboliques" mentionnés par ces derniers n'étaient pas comparables aux actes à connotation sexuelle, pratiqués sur Mme Y._ et, à une reprise tout au moins, sur une autre patiente (pénétration, en mai 2007 avec un couteau, lame fermée, pour extirper le mal de son corps). Quant au fait que celles-ci aient pu témoigner de la reconnaissance envers le recourant, il n'enlevait rien au caractère objectivement grave de ces actes, non reconnus dans le milieu médical, qui ont porté atteinte à l'intégrité corporelle des patientes. La juridiction cantonale en a déduit que, même si le recourant avait en vue le traitement de ses patientes, il n'en avait pas moins testé des connaissances psychiatriques sommaires sur des femmes fragilisées, toutes deux victimes d'un viol dans leur enfance. Il avait en outre outrepassé son rôle de médecin avec Mme Y._, en la mettant dans un état de dépendance, en particulier en lui faisant passer un contrat selon lequel elle devait présenter au recourant son partenaire avant toute relation intime.
Dans ces circonstances, le Tribunal cantonal a admis sans arbitraire que les méthodes thérapeutiques à connotation sexuelle employées par le recourant constituaient des procédés frauduleux, au sens de l'art. 191 al. 1 LSP, qu'il y avait lieu de sanctionner. A cet égard, les quelques témoignages de patients satisfaits par les traitements de l'intéressé ne permettent pas de revenir sur l'interdiction de procéder à toute forme de traitements psychothérapeutiques prononcée contre lui, car le recourant n'a visiblement pas pris conscience de son manque de formation dans ce domaine et des dégâts que peuvent provoquer ses dérapages. Cela est d'autant plus justifié qu'en sa qualité de médecin généraliste, il n'a pas l'obligation de vérifier la portée de ses traitements psychothérapeutiques, contrairement aux spécialistes dans ce domaine, astreints aux supervisions.
Le Tribunal cantonal n'a donc pas non plus appliqué arbitrairement l'art. 191 al. 1 LSP, en confirmant le retrait d'exercer et l'interdiction définitive de pratiquer toute forme de traitements psychothérapeutiques.
5. Invoquant une violation des art. 27 et 36 Cst., le recourant reproche à la juridiction cantonale d'avoir mal apprécié l'intérêt public en jeu et de ne pas avoir respecté le principe de la proportionnalité en confirmant les sanctions litigieuses. Il se plaint également d'une inégalité de traitement contraire à l'art. 8 Cst, par comparaison avec la sanction prononcée dans un cas similaire.
5.1 Selon l'art. 27 al. 1 Cst., la liberté économique est garantie. Elle comprend notamment le libre choix de la profession, le libre accès à une activité économique lucrative privée et son libre exercice (art. 27 al. 2 Cst.). Cette liberté protège toute activité économique privée, exercée à titre professionnel et tendant à la production d'un gain ou d'un revenu (<ref-ruling> consid. 4c/aa p. 29), telle celle de médecin (cf. dans ce sens l'<ref-ruling> consid. 1 p. 176).
Conformément à l'art. 36 al. 1 Cst., toute restriction d'un droit fondamental doit être fondée sur une base légale. Toute restriction d'un droit fondamental doit en outre être justifiée par un intérêt public ou par la protection d'un droit fondamental d'autrui (art. 36 al. 2 Cst.) et proportionnée au but visé (art. 36 al. 3 Cst.).
La sanction qui empêche le recourant d'exercer sa profession pendant six mois constitue une restriction grave à la liberté économique (arrêt 2P.281/2003 du 19 mars 2004, consid. 3.1, non publié). Dans un tel cas, le Tribunal fédéral examine librement si une mesure portant atteinte à un droit fondamental satisfait au principe de la proportionnalité au sens de l'art. 36 al. 3 Cst. ( <ref-ruling> consid. 4.2.1 et 4.2.2 p. 157).
5.2 Il n'est pas contesté que les sanctions d'interdiction de pratiquer pendant six mois et d'effectuer certaines thérapies reposent sur une base légale (art. 191 al. 1 LSP). Reste à examiner si elles répondent à un intérêt public suffisant et respectent le principe de la proportionnalité.
5.3 Le recourant considère que l'intérêt public ne justifiait pas un retrait de pratique de six mois, ni une interdiction totale de procéder à certains actes. L'autorité intimée ne pouvait en effet considérer qu'il constituait un danger pour l'ensemble de ses patients, alors qu'il n'avait fait l'objet que d'une seule plainte en vingt-trois ans d'exercice de la médecine. Par ailleurs, dans la mesure où il aurait pris conscience des erreurs commises avec Mme Y._, ainsi que cela ressortait de son courrier au Médecin cantonal du 20 décembre 2006, une partie du but d'intérêt public serait déjà atteint.
Dans ses observations sur le recours, le Chef du Département relève que les quatre médecins siégeant au Conseil de la santé avaient, tout comme les autres membres, été effarés par les pratiques de nature sexuelle du Dr X._, tant sur Mme Y._ que sur l'autre patiente. Il estime à juste titre que les actes pratiqués par le recourant sur des patientes fragilisées psychiquement pouvaient avoir de graves conséquences sur leur santé. Comme l'ont déjà souligné les premiers juges, le recourant a toujours prétendu qu'il agissait pour le bien des ses patientes et qu'il n'avait aucun reproche à se faire vis-à-vis de Mme Y._, allant même jusqu'à rendre celle-ci responsable du ressenti douloureux dont elle a souffert, parce qu'elle aurait subi un échec dans une relation amoureuse au printemps 2006, échec qu'elle aurait mis sur le compte de la thérapie suivie avec lui. Le recourant reste cependant peu explicite sur le contrat qu'il avait passé avec cette patiente, qui l'obligeait à demander l'approbation de son médecin avant toute relation sexuelle. Cette constance à minimiser les faits qui lui sont reprochés démontre qu'il n'a nullement pris conscience de la gravité ses actes, ni des lacunes qu'il a en matière de formation psychothérapeutique. A cela s'ajoute que les méthodes utilisées ne sont pas reconnues dans le milieu médical ou dans la littérature spécialisée en matière psychiatrique ou psychanalytique. Même en tenant compte des déclarations corrigées sur le procès-verbal de l'audition du Prof. C._ du 20 février 2008, ce point a été confirmé par le témoin; celui-ci ne donne en effet aucune information crédible sur les rapports sexuels préconisés par "certains médecins" avec leurs patients et ne peut davantage affirmer que ces pratiques seraient officiellement agréées ou qu'il existerait une littérature dans ce domaine. Pour le reste, l'on voit bien que, dans la déclaration du 10 juin 2008, où le recourant confirme avoir "renoncé définitivement à tout traitement de nature sexothérapeutique", il continue de penser que "ces techniques sont susceptibles d'aider certains patients". Contrairement à ce que soutient le recourant, ces éléments ne sont donc pas de nature à faire admettre que des attouchements à caractère sexuel seraient pratiqués pour le bien des patientes, avec leur consentement éclairé, et qu'en conséquence, il se serait conformé à la jurisprudence du Tribunal fédéral citée dans son recours, selon laquelle "l'objectif thérapeutique demeure seul déterminant en toute circonstance" (arrêt 2P.216/2000 du 29 novembre 2000, consid. 4b/bb, non publié).
Au vu de ce qui précède, il y a lieu de retenir que le comportement du recourant est grave et qu'il existe un intérêt public à protéger ses patients ou futurs patients de traitements dont il ne mesure pas la portée, ainsi qu'à lui faire prendre conscience des troubles et de la dépendance que ses méthodes peuvent entraîner.
5.4 Au regard du principe de la proportionnalité, le recourant considère que l'interdiction de pratiquer pendant six mois va au-delà de ce qui est nécessaire pour assurer la protection des patients. Quant à l'interdiction des actes psychothérapeutiques, elle serait beaucoup trop large par rapport au but recherché, dès lors qu'il suffirait de lui interdire de pratiquer des actes de nature sexuelle.
Il est vrai qu'en l'espèce, le recourant n'a pas fait l'objet d'une procédure pénale et qu'il n'y a pas eu d'autres plaintes contre lui que celle de Mme Y._. Toutefois, contrairement à ce qu'il allègue, en se référant notamment à son auto-dénonciation du 20 décembre 2006, il n'a nullement pris conscience des conséquences de ses actes sur le psychisme de sa patiente et continue de soutenir que celle-ci n'aurait pas compris ses intentions. Dans ces circonstances, un retrait d'autorisation de pratiquer pour violation de ses devoirs professionnels paraît indiqué. Quant à la durée de ce retrait, il ne semble pas non plus excessif compte tenu de l'intérêt public en jeu (supra consid. 5.3). En outre, le recourant ne s'est pas plaint des conséquences qu'un retrait de pratiquer de six mois pourraient avoir sur sa situation personnelle, de sorte qu'il n'y a pas lieu d'examiner cette question (<ref-law>). Au sujet de la durée de l'interdiction de pratiquer, le recourant fait en effet uniquement valoir qu'elle violerait le principe de l'égalité de traitement garanti par l'art. 8 Cst. (sur cette notion, voir <ref-ruling> consid. 3.1 p. 260/261), parce qu'en 2003, la juridiction cantonale avait réduit à six mois le retrait de pratiquer d'un physiothérapeute qui avait commis des actes beaucoup plus graves que les siens et avait été dénoncé par trois patientes; cet arrêt a été confirmé par le Tribunal fédéral (arrêt 2P.68/2003 du 23 mai 2003), lequel retient que le psychothérapeute "ne semble pas avoir pris conscience de ses actes et des conséquences de ceux-ci sur l'intégrité psychique des victimes". Outre que cette comparaison est particulièrement mal venue, puisque c'est précisément ce qui est reproché au recourant par rapport au déni qu'il manifeste vis-à-vis du comportement qu'il a eu avec sa patiente, les traitements d'un physiothérapeute ne sont pas vraiment comparables à ceux d'un médecin généraliste, pas plus que les circonstances dans lesquelles les faits incriminés se sont produits. Les situations n'étant pas comparables, le grief de violation de l'égalité de traitement ne peut être retenu par rapport à la durée de l'interdiction prononcée contre le recourant.
En ce qui concerne l'interdiction de pratiquer des traitements psychothérapeutiques, elle se justifie pleinement au regard de l'absence de formation du recourant dans ce domaine et des difficultés qu'il a à distinguer la nature des actes auxquels il soumet ses patients. Comme on l'a vu (supra consid. 3.2 et 4.2.2), il ne saurait se prévaloir sur ce point des témoignages de patients en faveur de ses traitements. L'interdiction prononcée apparaît ainsi comme une mesure préventive, non disproportionnée. Le recourant doit désormais confier à l'un ou l'autre de ses collègues psychiatres le soin de s'occuper d'un patient, dont le cas nécessiterait un traitement relevant de cette spécialisation.
L'arrêt entrepris ne viole dès lors pas le principe de la proportionnalité.
6. Au vu de ce qui précède, le recours doit être rejeté dans la mesure de sa recevabilité, avec suite de frais à la charge du recourant (<ref-law>). Il n'est pas alloué de dépens (<ref-law>).
Compte tenu de l'issue du recours, la demande d'effet suspensif présentée dans le recours devient sans objet.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué à la mandataire du recourant, au Chef du Département de la santé et de l'action sociale et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud.
Lausanne, le 6 avril 2009
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Müller Rochat