Faits:
A. Né le 15 avril 1953, X._ a obtenu un diplôme de masseur kinésithérapeute en 1974. Marié depuis le 31 août 1987, il est père de quatre filles, nées respectivement en 1988, 1991, 1994 et 1996. En novembre 1994, il a obtenu l'enregistrement de son diplôme de physiothérapeute par la Croix-Rouge. Le prénommé a travaillé dans divers hôpitaux et cliniques, ainsi qu'au Centre thermal de D._ (ci-après: le Centre thermal). En novembre 1998, il a ouvert un cabinet de physiothérapie dans cette localité.
Le 23 mars 1998, les docteurs A._ et B._, respectivement médecin-chef et médecin-chef adjoint de l'Association médicale du Centre thermal, ont adressé au médecin cantonal vaudois une correspondance dans laquelle ils reprochaient à X._ d'avoir eu, pendant les séances de physiothérapie, avec au moins trois patientes, un comportement qui les avait conduits à interdire à l'intéressé de prendre des patientes en charge.
Le 19 mai 1998, le chef du Département de la santé et de l'action sociale du canton de Vaud (ci-après: le chef du Département) a informé X._ de l'ouverture d'une enquête administrative à son encontre.
Le 10 février 1999, le juge d'instruction cantonal a rendu une ordonnance de non-lieu dans l'enquête instruite d'office contre X._ pour actes d'ordre sexuel commis sur une personne incapable de discernement ou de résistance. Il ressort des considérants de cette ordonnance qu'une cliente du Centre thermal a expliqué que, lors d'une séance de physiothérapie, le prévenu aurait "appuyé son bas-ventre contre elle, au point qu'elle aurait senti 'la chaleur de son corps'" et que, lors d'une autre séance, elle aurait "senti le sexe en érection du prévenu, et la chaleur de ce membre, contre ses fesses". Une autre cliente aurait, également à l'occasion de séances de physiothérapie, aussi "senti contre elle le sexe en érection du prévenu". Au plan pénal, le juge a toutefois constaté que ces clientes n'avaient pas été mises hors d'état de résister et qu'au surplus, les actes incriminés, même s'ils étaient établis - ce que l'instruction n'avait pu démontrer à satisfaction, compte tenu notamment des dénégations du prévenu -, pourraient ne pas être intentionnels. Enfin, de tels actes ne pouvaient en soi être qualifiés d'actes d'ordre sexuel, au sens de l'article 191 CP, dans la mesure où les patientes n'ont eu aucun comportement actif et n'y ont pas été contraintes. S'ils étaient avérés, ils relèveraient des attouchements d'ordre sexuel. Or, un tel comportement constitue une contravention, poursuivie sur plainte uniquement et aucune des patientes en cause n'avait déposé de plainte.
Par décision du 25 juin 2002, le chef du Département a retiré temporairement l'autorisation de pratiquer de X._ pour une durée d'une année, en raison d'actes à connotation sexuelle envers ses patientes, tels que décrits ci-dessus.
B. L'intéressé a recouru contre cette décision auprès du Tribunal administratif du canton de Vaud, en concluant à son annulation. Par arrêt du 11 février 2003, le recours a été partiellement admis en ce sens que le retrait a été réduit à six mois. Le Tribunal fédéral a confirmé cet arrêt en date du 23 mai 2003.
Le 13 juin 2005, le médecin cantonal a dénoncé X._ au juge d'instruction cantonal en raison d'attouchements à caractère sexuel commis à deux reprises sur sa patiente, C._, au cours de séances de traitement d'une durée exceptionnellement longue.
Par courrier du 30 juin 2005, le chef du Département a informé X._ qu'à la suite de la plainte déposée par C._ auprès du médecin cantonal, il ouvrait à son encontre l'enquête prévue à l'art. 34 du règlement du 17 mars 2004 sur le médiateur, sur l'organisation des Commissions d'examen des plaintes de patients, sur le fonctionnement du Conseil de santé et sur la procédure en matière disciplinaire (RMCP; entre-temps abrogé et remplacé par un nouveau règlement avec effet au 1er janvier 2011). L'intéressé ayant déjà fait l'objet en 2003 d'un retrait temporaire de son autorisation de pratiquer pour des faits semblables, le chef du Département lui a en outre retiré provisoirement l'autorisation de pratiquer la physiothérapie dans le cadre des mesures d'urgence prévues à l'art. 44 RMCP.
Le 31 octobre 2005, le Tribunal administratif a rejeté le recours formé contre cette décision. Saisi d'un recours contre cet arrêt, le Tribunal fédéral l'a partiellement admis, le 10 juillet 2006, et a renvoyé le dossier à l'autorité précédente pour nouvelle décision dans le sens des considérants. Il a relevé que s'il ne faisait aucun doute que le comportement dénoncé de X._ imposait des mesures préventives urgentes avant même l'ouverture d'une procédure régulière et qu'à cet égard, un retrait provisoire de son autorisation de pratiquer paraissait indiqué au regard de la protection de la santé publique, il convenait encore d'examiner si le retrait provisoire d'une durée indéterminée, prononcé dans le cadre des mesures d'urgence, était conforme au principe de la proportionnalité.
Statuant à nouveau le 30 mars 2007, le Tribunal administratif a considéré que le jugement pénal n'était pas prêt à être rendu et que la mesure provisoire litigieuse ne respectait dès lors pas le principe de la proportionnalité. Il a partiellement admis le recours, en ce sens que le retrait provisoire était maintenu, mais pour une durée limitée, dont l'échéance devait être fixée à deux mois à compter de la notification de l'arrêt. En exécution de cet arrêt, le retrait provisoire de l'autorisation de pratiquer a été levé le 10 juillet 2007.
Par jugement du 28 janvier 2009, complété le 2 février suivant, le Tribunal correctionnel de l'arrondissement de la Broye et du Nord vaudois a déclaré X._ coupable d'actes d'ordre sexuel sur une personne incapable de discernement ou de résistance au sens de l'<ref-law> et l'a condamné à une peine privative de liberté de douze mois avec sursis pendant cinq ans, ainsi qu'à l'indemnisation par 3'000 fr. du tort moral infligé à C._. Ce jugement a été confirmé par la Cour de cassation pénale du Tribunal cantonal vaudois puis, le 18 février 2010, par le Tribunal fédéral.
Par décision du 20 octobre 2010, le chef du Département a retiré définitivement à X._ l'autorisation de pratiquer la physiothérapie et lui a interdit avec effet immédiat d'exercer cette profession dans le canton de Vaud. Il a estimé que les faits reprochés étaient "gravissimes et totalement incompatibles avec l'exercice de la profession de physiothérapeute. Ils le sont d'autant plus qu'il s'agit à l'évidence d'une récidive et qu'il n'y a aucune prise de conscience de sa part". Le chef du Département a également retiré l'effet suspensif à un éventuel recours. Le 28 mars 2011, le Tribunal cantonal du canton de Vaud a rejeté le recours formé contre cette décision.
C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, principalement, de réformer l'arrêt du Tribunal cantonal du 28 mars 2011 en ce sens qu'il ne soit sanctionné par aucun retrait, suspension ou interdiction supplémentaire de l'autorisation de pratiquer la physiothérapie. A titre subsidiaire, il requiert que l'autorisation de pratiquer soit limitée à l'octroi de soins à des patients de sexe masculin exclusivement; plus subsidiairement, il requiert le renvoi de la cause au Tribunal cantonal, respectivement au chef du Département, pour nouvelle décision dans le sens des considérants. Il demande que son recours soit doté de l'effet suspensif et d'être mis au bénéfice de l'assistance judiciaire.
Le Tribunal cantonal conclut au rejet du recours et s'en remet à justice quant à l'octroi de l'effet suspensif. Le Service de la santé publique du canton de Vaud ne s'est pas déterminé dans le délai imparti.

Considérant en droit:
1. Sauf dans les cas cités expressément par l'<ref-law>, le recours en matière de droit public ne peut pas être formé pour violation du droit cantonal en tant que tel. En revanche, il est toujours possible de faire valoir que la mauvaise application du droit cantonal constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 4.3 p. 521 s.; <ref-ruling> consid. 2.3 p. 466). Il appartient toutefois au recourant d'invoquer ce grief et de le motiver d'une manière suffisante (cf. <ref-law>; <ref-ruling> consid. 1.3 p. 60; <ref-ruling> consid. 1.4.2 p. 254).
C'est dans ce sens que doivent être compris les moyens du recourant, qui se plaint essentiellement d'une interprétation "abusive" des dispositions en cause. Faute d'une véritable démonstration de l'arbitraire, la recevabilité du grief se révèle d'entrée de cause douteuse au regard des exigences de motivation déduites de l'<ref-law>. La question peut cependant demeurer indécise au vu du sort du recours.
2. 2.1 Appelé à revoir l'interprétation d'une norme sous l'angle restreint de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - éventuellement plus judicieuse - paraît possible (<ref-ruling> consid. 2.4 p. 5; <ref-ruling> consid. 4 p. 560; <ref-ruling> consid. 4.1 p. 133).
2.2 Une mesure viole le principe de la proportionnalité notamment si elle excède le but visé et ne se trouve pas dans un rapport raisonnable avec celui-ci et les intérêts, en l'occurrence publics, compromis (<ref-ruling> consid. 3.5.1 p. 69 et les arrêts cités; <ref-ruling> consid. 5.1 p. 297 s.). Le principe de la proportionnalité, bien que de rang constitutionnel, ne constitue pas un droit constitutionnel ayant une portée propre (<ref-ruling> consid. 5b p. 120; <ref-ruling> consid. 2b p. 163). Aussi, lorsque, comme en l'espèce, ce principe est invoqué en relation avec l'application du droit cantonal (en dehors du domaine de protection d'un droit fondamental spécial), le Tribunal fédéral n'intervient-il que si la mesure de droit cantonal est manifestement disproportionnée et qu'elle viole simultanément l'interdiction de l'arbitraire; autrement dit, le grief se confond avec celui de l'arbitraire (<ref-ruling> consid. 4.2.2 et 4.3 p. 158; arrêts 8C_220/2010 du 18 octobre 2010 consid. 4.3 et 2C_118/2008 du 21 novembre 2008 consid. 3.1).
3. La teneur du droit cantonal pertinent n'est nullement contestée par le recourant, pas plus que son application ratione temporis. Ainsi, selon l'arrêt entrepris, les normes cantonales déterminantes se présentent comme suit:
3.1 L'exercice des professions de la santé est régi par la loi vaudoise du 29 mai 1985 sur la santé publique (LSP; RS/VD 800.01). Le droit vaudois prévoit que, lorsque le Département apprend des faits de nature à justifier une sanction disciplinaire, il saisit le Conseil de santé, qui confie alors l'instruction à une délégation de ses membres (art. 34 et 36 RMCP). Après enquête, le Conseil de santé propose au chef du Département les mesures à envisager à l'encontre des professionnels de la santé (art. 13 al. 2 LSP).
3.2 La LSP a fait l'objet d'une révision adoptée le 17 mars 2009 et entrée en vigueur le 1er juin 2009. La possibilité d'assortir l'autorisation de pratiquer de conditions en vertu de l'art. 79 al. 1 LSP a été introduite lors de cette révision. Les sanctions administratives ont également été modifiées. L'art. 191 LSP révisé prévoit ce qui suit :
"1 Lorsqu'une personne n'observe pas la présente loi ou ses dispositions d'application, lorsqu'elle a fait l'objet d'une condamnation pour un crime ou un délit, lorsqu'elle est convaincue d'immoralité ou de procédés frauduleux ou lorsqu'elle fait preuve dans l'exercice de sa profession de négligence, de résistance aux ordres de l'autorité ou d'incapacité, le département peut lui infliger les sanctions administratives suivantes:
a. l'avertissement;
b. le blâme;
c. l'amende de Fr. 500.- à Fr. 200'000.-;
d. la mise en place de conditions, la limitation, la suspension, le retrait temporaire ou définitif de l'autorisation de pratiquer, d'exploiter ou de diriger ou encore le retrait de la qualité de responsable.
e. la fermeture des locaux;
f. l'interdiction de pratiquer.
2 Ces sanctions peuvent être cumulées.
3 Sauf dans les cas où un avertissement est prononcé, le département peut publier la décision prononcée dès qu'elle est exécutoire. [...]."
4. 4.1 Le recourant soulève incidemment le grief de violation de la liberté économique garantie par l'art. 27 al. 1 Cst. (p. 3 ch. 4 du mémoire de recours). Cette liberté n'est toutefois nullement invoquée de manière conforme aux exigences de l'<ref-law>, de sorte que le grief est irrecevable.
4.2 Le recourant se contente en définitive d'affirmer que la mesure adoptée n'est pas conforme au principe de proportionnalité et donc arbitraire. Son écriture revêt toutefois un caractère largement appellatoire, n'analysant ni même ne mentionnant aucune des normes cantonales mises en oeuvre par l'autorité précédente, pour tenter de démontrer, d'une manière conforme aux exigences de motivation de l'<ref-law>, que celles-ci auraient fait l'objet d'une interprétation arbitraire au sens de l'art. 9 Cst., seule norme invoquée en sus de l'art. 11 Cst. vaudoise, dont il n'est ni allégué, ni démontré qu'il aurait une portée plus large que la disposition constitutionnelle fédérale. Le recours se révèle ainsi largement irrecevable. Il en va ainsi tant de la conclusion principale que des conclusions subsidiaires.
4.3 Il peut être renvoyé aux considérants de l'arrêt attaqué qui présente de façon détaillée et convaincante la finalité des mesures disciplinaires et le contenu du principe de la proportionnalité (cf. <ref-law>).
4.3.1 Il y est rappelé de manière correcte que l'autorité doit tenir compte en premier lieu d'éléments objectifs, à savoir des conséquences que la faute a entraînées pour le bon fonctionnement de la profession en cause, et de facteurs subjectifs, tels que la gravité de la faute, ainsi que les mobiles et les antécédents de l'intéressé.
4.3.2 Il peut être renvoyé à la décision attaquée également en ce qui concerne la pesée des intérêts. le Tribunal cantonal a relevé qu'il est reproché au recourant d'avoir exercé des pressions répétées de son sexe en érection contre les fesses et les organes génitaux d'une patiente pendant plusieurs minutes. Ces faits représentent une récidive, le recourant ayant déjà fait l'objet d'une suspension de six mois en raison d'attouchements d'ordre sexuel, commis sur trois patientes en 1998. Concernant les actes de même nature survenus en 2005, les autorités pénales l'ont condamné pour des actes d'ordre sexuel sur une personne incapable de résistance. D'un point de vue disciplinaire, le Tribunal cantonal a relevé que la relation de confiance est essentielle dans la relation entre le patient et son thérapeute. C'est fragilisé dans sa santé physique et/ou psychique que le patient vient vers le thérapeute et il doit pouvoir avoir une confiance totale en celui-ci. Or, conclut la Cour cantonale, il apparaît que le recourant n'est pas une personne digne de confiance sur ce plan-là. Les actes commis sur la personne de ses patientes sont inadmissibles de la part d'un soignant; ils doivent être considérés comme d'autant plus graves qu'ils émanent d'une personne qui a une fonction de soignant et doit assumer à ce titre une responsabilité particulière à l'égard des patients pris en charge. L'aspect récidive a également été pris en compte par la Cour cantonale: une première sanction, devenue définitive en mai 2003, n'a pas eu suffisamment d'impact sur le recourant pour qu'il parvienne à maîtriser les pulsions qui interfèrent dans son activité professionnelle ou pour qu'il entame une prise de conscience par rapport à ces difficultés. C'est ainsi à juste titre que l'autorité précédente a conclu qu'au vu des nouveaux faits survenus en 2005, il serait contraire à l'intérêt public - qui consiste à la fois en la protection de la personnalité des patients et en celle de la confiance que le public doit de manière générale avoir dans le personnel soignant - d'autoriser le recourant à poursuivre le métier de physiothérapeute.
Le fait que le recourant ait pratiqué de manière adéquate depuis 2008 n'est à cet égard nullement déterminant, puisqu'il vit depuis 2005 sous la menace d'un retrait de son autorisation de pratiquer. Le Tribunal cantonal pouvait donc conclure sans arbitraire que l'"on peut raisonnablement craindre à cet égard, qu'une fois la menace d'un retrait définitif écartée, il n'adopte à nouveau un comportement déviant".
La pesée des intérêts effectuée par l'autorité précédente a également dûment pris en compte ceux, privés, du recourant. Il en va ainsi essentiellement du point de vue économique. Le Tribunal cantonal a toutefois retenu sans arbitraire que ces conséquences, extrêmement graves pour le recourant, apparaissent pleinement proportionnées au vu du risque que représenterait la poursuite de son activité de physiothérapeute tant pour la protection de la personnalité des patients que pour la protection de la confiance que le public doit de manière générale avoir dans le personnel soignant. Il n'apparaît en outre pas que le but visé pourrait être atteint par un autre moyen que le retrait définitif de l'autorisation de pratiquer et l'interdiction de pratiquer dans le canton de Vaud (cf. aussi consid. 4.3.3 ci-après).
Au vu de ce qui précède, dans la mesure où elle est recevable, la conclusion principale tendant à ce que le recourant ne soit sanctionné par aucun retrait, suspension ou interdiction supplémentaire de l'autorisation de pratiquer la physiothérapie, doit de toute évidence être rejetée.
4.3.3 S'agissant de la conclusion subsidiaire - limitation de l'activité aux seuls patients de sexe masculin -, le recourant se borne à nouveau à opposer son approche de la question à celle des autorités cantonales. Or, la motivation de la Cour cantonale selon laquelle, d'une part, il n'est pas avéré que tout risque de comportement déplacé à l'égard de la patientèle masculine puisse être exclu, et d'autre part, une telle mesure serait excessivement difficile à mettre en place, n'a rien d'arbitraire. Comme elle le relève, tant le contrôle de l'agenda que celui de la facturation ne permettent pas d'éviter le risque de fraude. Quant à des contrôles inopinés sur place, ils devraient être nombreux pour être efficaces et représenteraient une charge excessive pour l'administration. Enfin, sur le plan de la confiance que le public doit de manière générale avoir dans le personnel soignant, on peut douter qu'une telle mesure soit propre à assurer la renommée de la profession de physiothérapeute.
Dans la mesure où elle est recevable, la conclusion doit donc être rejetée.
5. Le recours se révèle donc mal fondé. Il doit être rejeté dans la faible mesure de sa recevabilité.
Les conclusions du recours devant le Tribunal fédéral étaient clairement vouées à l'échec, de sorte que la demande d'assistance judiciaire doit être rejetée (cf. <ref-law>). Le recourant supportera donc les frais judiciaires (cf. art. 65 et 66 LTF). La requête d'effet suspensif est sans objet avec le présent arrêt.

Par ces motifs, le Tribunal fédéral prononce:
1. En tant que recevable, le recours en matière de droit public est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, au Chef du Département de la santé et de l'action sociale et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud.
Lausanne, le 20 septembre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Vianin