Faits:
A. Par lettre du 12 avril 2002, Assura a demandé à l'Etat de Vaud paiement de la somme de 5'572'954 fr. au titre de remboursement partiel des prestations allouées pour des séjours effectués par ses assurés dans des établissements privés non subventionnés mais figurant dans la planification hospitalière cantonale.
L'Etat de Vaud a rejeté la demande par décision du 13 août 2002.
B. Assura a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud, concluant à l'annulation de cette décision et à la condamnation de l'Etat de Vaud au paiement de la somme requise, sous suite de frais et dépens.
Par jugement du 3 avril 2003, la juridiction cantonale a rejeté le recours et mis un émolument de procédure de 500 fr. à la charge de la recourante.
C. Assura interjette recours de droit administratif contre ce jugement dont elle demande sous suite de frais et dépens l'annulation. Elle conclut en substance et à titre principal à ce que l'Etat de Vaud soit tenu de participer financièrement, à hauteur de 50% du coût imputable à la division commune, pour les séjours hospitaliers dans les cliniques privées vaudoises au cours de la période allant de 1996 à 2001 et à la condamnation de l'Etat de Vaud au paiement de 5'572'954 fr.
L'Etat de Vaud conclut au rejet du recours, en se référant pour l'essentiel à ses écritures précédentes. De son côté, l'Office fédéral des assurances sociales (OFAS), Domaine maladie et accident (intégré, depuis le 1er janvier 2004, à l'Office fédéral de la santé publique), propose le rejet du recours aux termes de ses observations.
Considérant en droit:
1. Le litige porte sur le point de savoir si une personne hospitalisée en division commune d'une clinique privée du canton où elle habite, clinique figurant dans la planification hospitalière cantonale, - ou pour elle son assureur-maladie - peut prétendre de ce canton la part des coûts imputables dans un hôpital public ou subventionné à la charge du canton. La question qui divise les parties est celle de l'interprétation de l'art. 49 al. 1 deuxième phrase LAMal. Il faut donc admettre, pour le même motif que dans l'arrêt ATF 127 V 423 sv. consid. 1, que la recevabilité du recours et la compétence du Tribunal fédéral des assurances pour connaître de celui-ci sont données.
2. Le litige n'ayant pas pour objet l'octroi ou le refus de prestations d'assurance (ATF 127 V 424 consid. 2), le Tribunal fédéral des assurances doit se borner à examiner si les premiers juges ont violé le droit fédéral, y compris par l'excès ou par l'abus de leur pouvoir d'appréciation, ou si les faits pertinents ont été constatés d'une manière manifestement inexacte ou incomplète, ou s'ils ont été établis au mépris de règles essentielles de procédure (art. 132 en corrélation avec les art. 104 let. a et b et 105 al. 2 OJ).
3. Ratione temporis, les dispositions de la loi fédérale sur la partie générale du droit des assurances sociales (LPGA), entrée en vigueur le 1er janvier 2003, ne sont pas applicables.
3.1 L'art. 49 al. 1 LAMal prescrit que pour rémunérer le traitement hospitalier, y compris le séjour à l'hôpital (art. 39, al. 1), les parties à une convention conviennent de forfaits. Pour les habitants du canton, ces forfaits couvrent au maximum, par patient ou par groupe d'assurés, 50% des coûts imputables dans la division commune d'hôpitaux publics ou subventionnés par les pouvoirs publics. Les coûts imputables sont établis lors de la conclusion de la convention. La part des frais d'exploitation résultant d'une surcapacité, les frais d'investissement et les frais de formation et de recherche ne sont pas pris en compte.
3.2 Dans deux arrêts du 16 décembre 1997 publié aux ATF 123 V 290 et du 19 décembre 1997 publié aux ATF 123 V 310, le Tribunal fédéral des assurances a admis que le canton de résidence avait l'obligation de prendre en charge la différence de coûts lorsque des raisons médicales obligent des habitants du canton à suivre un traitement hospitalier ou semi-hospitalier dans un hôpital situé dans un autre canton (art. 41 al. 3 LAMal). Celle-ci n'existe que pour les traitements appliqués dans un hôpital public ou subventionné par les pouvoirs publics. Une telle obligation n'existe pas lorsque l'assuré se rend dans un hôpital privé, non public ou non subventionné par les pouvoirs publics (ATF 123 V 310).
Ainsi que l'a exposé la Cour de céans dans un arrêt du 30 novembre 2001, publié aux ATF 127 V 422, l'art. 49 al. 1 LAMal s'inscrit dans le dispositif de protection tarifaire des assurés instauré par la législation entrée en vigueur le 1er janvier 1996 (art. 44 al. 1 LAMal) qui a pour effet que le fournisseur de prestations ne peut pas facturer à l'assuré davantage que le montant dû par la caisse-maladie selon le tarif (ATF 127 V 426 consid. 4b et la référence). Il délimite l'étendue du droit qu'un assuré peut faire valoir à l'égard de l'assurance obligatoire des soins lorsqu'il séjourne dans un hôpital public ou subventionné, indépendamment de la division qu'il choisit (ATF 127 V 428 consid. 4c, 125 V 105 consid. 3e). Une personne hospitalisée en division privée ou semi-privée d'un hôpital public du canton où elle habite - ou, pour elle, son assureur-maladie - peut toutefois prétendre de ce canton la part des coûts imputables dans la division commune de cet hôpital à la charge du canton (ATF 127 V 429 ss consid. 5 et 6).
4. Dans son message du 26 mai 2004 concernant la révision de la loi fédérale sur l'assurance-maladie (Stratégie et thèmes urgents, FF 2004 IV 4019), le Conseil fédéral a exposé la stratégie de réforme future après l'échec de la deuxième révision de la LAMal au cours de la session d'hiver 2003. Dans l'optique d'une consolidation et d'une optimisation du système existant, il y a lieu d'introduire des réformes légales, notamment dans le financement hospitalier (FF 2004 IV 4029):
Pratiquement dès l'entrée en vigueur de la LAMal, l'obligation de participation des cantons au traitement hospitalier de patients bénéficiant d'une assurance complémentaire avait fait l'objet de discussions politiques, malgré le fait que le texte de loi et sa logique étaient clairs. Par un arrêt rendu le 30 novembre 2001, le Tribunal fédéral des assurances (TFA; ATF 127 V 422 s.) a fixé que les cantons devaient apporter leur contribution aux frais d'hospitalisation d'une personne au bénéfice d'une assurance complémentaire non seulement en cas de séjour hospitalier hors du canton, mais également en cas de séjour hospitalier dans les hôpitaux publics ou subventionnés par les pouvoirs publics sur le territoire du canton. Cette précision de l'instance judiciaire suprême d'une volonté au fond claire du législateur a entraîné deux mesures au niveau législatif, l'une à court terme, l'autre à moyen terme:
- une application immédiate et totale de la décision du TFA aurait posé d'importants problèmes financiers aux cantons. Aussi le Parlement a-t-il atténué ce problème avec une loi fédérale déclarée urgente (loi fédérale du 21 juin 2002 sur l'adaptation des participations cantonales aux coûts des traitements hospitaliers dispensés dans le canton selon la loi fédérale sur l'assurance-maladie; RS 832.14) et décidé que la décision du TFA serait appliquée par étapes entre 2002 et 2004. Cette loi fédérale urgente constitue une solution transitoire jusqu'à l'entrée en vigueur de la 2e révision de la LAMal.
- à moyen terme, la 2e révision de la LAMal, que le Conseil fédéral avait déjà entamée avant la décision du TFA de 2001, proposait un passage du système actuel de financement des établissements à un système de financement des prestations, les coûts des prestations - ainsi que des investissements - des hôpitaux publics et privés pris en compte dans la planification cantonale devant être assumés pour moitié par les cantons et pour moitié par les assureurs-maladie (financement dual fixe). Ce changement en faveur d'un système de financement dual des prestations, qui établit une plus grande égalité de traitement entre les différents fournisseurs de prestations hospitalières, favorisant donc la concurrence, a rallié une majorité dans le débat politique. Il s'agit d'un modèle concurrentiel - si l'on excepte les financements différents des prestations ambulatoires et hospitalières - qui repose sur le rapport prix-prestation et sur la transparence nécessaire du marché.
Cette démarche en deux temps devrait être reprise pour les prochaines étapes de la révision: à court terme, il s'agit pour des raisons de sécurité juridique de prolonger la loi fédérale sur les participations cantonales jusqu'à l'entrée en vigueur de la révision de la loi relative au financement des hôpitaux. En effet, la détermination de la participation du canton aux frais du traitement hospitalier d'une personne au bénéfice d'une assurance complémentaire dispensé dans le canton est à nouveau susceptible d'être contestée. Cette révision de la loi doit à nouveau proposer le modèle de financement dual fixe, car le financement moniste des hôpitaux, considéré dans le rapport d'experts relatif à la 3e LAMal comme une solution pour l'avenir, soulève encore de nombreuses questions et ne peut pas être mis en oeuvre à partir de la situation actuelle sans une étape intermédiaire.
5. 5.1 L'interprétation de l'art. 49 al. 1 LAMal divise les parties. Selon la recourante, cette disposition légale concerne également les cliniques privées, vu le renvoi que l'art. 49 al. 1 première phrase LAMal fait expressément à l'art. 39 al. 1 LAMal à propos de la notion d'hôpital. L'objet de la rémunération porte ainsi sur tout traitement hospitalier dispensé dans un établissement hospitalier public, subventionné ou privé reconnu dans la planification hospitalière. La recourante fait valoir que l'art. 49 al. 1 deuxième phrase LAMal ne signifie nullement que seuls les patients hospitalisés dans un hôpital public ou subventionné ont droit à la participation financière de l'Etat, puisque cette disposition légale pose seulement une base de calcul pour déterminer la rémunération de prestations découlant de l'assurance obligatoire des soins, laquelle supporte au maximum 50% des coûts imputables calculés sur la base de la division commune d'hôpitaux publics ou subventionnés, quel que soit le type d'établissement hospitalier dans lequel le patient a séjourné (public, subventionné, privé). L'autre partie, soit au minimum 50% des coûts imputables calculés sur la base de la division commune d'hôpitaux publics ou subventionnés, est quant à elle supportée par le canton. De l'avis de la recourante, cette interprétation de l'art. 49 al. 1 LAMal est conforme à la logique du système, car elle ne crée aucune distorsion entre le patient séjournant en division privée d'un hôpital public et le patient séjournant en division privée d'un hôpital privé, respectivement entre le patient séjournant en division commune d'un établissement public et le patient séjournant en division commune d'un établissement privé. D'autre part, elle respecte la dichotomie entre l'assurance de base et l'assurance complémentaire.
5.2 La loi s'interprète en premier lieu selon sa lettre. Selon la jurisprudence, il n'y a lieu de déroger au sens littéral d'un texte clair par voie d'interprétation que lorsque des raisons objectives permettent de penser que ce texte ne restitue pas le sens véritable de la disposition en cause. De tels motifs peuvent découler des travaux préparatoires, du but et du sens de la disposition, ainsi que de la systématique de la loi. Si le texte n'est pas absolument clair, si plusieurs interprétations de celui-ci sont possibles, il convient de rechercher quelle est la véritable portée de la norme, en la dégageant de tous les éléments à considérer, soit notamment des travaux préparatoires, du but de la règle, de son esprit, ainsi que des valeurs sur lesquelles elle repose ou encore de sa relation avec d'autres dispositions légales (ATF 130 II 71 consid. 4.2, 130 V 50 consid. 3.2.1, 129 II 356 consid. 3.3, 129 V 165 consid. 3.5, 284 consid. 4.2 et les références).
5.3 L'art. 49 al. 1 LAMal est issu de l'art. 42 du projet du Conseil fédéral, du 6 novembre 1991 (FF 1992 I 257), lui-même repris de l'art. 33 du projet de la commission d'experts, du 2 novembre 1990.
5.3.1 Les textes allemand et italien de l'art. 49 al. 1 première et deuxième phrases LAMal sont ainsi libellés: « Für die Vergütung der stationären Behandlung einschliesslich Aufenthalt in einem Spital (Art. 39 Abs. 1) vereinbaren die Vertragsparteien Pauschalen. Diese decken für Kantonseinwohner und -einwohnerinnen bei öffentlichen oder öffentlich subventionierten Spitälern höchstens 50 Prozent der anrechenbaren Kosten je Patient oder Patientin oder je Versichertengruppe in der allgemeinen Abteilung ». « Per la rimunerazione della cura ospedaliera, compresa la degenza ospedaliera (art. 39 cpv. 1), le parti alla convenzione stabiliscono importi forfettari. Questi coprono, per gli abitanti del Cantone, al massimo il 50 per cento dei costi fatturabili per paziente o gruppo d'assicurati nel reparto comune d'ospedali pubblici o sussidiati dall'ente pubblico ».
Le sens littéral de l'art. 49 al. 1 deuxième phrase LAMal est clair. Aussi bien les textes français, allemand ou italien ne parlent que d'hôpitaux publics ou subventionnés par les pouvoirs publics. L'OFAS relève avec raison dans son préavis que comme cela ressort davantage du texte allemand, qui met l'accent sur les hôpitaux publics ou subventionnés par les pouvoirs publics - « bei öffentlichen oder öffentlich subventionierten Spitälern » -, la réglementation instituée à l'art. 49 al. 1 deuxième phrase LAMal se limite aux hôpitaux publics ou subventionnés par les pouvoirs publics.
5.3.2 Ce sens littéral est conforme à la volonté du législateur. Ainsi que cela résulte du message du Conseil fédéral du 6 novembre 1991 concernant la révision de l'assurance-maladie (FF 1992 I 110), l'art. 42 du projet de loi prévoyait que l'assurance obligatoire des soins médico-pharmaceutiques couvrira au plus et par patient 50 pour cent des coûts imputables dans la division commune d'hôpitaux publics ou subventionnés par les pouvoirs publics, le reste devant être couvert par des recettes fiscales. L'art. 42 faisait partie des dispositions revêtant dans le projet une importance particulière. Le 1er alinéa prévoyait comme règle de base que les frais de traitement et de pension à l'hôpital doivent être couverts par des forfaits. Ces forfaits, valables pour les habitants d'un canton, peuvent couvrir au plus, par patient ou groupe d'assurés, 50 pour cent des coûts imputables dans la division commune d'hôpitaux publics ou subventionnés par les pouvoirs publics (taux de couverture). Telles sont les règles de base qui s'appliquent aux forfaits dans les hôpitaux publics ou subventionnés par les pouvoirs publics (message précité, FF 1992 I 166). Le taux de couverture qui, dans l'assurance-maladie, est fixé au maximum à 50 pour cent des coûts imputables doit également mettre un terme à la pratique suivie ces dernières années par les pouvoirs publics; ceux-ci faisaient en effet supporter de plus en plus à l'assurance-maladie sociale les frais hospitaliers élevés qui, dans une certaine mesure, résultaient d'erreurs dans la planification et dans l'appréciation du taux d'occupation des hôpitaux. En ce qui concerne les hôpitaux privés, les partenaires tarifaires peuvent convenir de taux de couverture plus élevés. Cela paraît équitable, car ces hôpitaux ne sont pas financés avec des fonds provenant en partie des recettes fiscales (message précité, FF 1992 I 167).
Les travaux parlementaires indiquent également que le législateur est parti de l'idée que la règle de base du taux de couverture de 50% ne concerne que la division commune d'hôpitaux publics ou subventionnés par les moyens publics (M. le Conseiller fédéral Cotti, BO 1992 CE 1316; Huber, BO 1992 CE 1314). Lors de la séance du Conseil des Etats du 17 décembre 1992, le Conseiller aux Etats Gemperli, qui avait fait la proposition d'introduire à l'alinéa 1 la disposition qui stipule « dans la règle », était du reste de l'avis que l'art. 42 al. 1 du projet viole le principe de l'égalité de traitement dans la mesure où les hôpitaux privés en sont exclus (BO 1992 CE 1315). Cela n'a eu aucune incidence sur le texte adopté par les Chambres (BO 1992 CE 1316; BO 1993 CN 1861), l'art. 49 al. 1 première et deuxième phrases LAMal reprenant l'art. 42 al. 1 première phrase du projet de loi.
5.3.3 Sous l'angle de la systématique de la loi, il existe en ce qui concerne l'obligation pour les cantons de contribuer aux frais du traitement hospitalier un lien matériel étroit entre l'art. 49 al. 1 deuxième phrase LAMal et l'art. 41 al. 3 première phrase LAMal, cette disposition légale instituant une obligation du canton de résidence de prendre en charge la différence de coûts lorsque, pour des raisons médicales, l'assuré recourt aux services d'un hôpital public ou subventionné par les pouvoirs publics situé hors de son canton de résidence (voir ATF 123 V 305 consid. 6c/bb et 318 sv. consid. 4b et c; à propos des art. 35 al. 3 et 42 al. 1 et 2 du projet de loi, cf. FF 1992 I 151 et 166). Dans son message du 18 septembre 2000 relatif à la révision partielle de la loi fédérale sur l'assurance-maladie, le Conseil fédéral a proposé d'harmoniser les art. 49 et 41 par un renvoi de l'art. 41 al. 3 à l'art. 49 LAMal (FF 2001 I 740).
Selon la jurisprudence rendue à propos de l'art. 41 al. 3 LAMal, l'obligation du canton de résidence de prendre en charge la différence de coûts n'existe que pour les traitements appliqués dans un hôpital public ou subventionné par les pouvoirs publics. Une telle obligation n'existe pas lorsque l'assuré se rend dans un hôpital privé, non public ou non subventionné par les pouvoirs publics (ATF 123 V 310).
Au regard de la systématique de la loi, il se justifie également d'interpréter l'art. 49 al. 1 deuxième phrase LAMal de la même manière que l'art. 41 al. 3 première phrase LAMal et de nier toute obligation du canton de contribuer aux frais du traitement hospitalier intracantonal lorsque l'assuré se rend dans un hôpital privé, non subventionné par les pouvoirs publics.
5.3.4 L'interprétation littérale de l'art. 49 al. 1 deuxième phrase LAMal, dans le sens des travaux préparatoires et de la systématique de la loi, apparaît conforme au but et à l'esprit de cette règle, compte tenu des valeurs sur lesquelles elle repose, singulièrement de l'intérêt protégé (interprétation téléologique; ATF 130 II 71 consid. 4.2).
En effet, l'art. 49 al. 1 LAMal a pour but d'instaurer un financement dual des coûts imputables dans la division commune des hôpitaux publics ou subventionnés par les pouvoirs publics. Dès lors, si tout assuré qui séjourne en division privée d'un tel établissement est en droit de recevoir de son assureur-maladie l'équivalent du forfait que celui-ci aurait dû acquitter s'il avait été hospitalisé en division commune, ce forfait doit être calculé selon la règle prévue à l'art. 49 al. 1 LAMal. Or, le texte légal spécifie que, pour les habitants du canton, un tel forfait couvre au maximum, par patient ou par groupe d'assurés, 50% des coûts imputables dans la division commune. C'est pourquoi, logiquement, le canton doit supporter dans tous les cas l'autre partie de ces coûts imputables, soit 50% au minimum, sans égard à la division de l'hôpital public ou subventionné par les pouvoirs publics où séjourne l'assuré (ATF 127 V 429 consid. 5).
Il serait dès lors contraire à la ratio legis que le canton où la personne habite, si celle-ci a été hospitalisée en division commune d'un hôpital privé (ni public ni subventionné par les pouvoirs publics), doive contribuer également à la prise en charge des coûts imputables. Mais l'hôpital privé ne tombant pas sous le coup de la règle instituée à l'art. 49 al. 1 deuxième phrase LAMal, le taux de couverture à la charge des assureurs-maladie s'élève ainsi à 50% au maximum (décision du Conseil fédéral du 23 juin 1999, RAMA 1999 n° KV 83 p. 354 consid. 4.4 et la référence). L'interprétation de cette disposition légale ne permet donc pas que l'assurance obligatoire des soins subventionne indirectement une clinique privée qui ne bénéficie d'aucune subvention de la part des pouvoirs publics. C'est d'ailleurs ce que propose de changer le projet 2A du Conseil fédéral de révision partielle de la loi fédérale du 18 mars 1994 sur l'assurance-maladie, qui envisage le passage au financement lié aux prestations, de sorte qu'on ne pourra plus faire référence aux coûts imputables (voir le rapport explicatif concernant la partie relative au financement hospitalier). Ainsi que le relève avec raison l'OFAS dans son préavis, il n'y a pas lieu, à l'avance, de choisir une solution de lege ferenda.
5.4 Il ne se justifie donc pas de déroger au sens littéral du texte clair de l'art. 49 al. 1 deuxième phrase LAMal, dont l'interprétation exclut toute prise en charge par le canton où habite la personne hospitalisée en division commune d'une clinique privée, de la part des coûts imputables dans un hôpital public ou subventionné par les pouvoirs publics, même si la clinique figure sur la planification cantonale.
6. Les autres arguments invoqués par la recourante ne sont guère plus convaincants, à mesure qu'ils excèdent largement le cadre du problème soumis au juge dans le présent cas. En particulier, il n'appartient pas au Tribunal fédéral des assurances de se prononcer sur la constitutionnalité de l'art. 49 al. 1 LAMal, au regard notamment des art. 3 et 117 Cst. (ATF 127 V 430 consid. 6, 126 V 60 consid. 5 et les références). Le tribunal est en effet tenu d'appliquer la loi (art. 191 Cst.).
7. La procédure n'est pas gratuite (art. 134 OJ a contrario). La recourante, qui succombe, supportera les frais judiciaires (art. 156 al. 1 en corrélation avec l'art. 135 OJ). Elle ne saurait prétendre une indemnité de dépens pour l'instance fédérale (art. 159 al. 1 en liaison avec l'art. 135 OJ).
Par ces motifs, le Tribunal fédéral des assurances prononce:
1. Le recours est rejeté.
2. Les frais de justice, d'un montant de 34'000 fr., sont mis à la charge de la recourante et sont compensés avec l'avance de frais qu'elle a versée.
3. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral de la santé publique.
Lucerne, le 2 septembre 2004
Au nom du Tribunal fédéral des assurances
Le Président de la Ire Chambre: Le Greffier: