Faits:
A. X._ est médecin spécialiste FMH en oto-rhino-laryngologie spécialisé en allergologie et immunologie clinique. Le 1er juillet 1992, il a commencé de donner des consultations au Centre médical A._. Depuis le 1er janvier 1994, il a été médecin responsable de A._ avec son fondateur, B._. Du 1er août 1994 au 31 août 1997, il a été directeur médical de A._.
Le 26 mars 1997, B._ a vendu le capital-actions de A._ à une société anonyme dont l'unique actionnaire était C._. Au cours de l'été 1997, celui-ci a lu des articles de presse faisant état de pratiques douteuses de A._. Le 26 août 1997, il a prié X._ de réduire son taux d'activité à A._ et l'a démis de ses fonctions au 31 août 1997. X._ a résilié le contrat le liant à A._ pour le 31 décembre 1997.
L'activité des médecins de A._, en particulier de X._, a fait l'objet de nombreuses plaintes pour polypragmasie émanant de médecins de la région, de patients et d'assureurs. Il était reproché à X._ d'une part de multiplier les actes médicaux inutiles, tels que des consultations trop fréquentes, des examens de laboratoire non pertinents, des radiographies trop nombreuses, et d'autre part de surfacturer ses prestations, notamment par l'emploi systématique de vacations et de suppléments ORL.
Une expertise a été mise en oeuvre pour déterminer si et dans quelle mesure X._ avait pratiqué la surfacturation et multiplié certains examens médicaux qui n'étaient pas indispensables à ses patients. Elle a été exécutée par deux médecins de la polyclinique médicale universitaire, qui ont examiné 53 dossiers de patients identifiés, une dizaine de dossiers de patients anonymisés et diverses plaintes de patients, de médecins traitants et de médecins-conseils d'assurances. D'une manière générale, les experts sont parvenus à la conclusion qu'il y avait effectivement eu surfacturation et multiplication d'examens médicaux qui n'étaient pas indispensables aux patients.
B. Par jugement du 20 février 2006, le Tribunal correctionnel de l'arrondissement de la Côte a condamné X._ pour escroquerie, escroquerie par métier et gestion déloyale. Le jugement constate, sans se prononcer plus avant, la prescription de l'infraction subsidiaire à l'art. 92 LAMal.
Par arrêt du 9 juin 2006, la Cour de cassation pénale du Tribunal cantonal vaudois a libéré X._ de l'accusation de gestion déloyale et a réduit la peine. Pour le surplus, elle a confirmé le jugement de première instance.
C. Dans deux arrêts datés du 4 avril 2007, la Cour de cassation pénale du Tribunal fédéral a rejeté un pourvoi en nullité du Ministère public, confirmant ainsi l'abandon du grief de gestion déloyale, et admis celui formé par X._. Elle a dans ce contexte définitivement exclu l'hypothèse d'une escroquerie au préjudice des caisses-maladie et a renvoyé la cause à l'autorité cantonale pour déterminer si cette infraction était réalisée au préjudice des patients.
D. Le 7 octobre 2009, le Tribunal correctionnel de l'est vaudois, auquel l'autorité cantonale avait renvoyé la cause, a notamment libéré X._ des fins de la poursuite pénale. Il a en outre, donné à plusieurs caisses-maladie ainsi qu'à A._ acte de leurs réserves civiles à l'encontre de X._. Il a par ailleurs mis à la charge de ce dernier une partie des frais de la cause arrêtée à 10'000 fr.
E. En date du 12 avril 2010, la Cour de cassation pénale du Tribunal cantonal a rejeté le recours formé par X._ contre ce jugement. Elle a en revanche admis le recours de A._ et a modifié le dispositif du jugement attaqué dans ce sens qu'elle condamne X._ à verser à A._ la somme de 5'000 fr. à titre de dépens.
F. X._ forme contre cet arrêt un recours en matière pénale et un recours constitutionnel subsidiaire. Dans ses deux recours il prend les mêmes conclusions, savoir la réforme de l'arrêt attaqué en ce sens que le recours formé contre le jugement de première instance est admis; les frais de deuxième instance sont mis à la charge de A._, subsidiairement laissés à la charge de l'Etat; le jugement de première instance est réformé en ce sens que les conclusions civiles sont rejetées et les frais de cette instance mis à la charge des plaignants et de la partie civile, subsidiairement laissés à la charge de l'Etat; le recours formé par A._ devant l'autorité cantonale est irrecevable, subsidiairement rejeté, et X._ est libéré de toute condamnation au paiement de dépens; le jugement de première instance est confirmé pour le surplus.
Considérant en droit:
1. La décision attaquée concerne principalement la question des frais dans le cadre d'une procédure pénale ayant conduit à un acquittement. Il s'agit donc d'un arrêt rendu en matière pénale au sens de l'art. 78 al. 1 LTF. Dirigé contre un jugement final (art. 90 LTF) rendu par une autorité cantonale de dernière instance (art. 80 LTF), le recours est en principe recevable. Par ailleurs, la jurisprudence admet que les frais sont indissociables de la procédure pénale de sorte que les griefs dirigés contre la fixation des frais, y compris les honoraires, respectivement la rémunération de l'avocat d'office, doivent être invoqués par la voie du recours en matière pénale (ATF 135 IV 43 consid. 1.1.1). S'agissant des conclusions civiles, elle sont à faire valoir dans le cadre d'un recours en matière pénale, conformément à l'art. 78 al. 2 let. a LTF, lorsque l'autorité cantonale de dernière instance devait statuer tant sur le plan pénal que civil, le recours en matière civile n'étant recevable que si seule la question civile était encore litigieuse devant l'autorité cantonale (ATF 133 III 701 consid. 2.1). Comme en l'espèce l'autorité cantonale a statué sur la question des frais, qui relève, ainsi que cela vient d'être rappelé, de la procédure pénale, tant ce point que celui des prétentions civiles peuvent être invoqués par la voie du recours en matière pénale, qui permet d'invoquer notamment toute violation du droit fédéral, y compris de droits constitutionnels (art. 95 let. a LTF). Par conséquent, le recours constitutionnel est exclu en raison de son caractère subsidiaire (art. 113 LTF).
2. Le recourant reproche en premier lieu à l'autorité cantonale d'avoir violé les principes régissant le sort des frais et particulièrement l'art. 158 CPP VD. Selon cette disposition, le prévenu libéré des fins de l'action pénale ne peut être astreint au paiement de tout ou partie des frais que si l'équité l'exige, notamment s'il a donné lieu à l'ouverture de l'action pénale ou s'il en a compliqué l'instruction.
Conformément à la jurisprudence, le principe de la présomption d'innocence consacré par les art. 6 par. 2 CEDH et 32 al. 1 Cst. interdit de prendre une décision défavorable au prévenu libéré en laissant entendre que celui-ci semble coupable de l'infraction qui lui était reprochée (ATF 120 Ia 147 consid. 3b). En outre, la condamnation aux frais n'est tenue pour compatible avec l'interdiction de l'arbitraire que si l'intéressé a provoqué l'ouverture de la procédure pénale dirigée contre lui ou s'il en a entravé le cours. A cet égard, dans le cas ordinaire d'un prévenu capable de discernement, seul un comportement fautif et contraire à une règle juridique, qui soit en relation de causalité avec les frais imputés, peut être déterminant (ATF 116 Ia 162, 114 Ia 299). Dans ce contexte, le juge peut prendre en considération toute règle de l'ordre juridique pour déterminer si le comportement du prévenu est propre à justifier sa condamnation à supporter les frais judiciaires (ATF 116 Ia 162 consid. 2c p. 169).
2.1 En l'espèce, il ressort des constatations de fait de l'autorité cantonale, qui lient le Tribunal fédéral (art. 105 al. 1 LTF), que le recourant a multiplié les actes médicaux inutiles ou trop vastes et a eu recours à des suppléments sans fondement, impliquant une surfacturation. Il a par ailleurs fait un abus de consultations ainsi que d'examens divers. Il a ainsi contrevenu à la règle fixée par l'art. 56 al. 1 LAMal aux termes duquel le fournisseur de prestations doit limiter ses prestations à la mesure exigée par l'intérêt de l'assuré et le but du traitement.
Le recourant se prévaut de la méthode statistique et soutient que faute d'avoir procédé selon celle-ci l'autorité cantonale ne pouvait lui reprocher d'avoir enfreint la règle de l'art. 56 al. 1 LAMal. Contrairement à ce que soutient le recourant, la méthode comparative, qui consiste à confronter la statistique des frais moyens de traitement d'un prestataire de soins avec celle relative aux traitements de ses confrères qui exercent dans des conditions comparables, n'est pas la seule méthode admise par la jurisprudence pour étayer des soupçons de polypragmasie. En effet, le Tribunal fédéral retient, outre la méthode statistique, celle dite analytique, qui consiste à examiner concrètement dans divers cas si les mesures diagnostiques et thérapeutiques entreprises étaient justifiées, si elles n'ont pas été répétées au-delà du nécessaire ou si le choix d'une mesure plus onéreuse était commandé par les circonstances (arrêt K 150/03 du 18 mai 2004 consid. 6.1 non publié in ATF 130 V 377, mais in SVR 2005 KV n° 4 p. 13; ATF 119 V 448 consid. 4 p. 453 ss [afférent à l'art. 23 LAMA mais demeurant valable sous l'empire de l'art. 56 LAMal]). Une combinaison des deux méthodes est même concevable (voir EDOUARD ISELIN, Polypragmasie et étendue de l'obligation de restitution au sens de l'art. 56 al. 2 LAMal, RSAS 2006 p. 109). S'il a indiqué une préférence pour la méthode statistique c'est en raison des limites de la méthode analytique, notamment de son caractère coûteux, qui peut s'avérer dissuasif, et non de son manque de fiabilité de sorte que la jurisprudence n'exclut nullement le recours à cette dernière (voir FRANÇOIS-XAVIER DESCHENAUX, Le précepte de l'économie du traitement dans l'assurance-maladie sociale, in Le droit des assurances sociales en mutation. Mélanges pour le 75e anniversaire du Tribunal fédéral des assurances, Berne 1992, p. 540 s.).
Selon le recourant, la méthode analytique n'a de surcroît pas été appliquée correctement. Il soutient que l'arrêt cantonal ne pouvait pas constater l'existence d'une surfacturation des prestations fournies en l'absence de toute donnée chiffrée. Le recourant ne montre toutefois pas, par une argumentation satisfaisant aux exigences de l'art. 106 al. 2 LTF, en quoi l'autorité cantonale serait tombée dans l'arbitraire en retenant les conclusions de l'expertise du professeur D._ selon lesquelles il y a eu, dans des cas postérieurs à 1996, des actes médicaux inutiles ou trop vastes et des suppléments sans fondement. Dans ces circonstances, ses constatations à ce sujet, qui relèvent de l'établissement des faits, lient le Tribunal fédéral.
2.2 Le recourant soutient par ailleurs que c'est à tort que l'autorité cantonale retient un lien de causalité entre son comportement et les frais mis à sa charge. Selon lui, l'existence de cas de polypragmasie ne justifie pas l'ouverture d'une enquête pénale pour escroquerie.
Contrairement à ce qu'allègue le recourant, il n'était pas d'emblée évident que les cas de polypragmasie qui lui sont imputés ne constituaient pas des escroqueries. Ainsi, dans son arrêt du 4 avril 2007, le Tribunal fédéral n'a pas sans autre exclu la possibilité que les conditions de cette infraction soient réalisées au préjudice des patients. C'est la raison pour laquelle il a renvoyé la cause à l'autorité cantonale pour qu'elle complète l'état de fait et statue à nouveau. Dès lors que le comportement fautif du recourant pouvait, suivant les circonstances, constituer une infraction, le lien de causalité entre celui-ci et les frais mis à sa charge est donné.
2.3 Le recourant prétend par ailleurs que l'arrêt attaqué crée l'apparence que, dans l'esprit des juges, le recourant s'est rendu coupable d'une infraction pénale ou qu'il en subsiste un soupçon. Il soutient notamment que la cour cantonale laisse accroire qu'il pourrait s'être rendu coupable d'une infraction à l'art. 92 LAMal.
Certes, dans l'arrêt attaqué, sous chiffre 3.3.2, la cour cantonale examine la possibilité que des actes de polypragmasie tombent sous le coup de l'art. 92 LAMal. Elle ne tranche toutefois pas cette question, se contentant de conclure qu'en raison du comportement illicite du recourant l'autorité était légitimement en droit d'ouvrir une enquête afin de déterminer s'il s'était rendu coupable d'escroquerie ou d'infraction à l'art. 92 LAMal.
Si ce considérant n'est pas pertinent et apparaît peu judicieux, on ne saurait néanmoins faire grief à l'autorité cantonale d'avoir motivé sa décision relative aux frais par une argumentation laissant penser que le recourant se serait tout de même rendu coupable d'une infraction. En effet, celui-ci n'a jamais été inculpé pour infraction à l'art. 92 LAMal, de sorte que ce n'est pas sur cette base que des frais pouvaient être mis à sa charge et la décision sur ce point est justifiée, comme cela ressort des considérants 2.1 et 2.2 ci-dessus, par d'autres motifs.
3. Le recourant se plaint en outre d'une application arbitraire des art. 97 et 372 CPP VD. Il fait valoir que les dispositions de la LAMal ne fondent pas un droit des caisses-maladie et a fortiori de A._ de réclamer des sommes au recourant. Il soutient par ailleurs que les caisses-maladie n'ont rendu vraisemblable aucun préjudice et qu'elles ne pouvaient donc pas obtenir la réserve de leurs conclusions civiles.
Le recours en matière pénale n'est pas ouvert pour se plaindre d'une violation du droit cantonal (cf. art. 95 et 96 LTF, a contrario). Le Tribunal fédéral ne peut contrôler l'application de celui-ci que sous l'angle restreint de l'arbitraire (art. 9 Cst.), dans le cadre d'un moyen pris de la violation d'un droit constitutionnel du citoyen, soulevé expressément et motivé avec la précision requise par l'art. 106 al. 2 LTF (ATF 133 III 462 consid. 2.3; 133 IV 286 consid. 1.4).
De jurisprudence constante, une décision est arbitraire et donc contraire à l'art. 9 Cst. lorsqu'elle viole nettement une norme ou un principe juridique clair et indiscuté ou contredit de manière choquante le sentiment de la justice et de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si sa décision apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs ou en violation d'un droit certain. En outre, il ne suffit pas que les motifs de la décision soient insoutenables. Il faut encore que celle-ci soit arbitraire dans son résultat (ATF 135 V 2 consid. 1.3 p. 4 s.; 134 I 140 consid. 5.4 p. 148 et les arrêts cités).
En l'espèce, le recourant ne conteste pas l'interprétation de l'autorité cantonale selon laquelle, en cas d'acquittement, le juge doit en principe donner acte de ses réserves à la partie civile et ne peut rejeter les conclusions en indemnité que lorsque celles-ci apparaissent d'emblée dénuées de tout fondement. Il soutient uniquement que tel était le cas, les caisses-maladie n'ayant rendu vraisemblable aucun préjudice et n'étant pas détentrices des créances, qui appartiennent à leurs patients. Il allègue de surcroît que leurs prétentions sont périmées ou prescrites.
Etant constaté (voir consid. 2.1 ci-dessus) que le recourant a procédé à des actes médicaux inutiles ou trop vastes ainsi que des surfacturations, il n'est pas déraisonnable de penser que ces actes ont été honorés et que des montants ont été versés, à raison de ceux-ci, par les caisses-maladie. Conformément à l'art. 56 al. 2 LAMal, la rémunération de prestations qui vont au-delà de la mesure exigée par l'intérêt de l'assuré et le but du traitement peut être refusée, le fournisseur pouvant être tenu de restituer les sommes perçues à tort et l'assureur ayant qualité pour demander la restitution. Dans ces circonstances, on ne saurait admettre qu'il était insoutenable de considérer que les prétentions civiles des caisses-maladie n'apparaissaient pas d'emblée dénuées de tout fondement. Il en va de même s'agissant des prétentions que A._ entend faire valoir à l'encontre du recourant. En effet, il ressort de l'arrêt attaqué que les actes de ce dernier ont amené son ancien employeur à indemniser l'une des compagnies d'assurances à raison de 500'000 fr. Certes, le recourant conteste le bien-fondé de cette indemnité et le fait qu'elle lui soit opposable. Il n'en demeure pas moins qu'il n'est pas insoutenable de considérer que les prétentions de A._ n'apparaissaient pas d'emblée dénuées de tout fondement.
4. Le recourant soutient enfin que l'autorité cantonale a violé les règles de droit cantonal qui régissent le droit à l'attribution de dépens.
4.1 Il allègue en premier lieu que la cour cantonale ne fournit aucune justification à son entrée en matière sur le recours formé devant elle par A._ alors que, selon lui, ce recours n'était pas recevable. Or, aux considérants 1.1 et 1.2, à la p. 16 de l'arrêt attaqué, l'autorité cantonale expose que les dépens sont un accessoire de l'action civile et de ce fait compris dans les conclusions civiles, de sorte que le recours en réforme était ouvert sur ce point en vertu de l'art. 418 al. 1 CPP VD.
Le recourant, qui allègue que l'autorité cantonale ne donne aucune justification à l'entrée en matière sur le recours formé par A._, ne montre pas en quoi l'argumentation évoquée ci-dessus serait arbitraire. Le recours est donc irrecevable sur ce point, faute d'une motivation satisfaisant aux exigences de l'art. 106 al. 2 LTF.
4.2 Pour le surplus, le recourant part de la prémisse qu'il est établi qu'il n'y avait eu ni acte illicite, ni dommage, ni relation de causalité. Cette prémisse, qui va à l'encontre des constatations de fait de l'arrêt attaqué, est erronée. Par ailleurs, comme le relève le recourant, les règles concernant les frais sont applicables par analogie et, au même titre qu'il se réfère aux moyens développés à ce sujet dans son mémoire, le Tribunal se réfère au considérant 2 ci-dessus. Sur ce point également, le recours est mal fondé dans la mesure où il est recevable.
5. Vu l'issue de la procédure, les frais doivent être mis à la charge du recourant qui succombe (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière pénale est rejeté dans la mesure où il est recevable.
2. Le recours constitutionnel subsidiaire est irrecevable.
3. Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Cour de cassation pénale du Tribunal cantonal vaudois.
Lausanne, le 17 février 2011
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Favre Paquier-Boinay