Faits:
A. Par jugement du 24 avril 2009, le Tribunal correctionnel de l'arrondissement de La Côte a condamné A.X._, pour actes d'ordre sexuel avec des enfants, contrainte sexuelle et tentative de contrainte sexuelle, à une peine privative de liberté de dix-huit mois, dont six mois ferme et douze mois avec sursis, le délai d'épreuve étant fixé à quatre ans. Sur le plan civil, il l'a condamné à verser, à titre d'indemnité pour tort moral, une somme de 5000 fr. à B.Y._ et de 500 fr. à sa mère, A.Y._, donnant acte à cette dernière de ses réserves civiles pour le surplus.
B. Statuant le 26 octobre 2009, la Cour de cassation pénale du Tribunal cantonal vaudois a partiellement admis le recours formé par A.X._. Elle a condamné ce dernier à une peine privative de liberté de dix-huit mois, avec sursis pendant quatre ans, ainsi qu'à une amende de 10'000 fr., la peine privative de liberté de substitution en cas de défaut de paiement de l'amende étant de nonante jours.
En bref, elle a retenu les faits suivants:
B.a De 1990 à 2002, A.X._ a fait subir à sa nièce, C.Y._, née le 19 novembre 1985, des attouchements sur la poitrine, à même la peau et par-dessus les vêtements, et sur le sexe, par-dessus la culotte. A une occasion, alors qu'ils étaient dans sa voiture, il a manifesté son intention de lui montrer son sexe. C.Y._ s'est détournée et n'a rien vu. En 2002, à Aubonne, il a essayé de la toucher après avoir enlevé le chandail de sa victime, qui a toutefois pu le repousser en se débattant et en le tapant.
B.b De 2003 aux vacances de Pâques 2005, à raison de plusieurs fois par mois, A.X._ a fait subir à son autre nièce, B.Y._, née en 1990, des attouchements sur la poitrine, à même la peau, et sur le sexe, par-dessus la culotte. A une occasion, alors qu'ils étaient dans sa voiture, il a manifesté son intention de lui montrer son sexe. B.Y._ s'est détournée et n'a rien vu. Il lui a également dit qu'il avait envie de la lécher et de la pénétrer, ce qu'il n'a jamais fait. Il lui a en outre envoyé des sms notamment pour lui dire qu'il avait envie de la toucher.
B.Y._ a fait l'objet d'une expertise de crédibilité. Selon un rapport du 30 août 2007, il n'existe aucun élément provenant de l'analyse de l'attitude de l'expertisée qui pourrait compromettre sa crédibilité.
C. Contre cet arrêt cantonal, A.X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut, principalement, à son acquittement et au rejet des conclusions civiles; subsidiairement, à son annulation et au renvoi de la cause aux autorités cantonales et, plus subsidiairement, au prononcé d'une peine privative de liberté inférieure à dix-huit mois, avec sursis, et non cumulée avec une amende.
B.Y._ et A.Y._ ainsi que le Ministère public vaudois concluent au rejet du recours. Les deux intimées sollicitent en outre l'assistance judiciaire.
Considérant en droit:
1. Le recourant soutient que son droit à un procès équitable consacré par l'art. 6 § 1 CEDH a été violé dès lors qu'il n'était pas assisté d'un avocat lors de son audition du 21 juin 2005 devant la police. Or, durant cette audition, il aurait fait des aveux sur lesquels les juges se seraient fondés pour le condamner. A l'appui de ce grief, il invoque un arrêt de la Cour européenne des droits de l'homme rendu le 27 novembre 2008 (affaire Salduz contre Turquie).
1.1 A l'instar de la plupart des autres cantons, le canton de Vaud n'autorise pas le défenseur à assister aux interrogatoires du prévenu par la police, dans le cadre des recherches préliminaires. Cette situation changera avec l'entrée en vigueur, le 1er janvier 2011, du Code de procédure pénale suisse (CPP; FF 2007 6583), qui consacre le droit à un "avocat de la première heure". Aux termes de l'art. 158 al. 1 let. c CPP, au début de la première audition, la police ou le ministère public informent le prévenu dans une langue qu'il comprend qu'il a le droit de faire appel à un défenseur ou de demander un défenseur d'office. Les auditions effectuées sans que ces informations aient été données ne seront pas exploitables (art. 158 al. 3 CPP). A l'heure actuelle toutefois, aucune disposition de droit fédéral ne garantit un droit à l'avocat de la première heure.
En vertu de l'art. 6 § 3 let. c CEDH, tout accusé a notamment droit à se défendre lui-même ou à avoir l'assistance d'un défenseur de son choix. Cette garantie constitue un aspect particulier du droit au procès équitable au sens de l'art. 6 § 1 CEDH. Cette disposition confère à l'accusé le droit de bénéficier de l'assistance d'un avocat dès les premiers stades des interrogatoires de police, sauf à démontrer, à la lumière des circonstances particulières de l'espèce, qu'il existe des raisons impérieuses de restreindre ce droit. Même dans ce dernier cas, pareille restriction - quelle que soit sa justification - ne doit pas indûment porter atteinte aux droits de l'accusé découlant de l'art. 6 CEDH (arrêt de la Cour européenne des droits de l'homme Salduz c. Turquie du 27 novembre 2008, par. 50 ss).
Dans le cas Salduz contre Turquie, cité par le recourant, le prévenu, encore mineur, avait été arrêté par la police et toute l'instruction s'était faite à charge lors de sa détention sans qu'il ait la moindre possibilité de consulter un avocat. L'Etat avait fait de la déposition livrée à la police par l'intéressé la preuve essentielle justifiant sa condamnation, les déclarations faites par ses coaccusés à sa charge n'ayant pas été maintenues au procès. La Cour européenne des droits de l'homme a jugé dans ce cas que les droits de la défense avaient été irrémédiablement restreints, car l'Etat avait fait de l'aveu de l'intéressé devant la police la preuve essentielle justifiant la condamnation de l'intéressé.
La forme la plus appropriée de "redressement" est, pourvu que le requérant le demande, un nouveau procès conforme aux exigences de l'art. 6 § 1 CEDH (arrêt précité, par. 72).
1.2 En l'espèce, le recourant qui est toujours demeuré libre a fortement tardé à se plaindre du fait qu'il n'avait pas été assisté lors de l'interrogatoire de police. Il a ainsi confirmé ses déclarations devant le juge d'instruction le 18 mai 2006, et n'a consulté un avocat qu'ultérieurement. Lors de l'audience de jugement, il a certes contesté ses déclarations figurant dans son audition du 21 juin 2005, mais au motif qu'il n'avait pas eu l'occasion de relire le procès-verbal avant de le signer (jugement p. 9). Ce n'est en définitive que devant l'autorité de recours cantonale qu'il s'est plaint de ne pas avoir été assisté d'un avocat lors de son audition devant la police. Or, le principe de la bonne foi - qui constitue un principe général du droit également applicable dans le domaine de la procédure - oblige celui qui constate un prétendu vice de procédure à le signaler immédiatement, à un moment où il pourrait encore être corrigé, et lui interdit d'attendre en restant passif afin de pouvoir s'en prévaloir ultérieurement devant l'autorité de recours (ATF 119 Ia 221 consid. 5a p. 228 s.). Le grief soulevé est donc irrecevable, en raison de sa tardiveté.
Au demeurant, il ne ressort pas de l'arrêt entrepris que le recourant a avoué les faits reprochés lors de son audition devant la police et encore mois que ses déclarations faites à la police ont fondé sa condamnation. Les premiers juges ont retenu que le recourant avait certes admis qu'il se bagarrait de façon ludique avec sa nièce, C.Y._, et que, lors de ces bagarres, il n'était pas exclu qu'il l'ait touchée à certains endroits; mais le recourant a nié toute connotation sexuelle aux jeux pratiqués avec sa nièce (jugement p. 9). A propos des dénonciations de sa deuxième nièce, B.Y._, le recourant a formellement contesté tout geste déplacé à son égard. Si, en définitive, la cour cantonale a conclu à la culpabilité du recourant, c'est sur la base des déclarations concordantes des deux victimes, des témoignages de l'entourage, de l'expertise de crédibilité de B.Y._ et du rapport de dénonciation, et non des "prétendus" aveux du recourant. Dans ces conditions, le recourant n'a pas été privé d'un procès équitable en raison de l'absence d'avocat lors de son audition par la police.
2. Le recourant s'en prend à l'appréciation des preuves, qu'il qualifie d'arbitraire à plusieurs égards.
2.1 Le Tribunal fédéral est un juge du droit. Il ne peut revoir les faits établis par l'autorité précédente que si ceux-ci l'ont été de manière manifestement inexacte (art. 97 al. 1 LTF), c'est-à-dire arbitraire. On peut renvoyer, sur la notion d'arbitraire, aux principes maintes fois exposés par le Tribunal fédéral (voir par ex: ATF 135 V 2 consid. 1.3 p. 4/5; 134 I 140 consid. 5.4 p. 148; 133 I 149 consid. 3.1 p. 153 et les arrêts cités). En bref, pour qu'il y ait arbitraire, il ne suffit pas que la décision attaquée apparaisse discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable et cela non seulement dans sa motivation, mais aussi dans son résultat.
2.2 Le recourant critique la force probante de divers témoignages, excipant de contradictions qui les entacheraient. Même s'il doit être retenu que certains témoignages ne sont pas toujours intégralement exacts, s'agissant notamment de la chronologie des événements et de faits qui ne sont pas essentiels à la cause, il ne saurait en être déduit que les témoins ont menti sur des éléments déterminants. En effet, il est dans l'ordre des choses que la mémoire des intéressés ne conserve pas tous les détails d'un ensemble d'événements donnés, ce d'autant que du temps s'est écoulé depuis les fait incriminés. Bien plutôt, ce qui est déterminant, c'est le sens et les appréciations des intervenants prises globalement.
2.2.1 Le recourant soutient que la cour cantonale a retenu arbitrairement les déclarations faites par sa femme, B.X._, lors de son audition du 21 juin 2005, en cours d'enquête, au détriment de ses rectificatifs écrits adressés ultérieurement au juge d'instruction et au président du tribunal de première instance. Il reproche à la cour cantonale de ne pas avoir indiqué les raisons qui l'ont amenée à retenir l'audition du 21 juin 2005 plutôt que les courriers ultérieurs.
Il est vrai que, face à des déclarations contradictoires d'un même témoin, le juge doit motiver les raisons qui le conduisent à retenir une version plutôt que l'autre. La situation est différente en l'espèce: La déposition du 21 juin 2005 constitue un témoignage fait selon les formes prescrites; B.X._ a été informée de son droit de refuser de témoigner en raison des liens de parentés avec le recourant, mais a accepté de déposer, de sorte qu'elle encourait, en cas de fausse déposition, les sanctions prévues à l'art. 307 CP (faux témoignage). En revanche, les rectificatifs ultérieurs sont des simples lettres, qui n'ont pas la valeur d'un témoignage. Dans ces conditions, on ne saurait reprocher à la cour cantonale de les avoir écartés au profit de la déposition du 21 juin 2005. Ce choix s'imposait de par la valeur intrinsèque des déclarations, de sorte que la cour cantonale n'avait pas à le motiver expressément.
2.2.2 Le recourant reproche à la cour cantonale d'être tombée dans l'arbitraire en retenant le témoignage de F._ alors qu'elle s'était rétractée.
La cour cantonale explique que la témoin ne s'est rétractée que s'agissant des attouchements sexuels qu'elle avait déclaré avoir subis de la part du recourant lors d'un voyage à Zurich. En revanche, elle a maintenu ses déclarations à propos de ce que le recourant lui avait dit de ses relations avec C.Y._ et B.Y._. Dans ces conditions, la cour cantonale n'est pas tombée dans l'arbitraire en retenant, entre autres, le témoignage de F._ pour fonder la condamnation du recourant.
2.2.3 Le recourant fait valoir que la cour cantonale a retenu, de manière arbitraire, le témoignage de D.Y._, père des victimes.
Le témoignage de celui-ci ne porte pas sur les faits incriminés, mais sur la crédibilité des jeunes filles. Le père des victimes a expliqué que ses filles ne lui avaient jamais menti et qu'il tenait dès lors leurs déclarations comme crédibles. Ce témoignage doit certes être accueilli avec quelque réserve vu les relations familiales existant entre le témoin et les victimes. Il constitue néanmoins un élément supplémentaire en faveur de la crédibilité des jeunes filles.
2.2.4 Le recourant soutient que c'est de manière arbitraire que le témoignage de la voisine de ses nièces, G._, a été retenu pour fonder sa condamnation. Il soutient que son témoignage quant au comportement qu'avait B.Y._ avec les hommes a considérablement varié.
Dans son audition devant la police, la voisine a déclaré que B.Y._ cherchait un ami et avait une relation privilégiée avec un homme. Devant le juge d'instruction, elle a ajouté que la jeune fille n'était pas une obsédée sexuelle, mais une adolescente qui posait différentes questions en adéquation avec son âge. La cour de céans ne voit pas en quoi ces déclarations seraient contradictoires et pourquoi dès lors la cour cantonale aurait dû écarter le témoignage de G._.
2.2.5 Le recourant fait valoir que c'est de manière arbitraire que la cour cantonale a retenu que les déclarations de B.Y._ et de C.Y._ étaient parfaitement crédibles. Il reproche aux juges cantonaux d'avoir commis un déni de justice en n'examinant pas les arguments développés dans son recours.
Contrairement à ce que soutient le recourant, on ne saurait considérer que la cour cantonale n'est pas entrée en matière sur les griefs soulevés par le recourant. Elle les a rejetés au motif que les points relevés étaient d'importance toute relative. Ce n'est qu'à titre subsidiaire qu'elle a ajouté que le recours aux procès-verbaux d'audition ne pouvait se faire devant la Cour de cassation pour tenter de démontrer des lacunes ou contradictions dans le jugement. Dans ces conditions, on ne saurait reprocher à la cour de céans de ne pas avoir répondu aux griefs du recourant, de sorte que le grief de déni de justice doit être rejeté.
Dans un premier grief, le recourant s'en prend à la crédibilité de C.Y._. Il soutient que celle-ci n'aurait pas eu de doutes quant aux accusations portées par sa soeur contre son oncle si elle avait subi le même genre d'attouchements de la part du recourant. Ce grief n'est pas pertinent. Les doutes de la jeune fille sur les accusations portées par sa soeur n'impliquent pas qu'elle ait elle-même accusé à tort le recourant. Elle pouvait, par exemple, penser que son oncle n'oserait pas toucher sa soeur en raison de son retard mental (cf. audition n° 3, p. 4).
Le recourant met également en cause la crédibilité de B.Y._. Celle-ci a toutefois fait l'objet d'une expertise, qui a conclu à la crédibilité de ses allégations, et l'ensemble des témoins a attesté de sa crédibilité. Le fait qu'elle a déclaré, une fois, avoir parlé de ces abus d'abord à sa voisine et, à une autre occasion, d'abord à sa thérapeute ne saurait signifier que les accusations portées contre son oncle sont fausses. Au contraire. L'expert a relevé que les sauts dans l'évocation des époques et un certain désordre chronologique dans la séquence des événements racontés parlaient contre une déclaration fabriquée. De même, le fait que le recourant a signifié à sa nièce son interdiction de revenir à la maison au début du mois de mai 2005 et que la jeune fille a dénoncé les attouchements à sa voisine le 12 mai 2005 ne permet pas de conclure à ce que B.Y._ a menti. Il n'est certes pas exclu que la jeune fille ait dénoncé son oncle par esprit de vengeance; cela n'implique toutefois pas que les faits dénoncés soient faux.
3. La cour cantonale a condamné le recourant pour actes d'ordre sexuel au sens de l'art. 187 ch. 1 al. 3 CP pour avoir manifesté son intention de montrer son sexe en voiture séparément à chacune des deux victimes.
Le recourant conteste que l'art. 187 CP soit applicable à de tels actes. Il soutient que ceux-ci pourraient, tout au plus, relever de la tentative d'exhibitionnisme (art. 194 CP).
3.1 Aux termes de l'art. 187 ch. 1 al. 3 CP, celui qui aura mêlé un enfant de moins de 16 ans à un acte d'ordre sexuel sera puni d'une peine privative de liberté de cinq ans au plus ou d'une peine pécuniaire. Cette infraction suppose que l'auteur rende l'enfant spectateur ou auditeur d'un acte d'ordre sexuel accompli par l'auteur ou un tiers. Il ne suffit pas que le jeune soit le témoin fortuit de l'acte. Il doit être utilisé comme un élément du jeu sexuel. Tel est le cas lorsque l'auteur se masturbe devant un enfant. Il importe peu que ce dernier ait saisi ou non le caractère sexuel de l'acte et le but poursuivi par l'auteur. Il doit toutefois percevoir directement l'acte par ses sens, en être le spectateur ou l'auditeur (FF 1985 II 1082; ATF 129 IV 168 consid. 3.1).
Comme le fait de mêler un enfant à un acte d'ordre sexuel porte moins gravement atteinte à son développement paisible que de commettre un tel acte sur sa personne (art. 187 ch. 1 al. 1 CP) ou de l'inciter à un tel acte (art. 187 ch. 1 al. 2 CP), seuls des comportements qui revêtent une certaine gravité et qui sont propres à porter atteinte au développement non perturbé de l'enfant tombent sous le coup de l'art. 187 ch. 1 al. 3 CP (ATF 129 IV 168 consid. 3.2 p. 171; STEFANIA SUTER-ZÜRCHER, Die Strafbarkeit der sexuellen Handlungen mit Kindern nach Art. 187 StGB, Diss. 2003, p. 65). Seront dès lors punissables selon l'alinéa 3 le fait de mêler un enfant notamment aux actes suivants: rapports sexuels, introduction d'objets dans le vagin ou l'anus, frottement des parties sexuelles avec les parties génitales d'une tierce personne, masturbation (MAIER, Basler Kommentar, Strafrecht II, 2e éd., 2007, n. 14 ad art. 187).
D'après certains auteurs, le fait de présenter à un enfant un sexe dénudé en érection tombe déjà sous le coup de l'art. 187 CP (JENNY, Kommentar zum schweizerische Strafrecht, 4e vol., 1997, n. 21 ad art. 187; TRECHSEL et al., Schweizerisches Strafgesetzbuch, Praxiskommentar, 2008, n. 6 ad art. 187; cf. aussi RJN 1999 p. 116). Selon d'autres auteurs, il s'agit-là toutefois d'une interprétation plutôt extensive de la notion d'acte d'ordre sexuel (CORBOZ, Les infractions en droit suisse, vol. I, 2002, n. 26 ad art. 187 CP); pour être condamné en application de l'art. 187 ch. 1 al. 3 CP, l'auteur doit procéder à des manipulations sur son propre corps en vue d'obtenir une érection ou accomplir des actes de masturbation devant l'enfant; la seule exhibition des organes génitaux à la vue d'un enfant doit être punie exclusivement selon l'art. 194 CP (dans ce sens, cf. REHBERG, Das revidierte Sexualstrafrecht, PJA 93 p. 16 ss, 19; DONATSCH, Strafrecht III, Delikte gegen den Einzelnen, 9e éd., 2008, p. 463; cf. aussi arrêt du 10 août 2005 du Tribunal cantonal de Soleure in SOG 2005 n° 9).
3.2 La cour de céans n'a pas besoin de prendre position sur cette question, puisque, de toute façon, quelle que soit l'opinion suivie, l'état de fait cantonal ne permet pas de condamner le recourant. En effet, l'arrêt attaqué retient qu'"à une occasion, alors qu'ils étaient dans sa voiture, le recourant a manifesté son intention de lui montrer son sexe. C.Y._, resp. B.Y._, s'est détournée et n'a rien vu". Il ne ressort dès lors pas des faits constatés que le recourant a accompli un acte d'ordre sexuel ni même qu'il a exhibé son sexe. Les éléments retenus en fait ne permettent ainsi pas de condamner le recourant pour avoir mêlé un enfant à un acte d'ordre sexuel au sens de l'art. 187 ch. 1 al. 3 CP. En outre, s'agissant de C.Y._, l'état de fait cantonal ne permet pas de déterminer si la jeune fille avait effectivement moins de seize ans au moment des faits, puisqu'elle est née le 19 novembre 1985 et que le fait litigieux s'est produit entre 1990 et 2002. Dans ces conditions, la cour cantonale a violé le droit fédéral en condamnant le recourant selon l'art. 187 ch. 1 al. 3 CP pour avoir seulement manifesté son intention de montrer son sexe à ses nièces. Sur ce point, le recours doit donc être admis.
4. La cour cantonale a également condamné le recourant pour actes d'ordre sexuel pour avoir dit à B.Y._ qu'il avait envie de la lécher et de la pénétrer et lui avoir envoyé des sms notamment pour lui dire qu'il avait envie de la toucher.
Le recourant conteste que ces faits tombent sous le coup de l'art. 187 CP.
4.1 L'infraction définie à l'art. 187 ch. 1 al. 1 CP réprime le fait de commettre un acte d'ordre sexuel sur un enfant de moins de seize ans. L'infraction suppose donc la réalisation d'un acte d'ordre sexuel. Par acte d'ordre sexuel, il faut entendre un acte sur le corps humain qui tend à l'excitation ou à la satisfaction de l'instinct sexuel de l'un des participants au moins; l'acte suppose un contact physique (CORBOZ, op. cit., n. 5 ss ad art. 187 CP).
4.2 En l'espèce, le recourant s'est borné à importuner sa nièce par des paroles grossières, en exprimant grossièrement son désir sexuel pour elle et les rapports qu'il aurait voulu avoir avec elle. Il n'a pas passé à l'acte et n'a donc accompli aucun acte d'ordre sexuel. La cour cantonale a donc violé le droit fédéral en retenant l'application de l'art. 187 CP. En revanche, ces grossièretés sont éventuellement constitutives de l'infraction définie à l'art. 198 al. 2 CP (cf. CORBOZ, op. cit., n. 13-16 ad art. 198 CP). Sur ce point, le recours doit donc être également admis.
5. Le juge de première instance avait condamné le recourant à une peine privative de liberté de dix-huit mois, dont six mois ferme et douze mois avec sursis. Si la cour cantonale a considéré que la peine de dix-huit mois correspondait à la faute de l'auteur, elle a en revanche jugé que le pronostic n'était pas défavorable et a accordé au recourant le sursis complet. Elle a ajouté à cette peine avec sursis, à titre de sanction immédiate, une amende en application de l'art. 42 al. 4 CP, fixant la quotité de l'amende à 10'000 fr. et la peine privative de liberté de substitution, à 90 jours.
Le recourant se plaint que le prononcé d'une amende constitue une aggravation non justifiée de sa peine. En outre, il relève que la cour cantonale mélange la notion d'amende et de peine pécuniaire.
5.1 Selon l'art. 42 al. 4 CP, le juge peut prononcer, en plus d'une peine assortie du sursis, une peine pécuniaire sans sursis ou une amende selon l'art. 106 CP. Le Tribunal fédéral s'est prononcé sur cette combinaison de peines dans deux arrêts de principe (ATF 134 IV 1 et 60). Cette combinaison se justifie lorsque le sursis peut être octroyé, mais que, pour des motifs de prévention spéciale, une sanction ferme accompagnant la sanction avec sursis paraît mieux à même d'amener l'auteur à s'amender. Elle doit contribuer, dans l'optique de la prévention tant générale que spéciale, à renforcer le potentiel coercitif de la peine avec sursis. Cette forme d'admonestation adressée au condamné doit attirer son attention (et celle de tous) sur le sérieux de la situation en le sensibilisant à ce qui l'attend s'il ne s'amende pas (ATF 134 IV 60 consid. 7.3.1 p. 75). La combinaison prévue à l'art. 42 al. 4 CP constitue un "sursis qualitativement partiel" (ATF 134 IV 1 consid. 4.5.2 p. 8).
La peine prononcée avec sursis reste prépondérante, alors que la peine pécuniaire sans sursis ou l'amende est d'importance secondaire. Cette combinaison de peines ne doit pas conduire à une aggravation de la peine globale ou permettre une peine supplémentaire. Elle permet uniquement, dans le cadre de la peine adaptée à la culpabilité, une sanction correspondant à la gravité des faits et à la personnalité de l'auteur. Les peines combinées, dans leur somme totale, doivent être adaptées à la faute (ATF 134 IV 1 consid. 4.5.2 p. 8; 134 IV 60 consid. 7.3.2 p. 75). Pour tenir compte du caractère accessoire des peines cumulées, il se justifie en principe d'en fixer la limite supérieure à un cinquième, respectivement à 20 %, de la peine principale; des exceptions sont possibles en cas de peines de faible importance pour éviter que la peine cumulée n'ait qu'une portée symbolique (ATF 135 IV 188 consid. 3.4.4 p. 191).
5.2 En l'espèce, il ressort des considérants et du dispositif de l'arrêt attaqué que la cour cantonale a voulu prononcer comme peine additionnelle une amende fixée en francs (art. 106 al. 1 CP), avec peine privative de liberté de substitution (art. 106 al. 2 CP), ce que l'art. 42 al. 4 CP autorise même lorsque l'infraction prévue par la partie spéciale ne prévoit pas expressément l'amende à titre de sanction (cf. l'ancien art. 50 al. 2 CP; arrêt du Tribunal fédéral du 13 mai 2008 6B_152/2007 consid. 6). C'est donc à tort que la cour cantonale parle de peine pécuniaire et qu'elle se réfère, quant à la fixation du montant, à l'art. 34 CP.
Comme indiqué ci-dessus, en cas de peines combinées de l'art. 42 al. 4 CP, l'amende ne peut pas conduire à une aggravation de la peine ou au prononcé d'une peine supplémentaire. Si une peine combinée est justifiée, les deux sanctions considérées ensemble doivent correspondre à la gravité de la faute. En l'espèce, si la cour cantonale considérait qu'une peine privative de liberté de dix-huit mois était proportionnée à la faute et qu'elle désirait ajouter, comme le lui autorise l'art. 42 al. 4 CP, une amende de 10'000 fr., elle devait réduire la peine privative de liberté avec sursis en conséquence (cf. ATF 134 IV 53 consid. 5.2 p. 55 s.). Sur ce point également, le recours doit donc être admis.
6. Au vu de ce qui précède, le recours doit être partiellement admis, l'arrêt attaqué doit être annulé et la cause renvoyée à la cour cantonale pour qu'elle réexamine la cause dans le sens des considérants et revoie en conséquence la mesure de la peine et, le cas échéant, le montant des indemnités civiles.
Le recourant obtient partiellement gain de cause sur une partie des griefs soulevés, les autres étant rejetés. Il n'en obtient pas moins, matériellement, l'annulation de l'arrêt entrepris et le renvoi de la cause à l'autorité cantonale. Il n'y a pas lieu de prélever des frais (art. 66 al. 1 et 4 LTF). Une indemnité de dépens sera allouée au recourant, laquelle sera mise à la charge du canton de Vaud (art. 68 al. 1 LTF).
A.Y._ et B.Y._ ont requis l'assistance judiciaire. Les revenus dont elles disposent et les conclusions qu'elles ont prises, qui n'étaient pas vouées à l'échec, justifient qu'il soit fait droit à leur requête (art. 64 al. 1 LTF). Elles sont, en conséquence, dispensées des frais judiciaires. La complexité de la cause et les intérêts en jeu justifient qu'un avocat d'office leur soit désigné (art. 64 al. 2 LTF) qui sera indemnisé par la caisse du Tribunal fédéral.
Le Ministère public vaudois n'est pas condamné au frais dans la mesure où il succombe (art. 66 al. 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis, l'arrêt attaqué est annulé et la cause est renvoyée à la cour cantonale pour nouveau jugement. Pour le surplus, le recours est rejeté.
2. Il n'est pas perçu de frais judiciaires.
3. Le canton de Vaud versera au recourant une indemnité de 3'000 fr. à titre de dépens.
4. La requête d'assistance judiciaire de A.Y._ est admise et Me Sandra Genier Müller, avocate à Lausanne, lui est désignée comme avocate d'office.
5. La Caisse du Tribunal fédéral versera à Me Sandra Genier Müller une indemnité de 1'000 fr. à titre d'honoraires d'avocat d'office.
6. La requête d'assistance judiciaire de B.Y._ est admise et Me Alain Sauteur, avocat à Lausanne, lui est désigné comme avocat d'office.
7. La Caisse du Tribunal fédéral versera à Me Alain Sauteur une indemnité de 1'000 fr. à titre d'honoraires d'avocat d'office.
8. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Cour de cassation pénale.
Lausanne, le 27 juillet 2010
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Favre Kistler Vianin