Faits :
A.
Par ordonnance du 9 octobre 2017, le Ministère public de l'arrondissement de La Côte a ordonné le classement de la procédure pénale dirigée contre X._ et Y._ pour calomnie, subsidiairement diffamation, à la suite des plaintes déposées par A.A._, B.A._, C.A._, D.A._, E._ et F.A._.
B.
Par arrêt du 1er février 2018, la Chambre des recours pénale du Tribunal cantonal vaudois a rejeté le recours de A.A._, ainsi que celui de B.A._, C.A._, D.A._, E._ et F.A._.
C.
Contre ce dernier arrêt, A.A._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut, principalement, à l'annulation de l'ordonnance de classement et au renvoi de X._ et Y._ devant l'autorité de jugement. A titre subsidiaire, il demande l'annulation de l'arrêt attaqué et le renvoi de la cause à la cour cantonale pour nouvelle décision.
Par ordonnance du 17 avril 2018, le Président de la Cour de droit pénal du Tribunal fédéral a rejeté la demande d'effet suspensif et la requête de mesures provisionnelles du recourant.
Par arrêt du 11 mai 2018 (arrêt 6B_316/2018), la Cour de droit pénal du Tribunal fédéral a déclaré irrecevable le recours formé par B.A._, C.A._, D.A._, E._ et F.A._ contre l'arrêt cantonal du 1er février 2018.
Considérant en droit :
1.
Le recourant conteste le classement prononcé par la cour cantonale s'agissant de l'accusation de calomnie et de diffamation visant les intimées X._ et Y._.
1.1. Selon l'art. 319 al. 1 let. b CPP, le ministère public ordonne le classement de tout ou partie de la procédure lorsque les éléments constitutifs d'une infraction ne sont pas réunis. Sa décision doit respecter le principe " in dubio pro duriore " en vertu duquel un classement ne peut être prononcé par le ministère public que lorsqu'il apparaît clairement que les faits ne sont pas punissables ou que les conditions à la poursuite pénale ne sont pas remplies. Le ministère public et l'autorité de recours disposent, dans ce cadre, d'un pouvoir d'appréciation que le Tribunal fédéral revoit avec retenue. La procédure doit se poursuivre lorsqu'une condamnation apparaît plus vraisemblable qu'un acquittement ou lorsque les probabilités d'acquittement et de condamnation apparaissent équivalentes, en particulier en présence d'une infraction grave (ATF 143 IV 241 consid. 2.3.2; 138 IV 86 consid. 4.1.2 p. 91; 186 consid 4.1 p. 190).
1.2. Les art. 173 et 174 CP protègent la réputation d'être une personne honorable, c'est-à-dire de se comporter comme une personne digne a coutume de le faire selon les conceptions généralement reçues. L'honneur protégé par le droit pénal est conçu de façon générale comme un droit au respect, qui est lésé par toute assertion propre à exposer la personne visée au mépris en sa qualité d'homme (ATF 137 IV 313 consid. 2.1.1; 132 IV 112 consid. 2.1; 128 IV 53 consid. 1a).
Selon l'art. 173 ch. 1 CP, se rend coupable de diffamation celui qui, en s'adressant à un tiers, aura accusé une personne ou jeté sur elle le soupçon de tenir une conduite contraire à l'honneur, ou de tout autre fait propre à porter atteinte à sa considération, ou celui qui aura propagé une telle accusation ou un tel soupçon. L'art. 173 ch. 2 CP prévoit que l'auteur n'encourra aucune peine s'il prouve que les allégations qu'il a articulées ou propagées sont conformes à la vérité ou qu'il avait des raisons sérieuses de les tenir de bonne foi pour vraies. L'admission à la preuve libératoire constitue la règle. Elle ne peut être refusée que si deux conditions sont réunies cumulativement: l'auteur a agi principalement dans le but de dire du mal d'autrui et il s'est exprimé sans motif suffisant.
A teneur de l'art. 174 ch. 1 CP, se rend coupable de calomnie celui qui, connaissant la fausseté de ses allégations, aura, en s'adressant à un tiers, accusé une personne ou jeté sur elle le soupçon de tenir une conduite contraire à l'honneur, ou de tout autre fait propre à porter atteinte à sa considération, ou celui qui aura propagé de telles accusations ou de tels soupçons, alors qu'il en connaissait l'inanité.
2.
Il convient d'examiner successivement les différentes infractions dont le recourant accuse les intimées.
2.1. Les propos tenus dans la procédure de mesures protectrices de l'union conjugale
Le recourant reproche à l'intimée X._ d'avoir allégué dans la procédure de mesures protectrices de l'union conjugale que les samedi soirs, son beau-père tenait des " sermons (...) islamistes et antisémites dans le local de son association culturelle, mais qui n'est qu'une couverture pour faire du prosélytisme pro-islamiste ".
2.1.1. Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. On entend par partie plaignante le lésé qui déclare expressément vouloir participer à la procédure pénale comme demandeur au pénal ou au civil (art. 118 al. 1 CPP). La notion de lésé est définie à l'art. 115 CPP. Il s'agit de toute personne dont les droits ont été touchés directement par une infraction. En règle générale, seul peut se prévaloir d'une atteinte directe le titulaire du bien juridique protégé par la disposition pénale qui a été enfreinte (ATF 141 IV 1 consid. 3.1 p. 5 s.).
Selon l'art. 42 al. 1 LTF, il incombe au recourant d'alléguer les faits qu'il considère comme propres à fonder sa qualité pour recourir. Lorsque les conditions de légitimation ne sont pas évidentes, le recourant doit démontrer que celles-ci sont réunies. Ce n'est en effet pas la tâche du Tribunal fédéral de rechercher à l'aide du dossier ou d'autres documents que le recourant est habilité à recourir (ATF 138 IV 86 consid. 3 p. 88; 133 II 353 consid. 1 p. 356). Si la partie plaignante invoque des infractions distinctes, elle doit mentionner par rapport à chacune d'elles en quoi consiste son dommage (arrêt 6B_432/2015 du 1er février 2016 consid. 1.2).
2.1.2. Pour qu'une personne soit atteinte dans son honneur, il faut qu'elle soit personnellement visée par les propos dont elle se plaint. Mis à part le cas particulier du défunt, nul n'est en principe lésé dans son droit à l'honneur par une attaque dirigée contre un tiers, même si celui-ci est proche. La doctrine émet certes l'hypothèse qu'une personne puisse être dénigrée par une référence à un comportement méprisable de l'un de ses proches; tel est le cas par exemple si les propos ont pour but d'abaisser la personne réellement visée en révélant qu'elle aurait parmi ses proches quelqu'un qui aurait commis une infraction déterminée (BERNARD CORBOZ, La diffamation, in SJ 1992 p. 638).
En l'espèce, l'intimée s'est plainte de devoir aller écouter le samedi soir les sermons " islamistes et antisémites " de son beau-père. La personne éventuellement outragée par ces propos est l'auteur des sermons, à savoir le père du recourant. Le recourant n'explique pas en quoi il serait néanmoins dénigré en sa qualité de proche. A défaut d'explication à cet égard, il faut admettre que le recourant n'est pas touché par les propos litigieux et n'a donc pas qualité pour déposer un recours en matière pénale en ce qui concerne le classement de cette infraction. La cour de céans n'entrera donc pas en matière sur l'argumentation du recourant concernant cette infraction.
2.1.3. Pour les autres propos tenus dans la procédure de mesures protectrices de l'union conjugale, la cour cantonale a appliqué l'art. 14 CP. Selon la jurisprudence, des déclarations objectivement attentatoires à l'honneur peuvent être justifiées par le devoir d'alléguer des faits dans le cadre d'une procédure judiciaire. Tant la partie que son avocat peuvent se prévaloir de l'art. 14 CP à condition de s'être exprimé de bonne foi, de s'être limité à ce qui est nécessaire et pertinent et d'avoir présenté comme telles de simples suppositions (ATF 131 IV 154 consid. 1.3.1 p. 157; 123 IV 97 consid. 2c/aa p. 99; 118 IV 248 consid. 2c et d p. 252/253; 116 IV 211 consid. 4a p. 213 ss). Le recourant ne conteste pas l'application de cette jurisprudence, du moins pas par une motivation respectant les exigences posées à l'art. 42 al. 2 CP. Il n'y a ainsi pas lieu d'examiner plus avant cet aspect.
2.2. Les propos tenus par Y._
Le recourant reproche à Y._ d'avoir tenu des propos attentatoires à l'honneur lors de son audition du 3 décembre 2015 (cf. PV d'audition 1, lignes 222 et 228).
Y._ a déclaré que l'intimée X._ lui avait parlé " de séances de propagande islamiste qui ne lui plaisaient pas " et lui avait montré la porte d'un local qui se trouvait " sur le même étage que l'appartement des A._. C'est un local dans lequel il y aurait des réunions pour parler de l'islam, menées par son beau-père. D'après X._, il s'agit d'un Islam extrême. (....) Comme je l'ai compris, il s'agit d'endoctrinement, d'une forme de propagande. Pour répondre à la question de la procureure, il s'agit d'une propagande hostile à l'occident " (arrêt attaqué p. 5 let. d)
2.2.1. Le recourant a expliqué qu'il entendait faire valoir une indemnité pour tort moral d'un montant qui devrait se situer en dessous de 500 francs. Il a exposé que les prétendues attaques des intimées étaient d'autant plus offensantes qu'il enseignait les valeurs d'un Etat laïc en tant que doyen d'un collège lausannois. Savoir si de telles explications sont suffisantes au regard de l'art. 81 LTF peut rester ouvert, le grief devant de toute façon être rejeté.
2.2.2. Sur le fond, il faut admettre que l'intimée Y._ n'a pas diffamé le recourant. Les références aux séances de propagande islamiste tenues par le beau-père de son amie ne portent pas directement atteinte à l'honneur du recourant (cf. ci-dessus, consid. 2.1.2). Les seuls termes d' " endoctrinement " et de " propagande " ne sont en lien avec aucune idéologie raciste (cf. art. 261bis CP). L'intimée a mis en outre des réserves en précisant " comme je l'ai compris ". Enfin, en s'adressant à la justice, elle pouvait partir de l'idée que celle-ci ferait la lumière nécessaire sur ses propos. Dans ces conditions, la cour cantonale n'a pas violé le droit fédéral en niant toute atteinte à l'honneur et en ordonnant le classement de la procédure.
2.3. Les propos contenus dans l'enregistrement qui était disponible sur internet
Le recourant fait grief à l'intimée X._ d'avoir publié sur le site Internet de l'Eglise évangélique apostolique de G._ en décembre 2014 un témoignage portant atteinte à sa considération. Ce témoignage contient en particulier les passages suivants:
" quand j'avais 21 ans, mon père m'a présenté un homme. C'est (...) le fils d'un grand islamiste qui a soutenu la révolution islamique en Iran. Il me l'a présenté pour (...) le mariage.
(...)
(...) j'ai supporté être esclave à sa famille, faire le ménage, s'occuper des enfants, j'étais pas moi-même. (...)
(...)
Et (...), à cette époque-là, moi je n'ai pas encore quitté l'appartement conjugal. Alors à chaque fois je sors de la maison, je trouve mon beau-père en face de moi, et (...) il m'insultait et (...) à chaque fois il me disait (...) des trucs comme: tu... tu...tu es israélienne, tu es juive, c'est pour ça que tu vas dégager, (...) je souhaite ta mort, etc.
(...)
Moi j'ai dit à mon mari: écoute A.A._, il s'appelle A.A._ (...) j'ai fait des sacrifices pour être avec toi. Regarde j'ai porté le voile. C'est...c'est vachement dur pour moi. (...). Je pense que tu ne vas pas me jeter. (...)
(...) je le vois pas ce beau-père. (...) parce que moi c'est l'horreur cette personne-là, elle est vraiment l'horreur, si vous écoutez sa voix, vous allez comprendre.
(...)
Alors (...) après je découvre le nom de cette famille c'est H._, (...). J'suis allée voir la famille. C'était bien, en même temps j'avais peur qu'ils ne m'acceptent pas, (...), tellement j'étais à l'aise avec eux. Loin de tous ces maux, de tous ces gens, de tous ces cruels, (...). " (arrêt attaqué p. 4).
2.3.1. La qualité pour recourir du recourant peut rester ouverte, le grief devant de toute façon être rejeté sur le fond.
2.3.2. Sur le fond, les conditions de l'atteinte à l'honneur ne sont pas réalisées. Pour qu'il y ait atteinte à l'honneur, il faut que la personne visée soit reconnaissable (ATF 117 IV 27 consid. 2c p. 29). Le prénom " A.A._ " est certes un prénom rare. Sur la base de cette seule indication, il n'est toutefois pas possible de reconnaître le recourant A.A._. Dès lors, les propos litigieux ne pouvaient pas porter atteinte à l'honneur du recourant. C'est donc à juste titre que la cour cantonale a ordonné le classement de la procédure.
3.
Le recourant se plaint également de la violation de son droit d'être entendu (art. 29 al. 2 Cst. et 6 CEDH; art. 6 CPP). Il ne précise toutefois pas quel moyen de preuve la cour cantonale aurait dû administrer et sur quel fait celui-ci devait porter. A défaut de plus amples précisions, le grief soulevé est irrecevable (cf. art. 106 al. 2 LTF).
4.
Le recourant se plaint enfin de la disjonction des plaintes déposées les 6 et 11 juillet 2017 d'avec la présente affaire.
4.1. L'art. 29 CPP règle le principe de l'unité de la procédure pénale. Il prévoit qu'il y a lieu de poursuivre et juger, en une seule et même procédure, l'ensemble des infractions reprochées à un même prévenu et/ou l'ensemble des coauteurs et participant (complices et instigateurs) à une même infraction (JEANNERET/KUHN, Précis de procédure pénale, 2018, n° 3034). Le principe de l'unité de la procédure tend à éviter les jugements contradictoires et sert l'économie de la procédure (ATF 138 IV 29 consid. 3.2 p. 31; 138 IV 214 consid. 3.2 p. 219). Selon l'art. 30 CPP, la disjonction peut être ordonnée si des raisons objectives le justifient. Elle doit rester l'exception. Elle doit avant tout servir à garantir la rapidité de la procédure et à éviter un retard inutile (ATF 138 IV 214 consid. 3.2 p. 219). Des procédures pourront être disjointes, par exemple, lorsque plusieurs faits sont reprochés à un auteur et que seule une partie de ceux-ci sont en état d'être jugés, la prescription s'approchant (ATF 138 IV 214 consid. 3.2 p. 219). Des raisons d'organisation des autorités de poursuite pénale ne suffisent pas (ATF 138 IV 214 consid. 3.2 p. 219).
4.2. Il existe certes une connexité objective et subjective (même complexe de faits et mêmes parties) entre les griefs contenus dans les plaintes déposées en 2017 et la présente affaire. Le ministère public avait toutefois terminé l'instruction de la présente affaire et s'apprêtait à rendre une ordonnance de classement. Il n'y avait pas lieu de retarder le prononcé de celle-ci au motif que le recourant avait déposé une nouvelle plainte. Le recourant prétend que l'instruction des premières plaintes n'était pas close, mais ne mentionne pas les faits qu'il convenait d'instruire et les moyens de preuve qu'il fallait encore administrer. Le grief soulevé est infondé.
5.
Le recours doit être rejeté dans la mesure où il est recevable.
Le recourant qui succombe devra supporter les frais judiciaires (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 28 juin 2018
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Kistler Vianin