Faits :
A.
Par jugement du 25 juillet 2017, le Tribunal de police de l'arrondissement de l'Est vaudois a condamné X._, pour dommages à la propriété qualifiés et contravention à la loi vaudoise du 10 décembre 1969 sur la protection de la nature, des monuments et des sites (LPNMS; RS/VD 450.11), à une peine pécuniaire de 25 jours-amende à 50 fr. le jour et à une amende de 1'000 fr., la peine privative de liberté de substitution étant de 10 jours, peine complémentaire à celles prononcées le 11 décembre 2014 par le Ministère public de l'arrondissement de l'Est vaudois et le 4 juillet 2017 par le Tribunal de police de l'arrondissement de l'Est vaudois. Sur le plan civil, il a dit que X._ était le débiteur de A._, B._, C._, D._ et E._, solidairement entre eux, des montants suivants: 21'328 fr. 60 avec intérêts à 5 % l'an dès le 2 juillet 2017, à titre de dommages-intérêts; 360 fr., valeur échue, à titre de dommages-intérêts, et 10'239 fr. 40 à titre d'indemnité pour les dépenses occasionnées par la procédure.
B.
Par jugement du 5 janvier 2018, la Cour d'appel pénale du Tribunal cantonal vaudois a rejeté l'appel principal formé par X._ et l'appel joint des plaignants A._, B._, C._, D._ et E._.
En substance, elle a retenu les faits suivants:
En octobre 2014, à F._, X._, qui s'était proposé d'acquérir, avec G._, trois chalets sis sur la commune de F._, propriétés de A._, B._, C._, D._ et E._, a entrepris sans autorisation de ces derniers des travaux sur ces parcelles, plus particulièrement des travaux de débroussaillage et de défrichage pour quelque 23 tonnes de déchets verts, avant la conclusion des actes de vente, qui n'a finalement pas eu lieu. Ces travaux ont été effectués par l'intermédiaire de la société H._ Sàrl, dont X._ est le gérant. Lors de ces travaux, plusieurs arbres ont été coupés, dont à tout le moins quatre mélèzes et un pin soumis au règlement communal de protection des arbres.
C.
Contre ce dernier jugement, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut, principalement, à sa libération des chefs de prévention de dommages à la propriété qualifiés et de contravention à la loi sur la protection de la nature, des monuments et des sites et au rejet des conclusions civiles. A titre subsidiaire, il demande l'annulation du jugement attaqué et le renvoi de la cause à la cour cantonale.
La cour cantonale et le Ministère public vaudois ont renoncé à formuler des observations. Les intimés ont déposé une réponse et conclu au rejet du recours. Le recourant s'est déterminé sur la réponse des intimés, déterminations qui ont été communiquées aux intimés à titre de renseignements.

Considérant en droit :
1.
Le recourant s'en prend à l'établissement des faits qu'il qualifie d'arbitraire. Selon lui, la cour cantonale aurait versé dans l'arbitraire en déduisant d'un courrier du 14 décembre 2014 (pièce 4/2/3) qu'il aurait, en sa qualité de gérant de H._ Sàrl, donné aux employés de cette société l'ordre d'abattre illicitement les arbres protégés. En outre, il dénonce la violation de la présomption d'innocence.
1.1. Le Tribunal fédéral n'est pas une autorité d'appel, auprès de laquelle les faits pourraient être rediscutés librement. Il ne peut revoir les faits établis par l'autorité précédente que si ceux-ci l'ont été de manière manifestement inexacte, c'est-à-dire arbitraire, et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
Une décision est arbitraire lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou encore heurte de manière choquante le sentiment de la justice et de l'équité. Il ne suffit pas que sa motivation soit insoutenable; encore faut-il que la décision apparaisse arbitraire dans son résultat. A cet égard, le Tribunal fédéral ne s'écarte de la solution retenue que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motif objectif ou en violation d'un droit certain. Il n'y a pas arbitraire du seul fait qu'une autre solution paraît également concevable, voire même préférable (<ref-ruling> consid. 2.3.1 p. 244; <ref-ruling> consid. 6.1 p. 205).
La présomption d'innocence, garantie par les art. 10 CPP, 32 al. 1 Cst., 14 par. 2 Pacte ONU II et 6 par. 2 CEDH, ainsi que son corollaire, le principe " in dubio pro reo ", concernent tant le fardeau de la preuve que l'appréciation des preuves (<ref-ruling> consid. 2a p. 40 s.). Lorsque, comme en l'espèce, l'appréciation des preuves et la constatation des faits sont critiquées en référence au principe " in dubio pro reo ", celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (<ref-ruling> consid. 7 p. 82; arrêt 6B_804/2017 du 23 mai 2018 consid. 2.2.3 destiné à la publication).
1.2.
1.2.1. Dans un courrier du 14 décembre 2014 adressé à la Régie I._ SA, le recourant et G._ ont réaffirmé leur intention de se porter acquéreur des trois chalets, déjà exprimée dans leur lettre du 24 juin 2014. Ils ont ajouté ce qui suit à propos de l'abattage des arbres:
" Suite à l'abattage de trois arbres situés sur la servitude de passage à créer une indemnité compensatrice de cinq fois l'amende pénale infliger par M. le Préfet pour abattage d'arbre sans autorisation et dans la limite de 10'000 CHF pris en compte uniquement par la société H._. Cette clause ne serait applicable que dans le cas où la vente n'irait pas son terme ".
1.2.2. Selon la cour cantonale, ce texte, signé par le recourant, confirme, d'une part, la " conscience de l'illicéité du comportement " et, d'autre part, que " c'est bien la société dont [le recourant] est l'organe qui a ordonné les travaux litigieux, puisque c'est cette société qui assume le versement de l'indemnité à concurrence de 10'000 fr. ". La cour cantonale a ajouté que le témoignage de J._ (contremaitre chez K._) était parfaitement clair pour retenir que l'entreprise qui a fait procéder au débroussaillage de la parcelle est la même que celle qui a fait procéder à l'abattage litigieux, à savoir H._ Sàrl (jugement attaqué p. 10 s., consid. 3.3).
Ensuite, elle a considéré que " c'est sous la signature de l'appelant que la société a admis le caractère illicite de l'opération et a proposé une indemnisation, de sorte que les infractions peuvent lui être imputées personnellement. Il est donc établi à satisfaction de droit que c'est bien le prévenu, en sa qualité de gérant de H._ Sàrl, qui a donné l'ordre d'abattre illicitement les arbres protégés. Il est le seul auteur de l'infraction, les exécutants n'ayant eu aucune idée du caractère illicite de l'opération " (jugement attaqué p. 13 consid. 4.3). S'agissant de l'élément subjectif, elle a considéré que le recourant " ne peut contester sérieusement sa conscience de faire subir un préjudice aux plaignants, puisqu'il a lui-même proposé de les dédommager " (jugement attaqué p. 14 consid. 5.3).
1.3. Lorsque la cour cantonale retient que c'est la société H._ Sàrl qui a abattu les arbres litigieux, cette constatation n'est pas arbitraire. Elle peut se déduire du document du 14 décembre 2014 précité et du témoignage du contremaitre de K._, qui faisait des travaux dans les environs.
Il en va en revanche différemment lorsque la cour cantonale affirme que, en sa qualité de gérant de H._ Sàrl, le recourant a donné l'ordre d'abattre illicitement les arbres protégés, précisant que les exécutants n'avaient eu aucune idée du caractère illicite de l'opération. Cette constatation de fait ne repose sur aucune motivation. Selon le témoin J._, ce sont des personnes jeunes et parlant mal le français qui ont probablement coupé les arbres, de sorte que l'on peut en déduire que le recourant n'était pas sur place. La cour cantonale ne mentionne aucune pièce faisant état d'instructions qu'aurait données le recourant à ces hommes. Elle ne se réfère à aucun témoignage qui établirait que le recourant a ordonné l'abattage de ces arbres. Il ressort certes de la lettre du 14 décembre 2014 que H._ Sàrl a accepté de prendre en charge une éventuelle amende pour la coupe non autorisée d'arbres. Ce courrier ne fait toutefois que prendre en compte d'éventuelles difficultés nées à la suite de l'abattage de trois arbres, afin d'apaiser les négociations. Mais il ne signifie pas que le recourant a ordonné les abattages litigieux ni qu'il avait l'intention de nuire aux intimés ou qu'il a voulu enfreindre la réglementation administrative cantonale. En retenant que le recourant avait, en sa qualité de gérant de H._ Sàrl, donné l'ordre d'abattre illicitement les arbres protégés sans autre motivation, la cour cantonale a donc versé dans l'arbitraire.
Sur le plan de l'application du droit fédéral, la cour cantonale n'expose au demeurant pas clairement la figure juridique qu'elle retient. Le recourant y voit de la coactivité. Dans la mesure où la cour cantonale constate que les exécutants n'avaient aucune idée du caractère illicite de l'opération, il s'agirait plutôt de la construction de l'auteur médiat. Quant à la référence " en sa qualité de gérant ", elle évoque la responsabilité pénale du chef d'entreprise.
1.4. Pour tous ces motifs, le recours doit être admis, l'arrêt attaqué doit être annulé et la cause renvoyée à la cour cantonale pour nouveau jugement.
2.
Le recourant qui obtient gain de cause a droit à des dépens, pour moitié, à la charge du canton de Vaud et, pour moitié, à la charge des intimés, solidairement entre eux (art. 68 al. 1 LTF). Les frais judiciaires sont mis à la charge des intimés, solidairement entre eux, le canton de Vaud n'ayant pas à en supporter (art. 66 al. 1 et 4 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à la cour cantonale pour nouveau jugement.
2.
Une partie des frais judiciaires, arrêtée à 2'000 fr., est mise à la charge des intimés A._, B._, C._, D._ et E._, solidairement entre eux.
3.
Une indemnité de 3'000 fr., à payer au recourant au titre de dépens, est mise, pour moitié, à la charge du canton de Vaud et, pour moitié, à la charge des intimés A._, B._, C._, D._ et E._, solidairement entre eux.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 20 septembre 2018
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Kistler Vianin