Faits:
A. Par jugement du 22 décembre 2011, le Tribunal correctionnel de l'arrondissement de La Broye et du Nord vaudois a notamment reconnu A.X._ coupable de dommages à la propriété, diffamation, injure, contrainte et violence ou menace contre les autorités et les fonctionnaires. Il l'a condamné à une peine privative de liberté ferme de sept mois. Sur le plan civil, il a déclaré l'intéressé débiteur de chaque plaignant de la somme de 1'000 fr., à titre de réparation du tort moral.
B. Par jugement du 12 avril 2012, la Cour d'appel pénale du Tribunal cantonal vaudois a rejeté l'appel de A.X._ et l'appel joint du Ministère public du canton de Vaud. Elle a rectifié d'office le chiffre III du dispositif, condamnant A.X._ à une peine privative de liberté de six mois ainsi qu'à une peine pécuniaire de trente jours-amende, le montant du jour-amende étant fixé à 40 francs.
C. Contre ce dernier jugement, A.X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à son acquittement et au rejet des conclusions civiles prises par les plaignants.
Il n'a pas été ordonné d'échange d'écritures.
Considérant en droit:
1. Le recourant se plaint de l'établissement des faits, qu'il qualifie sur plusieurs points de manifestement inexact (art. 97 al. 1 LTF), et de la violation du principe in dubio pro reo (art. 32 Cst.).
1.1 Le Tribunal fédéral est un juge du droit. Il ne peut revoir les faits établis par l'autorité précédente que si ceux-ci l'ont été de manière manifestement inexacte, c'est-à-dire arbitraire (ATF 137 II 353 consid. 5.1 p. 356). On peut renvoyer, sur la notion d'arbitraire, aux principes maintes fois exposés par le Tribunal fédéral (voir par ex: ATF 137 I 1 consid. 2.4 p. 5; 136 III 552 consid. 4.2 p. 560 ; 135 V 2 consid. 1.3 p. 4/5; 134 I 140 consid. 5.4 p. 148; 133 I 149 consid. 3.1 p. 153 et les arrêts cités). En bref, pour qu'il y ait arbitraire, il ne suffit pas que la décision attaquée apparaisse discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable et cela non seulement dans sa motivation, mais aussi dans son résultat.
Le grief d'arbitraire doit être invoqué et motivé de manière précise (art. 106 al. 2 LTF). Le recourant doit exposer, de manière détaillée et pièces à l'appui, que les faits retenus l'ont été d'une manière absolument inadmissible, et non seulement discutable ou critiquable. Il ne saurait se borner à plaider à nouveau sa cause, contester les faits retenus ou rediscuter la manière dont ils ont été établis comme s'il s'adressait à une juridiction d'appel (ATF 133 IV 286). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (ATF 137 II 353 consid. 5.1 p. 356 ; 133 III 393 consid. 6 p. 397).
1.2 Tel qu'il est invoqué, à savoir comme règle de l'appréciation des preuves, le principe in dubio pro reo interdit au juge de se déclarer convaincu d'un état de fait défavorable à l'accusé, lorsqu'une appréciation objective des éléments de preuve recueillis laisse subsister un doute sérieux et insurmontable quant à l'existence de cet état de fait (ATF 127 I 38 consid. 2a p. 41 et les arrêts cités). Le Tribunal fédéral ne revoit que sous l'angle de l'arbitraire la question de savoir si le juge aurait dû éprouver un doute, c'est-à-dire celle de l'appréciation des preuves (ATF 127 I 38 consid. 2 p. 40 ss; 124 I 208 consid. 4 p. 211; 120 Ia 31 consid. 2d p. 37/38).
1.3 Conformément au principe de la libre appréciation des preuves, le juge donne aux moyens de preuve produits la valeur qu'il estime devoir leur attacher pour se forger une intime conviction sur la réalité d'un fait. Ainsi, aux yeux du juge, une personne entendue à titre de renseignement peut paraître davantage crédible qu'un témoin assermenté, un témoin davantage que plusieurs, des indices davantage qu'un écrit. Le juge est toutefois tenu de motiver sa décision et de préciser les éléments de fait sur lesquels il a fondé sa conviction.
En l'espèce, la cour cantonale a expliqué qu'elle avait accordé foi aux déclarations cohérentes, unanimes et constantes des plaignants, dont trois gendarmes. Face à ces déclarations, le recourant n'avait donné aucune explication convaincante sur les raisons qui avaient poussé ces personnes à l'accuser faussement selon lui, mais s'était limité à soutenir que celles-ci s'étaient liguées contre lui, l'accusant faussement.
1.4 Les critiques factuelles émises par le recourant seront examinées ci-dessous, en relation avec les griefs relatifs à l'application du droit matériel qu'il formule également.
2. Le recourant conteste le cas 2.1 du jugement attaqué.
2.1 Le 11 mai 2006, vers 10h45, à Goumoens-la-Ville, le sgtm O._ et le sgt P._ ont donné un coup de klaxon dans le but d'attirer l'attention du recourant, qui s'apprêtait à quitter au volant d'un tracteur la place située devant le local de la voirie, afin de lui remettre un pli judiciaire que le recourant avait refusé de retirer à la poste. Ignorant le coup de klaxon, ce dernier a pris la route, suivi par le véhicule de police. Comme le sgtm O._ a de nouveau klaxonné, l'intéressé s'est retourné et a fait deux doigts d'honneur à l'intention des gendarmes. Après une centaine de mètres, il a arrêté son véhicule et fait une marche arrière, avant de s'immobiliser à une vingtaine de centimètres de la voiture de police. Le sgtm O._ est descendu de son véhicule et s'est dirigé vers le recourant. Celui-ci a sauté de son tracteur, en traitant ledit policier de "trou du cul, connard". Il l'a ensuite saisi par le col de son uniforme en arrachant les boutons de ce vêtement et en répétant ses insultes. Le sgt P._ étant intervenu, il a finalement lâché prise. Retournant à son tracteur, il a pris de la terre collée sur les roues et l'a lancée contre le sgtm O._, salissant son pantalon et sa veste.
2.2 Condamné pour dommages à la propriété (art. 144 CP), le recourant conteste avoir arraché les boutons de l'uniforme du sgtm O._ et lui avoir ainsi causé un dommage. Il fait valoir que le sgt P._ n'aurait ni confirmé ou infirmé ce fait et qu'il n'aurait pas eu l'intention de causer un éventuel dommage. De la sorte, il remet en cause l'établissement des faits, qui lient la cour de céans, à moins que ceux-ci soient manifestement inexacts ou arbitraires (art. 97 al.1 et 105 al. 1 LTF). Il ne démontre toutefois pas en quoi les faits retenus par la cour cantonale sur la base des déclarations du plaignant seraient arbitraires (art. 106 al. 2 LTF), mais se borne à exposer sa propre version des faits. Purement appellatoire, son grief est irrecevable.
Le recourant nie avoir causé un dommage en salissant le pantalon et la veste du sgtm O._. Selon la jurisprudence, l'auteur se rend coupable de dommages à la propriété dès qu'il cause un changement de l'état de la chose qui n'est pas immédiatement réversible sans frais ni effort et qui porte atteinte à un intérêt légitime, par exemple, en apposant sur le pare-brise d'une voiture une affiche qui ne peut être que difficilement ôtée, en dégonflant les pneus d'une voiture ou encore en vidant un extincteur qui doit être rechargé pour être de nouveau prêt à fonctionner (ATF 128 IV 250 consid. 2 p. 252). Au vu de cette jurisprudence, la cour cantonale n'a pas violé le droit fédéral en retenant que le fait de salir l'uniforme du plaignant était constitutif de l'infraction de dommages à la propriété (art. 144 CP). Le grief soulevé doit être rejeté.
Le recourant fait valoir que l'infraction définie à l'art. 285 CP (violence ou menace contre les autorités et les fonctionnaires) n'est pas réalisée, à défaut de coups ou d'autres atteintes physiques. L'art. 285 CP vise, entre autres hypothèses, le fait de se livrer à des voies de fait sur une autorité, un membre d'une autorité ou un fonctionnaire, pendant qu'il procède à un acte entrant dans ses fonctions. La notion de voies de fait caractérise les atteintes physiques qui excèdent ce qui est socialement toléré et qui ne causent ni lésions corporelles, ni dommage à la santé, voire même aucune douleur physique (ATF 134 IV 189 consid. 1.2 à propos de l'art. 126 CP). En saisissant le plaignant par le col de son uniforme et en arrachant de la sorte les boutons de ce vêtement, alors que celui-ci tentait de lui remettre un pli judiciaire, le recourant a commis des voies de fait sur un fonctionnaire pendant l'accomplissement d'un acte officiel. La cour cantonale n'a donc pas violé le droit fédéral en retenant l'application de l'art. 285 CP. Le grief du recourant doit être rejeté.
3. Le recourant critique sa condamnation dans le cas 2.2 du jugement attaqué.
3.1 Le 2 novembre 2006, à Saint-Barthélémy, le sgt N._ et le cpl M._ ont interpellé le recourant, qui faisait l'objet d'un mandat d'amener à l'Office des poursuites d'Echallens, où il ne s'était pas présenté malgré deux convocations. Informé par les agents qu'il devait les suivre, le recourant les a traités de " connards, enculés ". Il s'en est spécialement pris au sgt N._ en menaçant de lui " casser la gueule ". Comme le recourant refusait de monter dans la voiture de police, le cpl M._ l'a accompagné comme passager dans son propre véhicule; durant le trajet, tout en conduisant, le recourant l'a copieusement insulté.
Arrivé à Echallens, le recourant a déclaré qu'il ne voulait pas suivre le cpl M._ à l'office, sous prétexte que des employés de la voirie se tenaient devant le bâtiment. Il s'est énervé et a violemment poussé ledit agent contre le mur, tout en le traitant de " connard ". Celui-ci lui a alors fait une clef de bras et l'a amené au sol, où il l'a immobilisé. Le recourant s'est calmé et s'est engagé à suivre le policier, qui l'a alors relâché. Le recourant s'est relevé en qualifiant l'agent de " connard, petit con, brute ". Il a crié au scandale et à la brutalité de la police pour attirer l'attention des passants. Finalement amené dans les locaux de l'Office des poursuites, il s'en est pris à nouveau aux deux gendarmes, les insultant.
3.2 Condamné en application de l'art. 285 CP, le recourant nie avoir usé de violence à l'égard des gendarmes. Il ressort de l'état de fait cantonal - qui lie la cour de céans, le recourant n'ayant pas établi un quelconque arbitraire dans l'établissement des faits (art. 97 al. 1 et 105 al. 1 LTF) - que le recourant a poussé violemment l'agent M._ contre le mur, alors que celui-ci tentait de l'amener à l'Office des poursuites d'Echallens. En se comportant de la sorte, le recourant s'est livré à des voies de fait sur un fonctionnaire qui accomplissait un acte officiel, de sorte que les conditions de l'art. 285 CP sont réalisées.
4. Le recourant conteste sa condamnation dans le cas 2.4 du jugement attaqué.
4.1 Le 29 août 2007, B.X._ a quitté sa ferme au volant d'un tracteur auquel étaient accouplés deux chars de blé. Pour pouvoir tourner à droite et s'engager sur la voie publique, il a fait un écart sur la gauche de la chaussée. C'est alors que le recourant est arrivé en sens inverse au volant de sa voiture, s'est arrêté à quelques centimètres du tracteur et a refusé de partir, bloquant celui-ci pendant un quart d'heure environ. Ne pouvant pas reculer à cause de ses deux remorques, B.X._ a téléphoné à la gendarmerie, mais le recourant a libéré les lieux avant l'arrivée des agents.
4.2 Le recourant conteste sa condamnation pour contrainte (art. 181 CP), au motif que l'entrave à la liberté - qui seule entre en ligne de compte en l'espèce - n'aurait pas duré suffisamment longtemps. Il peut y avoir contrainte au sens de l'art. 181 CP lorsque l'auteur entrave sa victime "de quelque autre manière" dans sa liberté d'action. Selon la jurisprudence, cette formule générale doit toutefois être interprétée de manière restrictive (ATF 134 IV 216 consid. 4.1 p. 218). N'importe quelle pression de peu d'importance ne suffit pas; elle doit être d'une certaine gravité. Il faut que le moyen de contrainte utilisé soit, comme pour la violence ou la menace d'un dommage sérieux, propre à impressionner une personne de sensibilité moyenne et à l'entraver d'une manière substantielle dans sa liberté de décision ou d'action. Il s'agit donc de moyens de contrainte qui, par leur intensité et leur effet, sont analogues à ceux qui sont cités expressément par la loi (ATF 129 IV 262 consid. 2.1 p. 264). Par exemple, le fait d'abaisser une barrière de passage à niveau et de faire en sorte que celui-ci ne puisse plus s'ouvrir pendant une dizaine de minutes constitue une entrave suffisamment importante dans la liberté d'action des usagers de la route pour relever de l'art. 181 CP (ATF 119 IV 301), comme le fait de former un tapis humain empêchant pendant environ une quinzaine de minutes le départ d'un véhicule à moteur et entravant l'accès des piétons à une exposition militaire (ATF 108 IV 165). Il en va de même du fait de freiner brusquement par pure chicane et de contraindre le véhicule qui suit à s'arrêter (ATF 137 IV 326). Au vu de cette jurisprudence, la cour cantonale n'a pas violé le droit fédéral en condamnant le recourant pour contrainte pour avoir bloqué le plaignant avec sa voiture pendant une quinzaine de minutes. Le grief soulevé doit être rejeté.
5. Le recourant s'en prend au cas. 2.5 du jugement attaqué.
5.1 Le 25 juin 2008, entre 21h00 et 21h30, toujours à Goumoens-la-Ville, muni d'un spray, le recourant a entouré d'une marque jaune une borne cadastrale délimitant la propriété de la commune de celle de I.Z._ et peint une croix jaune sur un point-limite, ces deux objets étant en partie sur la propriété de I.Z._.
5.2 Le recourant conteste que la borne cadastrale se situe sur la propriété du plaignant et que, partant, celui-ci ait la qualité de porter plainte. Il ressort toutefois de l'état de fait cantonal que la borne délimitait la propriété de la commune de celle de I.Z._ et que celle-ci était à tout le moins en partie sur la propriété de ce dernier. Cette constatation de fait lie la cour de céans, à moins que celle-ci soit manifestement inexacte ou arbitraire (art. 97 al. 1 et 105 al. 1 LTF), ce qu'il appartient au recourant de démontrer. Or, par son argumentation, le recourant se borne à affirmer que la borne litigieuse ne se trouve pas sur la propriété du plaignant, mais n'établit pas en quoi la constatation de la cour cantonale qui retient le contraire serait arbitraire. Insuffisamment motivé (art. 106 al. 2 LTF), le grief soulevé est irrecevable.
Le recourant conteste l'existence d'un dommage, dès lors que le spray était biodégradable. De la sorte, il s'écarte de l'état de fait cantonal, sans démontrer que celui-ci est manifestement inexact ou arbitraire, si bien que son grief est irrecevable (art. 97 al. 1, 105 al. 1 et 106 al. 2 LTF). Pour le surplus, la jurisprudence retient que l'usage d'un spray peut entraîner un dommage selon l'art. 144 CP (ATF 120 IV 319).
6. Le recourant conteste sa condamnation s'agissant du cas résumé sous chiffre 2.6 du jugement attaqué.
6.1 Le 29 juin 2008, lors du cortège du 275ème anniversaire de l'Abbaye du village, le recourant a posé sur le mur de sa propriété un panneau bien visible, sur lequel était collée la photographie de I.Z._ avec l'inscription suivante : "Wanted-Forward-Only 1$-Phone : 021 644 44 44 or next police station".
6.2 Le recourant critique sa condamnation pour diffamation au motif qu'il a voulu " faire une blague " au plaignant et que, partant, l'élément subjectif ne serait pas réalisé. Déterminer ce qu'une personne a su, envisagé ou accepté relève de l'établissement des faits (ATF 135 IV 152 consid. 2.3.2 p. 156), que le Tribunal fédéral ne peut réexaminer que lorsque celui-ci est entaché d'inexactitudes manifestes (art. 97 al. 1 LTF), à savoir d'arbitraire (ATF 134 IV 36 consid. 1.4.1 p. 39). En l'espèce, le recourant se borne à affirmer qu'il a voulu faire une blague et qu'il n'avait pas l'intention de causer du tort au plaignant. Il ne démontre toutefois pas en quoi le raisonnement de la cour cantonale, qui aboutit à la conclusion qu'il a agi avec conscience et volonté, serait arbitraire. Purement appellatoire (art. 106 al. 2 LTF), le grief soulevé est irrecevable.
7. Le recourant conteste l'établissement des faits résumés sous chiffre 2.7 du jugement attaqué.
7.1 Le 29 juin 2008, convaincu que le syndic C.X._ avait enlevé le panneau avec la photo de I.Z._ - qui en réalité l'avait été par des tiers - le recourant a qualifié celui-ci de " syndic voleur " et l'a traité de " connard, trou du cul, bobet " devant les nombreuses personnes qui participaient aux festivités du village.
7.2 Dans son argumentation, le recourant se borne à contester les faits, sans démontrer en quoi le raisonnement de la cour cantonale, qui s'est fondée sur les déclarations du plaignant, serait arbitraire. Purement appellatoire, le grief soulevé est irrecevable (art. 106 al. 2 LTF).
8. Le recourant critique l'établissement des faits s'agissant de sa condamnation pour contrainte dans le cas résumé sous chiffre 2.8 du jugement attaqué.
8.1 Le 30 novembre 2008, au lieu-dit " R._ ", au volant d'un tracteur équipé à l'arrière d'une herse rotative, dont la largeur dépassait celle du tracteur, le recourant a, peu avant de croiser E.Y._ et F.Y._ qui rentraient à pied de Gouemoens-le-Jux à Gouemoens-la-Ville, intentionnellement serré de leur côté pour les pousser hors de la chaussée, alors que la route était suffisamment large pour qu'il les croise sans difficulté. Pour éviter d'être touchés par le véhicule, qui les a rasés, E.Y._ a dû sauter sur la banquette herbeuse avec le landau qu'il poussait et dans lequel se trouvait son petit-fils, tandis que F.Y._ a dû faire un écart avec son chien.
8.2 La cour cantonale a retenu les faits ci-dessus sur la base des déclarations des plaignants, qu'elles a jugé crédibles. Le recourant se borne à contester les faits retenus, sans démontrer en quoi ceux-ci seraient arbitraires. Insuffisamment motivé, le grief soulevé est irrecevable (art. 106 al. 2 LTF).
9. Le recourant conteste sa condamnation dans le cas 2.9 du jugement attaqué.
9.1 Au début de l'année 2009, dans la zone industrielle de Gouemoens-la-Ville, alors que G.Y._ promenait son enfant dans une poussette et son chien sur la gauche de la route, le recourant est arrivé derrière eux avec un tracteur. A leur vue, il a volontairement donné un coup de volant à gauche pour les obliger à se mettre à l'abri dans le champ.
9.2 De nouveau, l'argumentation du recourant est purement appellatoire et, donc, irrecevable (art. 106 al. 2 LTF).
10. Le recourant conteste sa condamnation dans le cas résumé au chiffre 2.10 du jugement attaqué.
10.1 Au mois d'avril 2009, le recourant a intentionnellement dirigé son tracteur, auquel était accouplé une remorque, vers H.Y._, qui se tenait sur la route du village, promenant son enfant dans une poussette, et discutait avec une dame qui se trouvait dans son jardin. La prénommée a dû reculer en toute hâte pour éviter de se faire écraser, se retrouvant acculée contre le mur du jardin, alors que l'intéressé a passé près d'elle, à la distance d'un bras.
10.2 Se bornant à opposer sa propre version des faits à celle de la cour cantonale, l'argumentation du recourant, purement appellatoire, est irrecevable (art. 106 al. 2 CP).
11. Le recourant critique la mesure de la peine. Il ne conteste en revanche pas sa nature.
11.1 Selon l'art. 47 CP, le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2).
La culpabilité de l'auteur doit être évaluée en fonction de tous les éléments objectifs pertinents, qui ont trait à l'acte lui-même, à savoir notamment la gravité de la lésion, le caractère répréhensible de l'acte et son mode d'exécution (objektive Tatkomponente). Du point de vue subjectif, sont pris en compte l'intensité de la volonté délictuelle ainsi que les motivations et les buts de l'auteur (subjektive Tatkomponente). A ces composantes de la culpabilité, il faut ajouter les facteurs liés à l'auteur lui-même (Täterkomponente), à savoir les antécédents, la réputation, la situation personnelle (état de santé, âge, obligations familiales, situation professionnelle, risque de récidive, etc.), la vulnérabilité face à la peine, de même que le comportement après l'acte et au cours de la procédure pénale (ATF 134 IV 17 consid. 2.1 p. 19 s.; 129 IV 6 consid. 6.1 p. 20; arrêt 6B_759/2011 du 19 avril 2012 consid. 1.1).
L'art. 47 CP confère un large pouvoir d'appréciation au juge. Par conséquent, celui-ci ne viole le droit fédéral en fixant la peine que s'il sort du cadre légal, s'il se fonde sur des critères étrangers à l'art. 47 CP, s'il omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (ATF 136 IV 55 consid. 5.6 p. 61; 134 IV 17 consid. 2.1).
11.2 Les premiers juges ont considéré que la culpabilité du recourant était lourde. Pendant de nombreuses années, celui-ci a empoisonné la vie de ses voisins et le travail des autorités par son comportement. Les juges ont insisté sur le manque de respect du recourant pour autrui, l'absence de sens moral, le mépris des règles de vie en société et la souffrance que son attitude a engendrée chez les plaignants. A la décharge du recourant, ils ont relevé l'absence d'inscription au casier judiciaire et une diminution de responsabilité, qu'ils ont considérée toutefois comme légère.
A l'instar des premiers juges, la cour d'appel a qualifié de lourde la faute du recourant. Elle a tenu compte du concours d'infractions, de la mentalité du prévenu, de sa situation personnelle ainsi que de l'absence de toute prise de conscience révélée par son attitude dans la procédure. Contrairement aux premiers juges, elle a relevé qu'il convenait de prendre en compte, à charge du recourant, du jugement du 21 août 2009, le condamnant à 1'000 fr. d'amende pour violation d'un règlement communal.
11.3 Le recourant reproche à la cour cantonale d'avoir tenu compte du fait qu'il n'avait pas pris conscience des actes reprochés, autrement dit - selon lui - qu'il avait nié les actes reprochés.
Selon la jurisprudence, il convient de tenir compte du comportement de l'auteur postérieurement à l'acte et au cours de la procédure pénale (ATF 117 IV 112 consid. 1 p. 114), comme par exemple des aveux, de la collaboration et de la prise de conscience de l'auteur. On ne saurait donc critiquer la cour cantonale d'avoir pris en considération le fait que le recourant n'avait pas pris conscience de sa faute. Contrairement à ce que soutient le recourant, l'absence de prise de conscience ne se déduit pas uniquement de ses dénégations, mais de son attitude générale (poursuite de l'activité délictueuse en cours d'enquête, aucune empathie ni regrets à l'égard des plaignants, etc.). Le grief doit donc être rejeté.
11.4 En définitive, il n'apparaît pas que la peine infligée au recourant constitue un abus du large pouvoir d'appréciation dont dispose la cour cantonale. Cette dernière a motivé de manière détaillée et complète la peine, et le recourant ne cite aucun élément important, propre à modifier la peine, qui aurait été omis ou pris en considération à tort par la cour cantonale. Le grief de violation de l'art. 47 CP doit être rejeté.
12. Le recourant conteste également le refus du sursis.
12.1 Selon l'art. 42 CP, le juge suspend en règle générale l'exécution d'une peine pécuniaire, d'un travail d'intérêt général ou d'une peine privative de liberté de six mois au moins et de deux ans au plus lorsqu'une peine ferme ne paraît pas nécessaire pour détourner l'auteur d'autres crimes ou délits (al. 1). Si, durant les cinq ans qui précèdent l'infraction, l'auteur a été condamné à une peine privative de liberté ferme ou avec sursis de six mois au moins ou à une peine pécuniaire de 180 jours-amende au moins, il ne peut y avoir de sursis à l'exécution de la peine qu'en cas de circonstances particulièrement favorables (al. 2). L'octroi du sursis peut également être refusé lorsque l'auteur a omis de réparer le dommage comme on pouvait raisonnablement l'attendre de lui (al. 3). Le juge peut prononcer, en plus du sursis, une peine pécuniaire sans sursis ou une amende selon l'art. 106 CP (al. 4).
En l'espèce, le recourant a été condamné à une peine privative de liberté de six mois, de sorte que la condition objective du sursis est réalisée. Il s'agit donc de déterminer si, en fonction des antécédents et du caractère du condamné, une peine ferme est nécessaire pour le détourner de commettre d'autres crimes ou délits. La condamnation durant les cinq ans précédant l'infraction à une peine privative de liberté étant une amende de 1'000 fr., l'art. 42 al. 2 CP n'est pas applicable. Des circonstances particulièrement favorables ne doivent donc pas être établies.
12.2 Conformément à l'art. 42 al. 1 CP, le juge doit poser un pronostic quant au comportement futur de l'auteur. En l'absence de pronostic défavorable, il doit prononcer le sursis. Celui-ci est ainsi la règle dont le juge ne peut s'écarter qu'en présence d'un pronostic défavorable ou hautement incertain (ATF 134 IV 1 consid. 4.2.2 p. 5). Pour émettre ce pronostic, le juge doit se livrer à une appréciation d'ensemble, tenant compte des circonstances de l'infraction, des antécédents de l'auteur, de sa réputation et de sa situation personnelle au moment du jugement, notamment de l'état d'esprit qu'il manifeste. Il doit tenir compte de tous les éléments propres à éclairer l'ensemble du caractère de l'accusé et ses chances d'amendement. Il ne peut accorder un poids particulier à certains critères et en négliger d'autres qui sont pertinents (ATF 134 IV 1 consid. 4.2.1 p. 5).
12.3 La cour cantonale a posé un pronostic défavorable. Elle a noté que le risque de récidive était considérable. Elle a souligné que le recourant avait poursuivi son activité délictueuse alors qu'il faisait l'objet de nombreuses plaintes et qu'à aucun moment il n'avait manifesté des regrets ou de l'empathie pour les plaignants. En outre, elle a relevé qu'il avait déjà été condamné en 2009, bien que son casier judiciaire soit vierge. Enfin, elle a insisté sur l'attitude chicanière du recourant vis-à-vis de ses voisins et des habitants de la commune dans laquelle il est domicilié depuis de nombreuses années.
12.4 Contrairement à ce que soutient le recourant, l'absence de prise de conscience et de repentir sont des éléments qui vont à l'encontre d'un pronostic favorable. Comme vu ci-dessus, ce défaut de prise de conscience ne se déduit pas simplement des dénégations du recourant, mais de l'ensemble de son attitude.
La cour cantonale n'a en outre pas violé le droit fédéral en retenant au titre d'antécédents sa condamnation du 29 août 2009, bien que, en tant que contravention à un règlement communal, celle-ci n'ait pas été inscrite au casier judiciaire (art. 366 al. 2 CP; cf. ATF 135 IV 87 consid. 5 in fine).
12.5 Au vu de l'ensemble des éléments, la cour cantonale n'a pas abusé de son pouvoir d'appréciation en considérant que le pronostic était défavorable et que seule l'exécution de la peine pouvait détourner le recourant de commettre de nouvelles infractions. La motivation qu'elle donne dans son arrêt permet de suivre le raisonnement qu'elle a adopté. Le grief tiré de la violation de l'art. 42 CP doit donc être rejeté.
13. Le recours doit être rejeté dans la mesure de sa recevabilité.
Le recourant, qui succombe, doit supporter les frais (art. 66 al. 1 LTF).
Il n'y a pas lieu d'allouer d'indemnité aux intimés qui n'ont pas été invités à déposer un mémoire dans la procédure devant le Tribunal fédéral.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 24 octobre 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin