Faits:
A. A.a Par jugement du 5 mars 2004, confirmé par arrêt de la Cour de cassation pénale du Tribunal cantonal vaudois du 12 mai 2004, le Tribunal de police de l'arrondissement de la Broye et du Nord vaudois a, notamment, condamné X._ pour incendie par négligence à 20 jours d'emprisonnement, avec sursis pendant deux ans.
Le Tribunal a considéré que X._ avait stocké du foin qui n'était pas sec, utilisant pour la première fois un procédé de bottelage en balles rondes. Il n'avait cependant pas vérifié régulièrement, par sondages, que la température de celles-ci ne s'élevait pas. Pour établir les causes du départ de l'incendie, le Tribunal a fondé sa décision sur un premier rapport, établi le 10 décembre 2002, par l'expert A._, du Service scientifique de la police municipale de Zurich, dont il ressortait que l'analyse des bactéries présentes dans des échantillons de foin révélait, au vu du nombre de germes présents, qu'un échauffement spontané ou surfermentation avait eu lieu. Le Tribunal s'est également fondé sur le rapport du 1er avril 2003 de l'inspecteur B._, de la police de la sûreté vaudoise, qui a également considéré, au vu des résultats des analyses des prélèvements effectués, qu'un échauffement spontané avait eu lieu dans plusieurs zones du fourrage entreposé à l'intérieur de la grange et que la combustion lente qui s'était développée était la cause la plus probable de l'incendie. Le Tribunal a par ailleurs rejeté une demande incidente de X._ tendant à ce qu'une nouvelle expertise soit ordonnée au motif que deux rapports avaient déjà été établis par des spécialistes. L'expert A._ était diplômé en biologie et en zoologie et disposait d'une expérience de trente ans et l'expert B._ était au bénéfice d'une formation spéciale en matière d'incendie et disposait d'une expérience de vingt-deux ans.
A.b X._ a déposé le 8 novembre 2004 une première demande de révision du jugement du 5 mars 2004, rejetée par arrêt de la Commission de révision pénale vaudoise du 12 janvier 2005.
X._ a déposé une deuxième demande de révision le 29 janvier 2010, se fondant sur les avis des experts privés français C._ et D._. Cette demande a été rejetée par arrêt de la Commission de révision pénale du 10 février 2010 au motif que ces avis ne constituaient qu'une nouvelle interprétation d'éléments matériels déjà connus.
A.c X._ a déposé une troisième demande de révision le 10 mai 2012. Celle-ci se fonde sur les rapports d'expertise privée établis par le laboratoire D._ le 19 octobre 2010 et par E._, de la Station des productions animales et végétales de l'Institut agricole de l'Etat de Fribourg, en 2005, complété le 20 janvier 2012, sur un relevé de pluviométrie selon lequel le temps aurait été meilleur au printemps 2002 que cela a été retenu dans le jugement attaqué ainsi que des relevés de réception de céréales provenant des cultures du recourant datant de juillet 2002, dont il ressort que lesdites céréales présentaient un faible taux d'humidité.
B. Par jugement du 20 août 2012, la Cour d'appel pénale du Tribunal cantonal vaudois a rejeté la demande de révision déposée par X._ le 10 mai 2012, avec suite de frais.
C. X._ interjette un recours en matière pénale au Tribunal fédéral contre cette décision. Il conclut à sa réforme en ce sens que sa demande de révision est admise et la cause renvoyée au Tribunal de police pour nouvelle instruction et nouveau jugement, subsidiairement, à ce que la cause soit renvoyée à l'autorité inférieure pour nouvelle décision au sens des considérants.
Considérant en droit:
1. Le recourant invoque une violation des art. 410 CPP (RS 312.0), 385 CP et 397 aCP, ainsi que 9 Cst.
1.1 La demande de révision et la décision attaquée sont postérieures à l'entrée en vigueur, le 1er janvier 2011, du code de procédure pénale suisse. Il s'ensuit que les règles de compétence et de procédure des art. 410 ss CPP s'appliquent. Les motifs de révision pertinents sont en revanche ceux prévus par le droit applicable au moment où la décision dont la révision est demandée a été rendue, soit, en l'espèce, le 5 mars 2004. Cette réserve est toutefois sans portée s'agissant d'une révision en faveur du condamné, le motif de révision prévu à l'art. 410 al. 1 let. a CPP correspondant à celui de l'art. 397 aCP, en vigueur en 2004 (cf. arrêt 6B_393/2012 du 12 novembre 2012 consid. 1.1.1 et les références citées).
1.2 L'art. 397 aCP impose aux cantons de prévoir un recours en révision en faveur du condamné contre les jugements rendus en vertu du code pénal ou d'une autre loi fédérale, quand des faits ou des moyens de preuve sérieux et dont le juge n'avait pas eu connaissance lors du premier procès viennent à être invoqués. Le législateur vaudois s'est plié à cette injonction en adoptant l'art. 455 de l'ancien code de procédure pénale vaudois du 12 septembre 1967, en vigueur jusqu'au 31 décembre 2010 (aCPP/VD; RS/VD 312.01), lequel n'autorisait pas la révision à des conditions plus favorables (cf. arrêt 6B_815/2009 du 18 février 2010 consid. 2).
1.2.1 Selon la jurisprudence, un fait ou un moyen de preuve est nouveau lorsque le juge n'en a pas eu connaissance au moment où il s'est prononcé, c'est-à-dire lorsqu'il ne lui a pas été soumis sous quelque forme que ce soit (ATF 137 IV 59 consid. 5.1.2 p. 66 s.; 130 IV 72 consid. 1 p. 73), sans qu'il importe qu'il ait été connu ou non du requérant, sous réserve de l'abus de droit, qui ne doit être admis qu'avec retenue en cas de révision (ATF 130 IV 72 consid. 2.2 p. 74). Le fait ou moyen de preuve est sérieux, s'il est propre à ébranler les constatations de fait sur lesquelles se fonde la condamnation et que l'état de fait ainsi modifié rend possible un jugement sensiblement plus favorable au condamné.
1.2.2 Une expertise, qui peut être privée (ATF 73 IV 43 consid. 3), peut donner lieu à une révision si elle permet d'établir que les faits retenus par le premier jugement sont faux ou imprécis. Une nouvelle expertise concluant à une appréciation différente ne constitue toutefois pas déjà une cause de révision. Elle doit s'écarter de la première expertise pour des motifs sérieux et établir des erreurs claires de nature à ébranler le fondement du premier jugement. Une expertise pourra aussi être considérée comme un moyen de preuve nouveau si elle se fonde sur de nouvelles connaissances ou applique une autre méthode (ATF 137 IV 59 consid. 5.1.2 p. 67; arrêts 6P.93/2004 du 15 novembre 2004 consid. 4; 6S.452/2004 du 1er octobre 2005 consid. 2.2; 6B_539/2008 du 8 octobre 2008 consid. 1.3).
1.2.3 Savoir si l'autorité cantonale s'est fondée sur une juste conception de faits ou de moyens de preuve nouveaux et sérieux au sens de l'art. 397 aCP est une question de droit. En revanche, savoir si un fait ou un moyen de preuve était effectivement inconnu du juge est une question de fait qui peut être revue pour arbitraire dans l'établissement des faits et l'appréciation des preuves. Il en va de même de la question de savoir si un fait nouveau ou un moyen de preuve nouveau est propre à modifier l'état de fait retenu puisqu'elle relève de l'appréciation des preuves, étant rappelé qu'une vraisemblance suffit au stade du rescindant. Enfin, c'est de nouveau une question de droit de savoir si la modification de l'état de fait est juridiquement pertinente, c'est-à-dire de nature, en fonction des règles de droit de fond applicables, à entraîner une décision plus favorable au condamné en ce qui concerne la culpabilité, la peine ou les mesures (ATF 130 IV 72 consid. 1 p. 73 et les arrêts cités).
1.3 La cour cantonale a considéré que le rapport du laboratoire D._ n'était pas une expertise indépendante. Elle ne mentionnait pas que le recourant avait déjà sollicité ce laboratoire à la fin de l'année 2009 ou au début de 2010. Un parti pris se retrouvait dans l'indication selon laquelle le dossier avait été construit, à l'évidence, en sens unique, incriminant de façon abusive le recourant. On ignorait tout de la méthodologie appliquée à l'élaboration du rapport. Enfin, quand le rapport relevait que la thèse défendue par les enquêteurs officiels, à savoir que l'incendie était dû à la fermentation du foin, était techniquement possible, mais très invraisemblable dans les faits, il ne faisait ainsi qu'apporter une appréciation différente de celle des rapports A._ et B._. Quant au rapport E._, il renseignait également peu quant à la méthodologie appliquée. Il était par ailleurs étonnant que le recourant avait pu détenir des balles de foin de 2002 qu'il aurait présentées à E._ pour les besoins de son rapport, alors que la grange et le rural avaient été entièrement détruits par l'incendie. Ce rapport indiquait qu'il ne pouvait ni confirmer, ni infirmer l'hypothèse que le foin était absolument à l'origine de l'incendie. Cette opinion ne pouvait fonder une révision du jugement. En outre, le rapport de pluviométrie, selon lequel le temps aurait été meilleur au printemps 2002 que celui retenu dans le jugement attaqué, n'était pas décisif. En effet, il ne portait pas sur un point déterminant pour l'issue de la cause, le premier juge n'ayant pas fondé sa conviction sur cet élément.
Au surplus, la cour cantonale a considéré que la demande de révision était abusive. Le recourant n'avait pas soumis à la Commission de révision pénale le rapport de E._ alors qu'il le possédait au moment de sa deuxième demande et il avait déjà soumis un rapport établi par le laboratoire D._ à la Commission. En outre, en cas d'entrée en matière sur la demande de révision, la prescription de l'action pénale serait atteinte durant l'instruction. Il était abusif d'obtenir par la voie d'une nouvelle demande de révision, fondée sur des motifs identiques, un effet sur l'action pénale.
1.4 Le recourant conteste que le rapport établi par le laboratoire D._ portait seulement une autre appréciation sur l'affaire. Il établissait au contraire clairement que le premier jugement était entaché d'erreurs essentielles et qu'il était imprécis sur des points décisifs.
1.4.1 A l'appui de son grief, le recourant renvoie aux éléments qu'il a invoqués dans sa demande de révision (cf. recours, p. 8). Un tel renvoi n'est pas admis dans la mesure où, à teneur de l'art. 42 al. 1 LTF, le mémoire adressé au Tribunal fédéral doit contenir les motifs du recours (ATF 133 II 396 consid. 3.2; 131 III 384 consid. 2.3 ; 130 I 290 consid. 4.10).
1.4.2 Le recourant invoque en outre que selon le rapport D._, si le foin peut théoriquement fermenter durant la période de trois semaines à trois mois après sa coupe, le pic maximum se situe réellement entre deux et six semaines après le début du stockage, ce qui constituait une donnée scientifique et non une simple appréciation. Les experts ne mentionnaient toutefois pas la date à laquelle il avait coupé son foin, ce qui excluait, selon le recourant, qu'ils aient examiné s'il pouvait encore fermenter.
Les experts A._ et B._ ont admis que le foin avait fermenté compte tenu du nombre de bactéries présentes dans les échantillons analysés, et non au vu de la date à laquelle le foin avait été coupé. Ils se sont donc fondés sur un autre critère que celui de la date de la coupe pour déterminer si le foin entreposé avait pu causer l'incendie. Le fait qu'ils n'aient pas mentionné la date à laquelle le foin avait été coupé n'est donc pas déterminant. Au demeurant, le recourant indique qu'il a coupé du foin à la fin du mois de mai 2002, mais également au début juin et aux alentours du 24 juillet 2002, soit dans le délai de trois mois puisque l'incendie s'est produit le 31 août 2002. Il ne peut dès lors soutenir qu'une fermentation était exclue au motif que le foin était stocké depuis trop longtemps.
1.4.3 Le recourant fait valoir que le rapport D._ critique la méthode utilisée par les experts en indiquant que le développement de bactéries est fortement lié à la température et au taux d'humidité du milieu dans lequel elles se trouvent. Le rapport relève ainsi que le type d'analyse auquel les experts ont recouru ne peut quasiment jamais être utilisé lors d'investigations relatives à des incendies, sauf lorsqu'une partie du foin a été totalement épargnée par les flammes et n'a pas été humidifiée par les eaux d'extinction (cf. p. 11).
Il ne s'agit là que d'une affirmation, qui n'est étayée que par des références à des citations qui émaneraient de deux laboratoires français - sans que le document dont elles seraient tirées ne soit produit - dont on ne sait aucunement quelles sont leurs compétences dans le domaine particulier du cas d'espèce. L'affirmation du laboratoire D._ ne peut donc être considérée autrement qu'une simple appréciation différente de sa part, qui n'est pas de nature à constituer un motif de révision. Le recourant ne démontre en revanche pas que les experts A._ et B._ - qui, d'une part, ne pouvaient pas ignorer que les balles de foin analysées avaient été soumises à la chaleur de l'incendie et à l'eau des pompiers et qui, d'autre part, disposaient de plusieurs années d'expérience dans le domaine - auraient méconnus des principes qui, selon le rapport D._, auraient pour effet de rendre inutilisable en cas d'incendie la méthode à laquelle les experts ont recouru. En tout état de cause, ce rapport n'exclut pas la thèse des experts qu'il considère comme techniquement possible, même s'il la juge comme très invraisemblable dans les faits.
1.4.4 Le recourant se réfère au rapport D._ qui relève que ses déclarations excluaient la cause retenue par les experts pour expliquer l'incendie et que l'origine la plus probable de celui-ci était des pétards avec lesquels des enfants jouaient. De la sorte, le rapport fait uniquement valoir la propre appréciation de ses auteurs, ce qui ne constitue pas un motif de révision.
1.5 Selon le recourant, le rapport E._ indique qu'une réhydratation du foin qui avait été bien séché pouvait causer un échauffement, qu'un foin bien sec ne pouvait pas pourrir même s'il était réhumidifié par les pompiers et qu'une population de bactéries se multipliait de façon exponentielle en trois jours. Il s'agissait là non de simples appréciations, mais de principes scientifiques généraux, qui confirmaient ceux figurant dans l'expertise D._ et étaient en totale contradiction avec ceux mentionnés par le premier jugement dont il résultait que peu importait le délai de trois jours entre les prélèvements et les analyses et le fait que le foin avait été mouillé par les pompiers.
Le recourant ne critique pas le jugement cantonal en tant qu'il considère que le rapport E._ de 2005 ne peut fonder une révision eu égard au fait qu'il indique qu'il ne peut ni confirmer, ni infirmer l'hypothèse selon laquelle le foin était absolument à l'origine de l'incendie. De plus, en tant que le rapport de 2012 indique, de manière générale, qu'une population de bactéries se multiplie de façon exponentielle en trois jours, ce rapport ne démontre pas de manière suffisamment vraisemblable qu'en l'espèce, les experts A._ et B._ ont ignoré un élément pertinent, excluant qu'ils pouvaient considérer, sur la base des échantillons examinés, que l'incendie avait été causé par une surfermentation. Enfin, l'affirmation du recourant selon laquelle E._ est un scientifique spécialisé dans le domaine agricole ne permet pas de démontrer que les experts A._ et B._ ne disposaient pas de compétences à tout le moins équivalentes.
1.6 Le recourant fait valoir que la cour cantonale ne pouvait affirmer que le Tribunal de police n'avait pas fondé sa conviction sur un relevé de pluviométrie, qu'il évoque. Il ressortait en outre du relevé que le temps était sec en juin et juillet 2002.
A l'appui de sa motivation, le jugement du 5 mars 2004 mentionne certes un relevé pluviométrique. Cela étant, plus que le fait de savoir si le premier juge s'était fondé sur un tel relevé, ou pas, il s'agit de déterminer, en l'espèce, si celui produit par le recourant à l'appui de sa demande en révision est de nature à modifier les constatations de fait retenues par le jugement du 5 mars 2004. Or, le fait que le temps était sec en juin et juillet 2002 ne permet pas encore, en lui-même, de retenir de manière suffisamment vraisemblable que tout le foin stocké était assez sec pour exclure une surfermentation susceptible de causer un incendie.
Le recourant a également produit à l'appui de sa demande de révision des bulletins de réception de céréales provenant de ses cultures et datant de juillet 2002. Il fait valoir qu'il en ressort que les céréales ne présentaient qu'un faible taux d'humidité et qu'elles n'avaient nécessité aucun séchage. Ces bulletins n'indiquent toutefois pas quand les céréales ont été récoltées, combien de temps elles ont séché, ni si elles sèchent à la même vitesse que le foin. Cet élément n'était donc pas déterminant.
1.7 Il ressort de ce qui précède que les rapports D._ et E._ ainsi que le relevé pluviométrique et les bulletins de réception des céréales cultivées par le recourant qu'il a produits à l'appui de sa demande de révision ne sont pas propres à ébranler, même sous l'angle de la vraisemblance, les constatations de fait sur lesquelles se fonde la condamnation. La décision cantonale n'est ainsi pas arbitraire en tant qu'elle considère que les éléments précités ne sont pas propres à modifier l'état de fait retenu. Il n'est dès lors pas nécessaire de davantage examiner les autres critiques du recourant à l'égard de la décision attaquée, notamment quant au caractère abusif de la demande.
2. Le recours est rejeté. Le recourant, qui succombe, supporte les frais judiciaires (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 francs, sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 29 janvier 2013
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
Le Greffier: Rieben