Faits :
A.
A la suite de l'opposition formée par X._ contre l'ordonnance pénale du 22 août 2012, le Juge de police de la Sarine l'a condamné, par jugement du 5 février 2013, pour contamination d'eau potable par négligence à une peine pécuniaire de 30 jours-amende à 180 fr., avec sursis pendant 2 ans, alloué à Y._, à charge de X._, un montant de 4000 fr. pour son dommage et de 12'000 fr. en remboursement des dépenses obligatoires occasionnées par la procédure et mis les frais de procédure à la charge de X._.
B.
Statuant sur l'appel formé par X._, la Cour d'appel pénal du Tribunal cantonal fribourgeois l'a rejeté par arrêt du 10 mars 2014.
En bref, il en ressort les éléments suivants.
X._, agriculteur, a exploité, jusqu'en 2011, la parcelle 49 du Registre foncier de A._ par une agriculture relativement intensive. En 2007, X._ a en outre créé, au nord de sa parcelle, une décharge de matériaux inertes et de fumier de cheval et de poule. En aval de la parcelle 49, se trouve un puits d'eau (ci-après: puits P1) qui servait à alimenter notamment la villa sise sur la parcelle 47 appartenant à Y._. Des analyses de la qualité de l'eau ont révélé que la concentration de nitrates de ce puits s'élevait à 56 mg/l en 2005, à 64 mg/l en 2007, à 45.7 mg/l en 2009, à 40 mg/l en 2011, à 42 mg/l en 2012 et à 45 mg/l en 2014.
Une expertise hydrogéologique a été ordonnée et l'expert a déposé son rapport le 27 avril 2012. En bref, il en ressort que l'origine des nitrates, mesurés au puits P1, provenait essentiellement des pratiques agricoles exercées dans le bassin topographique dont faisait partie la parcelle 49. Pour expliquer les concentrations élevées en nitrates relevées au puits P1, une lixiviation de nitrates contenus dans les sols de la parcelle 49 vers les eaux souterraines devait se produire. L'évolution des concentrations en nitrates au puits P1, malgré le peu de données à disposition, tendait à corroborer cette hypothèse. La diminution de la concentration des nitrates observée depuis 2011 pouvait être liée au fait qu'une partie du champ de la parcelle 49 n'était plus cultivée, ce qui diminuait l'apport en nitrates dans le système hydrogéologique étudié. La synchronicité entre le pic de concentration en nitrates au puits P1 en 2007 et le dépôt de fumier de cheval et de poule tendait également à affirmer cette hypothèse.
C.
X._ forme un recours en matière pénale et constitutionnelle au Tribunal fédéral. Il conclut, avec suite de frais, à l'annulation de l'arrêt attaqué.

Considérant en droit :
1.
L'arrêt attaqué, qui est final, a été rendu dans une cause de droit pénal. Il peut donc faire l'objet d'un recours en matière pénale (art. 78 ss LTF), qui permet d'invoquer notamment toute violation du droit fédéral, y compris des droits constitutionnels (art. 95 let. a LTF). Par conséquent, le recours constitutionnel subsidiaire est exclu (art. 113 LTF).
2.
Le recourant conteste l'appréciation faite par la cour cantonale de l'expertise et, partant, des faits.
2.1. Le Tribunal fédéral conduit son raisonnement sur la base des faits établis par la juridiction précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte - à savoir arbitraire (<ref-ruling> consid. 5.1 p. 356). Le grief d'arbitraire doit être invoqué et motivé de manière précise (art. 106 al. 2 LTF). Le recourant doit exposer, de manière détaillée et pièces à l'appui, que les faits retenus l'ont été d'une manière absolument inadmissible, et non seulement discutable ou critiquable. Il ne saurait se borner à plaider à nouveau sa cause, contester les faits retenus ou rediscuter la manière dont ils ont été établis comme s'il s'adressait à une juridiction d'appel (<ref-ruling>). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 5.1 p. 356 ; <ref-ruling> consid. 6 p. 397).
2.2. Comme tous les autres moyens de preuve, les expertises sont soumises à la libre appréciation du juge. Celui-ci ne peut cependant pas s'écarter d'une expertise sans motifs pertinents. Il doit examiner, en se fondant sur les autres moyens de preuve administrés et sur les arguments des parties, si de sérieuses objections font obstacle au caractère probant des conclusions de l'expertise. En se fondant sur une expertise non concluante, le juge peut tomber dans l'arbitraire (<ref-ruling> consid. 3.2 p. 547 s.). Tel peut être le cas si l'expert n'a pas répondu aux questions posées, si ses conclusions sont contradictoires ou si, de toute autre façon, l'expertise est entachée de défauts à ce point évidents et reconnaissables, même sans connaissances spécifiques, que le juge ne pouvait tout simplement pas les ignorer. Il n'appartient pas au Tribunal fédéral de vérifier si toutes les affirmations de l'expert sont exemptes d'arbitraire; sa tâche se limite bien plutôt à examiner si l'autorité précédente pouvait, sans arbitraire, se rallier au résultat de l'expertise (arrêt 9C_717/2011 du 25 juin 2012 consid. 5.1).
2.3. Le droit d'être entendu, tel qu'il est garanti aux art. 3 al. 2 let. c CPP et 29 al. 2 Cst., comprend notamment pour le justiciable le droit d'obtenir l'administration des preuves pertinentes et valablement offertes, de participer à l'administration des preuves essentielles et de se déterminer sur son résultat lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 3.1 p. 277; <ref-ruling> consid. 2a/aa p. 16; <ref-ruling> consid. 3a p. 51). Aux termes de l'art. 389 al. 3 CPP, l'autorité de recours administre, d'office ou à la demande d'une partie, les preuves complémentaires nécessaires au traitement du recours. L'art. 139 al. 2 CPP, applicable de manière générale à toutes les autorités pénales, prévoit quant à lui qu'il n'y a pas lieu d'administrer des preuves sur des faits non pertinents, notoires, connus de l'autorité pénale ou déjà suffisamment prouvés. Le législateur a ainsi consacré le droit des autorités pénales de procéder à une appréciation anticipée des preuves. Le magistrat peut renoncer à l'administration de certaines preuves, notamment lorsque les faits dont les parties veulent rapporter l'authenticité ne sont pas importants pour la solution du litige. Ce refus d'instruire ne viole le droit d'être entendu que si l'appréciation anticipée de la pertinence du moyen de preuve offert, à laquelle le juge a ainsi procédé, est entachée d'arbitraire (<ref-ruling> consid. 5.3 p. 236).
2.4. En substance, la cour cantonale a retenu que l'expertise mettait en évidence le bassin versant topographique du puits P1 d'où provenaient essentiellement, selon l'expert, les nitrates mesurés dans ce puits. L'expert n'avait certes pas été en mesure d'exclure complètement qu'une partie des nitrates provienne du nord mais il n'avait pas non plus relevé d'éléments qui attesteraient de la présence éventuelle de nitrates au nord. Pour les besoins de l'expertise, quatre autres ouvrages captant les eaux souterraines proches du puits P1 avaient été analysés. Le seul autre puits se situant dans le bassin versant topographique du puits P1 était le puits L qui présentait au moment de l'expertise un taux de nitrates inférieur à 1 mg/l et se situait en amont de la surface d'exploitation du recourant. L'expert relevait que les concentrations en nitrates disponibles pour le puits P1 indiquaient que celles-ci étaient supérieures à 50 mg/l avant 2011, qu'elles tendaient à diminuer depuis et que les valeurs maximales enregistrées correspondaient à 2007. Dans un rapport d'analyse du 25 septembre 2007, le laboratoire cantonal précisait par ailleurs que l'augmentation intervenue entre novembre 2005 et septembre 2007 devait être considérée comme forte. L'expert soulignait par ailleurs que lorsque la teneur était la plus élevée, le recourant disposait d'une décharge. A cet égard, le recourant avait admis qu'il avait exploité une décharge non autorisée et que, s'agissant du dépôt de crottin de cheval et de fumier de poule, il avait tenté une expérience et n'avait pas agi dans les règles de l'art. Le dossier ne permettait pas d'établir avec exactitude la date à laquelle dite décharge, en particulier le fumier de poule et de cheval, avait été évacuée. Il semblait que cela fût entre l'automne 2007 et le mois de novembre 2007. L'intimée avait confirmé que la situation s'était régularisée sur ce point depuis fin 2007. En outre, l'expert expliquait également cette baisse de la teneur en nitrates par le fait que le terrain situé en amont de l'intimée n'était plus cultivé depuis 2011, ce qui avait été confirmé par le recourant qui avait précisé que cette partie de son exploitation n'était plus cultivée depuis l'automne 2010. Lors de l'audience devant la cour cantonale, le recourant avait indiqué que le terrain était exploité en prairie maigre, à savoir sans aucun apport d'engrais ou de fumure depuis 2011.
Au vu de ces éléments, la cour cantonale a acquis la conviction que le pic de nitrates en 2007 et la diminution du taux constatée après 2011 mesurés au puits P1 provenaient essentiellement des pratiques agricoles exercées dans le bassin topographique où se situe l'exploitation du recourant. Elle a retenu que l'eau du puits P1, alimentant l'habitation de l'intimée, était polluée aux nitrates depuis au moins 2005. L'eau avait depuis ce moment présenté une teneur en nitrates supérieure, respectivement égale, au seuil de tolérance de 40 mg/l fixé dans l'Annexe 1 de l'Ordonnance sur les substances étrangères et les composants (OSEC; RS 817.021.023). Tel était encore le cas en février 2014. La teneur en nitrates la plus élevée avait été constatée en 2007. Cette même année, le recourant avait tenu une décharge non autorisée sur sa parcelle, y répandant entre autres du fumier de cheval et de poule.
La cour cantonale a ainsi retenu que le recourant avait, par son comportement, notamment en entretenant une décharge sauvage, pollué, au moyen de nitrates dont le taux dépassait la valeur de tolérance fixée à 40 mg/l, l'eau potable du puits P1, en 2007, seule période visée par l'ordonnance pénale du 22 août 2012 valant acte d'accusation, et que cette pollution provenait de la lixiviation des nitrates sur la parcelle du recourant. Certes, le taux était toujours trop élevé au 5 février 2014. Cependant, le laboratoire cantonal avait indiqué que le temps nécessaire pour que la teneur en nitrates diminue pouvait aller jusqu'à plusieurs années.
2.5. Le recourant reproche tout d'abord à la cour cantonale de ne fournir aucun élément permettant de suivre son raisonnement par lequel elle lui impute la pollution de l'eau de ses voisins en 2007. Dans la mesure où le recourant entend reprocher à la cour cantonale un défaut de motivation, relevant de la violation du droit d'être entendu, son grief est insuffisamment motivé au regard des exigences accrues de l'art. 106 al. 2 LTF. Quoi qu'il en soit, la cour cantonale a exposé les faits qu'elle retenait, les raisons pour lesquelles elle les tenait pour établis et les motifs sur lesquels elle se fondait pour retenir la réalisation de l'infraction. On se bornera à rappeler que le juge n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à l'examen des questions décisives pour l'issue du litige (<ref-ruling> consid. 4.1 p. 88; <ref-ruling> consid. 3.3 p. 445). Les critiques du recourant sont infondées dans la mesure où elles sont recevables.
2.6. Le recourant conteste l'appréciation faite par la cour cantonale de l'expertise. Il relève que celle-ci a été appréciée différemment par le ministère public dans son ordonnance de condamnation, par le juge de première instance et par la cour cantonale. Ce faisant, il perd toutefois de vue que la cour d'appel cantonale dispose d'un plein pouvoir d'examen en fait et en droit (cf. art. 398 al. 2 CPP). Il ne formule de la sorte aucun grief recevable sous l'angle de l'art. 106 al. 2 LTF.
2.7. Le recourant s'en prend à la valeur probante de l'expertise.
2.7.1. Il soutient que l'expertise présenterait une contradiction. L'expert indiquerait en effet qu'une contamination de l'eau par des matières fécales impliquerait la présence de bactéries coliformes et entérocoques. Or, les analyses reprises dans l'expertise constateraient l'absence de telles bactéries dans l'eau du puits P1. Par conséquent, il existerait une contradiction entre l'absence de ces bactéries et la conclusion de l'expert indiquant que le pic de nitrates de 2007 correspondrait à la période où le recourant avait constitué son dépôt de fumier.
2.7.2. Il convient tout d'abord de relever que la cour cantonale a retenu que la pollution aux nitrates provenait des pratiques agricoles du recourant et non seulement du dépôt de fumier, lequel avait toutefois contribué de manière notable au pic de 2007. Cela étant, il ressort de l'expertise que « les critères microbiologiques de potabilité sont basés sur la recherche des hôtes normaux du tractus intestinal de l'homme et des animaux, soit les coliformes et les entérocoques principalement; une eau contenant de tels germes indique une contamination par des matières fécales » (105 al. 2 LTF; rapport d'expertise p. 9 s.). En d'autres termes, la présence des bactéries susmentionnées démontrent une contamination par des matières fécales. Toutefois, contrairement à ce qu'affirme le recourant, il ne ressort pas de l'expertise que l'inverse serait nécessairement vrai. Ainsi, l'expert ne constate pas qu'une contamination par des matières fécales implique nécessairement la présence des bactéries coliformes et entérocoques. De plus, le recourant ne démontre pas que tel serait nécessairement le cas, se contentant de l'affirmer.
2.7.3. A cet égard, le recourant soutient qu'il avait requis l'audition de l'expert. Il ressort de l'ordonnance rendue le 3 décembre 2013 par la cour cantonale, à la motivation de laquelle elle se réfère dans l'arrêt entrepris (consid. 1/e p. 4), que le recourant avait requis l'audition de l'expert se référant à son courrier adressé au juge de première instance. Dans celui-ci, il avait indiqué que « l'audition de l'expert était sollicitée car celui-ci avait fait certaines déclarations en première partie de son expertise dont la portée devait être examinée par l'autorité judiciaire », sans autre précision. Dans ses courriers des 29 mai et 19 juin 2012 adressés dans le délai imparti pour se déterminer sur le rapport d'expertise, le recourant n'avait pas requis qu'il soit posé des questions complémentaires à l'expert (ordonnance du 3 décembre 2013, p. 2). De plus, il ressort des notes de plaidoirie déposées par le recourant à l'audience devant la cour cantonale (art. 105 al. 2 LTF; pièce 18 dossier d'appel cantonal) qu'il souhaitait faire entendre l'expert sur l'absence de baisse significative du niveau de nitrates dans le puits P1 en 2014 en relation avec le fait qu'il avait cessé l'exploitation de la parcelle en 2011. Sur ce dernier point, la cour cantonale a retenu que si le taux était certes toujours trop élevé au 5 février 2014, le laboratoire cantonal avait indiqué que le temps nécessaire pour que la teneur en nitrates diminue pouvait aller jusqu'à plusieurs années. C'est ainsi sans arbitraire qu'elle a considéré qu'elle était suffisamment renseignée, que l'expert avait rendu un rapport d'expertise complet et figurant au dossier de sorte qu'il n'y avait pas lieu d'ordonner son audition en appel, la lecture dudit rapport paraissant suffisante pour juger de la cause. Pour le surplus, le recourant ne démontre pas avoir requis l'audition de l'expert s'agissant de la présence des bactéries coliformes et entérocoques et il n'apparaît pas que tel soit le cas. Par conséquent, son grief à cet égard est irrecevable faute d'épuisement préalable des voies de droit cantonales (cf. art. 80 al. 1 LTF).
2.7.4. Dès lors que le rapport d'expertise n'indique pas, contrairement à ce qu'affirme le recourant, qu'une pollution par des matières fécales implique nécessairement la présence des bactéries coliformes et entérocoques, elle ne présente aucune contradiction avec ses conclusions. La cour cantonale pouvait, sans arbitraire, s'y rallier. Pour le surplus, c'est sans arbitraire que la cour cantonale a refusé d'entendre l'expert au sujet du taux de nitrates encore en dessus de 40 mg/l en 2014 dès lors qu'elle était suffisamment renseignée par l'expertise et les informations complémentaires du laboratoire cantonal. Les critiques du recourant sont infondées dans la mesure où elles sont recevables.
2.7.5. Enfin, selon le recourant, l'expert avait indiqué, dans son rapport, qu'une expertise complémentaire était nécessaire pour asseoir ses conclusions. Il en déduit que le lien entre ses activités et la pollution ne serait pas établi. Ce faisant, il ne fait qu'opposer sa propre appréciation de la valeur probante de l'expertise à celle de la cour cantonale. Celle-ci a indiqué de manière détaillée pour quels motifs elle estimait que les conclusions de l'expertise pouvaient être suivies et sur quels autres éléments de fait elle se fondait pour retenir que la pollution avait été causée par l'activité du recourant (cf. supra consid. 2.4). Celui-ci ne s'en prend pas à la motivation cantonale et son grief, insuffisamment motivé, est irrecevable.
2.8. Le recourant soutient encore que la présence du tas de fumier sur sa parcelle n'aurait pas duré plus de six semaines et que cette durée n'aurait pas permis la contamination aux nitrates. Ce faisant, il ne fait qu'opposer sa propre appréciation à celle de l'expert et de la cour cantonale dans une démarche purement appellatoire. Au demeurant, sa référence aux Directives de la Direction de l'aménagement, de l'environnement et des constructions de l'Etat de Fribourg concernant l'épandage des engrais de ferme et les dépôts temporaires de fumier ne lui est d'aucun secours. En effet, si celles-ci indiquent à leur point 3 b II 3 que les dépôts de fumier sont tolérés sur les terres agricoles pour une durée de six semaines maximum, elles énumèrent en outre une série d'autres conditions pour ce faire dont le recourant ne prétend ni ne démontre qu'elles étaient réalisées en l'espèce. Quoi qu'il en soit, elles précisent au terme de ce point 3 que dans tous les cas, les agricultrices ou agriculteurs restent responsables des atteintes à la protection de l'environnement ou des eaux que leurs dépôts temporaires peuvent causer, même si les conditions de tolérance semblaient remplies au moment du dépôt. Il en découle qu'il n'est pas établi que, même si les conditions posées par les Directives sont respectées, une pollution aux nitrates est exclue. A tout le moins, n'était-il pas manifestement insoutenable de retenir que la présence du dépôt de fumier sur la parcelle du recourant avait pu contribuer notablement à la pollution constatée en 2007. Le grief du recourant est infondé dans la mesure où il est recevable.
2.9. Le recourant prétend que la pollution aux nitrates ne pourrait provenir de sa parcelle puisque le taux de nitrates dans le puits P1 était toujours trop élevé en 2014, bien qu'il ait cessé l'exploitation de sa parcelle en 2011. A cet égard, la cour cantonale a relevé que le laboratoire cantonal avait indiqué que le temps nécessaire pour que la teneur en nitrates diminue pouvait aller jusqu'à plusieurs années. Le recourant ne démontre pas en quoi cette constatation serait arbitraire se contentant d'affirmer que les nitrates disparaissent rapidement. Purement appellatoire, sa critique est irrecevable.
2.10. En définitive, il n'était pas manifestement insoutenable de retenir, sur la base des éléments figurant au dossier, en particulier les conclusions de l'expert, la coïncidence temporelle entre le pic de nitrates et la période durant laquelle le recourant avait exploité son dépôt de fumier sur la parcelle litigieuse, ainsi que la diminution du taux de nitrates depuis la cessation de l'exploitation de ladite parcelle, que le recourant avait, par ses pratiques agricoles et par l'exploitation de son dépôt de fumier, causé la pollution aux nitrates du puits P1 en 2007.
3.
Le recourant conteste sa condamnation pour contamination de l'eau potable par négligence (art. 234 al. 2 CP), non sur la base des faits retenus par la cour cantonale, dont il n'a pas démontré l'arbitraire, mais sur la base de faits qu'il invoque librement. Ce faisant, il n'articule aucun grief recevable tiré de l'application erronée du droit matériel.
4.
Le recours doit ainsi être rejeté dans la mesure où il est recevable. Le recourant, qui succombe, supporte les frais judiciaires (art. 66 al. 1 LTF). Il n'y a pas lieu d'allouer des dépens au ministère public (art. 68 al. 3 LTF), ni à l'intimée qui n'a pas été invitée à procéder (art. 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénal du Tribunal cantonal du canton de Fribourg.
Lausanne, le 14 octobre 2014
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Mathys
La Greffière : Livet