Faits :
A.
A._, né en 1964, travaille au service de la banque B._ et est, à ce titre, assuré contre le risque d'accident auprès d'AXA Winterthur.
Le 29 novembre 2016, il s'est cassé une dent en croquant dans une olive non dénoyautée se trouvant dans une salade méditerranéenne prête à la consommation, préalablement achetée auprès d'un grand distributeur.
Par décision du 14 février 2017, confirmée sur opposition le 16 mai 2017, AXA Winterthur a refusé de prendre en charge le traitement dentaire qui en est résulté, au motif que l'événement ne constituait pas un accident en l'absence d'un facteur extérieur extraordinaire.
B.
Par arrêt du 23 janvier 2018, le Tribunal cantonal du canton de Fribourg, I e Cour des assurances sociales, a rejeté le recours formé par A._ contre cette décision.
C.
A._ interjette un recours en matière de droit public contre ce jugement, en concluant à son annulation et à la prise en charge par AXA Winterthur des frais découlant du dommage dentaire subi lors de l'événement du 29 novembre 2016.
AXA Winterthur conclut à l'irrecevabilité du recours, subsidiairement à son rejet. La juridiction cantonale et l'Office fédéral de la santé publique ont renoncé à déposer une détermination.

Considérant en droit :
1.
Le recours est dirigé contre un arrêt final (<ref-law>) rendu en matière de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi. Il est donc recevable.
2.
Le litige porte sur la prise en charge du traitement dentaire, soit une prestation en nature de l'assurance-accidents (cf. <ref-law> [RS 830.1]), de sorte que le Tribunal fédéral est lié par les faits constatés par la juridiction précédente (<ref-law>), sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>).
3.
3.1. Selon l'<ref-law>, les prestations d'assurance sont allouées en cas d'accident professionnel, d'accident non professionnel et de maladie professionnelle. Est réputée accident toute atteinte dommageable, soudaine et involontaire, portée au corps humain par une cause extérieure extraordinaire qui compromet la santé physique, mentale ou psychique ou qui entraîne la mort (<ref-law>). Il résulte de la définition même de l'accident que le caractère extraordinaire de l'atteinte ne concerne pas les effets du facteur extérieur, mais seulement ce facteur lui-même. Dès lors, il importe peu que le facteur extérieur ait entraîné, le cas échéant, des conséquences graves ou inattendues. Le facteur extérieur est considéré comme extraordinaire lorsqu'il excède, dans le cas particulier, le cadre des événements et des situations que l'on peut, objectivement, qualifier de quotidiens ou d'habituels (<ref-ruling> consid. 4.3.1 p. 221; <ref-ruling> consid. 2.1 p. 404; <ref-ruling> consid. 1a p. 38).
3.2. Les lésions dentaires survenant lors de la mastication d'aliments revêtent le caractère d'accident lorsque les aliments contiennent un corps étranger dont la présence est extraordinaire. La dent ne doit pas nécessairement être parfaitement saine mais il suffit qu'elle remplisse normalement sa fonction de mastication (<ref-ruling> consid. 3b p. 170). Dans ce contexte, la jurisprudence a admis par exemple que la présence d'un fragment de coquille de noix ou de noisette dans un pain aux noix, un gâteau aux noix, un croissant fourré ou un chocolat aux noisettes est extraordinaire en dépit du fait qu'on ne peut jamais exclure totalement la présence d'un fragment de coquille dans ces aliments (arrêt 8C_53/2016 du 9 novembre 2016 consid. 3.2, in SVR 2017 UV n°18 p. 61 et les références citées). L'existence d'un facteur extérieur extraordinaire a également été admise lorsqu'une personne se brise une dent sur un caillou en consommant une préparation de riz, même lorsque l'incident se produit à l'étranger dans un pays en voie de développement (arrêt U 165/98 du 21 avril 1999 consid. 3a, in RAMA 1999 n° U 349 p. 478) ou dans le cas d'une assurée qui s'est cassée une dent sur un noyau d'olive en mangeant un pain aux olives qu'elle avait confectionné avec des olives provenant d'un sachet indiquant pour contenu des "olives dénoyautées" dès lors qu'elle ne pouvait s'attendre à y trouver un noyau (arrêt 9C_985/2010 du 20 avril 2011 consid. 6.2). Il en va différemment lorsqu'une personne achète dans un magasin une pizza garnie d'olives sans qu'aucune précision ne soit fournie quant à celles-ci (arrêt U 454/04 du 14 février 2006 consid. 3.6). N'est pas non plus un accident le fait de se casser une dent en mangeant une tarte aux cerises non dénoyautées de sa propre confection (<ref-ruling> consid. 3c p. 205 s.). Dans ce cas, l'assuré pouvait s'attendre à trouver un noyau dans sa préparation. De même, la seule présence d'une noix ou d'une olive non dénoyautée dans une salade ne peut être considérée comme extraordinaire (arrêts 8C_750/2015 du 18 janvier 2016 consid. 5 et 8C_ 893/2014 du 27 janvier 2015 consid. 3.5), tout comme le fait de trouver un reste de projectile en mangeant au restaurant de la viande de chasse (arrêt U 367/04 du 18 octobre 2005 consid. 4.3).
4.
Les premiers juges ont nié le caractère extraordinaire du facteur extérieur. Ils ont tout d'abord constaté que les olives - dénoyautées ou non - photographiées sur le paquet d'emballage de la salade achetée par le recourant n'étaient que très peu visibles, de sorte qu'un consommateur moyen était bien en peine d'en déduire que ce produit contenait des olives dénoyautées. Ils ont considéré que la présence d'une olive non dénoyautée dans une salade - même déjà lavée et prête à la consommation - n'avait rien d'exceptionnel, d'autant que la description de l'article ne faisait nullement référence, dans sa composition, à des olives dénoyautées mais uniquement à des "olives vertes et noires". Selon la juridiction cantonale, en l'absence de précisions claires quant à la présence d'olives non dénoyautées, la présence d'une ou de plusieurs d'entre elles dans une salade n'avait rien de singulier.
5.
5.1. Le recourant invoque une violation de son droit d'être entendu. Il ne développe toutefois aucune argumentation propre à étayer ce grief, qui ne répond par conséquent pas aux exigences de motivation des art. 42 al. 2 et 106 al. 2 LTF.
5.2.
5.2.1. Sur le fond, le recourant reproche à la cour cantonale d'avoir fait preuve d'arbitraire dans la constatation des faits, en tant qu'elle a constaté que les olives photographiées sur le paquet d'emballage de la salade méditerranéenne n'étaient que très peu visibles et qu'il n'était dès lors pas possible de déterminer si elles étaient dénoyautées ou non. Il fait valoir que l'on peut clairement identifier une olive verte dénoyautée à droite du bandeau de l'emballage ainsi qu'une autre olive dénoyautée en dessous du logo "C._". De par leur emplacement près de la marque du produit et près de son descriptif, les deux olives dénoyautées seraient clairement visibles comme telles et auraient pour but de capter l'attention du consommateur. Le consommateur ayant toutes les raisons de penser qu'il achète une salade contenant des olives dénoyautées, la présence d'un noyau dans l'une d'entre elles aurait dû être considérée comme étant extraordinaire.
5.2.2. En l'occurrence, si l'on peut certes distinguer, sur la photo de l'emballage de la salade figurant au dossier, deux olives vertes dénoyautées, on y voit également des olives noires, sans toutefois pouvoir déterminer si ces dernières sont dénoyautées ou non. On ne peut donc retenir que l'image des olives bicolores sur l'emballage reflète l'exact contenu de celui-ci. Aussi doit-on admettre avec la cour cantonale qu'un consommateur, même attentif, ne pouvait présumer à la simple vue de l'emballage que le produit ne contenait que des olives dénoyautées. Il n'est pas déterminant de savoir si celles-ci étaient ou non suffisamment visibles. De plus, il est établi que le produit ne mentionne pas expressément que les olives contenues dans la salade sont dénoyautées. Conformément à la jurisprudence précitée (cf. consid. 3.2), l'incident du 29 novembre 2016 ne saurait dès lors être qualifié d'accident, faute de cause extérieure de caractère extraordinaire.
6.
Mal fondé, le recours doit être rejeté. Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Fribourg, Ie Cour des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 21 décembre 2018
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Fretz Perrin