Faits :
A.
Par ordonnance du 15 février 2019, le Ministère public de l'arrondissement de Lausanne a refusé d'entrer en matière sur la plainte pénale déposée le 16 janvier 2019 par A.X._ contre son épouse B.X._ pour diffamation et calomnie contre un mort ou un absent, respectivement pour injure.
B.
Statuant sur recours de A.X._, la Chambre des recours pénale du Tribunal cantonal vaudois l'a, par arrêt du 26 mars 2019, rejeté et a confirmé l'ordonnance de non-entrée en matière attaquée.
En substance, A.X._ reprochait à son épouse deux messages électroniques adressés par WhatsApp les 17 et 27 octobre 2019. Le premier avait la teneur suivante, traduite de l'anglais, "Oui je sais que, dans ta culture (& famille), les enfants sont privés de tout jusqu'à 21 ans puis on leur lègue des millions tandis que les parents se dirigent vers leur tombe... Dans ma culture, les enfants profitent des biens de leurs parents tout au long de leur vie et, en grandissant, travaillent afin d'acquérir les leurs". Le second mentionnait ce qui suit: "Rappelle-toi d'un proverbe... Si tu es nourri de merde... seulement de la merde ressortira... de la merde entre... de la merde ressort...! Puisque tu es celui qui nourrit... je ne peux pas vraiment blâmer cette pauvre femme [...]".
La cour cantonale a retenu, en bref, que s'agissant du premier message, la comparaison entre deux cultures dont il était question ne pouvait être considérée comme étant de nature à jeter, sur une personne particulière, le soupçon de tenir une conduite contraire à l'honneur. Le message évoquait un mode d'éducation consistant, pour des parents économiquement favorisés, à confiner leur enfants dans une relative frugalité avant de les faire bénéficier des richesses familiales à l'âge de 21 ans seulement. Pour les juges précédents, cela ne faisait en rien passer les parents décédés de A.X._ pour des personnes méprisables. Il n'y avait donc pas d'atteinte à l'honneur, tel qu'il est pénalement protégé. En ce qui concerne le second message, il n'y était à l'évidence pas question d'allégations de fait. L'évidente vulgarité et la virulence de la critique contenue dans le message ne suffisaient pas à constituer une atteinte à l'honneur pénalement protégé de son destinataire. L'expression correspondait bien plutôt au cas de figure de la critique de l'oeuvre d'un artiste assimilé à "de la merde". La cour cantonale a dès lors considéré que l'appréciation mise en cause par A.X._ ne dépassait pas les limites fixées par le droit pénal.
C.
A.X._ forme un recours en matière pénale au Tribunal fédéral contre l'arrêt précité. Il conclut avec suite de frais et dépens, principalement, à la réforme de l'arrêt attaqué en ce sens que le ministère public entre en matière sur plainte, subsidiairement à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité précédente afin qu'elle ordonne au ministère public d'entrer en matière.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office (<ref-law>) et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 358).
1.1. Dirigé contre un arrêt confirmant une ordonnance de non-entrée en matière (<ref-law>), le présent recours concerne une décision rendue en matière pénale (<ref-law>), qui émane d'une autorité cantonale de dernière instance (<ref-law>) et qui revêt un caractère final (<ref-law>). Il est donc en principe recevable quant à son objet (arrêts 6B_1153/2016 du 23 janvier 2018 consid. 1.1 non publié aux <ref-ruling>; 6B_1024/2016 du 17 novembre 2017 consid. 1.1).
1.2. Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Constituent de telles prétentions celles qui sont fondées sur le droit civil et doivent en conséquence être déduites ordinairement devant les tribunaux civils. Il s'agit principalement des prétentions en réparation du dommage et du tort moral au sens des <ref-law>.
En vertu de l'<ref-law>, il incombe à la partie recourante d'alléguer les faits qu'elle considère comme propres à fonder sa qualité pour recourir. Lorsque le recours est dirigé contre une décision de non-entrée en matière ou de classement de l'action pénale, la partie plaignante n'a pas nécessairement déjà pris des conclusions civiles. Quand bien même la partie plaignante aurait déjà déclaré des conclusions civiles (cf. <ref-law>), il n'en reste pas moins que le ministère public qui refuse d'entrer en matière ou prononce un classement n'a pas à statuer sur l'aspect civil (cf. <ref-law>). Dans tous les cas, il incombe par conséquent à la partie plaignante d'expliquer dans son mémoire au Tribunal fédéral quelles prétentions civiles elle entend faire valoir contre l'intimé. Comme il n'appartient pas à la partie plaignante de se substituer au ministère public ou d'assouvir une soif de vengeance, la jurisprudence entend se montrer restrictive et stricte, de sorte que le Tribunal fédéral n'entre en matière que s'il ressort de façon suffisamment précise de la motivation du recours que les conditions précitées sont réalisées, à moins que l'on puisse le déduire directement et sans ambiguïté compte tenu notamment de la nature de l'infraction alléguée (<ref-ruling> consid. 1.1 p. 4).
Les mêmes exigences sont requises à l'égard de celui qui se plaint d'infractions attentatoires à l'honneur (cf. parmi d'autres: arrêts 6B_576/2019 du 20 mai 2019 consid. 2.1; 6B_414/2019 du 5 avril 2019 consid. 4.1; 6B_226/2019 du 29 mars 2019 consid. 1.1). N'importe quelle atteinte légère à la réputation professionnelle, économique ou sociale d'une personne ne justifie pas une réparation. L'allocation d'une indemnité pour tort moral fondée sur l'<ref-law> suppose que l'atteinte présente une certaine gravité objective et qu'elle ait été ressentie par la victime, subjectivement, comme une souffrance morale suffisamment forte pour qu'il apparaisse légitime qu'une personne dans ces circonstances s'adresse au juge pour obtenir réparation (arrêts 6B_576/2019 précité consid. 2.1; 6B_1202/2018 du 11 janvier 2019 consid. 1.1; 6B_1244/2018 du 7 janvier 2019 consid. 1.1).
1.3. En l'espèce, le recourant fait valoir que les messages incriminés lui ont causé une grave souffrance morale. Ses allégations ne sont toutefois ni étayées, ni objectivées. Quoi qu'en dise le recourant, la gravité des faits dénoncés et de l'atteinte censée en découler ne s'imposent pas comme une évidence. De simples affirmations à ce sujet ne sont pas suffisantes eu égard aux exigences de motivation découlant de l'<ref-law>. A cet égard, le recourant se limite à de simples allégations mais ne démontre pas à satisfaction de droit en quoi l'atteinte subie atteindrait la gravité objective et subjective que la jurisprudence exige pour l'allocation d'une indemnité pour tort moral. Il s'ensuit que les conditions de l'art. 81 al. 1 let. a et b ch. 5 LTF ne sont pas remplies en l'espèce. Le recourant n'a dès lors pas qualité pour recourir sur le fond de la cause.
1.4. L'hypothèse visée à l'art. 81 al. 1 let. b ch. 6 LTF n'entre pas en considération, le recourant ne soulevant aucun grief quant à son droit de porter plainte.
1.5. Indépendamment des conditions posées par l'<ref-law>, la partie recourante est aussi habilitée à se plaindre d'une violation de ses droits de partie équivalant à un déni de justice formel, sans toutefois pouvoir faire valoir par ce biais, même indirectement, des moyens qui ne peuvent être séparés du fond (<ref-ruling> consid. 1.1 p. 5 et les références citées). Le recourant ne soulève aucun grief de cette nature et n'a donc pas non plus qualité pour recourir sous cet angle.
2.
Sur le vu de ce qui précède, le recours doit être déclaré irrecevable Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Les frais judiciaires, arrêtés à 3000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 8 août 2019
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
Le Greffier : Dyens