Faits :
A.
A.a. Le 10 août 2016, A._ a déposé plainte pénale à l'encontre de X._ pour des faits réalisant selon lui les infractions de gestion déloyale, respectivement d'abus de confiance et d'escroquerie en lien avec la société B._ Sàrl qu'il avait constituée avec le prénommé. Le 22 août 2016, le Ministère public, parquet régional de la Chaux-de-Fonds, a ouvert une instruction pénale à l'encontre de X._ (MP.2016.3519). Dans le cadre de cette instruction, le Ministère public a envoyé une circulaire à une quinzaine d'établissements bancaires, les informant que X._ faisait l'objet d'une instruction pour escroquerie, subsidiairement abus de confiance et plus subsidiairement encore gestion déloyale et qu'il y avait un soupçon sur l'existence de comptes qui abriteraient le produit de ces crimes. En conséquence, les banques étaient priées de le renseigner sur l'existence d'éventuels comptes dépôts-titres, comptes métal, dépôts fiduciaires, safes ou autres avoirs que X._ détiendrait ou aurait détenus en personne, ainsi que par le biais de la société B._ Sàrl et de la raison individuelle B.X._. Le 21 février 2017, la procédure susvisée s'est soldée par un classement au motif que les investigations menées n'avaient pas permis de confirmer les soupçons de rétrocessions empochées illégalement.
A.b. Le 24 mai 2017, X._ a déposé plainte ainsi que dénonciation pénale à l'encontre de A._ pour calomnie (art. 174 CP), subsidiairement dénonciation calomnieuse (art. 303 CP), plus subsidiairement diffamation (art. 173 CP) et très subsidiairement injure (art. 177 CP). A l'appui, il a soutenu que A._ avait proféré des accusations à son encontre sans que celles-ci ne soient fondées, le seul but étant de lui nuire. Le 2 juin 2017, le Ministère public, parquet régional de Neuchâtel, a requis du Ministère public, parquet régional de La Chaux-de-Fonds, la production du dossier MP.2016.3519. X._ et A._ ont été entendus par la gendarmerie de C._, les respectivement 19 octobre 2017 et 6 décembre 2017, en tant que personnes appelées à donner des renseignements.
Le 31 janvier 2018, le Ministère public, parquet régional de Neuchâtel, a rendu une ordonnance de non-entrée en matière sur la plainte du 24 mai 2017 d'X._ au motif que les éléments constitutifs des infractions envisagées n'étaient manifestement pas réunis.
B.
Le 9 août 2018, l'Autorité de recours en matière pénale du Tribunal cantonal du canton de la République et canton de Neuchâtel a rejeté le recours intenté par X._.
Cette autorité a considéré que les investigations menées, à savoir l'audition de X._ et de A._ par la police et la réquisition d'un dossier par le Ministère public, ne faisaient pas encore obstacle à la reddition d'une ordonnance de non-entrée en matière. En outre, les conditions des infractions dénoncées n'étaient pas satisfaites car A._ avait nourri des interrogations non feintes en rapport avec certains mouvements de fonds. En assortissant ses allégations de réserves, A._ avait démontré sa bonne foi et avait agi dans le but de sauvegarder les intérêts de la société dont il détenait des parts.
C.
X._ forme un recours en matière pénale au Tribunal fédéral. Il conclut, avec suite de frais et dépens, principalement à la réforme du jugement du 9 août 2018 en ce sens qu'il est ordonné au Ministère public d'ouvrir l'instruction, et subsidiairement au renvoi de la cause à l'autorité inférieure pour nouvelle décision.
Considérant en droit :
1.
Conformément à l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Constituent de telles prétentions celles qui sont fondées sur le droit civil et doivent en conséquence être déduites ordinairement devant les tribunaux civils. Il s'agit principalement des prétentions en réparation du dommage et du tort moral au sens des art. 41 ss CO (ATF 141 IV 1 consid. 1.1 p. 4). En vertu de l'art. 42 al. 1 LTF, il incombe à la partie recourante d'alléguer les faits qu'elle considère comme propres à fonder sa qualité pour recourir. Lorsque le recours est dirigé contre une décision de non-entrée en matière ou de classement de l'action pénale, la partie plaignante n'a pas nécessairement déjà pris des conclusions civiles. Quand bien même elle aurait déjà déclaré des conclusions civiles (cf. art. 119 al. 2 let. b CPP), il n'en reste pas moins que le ministère public qui refuse d'entrer en matière ou prononce un classement n'a pas à statuer sur l'aspect civil (cf. art. 320 al. 3 CPP).
Dans tous les cas, il incombe par conséquent à la partie plaignante d'expliquer dans son mémoire au Tribunal fédéral quelles prétentions civiles elle entend faire valoir contre l'intimé. Comme il n'appartient pas à la partie plaignante de se substituer au ministère public ou d'assouvir une soif de vengeance, la jurisprudence entend se montrer restrictive et stricte, de sorte que le Tribunal fédéral n'entre en matière que s'il ressort de façon suffisamment précise de la motivation du recours que les conditions précitées sont réalisées, à moins que l'on puisse le déduire directement et sans ambiguïté compte tenu notamment de la nature de l'infraction alléguée (ATF 141 IV 1 consid. 1.1 p. 4 s.). Si la partie plaignante se plaint d'infractions distinctes, elle doit mentionner, par rapport à chacune d'elles, en quoi consiste son dommage (arrêts 6B_635/2018 du 24 octobre 2018 consid. 1.1.1; 6B_496/2018 du 6 septembre 2018 consid. 1.1).
Les mêmes exigences sont requises à l'égard de celui qui se plaint d'infractions attentatoires à l'honneur (arrêt 6B_94/2013 du 3 octobre 2013 consid. 1.1). L'allocation d'une indemnité pour tort moral fondée sur l'art. 49 al. 1 CO suppose que l'atteinte présente une certaine gravité objective et qu'elle ait été ressentie par la victime, subjectivement, comme une souffrance morale suffisamment forte pour qu'il apparaisse légitime qu'une personne dans ces circonstances s'adresse au juge pour obtenir réparation (arrêt 6B_588/2018 du 5 octobre 2018 consid. 2.1).
1.1. En l'occurrence, le recourant allègue avoir été contraint de déployer une activité substantielle afin de rétablir sa probité auprès des établissements financiers qui ont reçu la circulaire du ministère public les informant de la procédure pénale ouverte à son encontre. Cette activité a impliqué quelques heures de travail pour lui-même et son mandataire, soit différents courriers, conversations téléphoniques et entretiens. Le dommage, qui s'élève au total à 3'617 fr., se compose des postes suivants: heures consacrées au dossier (27h à 120 fr.), déplacements (310 km à 0.70 fr.) et frais administratifs (217 fr.).
Le recourant prétend également à l'obtention d'une indemnité pour tort moral à hauteur de 5'000 francs.
Les frais qui, selon le recourant, auraient été engendrés par l'activité consistant à rétablir sa probité auprès des banques, ne constituent pas un préjudice résultant directement des infractions dénoncées par lui (dénonciation calomnieuse, diffamation, calomnie, injure) et pouvant faire l'objet de conclusions civiles par adhésion à la procédure pénale. Ces frais se rapportent plutôt à la procédure pénale MP.2016.3519, laquelle s'est soldée par un classement des chefs de prévention retenus à l'encontre du recourant.
Le recourant ne fournit par ailleurs aucun détail sur le tort moral qu'il aurait subi. En particulier, il n'allègue pas avoir éprouvé une souffrance morale suffisamment forte pour justifier le versement d'une réparation.
Partant, faute d'allégations suffisantes sur ses prétentions civiles découlant des infractions dénoncées dans sa plainte, le recourant ne dispose pas de la qualité pour recourir sur le fond de la cause (art. 81 al. 1 let. a et b ch. 5 LTF).
1.2. L'hypothèse visée à l'art. 81 al. 1 let. b ch. 6 LTF n'entre pas en considération, le recourant ne soulevant aucun grief quant à son droit de porter plainte.
2.
Indépendamment des conditions posées par l'art. 81 al. 1 LTF, la partie plaignante est habilitée à se plaindre d'une violation de ses droits de partie équivalant à un déni de justice formel.
2.1. Invoquant la violation de l'art. 310 CPP, le recourant soutient que le ministère public a mené une instruction substantielle de la cause qui l'empêchait de clore la procédure par le prononcé d'une ordonnance de non-entrée en matière. Pour autant qu'il soulève, par ce grief, la violation de son droit d'être entendu, le recours, supposé recevable sous cet angle, est de toute façon infondé pour les motifs qui suivent.
2.2. Selon l'art. 309 CPP, le ministère public ouvre une instruction, notamment, lorsqu'il ressort du rapport de police, des dénonciations ou de ses propres constatations des soupçons suffisants laissant présumer qu'une infraction a été commise (let. a). Il peut renvoyer à la police, pour complément d'enquête, les rapports et les dénonciations qui n'établissent pas clairement les soupçons retenus (al. 2). Il renonce à ouvrir une instruction lorsqu'il rend immédiatement une ordonnance de non-entrée en matière ou une ordonnance pénale (al. 4). La phase qui précède l'ouverture d'une instruction au sens de l'art. 309 CPP constitue les investigations policières au sens des art. 306 et 307 CPP (art. 300 al. 1 let. a CPP). Durant cette phase, le ministère public peut donner des directives à la police ou lui confier des mandats (art. 306 al. 1 CPP et 307 al. 2; arrêt 1B_67/2012 du 29 mai 2012 consid. 2.2).
2.2.1. L'audition de l'intimé et du recourant par la police ne dépasse pas le cadre des investigations policières qui peuvent être effectuées avant que le ministère public n'ouvre une instruction (art. 206 al. 1 CPP; cf. arrêt 6B_431/2013 du 18 décembre 2013 consid. 2.3).
2.2.2. Le recourant fait également valoir que le ministère public a requis la production d'un dossier pénal établi dans une autre affaire et autorisé les parties à prendre connaissance du dossier de la cause.
La production d'un dossier au sens de l'art. 194 al. 1 CPP constitue un acte d'instruction qui ne peut en principe être exécuté qu'une fois l'instruction ouverte. Partant, lorsqu'après avoir exécuté cet acte, le ministère public parvient à la conviction qu'aucune infraction n'est réalisée, il doit rendre une ordonnance de classement au sens de l'art. 319 CPP et non une ordonnance de non-entrée en matière selon l'art. 310 CPP. Cependant, les ordonnances de non entrée en matière et les ordonnances de classement sont réglées par les mêmes dispositions. Lorsque le recourant n'a subi aucun dommage du fait que le ministère public a rendu une ordonnance de non entrée en matière au lieu d'une ordonnance de classement, il ne se justifie pas de l'annuler pour ce seul motif (arrêts 6B_962/2013 du 1er mai 2014 consid. 2; 1B_731/2012 du 8 février 2013 consid. 2).
En l'espèce, la cour cantonale a constaté que le recourant n'avait pas été lésé par cet éventuel vice de forme, et ce dernier ne prétend pas le contraire. Il n'y a donc pas lieu d'annuler l' ordonnance de non-entrée en matière pour ce motif.
3.
Sur le vu de ce qui précède, le recours est rejeté dans la mesure où il est recevable. Le recourant, qui succombe, supporte les frais judiciaires (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal de la République et canton de Neuchâtel, Autorité de recours en matière pénale.
Lausanne, le 15 novembre 2018
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière: Musy