Faits :
A.
Dans leur dénonciation du 30 mai 2014, les époux A._ faisaient état de leurs soupçons dirigés contre X._, au motif qu'il aurait touché de manière inappropriée leur fille de 4 ans, élève à l'école B._, où il enseignait. Le 4 juin 2014, X._ a été auditionné par la police en qualité de prévenu. La police a perquisitionné son domicile et du matériel informatique a été saisi. Le rapport d'analyse du matériel informatique du 2 octobre 2014 conclut à l'absence de toute trace de contenu illicite.
A.a. Le 1er décembre 2014, X._ a déposé plainte contre inconnu pour diffamation, expliquant qu'à la suite de la dénonciation pour actes d'ordre sexuel, un membre du conseil d'administration de l'école B._, avait adressé un courriel aux parents d'élèves, dans lequel il était sous-entendu qu'il avait abusé sexuellement d'une élève. Il avait été licencié de son emploi dans cet établissement.
Cette plainte, enregistrée sous le numéro de procédure P/1111, a été transmise pour enquêtes à la police le 5 décembre 2014.
A.b. Le 13 mars 2015, la Police judiciaire, Brigade des moeurs, a transmis au ministère public un rapport de renseignements dans la procédure P/1111, portant tant sur la dénonciation de X._ par les époux A._, que sur la plainte contre inconnu déposée par X._ pour diffamation.
Le rapport conclut qu'il n'a pas été possible de déterminer si X._ s'était rendu coupable ou pas d'actes d'ordre sexuel au préjudice de l'enfant A._. Sont joints au rapport, notamment, les procès-verbaux d'auditions de la mère de l'enfant, de X._, ainsi qu'un enregistrement sur DVD de l'audition de l'enfant.
S'agissant du volet relatif à la plainte pour diffamation, le rapport en résume le contenu et les déclarations des personnes entendues à titre de renseignement sur ce point et relève que l'école B._ se disait prête, sur mandat du magistrat, à transmettre les courriels litigieux et le procès-verbal de la réunion des parents d'élèves. Sous la rubrique " Remarques ", il est relevé que " la procédure pénale ouverte sous la référence P/1111 concerne plus particulièrement la plainte de M. X._. Pour des raisons évidentes de commodité, nous avons intégré toute l'affaire en amont ".
A.c. Le 19 mai 2015, le procureur a ouvert une instruction contre inconnu pour diffamation. Le même jour, il a adressé un avis de prochaine clôture de l'instruction à X._, l'informant de son intention de classer la procédure et lui impartissant un délai pour présenter d'éventuelles réquisitions de preuves.
Le 25 août 2015, X._, faisant suite à cet avis et se fondant sur l'art. 429 CPP, a sollicité une indemnisation pour tort moral de 3'000 fr., justifiée par les désagréments découlant de la plainte pour actes d'ordre sexuel avec des enfants dont il a fait l'objet.
Le 15 octobre 2015, le procureur a confirmé aux parents A._ qu'ils n'avaient pas accès à la procédure P/1111 ouverte pour diffamation, n'étant pas parties à la procédure.
Après consultation du dossier, X._ a fait part, par courrier au ministère public du 13 janvier 2016, de ses difficultés à savoir à quoi faisait référence l'avis de prochaine clôture de l'instruction du 19 mai 2015, ce d'autant que le conseil des parents de l'enfant l'avait informé de l'ouverture d'une seconde procédure s'agissant de ces faits, et s'étonnait de ne pas avoir connaissance de cette autre procédure ouverte contre lui. Le même jour, le procureur lui a répondu que la procédure P/2222 avait été ouverte contre inconnu et qu'il n'était pas visé par celle-ci.
Dans son courrier du 21 janvier 2016 au procureur, X._ a relevé que le dossier de la procédure P/2222 semblait contenir les pièces de la procédure P/1111 et qu'il était la personne contre laquelle la dénonciation des parents A._ était dirigée. Il sollicitait un classement des différentes affaires.
B.
Par ordonnance du 26 avril 2016, le ministère public a classé la procédure en référence à la plainte du 1er décembre 2014 pour diffamation (art. 319 al. 1 let. a CPP). A teneur de l'ordonnance, malgré plusieurs mesures, il n'a pas été possible d'isoler, voire de nommer l' " accusateur " au sein de l'établissement scolaire.
C.
Par arrêt du 28 mars 2017, la Cour de justice de la République et canton de Genève, Chambre pénale de recours, a déclaré irrecevable le recours formé par X._ contre l'ordonnance de classement, au motif que les motivations et conclusions ne portaient pas sur la décision attaquée (cf. art. 385 al. 1 CPP).
D.
X._ forme un recours en matière pénale auprès du Tribunal fédéral contre l'arrêt cantonal et conclut, avec suite de frais et dépens, à son annulation et au renvoi du dossier au ministère public.
Invités à se déterminer sur le recours, tant la cour cantonale que le ministère public ont renoncé à formuler des observations.
Considérant en droit :
1.
Le recourant conteste l'irrecevabilité de son recours cantonal. Selon lui, la procédure portait également sur les infractions contre l'intégrité sexuelle qui lui étaient reprochées, en sa qualité de prévenu. Faute de décision de classement de la procédure dirigée contre lui, il n'avait pas pu faire valoir notamment ses prétentions en indemnisation au sens de l'art. 429 CPP. Il reproche à la cour cantonale d'avoir arbitrairement considéré que l'ordonnance de classement portait exclusivement sur sa propre plainte et d'avoir ainsi, à tort, déclaré que ses conclusions et motivations ne permettaient pas de comprendre quelle autre décision devait être rendue et pourquoi, concernant sa plainte en diffamation. Selon lui, l'appréciation de l'objet de l'ordonnance de classement, et partant, l'irrecevabilité de son recours, contreviendrait au principe de la bonne foi (art. 5 al. 3 et 9 Cst.).
1.1. Le formalisme excessif est un aspect particulier du déni de justice prohibé par l'art. 29 al. 1 Cst. Il est réalisé lorsque la stricte application des règles de procédure ne se justifie par aucun intérêt digne de protection, devient une fin en soi, complique de manière insoutenable la réalisation du droit matériel ou entrave de manière inadmissible l'accès aux tribunaux (ATF 135 I 6 consid. 2.1 p. 9; 132 I 249 consid. 5 p. 253; 130 V 177 consid. 5.4.1 p. 183; 128 II 139 consid. 2a p. 142). En tant qu'elle sanctionne un comportement répréhensible de l'autorité dans ses relations avec le justiciable, l'interdiction du formalisme excessif poursuit le même but que le principe de la bonne foi consacré aux art. 5 al. 3 et 9 Cst. Ce principe commande à l'autorité d'éviter de sanctionner par l'irrecevabilité les vices de procédure aisément reconnaissables qui auraient pu être redressés à temps, lorsqu'elle pouvait s'en rendre compte suffisamment tôt et les signaler utilement au plaideur (ATF 125 I 166 consid. 3a p. 170; arrêt 2C_824/2014 du 22 mai 2015 consid. 5.3 et les arrêts cités).
1.2. Le recourant, qui reproche à la cour cantonale d'avoir déclaré son recours irrecevable en violation du principe de la bonne foi, soulève un grief purement formel entièrement séparé du fond qui fonde sa qualité pour recourir en matière pénale (ATF 141 IV 1 consid. 1.1 p. 5; 136 IV 29 consid. 1.9 et les références citées).
2.
Le recourant considère que c'est en violation du principe de la bonne foi et de manière arbitraire, que la cour cantonale a retenu que l'ordonnance de classement ne concernait que la procédure relative à la diffamation, à l'exclusion de celle dirigée contre lui et, ainsi, considéré que son recours ne portait pas sur la décision en cause, en vertu de l'art. 385 al. 1 CPP.
2.1. À teneur de l'art. 396 al. 1 CPP le recours doit être motivé et adressé par écrit à l'autorité de recours dans le délai de dix jours dès la notification de la décision. Selon l'art. 385 al. 1 CPP, si le code exige que le recours soit motivé, la personne ou l'autorité qui recourt doit indiquer précisément, les points de la décision qu'elle attaque (let. a), les motifs qui commandent une autre décision (let. b) et les moyens de preuve qu'elle invoque (let. c). Les motifs au sens de l'art. 385 al. 1 let. b CPP doivent être étayés par le recourant sous l'angle des faits et du droit (arrêts 6B_120/2016 du 20 juin 2016 consid. 3.1; 1B_363/2014 du 7 janvier 2015 consid. 2.1 et les références citées).
A teneur de l'art. 393 al. 2 let. a CPP, le recours peut notamment être formé pour violation du droit, y compris l'excès et l'abus du pouvoir d'appréciation, le déni de justice et le retard injustifié. Le recours pour déni de justice ou retard injustifié n'est soumis à aucun délai (art. 396 al. 2 CPP). Selon l'art. 397 al. 4 CPP, si l'autorité de recours constate un déni de justice ou un retard injustifié, elle peut donner des instructions à l'autorité concernée en lui impartissant des délais pour s'exécuter.
2.1.1. Le principe de la bonne foi, concrétisé à l'art. 3 al. 2 let. a CPP, ne concerne en procédure pénale pas seulement les autorités pénales mais le cas échéant les différentes parties, y compris le prévenu. On déduit en particulier de ce principe l'interdiction des comportements contradictoires (ATF 143 IV 117 consid. 3.2 p. 121 et les références citées).
Selon le principe de la bonne foi posé aux art. 5 al. 3 et 9 Cst., l'autorité doit interpréter les actes de procédure qui lui sont adressés dans le sens que l'on peut raisonnablement leur prêter et sans s'arrêter aux éventuelles expressions inexactes (ATF 116 Ia 56 consid. 3b p. 58; cf. ATF 131 III 268 consid. 5.1.3 p. 276; 1B_196/2017 du 24 mai 2017 consid. 2). Dans le doute, il lui appartient d'interpeller la partie (arrêt 1B_144/2011 du 14 juin 2011 consid. 2.1).
2.1.2. Si le ministère public décide de ne pas poursuivre certains faits, il doit prononcer un classement, mentionnant expressément les faits qu'il renonce à poursuivre, de manière à en définir clairement et formellement les limites. Une telle formalisation de l'abandon des charges constitue le préalable essentiel à l'exercice du droit de recours prévu par l'art. 322 al. 2 CPP (ATF 138 IV 241 consid. 2.5 p. 254; arrêt 6B_690/2014 du 12 juin 2015 consid. 4.2).
2.2. Selon l'arrêt entrepris, le mémoire de recours cantonal ne critique en rien le classement de sa plainte pour diffamation mais profite de sa notification pour demander une décision concernant la procédure dans laquelle il a été entendu en qualité de prévenu d'actes d'ordre sexuel avec des enfants.
L'arrêt entrepris retient que c'est à raison que le recourant veut recevoir la décision statuant sur les faits pour lesquels il a été entendu en tant que prévenu par la police. Les juges cantonaux relèvent toutefois que ce n'est pas par la voie du recours contre le classement de sa plainte qu'il peut l'obtenir, mais qu'il lui appartient de solliciter du ministère public une décision formelle concernant son statut de prévenu et l'indemnisation à laquelle il prétend avoir le droit, quel que soit le numéro de la procédure statuant sur cette infraction.
En définitive, considérant que le classement critiqué visait très précisément sa plainte et non les faits qui lui auraient été reprochés, la cour cantonale a jugé que, ni les conclusions, ni la motivation du recours ne permettaient de comprendre quelle autre décision devait en l'espèce être rendue et pourquoi, concernant la plainte pour diffamation.
2.3. Le raisonnement cantonal ne saurait être suivi. Il ressort expressément des faits retenus par la cour cantonale que le ministère public n'a pas ouvert de procédures distinctes s'agissant, d'une part, des actes d'ordre sexuel reprochés au recourant, et d'autre part, de la plainte de ce dernier pour diffamation, alors que le rapport de police porte sur les deux infractions. Par ailleurs, le recourant a fait valoir une indemnité au sens de l'art. 429 CPP auprès du ministère public après l'avis de prochaine clôture et a demandé, en particulier par courrier du 21 janvier 2016, qu'un classement soit prononcé s'agissant de la procédure dirigée contre lui. Le recourant a donc, ainsi que le recommande la cour cantonale, sollicité du ministère public qu'une décision soit rendue dans cette cause. Le ministère public n'a pas donné suite aux requêtes liées à l'avis de prochaine clôture. Au contraire, par ordonnance du 26 avril 2016, il a expressément classé la procédure pour diffamation, sans se prononcer sur celle ouverte contre le recourant pour actes d'ordre sexuel avec des enfants.
Il en résulte une confusion procédurale que la cour cantonale ne saurait faire supporter au recourant au motif que ses conclusions et motivations n'étaient pas expressément dirigées contre la décision de classement, circonscrite à la procédure en diffamation.
En effet, dans son mémoire de recours cantonal, le recourant s'en prend à cette ordonnance, précisément au motif qu'elle ne se prononce pas sur la procédure dirigée contre lui. Sous couvert d'une violation de son droit d'être entendu et de son droit de connaître les charges qui pèsent sur lui, il fait valoir un déni de justice, sous la forme d'une violation, par le ministère public, de l'obligation de statuer. C'est le cas en particulier lorsqu'il relève qu'aucune suite n'a été donnée à la demande de réparation morale formulée. En outre, il invoque expressément la violation du principe de célérité et évoque un retard injustifié (cf. mémoire de recours cantonal p. 6).
Il en résulte que, s'il ne peut être reproché à la cour cantonale d'avoir considéré que l'ordonnance attaquée ne portait que sur la procédure en diffamation, elle a toutefois contrevenu au principe de la bonne foi et à l'art. 385 al. 1 CPP en omettant que le recourant faisait valoir un déni de justice, respectivement, un retard injustifié (cf. art. 393 al. 2 let. a in fine CPP) au regard de la confusion procédurale d'espèce. Les conclusions et motivations du recours, dirigé contre une décision qui ne se prononce pas sur la procédure dirigée contre le recourant, ni n'en fait mention, malgré la sollicitation en ce sens, permettaient de le comprendre. La cour cantonale le suggère d'ailleurs en relevant notamment que le recourant profitait de la notification de l'ordonnance pour demander une décision concernant la procédure dirigée contre lui. En cela, la cour cantonale reconnaît que le recourant a étayé les motifs du recours sous l'angle du déni de justice, respectivement, du retard injustifié. Il lui appartenait ainsi d'entrer en matière sur le recours cantonal sous cet angle.
Partant, le recours doit être admis, l'arrêt cantonal annulé, et la cause renvoyée à la cour cantonale pour qu'elle entre en matière sur le recours pour déni de justice et retard injustifié, formé par le recourant.
3.
Le recourant qui obtient gain de cause peut prétendre à des dépens pour la procédure devant le Tribunal fédéral (art. 68 al. 1 LTF). Il est statué sans frais (art. 66 al. 1 et 4 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis. L'arrêt attaqué est annulé et la cause est renvoyée à l'autorité précédente pour nouvelle décision.
2.
Il n'est pas perçu de frais judiciaires.
3.
Le canton de Genève versera au recourant une indemnité de 3'000 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 16 mai 2018
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Klinke