Faits :
A.
A.a. Le 4 octobre 2014, une manifestation non autorisée dont le but était de protester contre le défilé du bicentenaire de la police a eu lieu à Genève. Environ 250 personnes, dont des membres de A._, y ont participé. Cette manifestation a dégénéré et des actes de violence sur des biens et des personnes ont été commis. X._ était en tête du cortège, vêtu notamment d'un pull à capuche noir et d'une casquette et filmait l'évènement au moyen d'une caméra.
A la suite de diverses plaintes, une instruction pénale a été ouverte à l'encontre de X._ pour violence et menace contre les fonctionnaires (<ref-law>) et émeute (<ref-law>). Il lui était notamment reproché d'avoir pris part à ladite manifestation ainsi que d'avoir insulté, lors de celle-ci, un agent de police.
A.b. Par ordonnance du 25 septembre 2015, le Ministère public de la République et canton de Genève a partiellement classé la procédure dirigée contre X._ du chef d'émeute, faute d'avoir pu établir avec certitude qu'il avait fait partie des manifestants ayant commis les dégâts du 4 octobre 2014. Les frais de procédure de 500 fr. étaient mis à sa charge et l'indemnité pour les frais de défense requise a été refusée.
Par ordonnance pénale du même jour, le ministère public a notamment déclaré X._ coupable de violence ou menaces contre les autorités et les fonctionnaires (<ref-law>) et d'injures (<ref-law>).
A.c. Par arrêt du 18 décembre 2015, la Cour de justice de la République et canton de Genève, Chambre pénale de recours, a rejeté le recours formé par X._ contre l'ordonnance de classement partiel qu'elle a confirmée et l'a condamné aux frais de la procédure.
A.d. Par arrêt du 31 octobre 2016 (6B_67/2016), le Tribunal fédéral a admis le recours de X._, a annulé l'arrêt du 18 décembre 2015 et a renvoyé la cause à la cour cantonale pour nouvelle décision. Il a jugé en substance que la mise à la charge de X._ des frais violait l'<ref-law>. Il a estimé que dans la mesure où la question de l'indemnisation du prévenu (cf. <ref-law>) devait être traitée en relation avec celle des frais, le recours devait également être admis sur ce point.
B.
Par arrêt du 24 novembre 2016, la Cour de justice a laissé les frais de procédure de première instance et de la deuxième instance à la charge de l'Etat, alloué à X._ une indemnité de 5'158 fr. 30 et alloué à son avocat une indemnité de 2'000 francs.
C.
Le ministère public forme un recours en matière pénale contre l'arrêt cantonal et conclut à la réforme de cet arrêt en ce sens qu'aucune indemnité n'est octroyée à X._.

Considérant en droit :
1.
1.1. Invoquant une violation de son droit d'être entendu au regard des <ref-law> et 29 al. 2 Cst., le ministère public se plaint de n'avoir pas été invité à se déterminer avant que la Cour de justice ne statue sur la fixation de l'indemnité selon l'<ref-law>.
1.2. L'art. 390 al. 2 1ère phrase CPP, qui concrétise la garantie du droit d'être entendu déduite de l'art. 29 al. 2 Cst., prévoit que "si le recours n'est pas manifestement irrecevable ou mal fondé, la direction de la procédure notifie le mémoire de recours aux autres parties et à l'autorité inférieure pour qu'ils se prononcent".
1.3. En l'occurrence, l'autorité précédente a fixé les frais dans sa décision du 24 novembre 2016 mais n'a pas donné la possibilité au recourant, soit une partie selon l'art. 104 al. 1 let. c CPP de se prononcer. Ce faisant, elle a violé l'<ref-law>. Il peut arriver qu'une violation du droit d'être entendu n'entraîne pas l'annulation de la décision attaquée lorsqu'on ne voit pas quelle influence la violation peut avoir eu (cf. arrêts 6B_168/2012 du 27 août 2012 consid. 3; 4A_153/2009 du 1er mai 2009 consid. 4.1 et réf. cit.). En l'espèce, compte tenu de la marge d'appréciation importante dont dispose l'autorité cantonale et que le Tribunal fédéral ne revoit qu'avec retenue (<ref-ruling> consid. 2.3.6 p. 204), il n'est pas exclu qu'une détermination du ministère public ait pu avoir une incidence sur le sort de l'indemnité. Il n'est donc pas possible d'affirmer que la violation de l'<ref-law> n'a eu aucune incidence. Il se justifie par conséquent d'admettre le recours et de renvoyer la cause à la Cour de justice pour nouvelle décision dans le respect du droit d'être entendu des parties.
1.4. Au vu de ce qui précède, il n'y a pas lieu d'analyser les autres griefs soulevés par le recourant qui deviennent sans objet.
Au regard de la nature procédurale du vice examiné et dès lors que le Tribunal fédéral n'a pas traité la cause sur le fond, ne préjugeant ainsi pas de l'issue de la cause, il peut être procédé au renvoi sans ordonner préalablement un échange d'écritures (cf. arrêts 6B_259/2016 du 21 mars 2017 consid. 11 et 6B_432/2015 du 1er février 2016 consid. 4).
1.5. L'intimé n'ayant pas été invité à se déterminer, il peut être renoncé à la perception de frais judiciaires (art. 66 al. 1 seconde phrase LTF). Il n'y a pas lieu d'allouer de dépens au ministère public (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité cantonale pour nouvelle décision.
2.
Il n'est pas perçu de frais judiciaires.
3.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 5 juillet 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Thalmann