Faits :
A.
A.a. Par ordonnance du 17 juin 2015, le Ministère public de la République et canton de Genève a refusé d'entrer en matière sur la plainte d'A._ contre X._ pour des actes d'ordre sexuel prétendument commis sur leurs enfants B._, née en 2010, et C._, né en 2008, les conditions à l'ouverture de l'action pénale n'étant manifestement pas réunies, dès lors qu'aucun élément objectif ne pouvait être retenu à la charge de X._. Les déclarations des différents protagonistes étaient contradictoires et la situation entre les parents pour la garde des enfants conflictuelle. En outre, aucun témoin n'avait assisté aux scènes décrites par C._, selon lesquelles son père serait rentré dans les toilettes à D._, lui aurait montré son sexe et l'aurait secoué devant lui; ces déclarations étaient peu plausibles au regard de la configuration du cabinet de toilette à D._. Au demeurant, aucune investigation complémentaire n'était à même de faire la lumière sur les faits dénoncés.
Par arrêt du 20 août 2015, la Chambre pénale de recours de la Cour de justice de la République et canton de Genève a rejeté le recours d'A._ contre l'ordonnance de non-entrée en matière, dont elle a repris les arguments en les développant.
Le Tribunal fédéral a déclaré irrecevable le recours formé par A._ contre cette décision (6B_956/2015).
A.b. Par courrier du 14 mars 2016, A._ a requis du ministère public la reprise de la procédure préliminaire, se fondant sur des faits et des pièces nouveaux. Elle a produit plusieurs documents, soit plusieurs dessins, datés entre juillet 2015 et février 2016, attribués à B._, sur lesquels le sexe d'une fillette était mis en évidence et le bras d'un garçon ou d'un homme se prolongeait en direction de cet organe, deux dessins attribués à C._, un courrier du psychiatre des enfants au Service de protection des mineurs (ci-après: SPMi), le recours du SPMi du 9 octobre 2015 contre la décision du Tribunal de protection de l'adulte et de l'enfant du canton de Genève (ci-après: TPAE) ordonnant la reprise progressive des relations entre X._ et ses enfants, le recours du curateur des deux enfants contre cette même décision, les observations d'A._ devant la Chambre de surveillance de la Cour de justice, l'arrêt de la Chambre de surveillance de la Cour de justice du 20 janvier 2016, ayant admis le recours du curateur et du SPMi et renvoyé la cause à l'autorité précédente, et le procès-verbal d'audition, le 3 mars 2016, du psychiatre des enfants par devant le TPAE.
Par ordonnance du 19 avril 2016, le ministère public a refusé de reprendre la procédure.
Par arrêt du 1er septembre 2016, la Chambre de recours de la Cour de justice a rejeté le recours d'A._. Elle a considéré que c'était à bon droit que le ministère public avait refusé d'ordonner la reprise de la procédure.
B.
Contre cet arrêt, A._ forme un recours en matière pénale (6B_1135/2017). Elle conclut, avec suite de frais et de dépens, principalement, à l'annulation de l'arrêt de la Cour de justice et à l'annulation de l'ordonnance du ministère public et, subsidiairement, au renvoi de la cause au ministère public en lui ordonnant de reprendre l'instruction de la procédure et, plus subsidiairement, au renvoi de la cause au ministère public en lui ordonnant de renvoyer la cause par-devant l'autorité de jugement. Elle sollicite par ailleurs l'assistance judiciaire.
Invités à présenter des observations, le ministère public et l'intimé ont renoncé à se déterminer. Pour sa part, l'autorité cantonale a déclaré n'avoir pas d'observations à formuler et s'est référée aux considérants de son arrêt.
C.
Le 21 octobre 2016, A._ a, à nouveau, requis la reprise de la procédure, en se fondant sur une attestation du Dr. E._ du 30 septembre 2016.
Par ordonnance du 2 décembre 2016, le ministère public a refusé de reprendre la procédure.
Par arrêt du 15 juin 2017, la Chambre de recours de la Cour de justice a rejeté le recours d'A._.
D.
A._ forme un recours en matière pénale contre cet arrêt (6B_877/2017). Elle conclut, avec suite de frais et de dépens, principalement, à l'annulation de l'ordonnance du ministère public du 2 décembre 2016 et au renvoi de la cause au ministère public en lui ordonnant de prononcer la reprise de la procédure préliminaire. Elle demande également au Tribunal fédéral d'ordonner l'audition du Dr. E._, la mise en place d'une expertise de crédibilité et l'apport de photographies à D._. Subsidiairement, elle demande au Tribunal fédéral de renvoyer la cause au ministère public et de lui ordonner de renvoyer la cause devant l'autorité de jugement opportune. Elle sollicite par ailleurs l'assistance judiciaire.
Invités à présenter des observations, le ministère public et l'intimé ont renoncé à se déterminer. Pour sa part, l'autorité cantonale a déclaré n'avoir pas d'observations à formuler et s'est référée aux considérants de son arrêt.
Considérant en droit :
1.
Vu la connexité évidente des deux recours, il se justifie de joindre les procédures.
2.
Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Constituent de telles prétentions celles qui sont fondées sur le droit civil et doivent en conséquence être déduites ordinairement devant les tribunaux civils. Il s'agit principalement des prétentions en réparation du dommage et du tort moral au sens des art. 41 ss CO.
En vertu de l'art. 42 al. 1 LTF, il incombe à la partie recourante d'alléguer les faits qu'elle considère comme propres à fonder sa qualité pour recourir. Lorsque le recours est dirigé contre une décision de non-entrée en matière ou de classement de l'action pénale, la partie plaignante n'a pas nécessairement déjà pris des conclusions civiles. Quand bien même la partie plaignante aurait déjà déclaré des conclusions civiles (cf. art. 119 al. 2 let. b CPP), il n'en reste pas moins que le procureur qui refuse d'entrer en matière ou prononce un classement n'a pas à statuer sur l'aspect civil (cf. art. 320 al. 3 CPP). Dans tous les cas, il incombe par conséquent à la partie plaignante d'expliquer dans son mémoire au Tribunal fédéral quelles prétentions civiles elle entend faire valoir contre l'intimé. Comme il n'appartient pas à la partie plaignante de se substituer au ministère public ou d'assouvir une soif de vengeance, la jurisprudence entend se montrer restrictive et stricte, de sorte que le Tribunal fédéral n'entre en matière que s'il ressort de façon suffisamment précise de la motivation du recours que les conditions précitées sont réalisées, à moins que l'on puisse le déduire directement et sans ambiguïté compte tenu notamment de la nature de l'infraction alléguée (ATF 141 IV 1 consid. 1.1 p. 4; arrêt 6B_603/2016 du 26 juin 2017 consid. 1.1).
En l'espèce, la recourante a participé à la procédure cantonale en tant que partie plaignante et elle a pris des conclusions civiles d'un montant de 30'000 fr. en réparation du tort moral subi par elle-même et ses enfants. Selon la jurisprudence, on ne peut exclure a priori le droit des parents victimes d'abus sexuels à une indemnité pour tort moral, mais seules des atteintes d'une gravité exceptionnelle peuvent en justifier l'allocation (arrêts 6B_707/2014 du 18 décembre 2014 consid. 1.1; 6B_1049/2010 du 10 mai 2011 consid. 2.3.2 et 6S.78/2006 du 31 mai 2006 consid. 1.2). Or, la recourante n'explique d'aucune manière ce qui conférerait, en l'espèce, la gravité exceptionnelle exigée pour justifier l'indemnisation d'un parent. Il s'ensuit que seule sa qualité pour recourir pour ses enfants doit être admise
3.
3.1. Selon l'art. 323 al. 1 CPP, le ministère public ordonne la reprise d'une procédure préliminaire close par une ordonnance de classement entrée en force s'il a connaissance de nouveaux moyens de preuves ou de faits nouveaux: s'ils révèlent une responsabilité pénale du prévenu (let. a) et s'ils ne ressortent pas du dossier antérieur (let. b). Ces deux conditions doivent être cumulativement remplies (ATF 141 IV 194 consid. 2.3 p. 197; arrêts 6B_353/2016 du 30 mars 2017 consid. 2.2.2 et 6B_1015/2013 du 8 avril 2014 consid. 5.1 et les réf. cit.). L'art. 323 al. 1 CPP est applicable à la reprise de la procédure préliminaire close par une ordonnance de non-entrée en matière (art. 310 al. 2 CPP).
En raison du renvoi de l'art. 310 al. 2 CPP, les conditions pour la reprise de la procédure posées à l'art. 323 al. 1 CPP s'appliquent également à la procédure close par une ordonnance de non-entrée en matière. Dans ce dernier cas, les conditions de la reprise sont cependant moins sévères qu'en cas de reprise après une ordonnance de classement (ATF 141 IV 194 consid. 2 p. 197 s.; arrêt 6B_1015/2013 du 8 avril 2014 consid. 5.1).
Quand bien même les exigences pour la reprise de la procédure au sens de l'art. 323 al. 1 CPP sont moindres par rapport à celles prévalant en matière de révision au sens des art. 410 ss CPP, il n'en demeure pas moins que des nouvelles mesures d'instruction doivent alors être justifiées sur la base de nouveaux indices permettant concrètement d'envisager une responsabilité pénale du prévenu (arrêts 6B_92/2014 du 8 mai 2014 consid. 3.1 et 1B_662/2011 du 26 janvier 2012 consid. 3.1 et les références citées). Il faut en somme que le nouveau moyen de preuve rende vraisemblable une modification de la décision (arrêt 6B_92/2014 du 8 mai 2014 consid. 3.1; cf. GRÄDEL/HEINIGER, in Basler Kommentar, Schweizerische Strafprozessordnung, 2011, n° 13 ad art. 323 CPP).
3.2. En l'occurrence, s'agissant de la cause 6B_1135/2016, il n'est pas contesté que l'on est en présence de nouveaux moyens de preuves ou de faits nouveaux qui ne ressortent pas du dossier antérieur. Il sied de déterminer si les pièces nouvellement produites par la recourante sont de nature à révéler une responsabilité du prévenu.
La Cour de justice a retenu que le contenu des différentes pièces nouvelles ne contenait aucun élément objectif de nature à fonder la responsabilité pénale du prévenu. Elle a par ailleurs relevé qu'en cas de reprise d'instruction sur la base des dessins produits, il y aurait lieu d'entendre les enfants sur ces pièces alors que leur psychiatre avait clairement indiqué qu'il était préférable d'arrêter de les interroger sur les événements en question.
Le raisonnement de l'instance précédente selon lequel les nouvelles pièces ne révèlent pas une responsabilité pénale de l'auteur ne saurait être suivi. En effet, dans son courrier au SPMi du 14 octobre 2015, le psychiatre qui suit les enfants a fait état du refus du fils de la recourante de revoir son père et a indiqué que l'enfant lui avait parlé de l'exhibitionnisme de son père, qui l'angoissait beaucoup, lui faisait peur. Il en a conclu qu'une expertise devrait être effectuée avec un pédopsychiatre. En outre, dans son arrêt du 20 janvier 2016, la Chambre de surveillance a elle-même relevé les " soupçons de comportements inadaptés à connotation sexuelle de la part de X._ ". Il s'ensuit qu'il existe plusieurs indices permettant concrètement d'envisager une responsabilité pénale du prévenu. En outre, contrairement à l'instance précédente, on ne voit pas en quoi les dessins figurant au dossier qui représentent des scènes sexualisées ne seraient pas des indices susceptibles de contribuer à établir la responsabilité pénale du prévenu. Par ailleurs, dans sa décision du 20 janvier 2016, la Cour de justice a admis les recours du SPMi et du curateur interjetés contre la décision du TPAE, qui ordonnait la reprise du droit de visite du prévenu. Selon le procès-verbal d'audition du psychiatre devant le TPAE du 3 mars 2016, celui-ci confirme que les deux enfants, séparément, ont fait état d'abus sexuels, en fonction de ce qu'ils lui décrivent comme une forme d'exhibitionnisme.
Il s'ensuit que les conditions pour une reprise de la procédure sont remplies, de sorte qu'il faut admettre le recours.
3.3. S'agissant de la procédure 6B_877/2017, le seul fait nouveau invoqué par la recourante est l'attestation du Dr. E._. Il n'est pas contesté qu'il s'agit d'un élément de preuve nouveau. La recourante reproche à l'instance précédente d'avoir fait preuve d'arbitraire en rejetant les propos de celui-ci. Il ressort des faits constatés par l'autorité précédente que le médecin a reçu les enfants séparément en dehors de la présence de leur mère. Or, lorsqu'ils étaient interrogés sur ce qu'il s'était passé entre leur père et eux, leurs réponses étaient toujours les mêmes et ne variaient jamais. Le médecin, qui dispose d'une longue expérience, a estimé que les dessins rapportés, notamment ceux de B._, étaient d'une crudité qu'il n'avait jamais vue auparavant. D'après lui, il existerait un faisceau d'indices convergents en direction de la "plainte des enfants ". Compte tenu de l'ensemble des éléments, l'on ne saurait suivre l'instance précédente lorsqu'elle soutient que les constatations et l'opinion de ce médecin, n'apparaissent pas suffisantes à fonder une prévention pénale.
4.
En définitive, les arrêts attaqués doivent être annulés et la cause renvoyée à l'autorité cantonale pour qu'elle ordonne au ministère public d'ouvrir une instruction. La recourante, qui obtient gain de cause, ne supporte pas de frais (art. 66 al. 1 LTF). Le canton de Genève sera dispensé des frais (art. 66 al. 4 LTF). Il versera en revanche à la recourante une indemnité de dépens globale pour ces deux procédures devant le Tribunal fédéral (art. 68 al. 2 LTF). Les requêtes d'assistance judiciaire deviennent ainsi sans objet. Il n'y a pas lieu de condamner l'intimé, qui n'a pas présenté d'observations, aux dépens de la recourante.
Par ces motifs, le Tribunal fédéral prononce :
1.
Les causes 6B_1135/2016 et 6B_877/2017 sont jointes.
2.
Les recours sont admis, les arrêts attaqués sont annulés et la cause est renvoyée à l'autorité précédente pour nouvelle décision.
3.
Il n'est pas perçu de frais judiciaires.
4.
Le canton de Genève versera à la recourante une indemnité de 4'000 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
5.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 24 novembre 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Thalmann