Faits :
A.
Par jugement du 11 août 2016, le Tribunal d'application des peines et des mesures du canton de Genève (TAPEM) a ordonné la poursuite du traitement ambulatoire de X._ jusqu'au prochain contrôle annuel.
B.
B.a. Par arrêt du 22 novembre 2016, la Chambre pénale de recours de la Cour de justice du canton de Genève a rejeté le recours formé par X._ contre ce jugement. En résumé, elle a retenu les faits suivants:
Le 3 juin 2009, la Cour correctionnelle du canton de Genève a condamné X._, thérapeute d'eurythmie, à trois ans et six mois de peine privative de liberté pour actes d'ordre sexuel avec des enfants et contrainte sexuelle. Un traitement thérapeutique au sens de l'<ref-law> a été ordonné.
Il lui était reproché d'avoir forcé ses filles, A._, née en 1980 et B._, née en 1982, à se coucher nues après leur avoir prodigué des massages à l'occasion desquels il avait caressé leurs parties génitales et leurs seins. Il les avait également rejointes dans leur lit et leur avait prodigué des caresses intimes, avait frotté son sexe contre leur corps, les avait forcées à prendre des douches nues en sa présence, avait touché et léché leurs parties génitales et le reste du corps de A._, caressé avec insistance le sexe et la poitrine de A._ et introduit ses doigts dans son vagin.
B.b. Le 26 juillet 2012, le TAPEM a ordonné la libération conditionnelle de X._, assortie d'un délai d'épreuve d'un an et deux mois et de deux règles de conduite, à savoir l'obligation de poursuivre régulièrement son traitement ambulatoire et l'interdiction de prodiguer des massages à des mineurs, ainsi que d'exercer toute activité professionnelle, bénévole ou de loisir, impliquant un contact avec des mineurs.
Le 27 mai 2015, la Commission d'évaluation de la dangerosité, saisie pour un préavis sur la levée du traitement ambulatoire, a estimé que X._ présentait toujours un danger pour la société et a préconisé une nouvelle expertise psychiatrique, laquelle a été ordonnée par le TAPEM.
Dans leur rapport du 11 mai 2016, les experts ont posé le diagnostic de pédophilie (trouble mixte de la personnalité et trouble de la préférence sexuelle). Ils ont conclu qu'il restait un risque de passage à l'acte " que la levée de la mesure viendrait renforcer ".
C.
X._ forme un recours en matière pénale auprès du Tribunal fédéral contre l'arrêt de la Cour de justice. Principalement, il conclut, avec suite de frais et dépens, à ce que le Tribunal fédéral réforme l'arrêt en ce sens qu'il est libéré de l'obligation de poursuivre un traitement ambulatoire. Subsidiairement, il conclut au renvoi de la cause à l'autorité précédente.

Considérant en droit :
1.
Le recourant s'en prend aux faits retenus par l'instance précédente et à l'appréciation des preuves.
1.1. Le Tribunal fédéral n'est pas une autorité d'appel devant laquelle les faits établis en dernière instance cantonale peuvent être librement rediscutés. Il est lié par les constatations de faits de la décision entreprise (<ref-law>), à moins qu'elles n'aient été établies de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (art. 97 al. 1 et 105 al. 2 LTF), soit, pour l'essentiel, de façon arbitraire (art. 9 Cst.; <ref-ruling> consid. 6.3 p. 375; <ref-ruling> consid. 3.4 p. 53; <ref-ruling> consid. 2.3 p. 266; arrêt 6B_944/2016 du 29 août 2016 consid. 1.1). Une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable, et cela non seulement dans sa motivation, mais aussi dans son résultat (<ref-ruling> consid. 1.2 p. 308 s.; <ref-ruling> consid. 3.4 p. 53).
En matière d'appréciation des preuves et d'établissement des faits, il n'y a arbitraire que lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 6.3 p. 375; ATF <ref-ruling> consid. 2.3 p. 266; <ref-ruling> consid. 2.1). Lorsque l'appréciation des preuves et la constatation des faits sont critiquées en référence au principe in dubio pro reo, celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (<ref-ruling> consid. 7 p. 82; <ref-ruling> consid. 2a p. 41).
1.2. Dans son mémoire de recours, le recourant développe une argumentation appellatoire et partant largement irrecevable, dans laquelle il rediscute librement l'appréciation des preuves à laquelle s'est livrée la cour cantonale, sans démontrer en quoi celle-ci serait arbitraire. Il soutient principalement que l'instance précédente aurait dû s'écarter de l'expertise, laquelle préconise la poursuite du traitement ambulatoire. Le recourant se réfère au rapport établi par son médecin traitant.
1.3. A l'instar des autres moyens de preuve, le juge apprécie librement la force probante de l'expertise. Cette liberté trouve sa limite dans l'interdiction de l'arbitraire. Si le juge n'est en principe pas lié par les conclusions de l'expert, il ne peut s'en écarter, sous peine de violer l'art. 9 Cst., qu'en exposant les motifs déterminants et les circonstances bien établies qui lui commandent d'agir de la sorte (<ref-ruling> consid. 2.1.3 p. 53). Cela étant, ce n'est pas à l'expert, mais bien au juge qu'il incombe de résoudre les questions juridiques qui se posent, dans le complexe de faits objet de l'expertise (<ref-ruling> consid. 1c et les références citées; arrêt 6B_1297/2015 du 22 mars 2017 consid. 3.1).
L'expertise privée n'a pas la même valeur probante qu'une expertise judiciaire, l'expert mandaté par une partie n'étant ni indépendant ni impartial. Ainsi, les résultats issus d'une expertise privée réalisée sur mandat du prévenu sont soumis au principe de la libre appréciation des preuves et sont considérés comme de simples allégués de parties (<ref-ruling> consid. 6.2 p. 373 s.; arrêt 6B_259/2016 du 21 mars 2017 consid. 5.2). S'agissant du rapport du médecin traitant du prévenu, s'il est vrai que la relation particulière de confiance unissant un patient et son médecin traitant peut influencer l'objectivité ou l'impartialité de celui-ci, elle ne justifie cependant pas en elle-même l'éviction de tous les avis émanant des médecins traitants (cf. <ref-ruling> consid. 3b/cc p. 353; arrêt 9C_12/2012 du 20 juillet 2012 consid. 7.1).
1.4. En l'espèce, le recourant reproche à l'instance précédente d'avoir retenu qu'il niait les faits à la base de sa condamnation pénale et la souffrance qu'il a causée à ses propres filles. Il soutient qu'il reconnaît la gravité des actes et le fait que ceux-ci étaient " contraires aux intérêts de ses filles ". Son raisonnement ne peut être suivi. En effet, comme le reconnaît le recourant d'ailleurs lui-même, il a toujours nié le caractère sexuel de ses actes et le fait d'avoir agi avec la conscience que ses actes avaient une connotation sexuelle. Selon les experts, le recourant a uniquement retenu de son histoire qu'il n'aurait pas dû prodiguer des massages à ses enfants au-delà de l'âge de 7-8 ans. En revanche, il ne pouvait pas s'envisager dans le rôle de l'agresseur sexuel et rejetait toute la faute sur sa fille aînée, qui aurait mal interprété ses massages.
1.5. Le recourant ne saurait davantage être suivi lorsqu'il soutient que les réponses apportées par son médecin traitant, selon lequel un risque de récidive était exclu, ont été " tout bonnement ignorées ou dénigrées ". En effet, comme le retient à juste titre l'instance précédente, dans le cadre de la réalisation de leur expertise, les experts ont pris connaissance du rapport médical du médecin traitant, qu'ils mentionnent d'ailleurs. L'instance précédente a estimé que ce rapport ne venait pas ébranler la crédibilité du rapport d'expertise. A cet égard, on relèvera qu'il ne ressort pas du rapport du médecin traitant que le recourant aurait pris conscience d'avoir commis des actes d'ordre sexuel sur ses enfants.
Contrairement à ce que soutient le recourant, les experts ont estimé que la thérapie jouait un rôle dans la prévention d'actes illicites. Elle avait une " valeur de contrôle externe et donc de limitation à la toute-puissance individuelle ". En cas d'arrêt de celle-ci, le recourant présenterait un risque de récidive.
En outre, les experts ont estimé que même si les actes commis par le recourant l'ont été dans un cadre strictement familial, il n'était pas souhaitable qu'il ait des contacts avec des mineurs, même accompagnés, dans le cadre de son activité professionnelle. Dans ces conditions, ils estimaient que le traitement ambulatoire restait nécessaire.
1.6. C'est dès lors à bon droit que l'instance précédente a jugé qu'il n'existait aucun motif pertinent qui justifierait de s'écarter de l'expertise réalisée le 11 février 2016. L'instance précédente n'a pas violé le droit fédéral en jugeant que la levée de la mesure de traitement ambulatoire n'était pas appropriée.
2.
Le recours doit être rejeté dans la mesure où il est recevable. Le recourant devra donc supporter les frais (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours doit être rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 5 octobre 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Thalmann