Faits :
A.
Par jugement du 4 août 2015, le Tribunal de police de l'arrondissement de Lausanne a déclaré X._ coupable de gestion déloyale et l'a condamné à une peine de 90 jours-amende à 50 francs le jour avec sursis pendant deux ans. Il l'a également condamné à verser à A._ une indemnité de dépens de 13'106 francs au sens de l'<ref-law>. Il a aussi mis les frais de la procédure à la charge du prévenu condamné.
A.a. Par jugement du 2 février 2016, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud a rejeté l'appel de X._. Il l'a condamné aux frais de la procédure d'appel et à verser à A._ une indemnité de dépens pénaux de 3'240 francs.
La cour cantonale a retenu les faits suivants :
Le 3 octobre 2011, X._, agissant pour le compte de B._ Sàrl dont il était associé-gérant, et A._, propriétaire économique de C._ SA, ont signé un contrat de courtage portant sur la vente du fonds de commerce de l'institut de beauté « C._ » installé dans des locaux loués à D._ et exploité par C._ SA. Le prix de vente souhaité était de 55'000 francs. Une commission forfaitaire en faveur du courtier de 10'000 francs était prévue jusqu'à un prix de vente de 100'000 francs.
Le 10 novembre 2011, A._ a vendu la totalité des actions de C._ SA à X._ pour le montant de 1 franc et, le même jour, ce dernier est devenu administrateur unique de la société.
Le 6 mars 2012, A._ a informé X._ qu'elle consentait à baisser le prix de vente de C._ SA à 35'000 francs.
Le 13 mars 2012, X._ a vendu la totalité du matériel qui se trouvait dans les locaux loués par C._ SA pour le prix de 10'000 francs, somme qu'il a versée sur le compte de B._ Sàrl, dont la faillite a été prononcée le 4 juin 2014. Le montant en question a donc été définitivement perdu.
L'instruction n'a pas permis de déterminer la valeur des actifs de C._ SA. Concernant la vente des actions de cette société, X._ a admis qu'elle avait eu lieu à titre fiduciaire et que le contrat de courtage avait gardé sa validité après cette vente.
La Cour d'appel pénale du Tribunal cantonal du canton de Vaud a retenu l'existence d'un dommage causé à C._ SA par la vente du matériel, propriété de la société et se trouvant dans les locaux loués, pour le prix de 10'000 francs, montant immédiatement retenu par le courtier en paiement de la commission de courtage. Elle a estimé que la comparaison du patrimoine de la venderesse avant et après l'opération avait montré qu'elle avait été dépossédée de son matériel sans contrepartie.
A.b. Par arrêt du 1er novembre 2016 (6B_351/2016), le Tribunal fédéral a admis un recours de X._ contre le jugement du 2 février 2016 et a renvoyé l'affaire à la cour cantonale pour nouvelle décision.
B.
Après avoir complété l'instruction par l'audition comme témoin de E._, apprenti chez B._ Sàrl à l'époque des faits, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud, statuant à nouveau par jugement du 29 mars 2017, a partiellement admis l'appel. Elle a supprimé l'indemnité de 13'106 francs due par X._ à A._ pour les dépenses obligatoires occasionnées par la procédure au sens de l'<ref-law> et a confirmé pour le surplus son jugement du 2 février 2016. Elle a mis la moitié des frais d'appel à la charge de X._ et laissé le solde à la charge de l'Etat.
En substance, la cour cantonale a confirmé les faits retenus dans son jugement du 2 février 2016. Elle a ajouté que l'échange entre X._ et A._ ne pouvait en aucun cas être interprété comme une demande de celle-ci de vendre le fonds de commerce à 10'000 francs et encore moins comme une demande de vendre le matériel uniquement. La cour cantonale en a déduit que X._ s'était grossièrement écarté des dernières instructions de la mandante, qu'il avait ainsi violé les termes du mandat confié et qu'il n'avait pas respecté le principe d'équivalence. Dans ces conditions, la cour cantonale a considéré que X._ était déchu de son droit à une quelconque rémunération et au remboursement des frais engagés pour l'exécution du mandat. S'agissant de la volonté et de la capacité de X._ de restituer la somme de 10'000 francs avant la faillite de B._ Sàrl le 3 juillet 2014, la cour cantonale a relevé que si X._ avait vraiment voulu conserver la possibilité de restituer ce montant, il aurait pu le consigner à la suite de l'introduction d'une demande d'indemnisation déposée par A._ le 23 juillet 2012, soit deux ans avant la mise en faillite de B._ Sàrl. De ces différents éléments, la cour cantonale a déduit que X._ s'était approprié une valeur patrimoniale de manière illicite en s'octroyant une commission à laquelle il n'avait pas droit et que le caractère choquant du résultat économique de la transaction ne pouvait pas lui échapper. Ainsi, elle a reconnu l'existence d'un dessein d'enrichissement illégitime à tout le moins par dol éventuel.
C.
X._ interjette un recours en matière pénale au Tribunal fédéral contre le jugement du 29 mars 2017. Principalement et en réformation du jugement cantonal, il conclut, avec suite de frais et dépens, à son acquittement de la prévention de gestion déloyale et à sa libération du paiement des frais judiciaires pour les deux instances. Il réclame une indemnité de 18'000 francs pour les frais occasionnés par sa défense devant les deux instances cantonales. Subsidiairement, il conclut à l'annulation du jugement cantonal et au renvoi du dossier pour nouvelle décision à l'autorité précédente.

Considérant en droit :
1.
Le recourant conteste le jugement cantonal dans la mesure où il considère que B._ Sàrl n'avait pas le droit d'encaisser l'intégralité de la commission prévue par le contrat de courtage la liant à « C._ SA », lui refusant ainsi la possibilité de compenser le prix de vente obtenu par la vente des objets mobiliers, propriété de « C._ SA », avec le montant dû à titre de commission.
1.1. Selon l'<ref-law>, le droit à la rémunération prend naissance lorsque le courtier a indiqué au mandant l'occasion de conclure le contrat principal voulu par lui, ou a négocié pour le compte du mandant avec un éventuel cocontractant, et que cette activité aboutit à la conclusion de ce contrat. La rémunération du courtier est donc aléatoire et elle dépend essentiellement du résultat de son activité. Il faut donc que le contrat que le mandant cherchait à obtenir ait été conclu et qu'il existe un lien de causalité entre l'activité du courtier et la conclusion du contrat. Le contrat que le mandant passe avec le tiers acquéreur doit être conforme à ses attentes. Il convient à cet égard de déterminer l'équivalence économique entre l'affaire escomptée et le résultat obtenu. Dans cette perspective, c'est la portée économique du contrat principal qui est décisive (<ref-ruling> consid. 3a et les références; arrêt 4A_153/2017 du 29 novembre 2017 consid. 2.2).
1.2. En l'espèce, la cour cantonale a retenu, de façon à lier le Tribunal fédéral (<ref-law>), les faits suivants. B._ Sàrl a conclu le 3 octobre 2011, un contrat de courtage portant sur la vente de l'institut de beauté « C._ » pour un prix souhaité de 55'000 francs. Le 10 novembre 2011, A._ a vendu à titre fiduciaire les actions de C._ SA au recourant pour 1 franc. Le 17 janvier 2012, A._, estimant qu'elle avait trop de frais avec son institut et qu'elle ne pouvait plus attendre, a demandé au recourant de trouver un repreneur pour le bail et lui a signalé qu'elle vendrait elle-même le matériel. Par courrier du 6 mars 2012, A._ est revenue à charge pour dire au recourant que le prix de vente fixé à 60'000 francs était trop cher et demandait à ce qu'il soit baissé à 35'000 francs ou alors que le recourant résilie le bail ou cherche un repreneur pour celui-ci et qu'elle vende elle-même le matériel. Par courriel du 8 mars 2012, le recourant a informé A._ qu'il faisait le nécessaire pour la remise de l'institut en entier, car les machines n'avaient plus de valeur. Il a indiqué un prix de 7'000 francs pour toutes celles-ci. De plus, il a informé A._ que le fait de donner le congé pour les locaux ne résoudrait pas les problèmes, alors que s'il était possible de trouver un repreneur pour l'ensemble, la gérance ne pouvait pas refuser le transfert. Par courriel du même jour, A._ a répondu qu'il y avait lieu de baisser le prix ou de mettre une annonce pour la reprise du bail et qu'elle ferait le nécessaire pour vendre les machines à une amie. Le 13 mars 2012, le recourant a vendu la totalité du matériel pour 10'000 francs, montant qu'il a fait verser sur les comptes de B._ Sàrl.
Il ressort de cet état de fait, qui n'est pas contesté par le recourant, que l'objet du contrat de courtage était bien l'institut de beauté « C._ » dans son ensemble, le bail et le matériel meublant. Le prix souhaité était de 55'000 francs au départ. Par la suite, A._ a été d'accord de le baisser à 35'000 francs et a envisagé de scinder la vente en demandant au recourant de trouver un repreneur pour le bail alors qu'elle-même s'occupait de la vente du matériel.
1.3. Il n'est pas possible d'admettre, comme le prétend le recourant, que le fait de vendre la totalité du matériel pour 10'000 francs, soit le montant forfaitaire de la commission de courtage, ait été conforme à la volonté d'A._. En effet, ou bien il y a lieu de s'en tenir au contrat de courtage qui portait sur l'ensemble de l'institut de beauté avec une réduction du prix souhaité, ou bien il faut admettre que le recourant a accepté la proposition de sa mandante de séparer le matériel du bail. Dans ce dernier cas, le recourant ne pouvait pas disposer du matériel qu'A._ avait prévu de vendre elle-même sans lui demander son accord. Si elle n'a donné aucune consigne de prix au recourant pour la vente du matériel seul, c'est bien parce qu'il n'était pas prévu, selon ce nouvel accord, que le recourant s'en charge. Dans cette mesure, le recourant ne saurait prétendre à une commission de courtage, faute d'avoir fait ce que la mandante attendait de lui.
1.4. Dans ces conditions, il est sans incidence que le contrat de courtage ait pu contenir une clause d'exclusivité, le recourant n'ayant, en toute hypothèse, pas respecté les termes de sa mission, que ce soit sous l'angle du contrat initial (vendre le fonds de commerce) ou d'un accord ultérieur (remettre ou résilier le bail). Par ailleurs, le recourant ne saurait prétendre avoir agi dans l'intérêt de l'intimée au motif que celle-ci a déclaré que rétrospectivement, elle aurait dû vendre le matériel seul et remettre le bail ensuite. En effet, le cas de figure évoqué par l'intimée exclut manifestement l'intervention du recourant comme courtier et le paiement d'une commission. Il n'est pas non plus nécessaire d'examiner la question des factures que le recourant aurait payées pour le compte d'A._ ou de C._ SA, car il n'a pas été établi qu'elles auraient été en lien avec le contrat de courtage. Il y a d'ailleurs plutôt lieu de penser qu'elles étaient en rapport avec la gestion fiduciaire de « C._ SA ». Enfin, il est sans pertinence que le recourant ait pu verser le produit de la vente du matériel sur le compte de B._ Sàrl grâce à la procuration signée par l'intimée, qui ne saurait légitimer l'encaissement d'une commission qui n'était pas due.
Le grief pris de la violation de l'<ref-law> doit être écarté dans la mesure où les faits invoqués ne sont pas susceptibles d'influer sur le sort de la cause. Il en va de même du grief tendant à faire constater que la cour cantonale aurait violé le droit du recourant d'obtenir une décision motivée (art. 29 al. 2 Cst. et 3 al. 2 let. c CPP), l'autorité n'ayant pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais pouvant au contraire se limiter à ceux qui lui paraissent pertinents (<ref-ruling> consid. 4.2 p. 157).
1.5. En conséquence, il y a lieu d'admettre que la cour cantonale pouvait, sans violer le droit fédéral, retenir que le recourant avait été enrichi illégitimement d'un montant de 10'000 francs. En faisant verser ce montant sur les comptes de B._ Sàrl, le recourant se l'est donc approprié sans droit, comportement qui tombe sous le coup de l'<ref-law>.
2.
Le recourant nie avoir agi intentionnellement ou par dol éventuel comme l'a reconnu la cour cantonale. Il conteste en particulier le caractère choquant du résultat économique de la transaction, tel qu'admis par la cour cantonale. Il estime que la motivation sommaire de celle-ci n'est pas conforme aux exigences posées par la jurisprudence en matière de droit d'être entendu.
2.1. L'argumentation du recourant concernant la motivation de l'élément intentionnel n'est pas pertinente. En effet, il ressort des motifs de son recours qu'il a compris le sens du jugement cantonal et qu'il a pu le critiquer de façon complète. Son droit d'être entendu n'a donc pas été violé.
2.2. L'infraction de gestion déloyale requiert l'intention qui doit porter sur tous les éléments constitutifs, à savoir la qualité de gérant, la violation du devoir de gestion et le dommage. Le dol éventuel suffit, lequel doit cependant être strictement caractérisé (<ref-ruling> consid. 3.1; <ref-ruling> consid. 3c p. 23).
2.3. Contrairement à l'avis du recourant, il n'est pas possible d'admettre que celui-ci n'a pas violé intentionnellement son devoir de gestion. En effet, en sa qualité de courtier professionnel, il ne pouvait pas ne pas réaliser qu'en acceptant de scinder l'objet du courtage, comme le lui demandait la mandante, il n'avait plus la possibilité de vendre le matériel que celle-ci voulait aliéner elle-même. De plus, en encaissant le montant total de la commission de courtage dans de telles conditions, le recourant acceptait de causer un préjudice à sa mandante pour le cas où son droit à la commission ne serait pas reconnu ou pas reconnu entièrement. Cela devait être, aux yeux du recourant, évident tant il résulte de l'expérience que la vente d'un objet pour un prix équivalent à la commission de courtage ne saurait intervenir sans l'accord du mandant.
Dès lors, la cour cantonale n'a pas violé le droit fédéral en admettant que le recourant avait agi intentionnellement ou, à tout le moins, par dol éventuel.
2.4. Le recourant reproche encore à la cour cantonale de n'avoir pas examiné l'erreur au sens de l'<ref-law> dans laquelle il estimait s'être trouvé.
Il n'y a pas de dessein d'enrichissement illégitime chez celui qui s'approprie une chose pour se payer ou pour tenter de se payer lui-même, s'il a une créance d'un montant au moins égal à la valeur de la chose qu'il s'est appropriée et s'il a vraiment agi en vue de se payer. Si l'auteur croit fermement, mais par erreur, que ces conditions sont réalisées, il peut bénéficier de l'<ref-law> (<ref-ruling> consid. 3a p. 35 s., plus récemment: arrêt 6B_412/2016 du 10 février 2017 consid. 2.6).
Le jugement attaqué n'a pas examiné expressément l'application éventuelle de l'<ref-law> et n'a pas fait état des déclarations de E._, entendu comme témoin et qui était à l'époque des faits apprenti auprès de B._ Sàrl.
En application de l'<ref-law>, il y a lieu de compléter l'état de fait sur ce point et de retenir que le témoin a déclaré qu'il se souvenait de l'affaire C._ SA, et que, pour lui, le recourant était légitimé à vendre le matériel et que c'était aussi comme cela que le recourant voyait la chose.
Sur la base des considérations de la cour cantonale, dont il a été admis qu'elles n'avaient pas été établies en violation du droit fédéral, il y a lieu de retenir que le recourant devait avoir conscience du caractère illégitime de sa créance. En effet, il avait manifestement contrevenu aux directives données par la mandante concernant la vente du matériel et, à l'époque où il s'est approprié le prix de vente de celui-ci, la question du bail, second volet du courtage, n'avait pas été réglée. Dans ces conditions, l'appropriation du prix de vente ne pouvait pas relever d'une erreur tombant sous le coup de l'<ref-law> et le témoignage de E._, qui donne son point de vue sur la question, ne change rien à cette appréciation.
3.
Le recours doit donc être rejeté. Compte tenu du résultat, il n'y a pas lieu de statuer sur la demande d'indemnités au sens de l'<ref-law>, présentée par le recourant.
Le recourant, qui succombe, supporte les frais de la cause (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 3'000 francs sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 15 mai 2018
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Musy