Faits:
A. Par jugement du 23 février 2012, le Tribunal correctionnel de l'arrondissement de l'Est vaudois a libéré X._ de l'accusation d'abus de confiance.
B. Le Ministère public du canton de Vaud a formé appel contre ce jugement. Il a conclu à la condamnation de X._ pour abus de confiance et au prononcé d'une créance compensatrice à son encontre d'un montant de 87'260 francs. Par jugement du 4 juillet 2012, la Cour d'appel pénale du Tribunal cantonal vaudois a partiellement admis l'appel du Ministère public et modifié le jugement de première instance en ce sens qu'elle a condamné X._ pour abus de confiance à une peine privative de liberté de quinze mois avec sursis pendant deux ans. Elle a en revanche renoncé à prononcer une créance compensatrice.
En résumé, elle a fondé son jugement sur les faits suivants:
B.a Le contexte
A._ a fait la connaissance de X._ en 2003, lorsqu'il a confié la gestion de ses avoirs à la société B._ SA, dont X._ était actionnaire et administrateur-secrétaire. Dès janvier 2005, il a également mandaté la société X._ gestion & conseils pour gérer une partie de son patrimoine.
B.b Le contrat de fiducie
Durant l'été 2004, A._ a souhaité diversifier ses investissements. X._ lui a alors proposé de racheter des actions au porteur de C._ SA à un actionnaire sortant qui voulait rester anonyme et qui, ayant rapidement besoin de liquidités, aurait accepté, sur intervention de X._, de les vendre pour EUR 400'000 au lieu de EUR 600'000 demandés initialement. X._ a fait croire à A._ qu'il agissait en qualité de tiers négociateur, alors qu'il était en réalité titulaire desdites actions qu'il lui revendait et qu'il n'y avait jamais eu de négociation. Selon les explications de X._, le groupe C._ SA aurait été en négociation avec deux sociétés en vue de céder ses actions à un important partenaire industriel, afin d'assurer son développement stratégique. Ainsi C._ SA aurait envisagé de consolider l'actionnariat durant les négociations puis de revendre lesdites actions réalisant de cette manière d'importants bénéfices.
Au moment des faits, X._ était membre du conseil d'administration de C._ SA depuis de nombreuses années et également un de ses actionnaires par l'intermédiaire de sa société off shore D._ Ltd dont il était à l'époque l'unique actionnaire et ayant droit économique et qui détenait 43'279 actions de C._ SA, représentant 14,4263 % du capital-actions. Le seul but de D._ Ltd était de détenir des actions de C._ SA.
Pour A._, cette opération était prévue comme un investissement à court terme, celui-ci devant remplacer l'actionnaire sortant le temps que la totalité du capital-actions de C._ SA soit vendue au tiers acquéreur, ce qui aurait, selon X._, généré une forte plus-value du prix des actions acquises et donc un bénéfice substantiel pour A._.
Par convention fiduciaire conclue le 17 novembre 2004 entre A._ et X._ au nom de D._ Ltd, A._ mandatait D._ Ltd afin d'acquérir, en son nom et à ses propres risques, 5 % du capital-actions de C._ SA, à savoir 15'000 actions au porteur de 10 fr. chacune. De son côté, A._ acceptait le prix de EUR 400'000. Le versement de ladite somme a eu lieu le 19 novembre 2004 par virement bancaire sur le compte de D._ Ltd auprès de la banque E._. X._ a utilisé les EUR 400'000 pour son propre compte.
Le résultat des transactions devait intervenir, selon X._, entre le 31 décembre 2004 et le 31 mars 2005. Afin de garantir ses intérêts, A._ a demandé et obtenu qu'une clause de remboursement de son capital soit prévue. Ainsi l'art. 8 de la convention fiduciaire prévoyait que " à la date du 31 mars 2005, et dans l'hypothèse où la reprise des actions par une société de capital-risque ne devait pas être concrétisée, A._ aura la possibilité de céder, en faveur de D._ Ltd, les 15'000 actions au porteur du nominal de 10'000 fr. qu'il détient pour le montant de son investissement initial de 400'000 euros sans intérêt ".
B.c L'exercice avorté de la clause de remboursement
Dans un courrier du 23 mars 2005, à savoir peu avant l'échéance du terme prévu, considérant que les chances de réalisation de l'opération de rachat étaient mauvaises, A._ a fait savoir à X._ qu'il voulait se prévaloir de la clause de remboursement du capital et exercer son droit de céder à la société D._ Ltd ses 15'000 actions de C._ SA, en application de l'art. 8 de la convention fiduciaire. Sa demande n'a pas eu de suite de la part de X._. Lors des échanges de correspondance et d'e-mails ultérieurs de mai à novembre 2005, X._ a régulièrement assuré A._ de la reprise de ses actions et affirmé avoir donné l'ordre pour le virement immédiat de EUR 400'000. Ces promesses restant sans suite, A._ a exigé de nouvelles garanties quant à son remboursement.
A cet effet, deux conventions selon lesquelles A._ s'engageait à céder ses actions à D._ Ltd dès remboursement par cette dernière de la somme de EUR 400'000 ont été conclues par les parties. Ainsi, l'art. 4 de la première convention, signée le 11 novembre 2005, disposait que « L'entrée en jouissance des actions vendues, objet de la présente convention, est fixée - sous réserve de paiement par l'acquéreur - au 11 novembre 2005, ou au jour de la date de réception par le vendeur du paiement défini à l'article 03 ci-dessus. Dès cette date, tous les droits et obligations inhérents aux actions de C._ SA et en particulier le droit au dividende intégral relatif à l'exercice 2005 présentement en cours sont définitivement acquis au seul acquéreur. ». L'art. 5 de la deuxième convention, signée le 13 décembre 2005, disposait que «L'entrée en jouissance des actions vendues, objet de la présente convention, est fixée sous réserve de paiement par l'acquéreur au 1er mai 2006, ou à réception par le vendeur du paiement défini à l'article 03 ci-dessus. Dès cette date, tous les droits et obligations inhérents aux actions de C._ SA et en particulier le droit au dividende intégral relatif à l'exercice 2005 présentement en cours sont définitivement acquis au seul acquéreur». Dans cette deuxième convention, X._ a accepté de figurer comme codébiteur solidaire de D._ Ltd.
Malgré les promesses de X._, le versement des EUR 400'000 par D._ Ltd à A._ n'a pas eu lieu, de sorte que ce dernier n'a pas procédé à la cession de ses actions à D._ Ltd.
B.d Le transfert sans droit à X._ des 15'000 actions de C._ SA détenues à titre fiduciaire par D._ Ltd
Début 2008, à la suite d'une décision de C._ SA qui prévoyait la suppression des intermédiaires titulaires d'actions, X._ a regroupé pour son propre compte les actions que D._ Ltd détenait pour devenir ainsi propriétaire en direct de la totalité des actions, dont les 15'000 actions que D._ Ltd détenait pour le compte de A._, sans toutefois payer ces actions à D._ Ltd, ni même à A._.
B.e La procédure
A._ n'ayant pas obtenu la somme de EUR 400'000 a, dans un premier temps, introduit une procédure civile par une réquisition de poursuite en 2007. Le 23 janvier 2009, il a déposé plainte pénale contre X._ pour escroquerie, abus de confiance et gestion déloyale et s'est constitué partie civile pour tenter de recouvrer ses fonds.
A._ a retiré sa plainte le 15 février 2011, ainsi que sa constitution de partie civile, à la suite de l'accord intervenu entre les parties et prévoyant le remboursement par X._ des EUR 400'000.
Dans son acte d'accusation, le Ministère public a renvoyé X._ uniquement pour abus de confiance, abandonnant l'infraction d'escroquerie, pour avoir, début 2008, pris à son propre compte les actions au porteur de C._ SA que détenait alors la société D._ Ltd, dont les 15'000 actions au porteur que dite société détenait fiduciairement pour A._. X._ soutient qu'il était ou se croyait en droit de disposer librement des 15'000 actions compte tenu des deux conventions de cession d'actions des 11 novembre et 13 décembre 2005.
C. Contre le jugement du 4 juillet 2012, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Se plaignant notamment d'arbitraire dans l'établissement des faits et dénonçant une mauvaise application de l'art. 138 CP, il conclut, principalement, à sa libération de l'infraction d'abus de confiance et, à titre subsidiaire, à l'annulation du jugement attaqué et au renvoi de la cause au Tribunal correctionnel de l'arrondissement de l'Est vaudois pour pouvoir bénéficier de la double instance.
Le ministère public dépose également un recours en matière pénale. Se fondant sur l'art. 71 CP, il conclut, principalement, au prononcé d'une créance compensatrice à hauteur de 87'260 fr. à l'encontre de X._ et, à titre subsidiaire, à l'annulation du jugement attaqué et au renvoi de la cause à l'instance cantonale pour nouveau jugement.
Il n'a pas été ordonné d'échange d'écritures.
Considérant en droit:
1. X._ conteste sa condamnation pour abus de confiance. Le ministère public demande le prononcé d'une créance compensatrice. Les deux recours, qui sont dirigés contre la même décision cantonale, ont, dans cette mesure, trait aux mêmes questions de fait et de droit. Il se justifie donc de joindre les causes et de les traiter dans un seul arrêt (art. 24 al. 2 PCF et 71 LTF).
I. Recours de X._
2. Le recourant soutient que les faits ont été établis de façon manifestement inexacte sur plusieurs points.
2.1 Le Tribunal fédéral est un juge du droit. Il ne peut revoir les faits établis par l'autorité précédente que si ceux-ci l'ont été de manière manifestement inexacte, c'est-à-dire arbitraire (ATF 137 II 353 consid. 5.1 p. 356). On peut renvoyer, sur la notion d'arbitraire, aux principes maintes fois exposés par le Tribunal fédéral (voir par ex: ATF 138 III 378 consid. 6.1 p. 379; 137 I 1 consid. 2.4 p. 5; 136 III 552 consid. 4.2 p. 560 ; 135 V 2 consid. 1.3 p. 4/5; 134 I 140 consid. 5.4 p. 148; 133 I 149 consid. 3.1 p. 153 et les arrêts cités). En bref, pour qu'il y ait arbitraire, il ne suffit pas que la décision attaquée apparaisse discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable et cela non seulement dans sa motivation, mais aussi dans son résultat.
Dans la mesure où, comme en l'espèce, l'appréciation des preuves est critiquée en référence avec le principe in dubio pro reo, celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (ATF 127 I 38 consid. 2a p. 41).
2.2 Le recourant reproche à la cour cantonale d'avoir mal interprété la convention de cession d'actions du 13 décembre 2005 sur la question du moment du transfert des actions et de ne pas avoir pris en considération la correspondance de A._ du 23 mars 2005.
2.2.1 Le transfert des actions au porteur, qui - comme en l'espèce ne sont pas incorporées dans un papier valeur (cf. jugement attaqué p. 15) - obéit aux règles de la cession de créances: il suppose un titre d'acquisition (par exemple un contrat de vente) et une déclaration de cession en la forme écrite conformément à l'art. 165 al. 1 CO (RITA TRIGO TRINDADE, in Commentaire romand, Code des obligations II, 2008, n° 27 ad art. 683 CO). L'effet de la cession se produit en principe au moment où la cession est parfaite, à savoir généralement au moment où l'acceptation par le cessionnaire de l'offre de cession formée par le cédant parvient dans la sphère d'influence de celui-ci (THOMAS PROBST, in Commentaire romand, Code des obligations I, 2e éd. 2012, n° 62 ad art. 164 CO). Comme n'importe quel contrat, la cession peut être soumise à des conditions suspensives ou résolutoires (ATF 84 II 355 consid. 1 p. 363).
2.2.2 Pour déterminer l'objet et le contenu d'un contrat, le juge doit tout d'abord s'efforcer de rechercher la commune et réelle intention des parties (cf. art. 18 CO; interprétation dite subjective). Lorsque l'autorité précédente parvient à se convaincre d'une telle volonté, il s'agit d'une constatation de fait qui lie en principe le Tribunal fédéral, conformément à l'art. 105 LTF (ATF 135 III 410 consid. 3.2 p. 413, 675 consid. 3.3 p. 681; cf. ATF 131 III 606 consid. 4.1 p. 611; 129 III 118 consid. 2.5 p. 122).
Si la volonté réelle des parties ne peut pas être établie ou si leurs volontés intimes divergent, le juge doit interpréter les déclarations faites et les comportements selon la théorie de la confiance (interprétation dite objective). Il doit alors rechercher comment une déclaration ou une attitude pouvait être comprise de bonne foi en fonction de l'ensemble des circonstances; le principe de la confiance permet ainsi d'imputer à une partie le sens objectif de sa déclaration ou de son comportement, même s'il ne correspond pas à sa volonté intime. L'application du principe de la confiance est une question de droit que le Tribunal fédéral peut examiner librement (art. 106 al. 1 LTF) (ATF 136 III 186 consid. 3.2.1 p. 188; 135 III 410 consid. 3.2 p. 413). Pour la trancher, le Tribunal fédéral doit cependant se fonder sur le contenu de la manifestation de volonté concernée et sur les circonstances dans lesquelles elle est intervenue, points qui relèvent du fait (ATF 135 III 295 consid. 5.2; 132 III 24 consid. 4; 131 III 606 consid. 4.1; 130 III 417 consid. 3.2).
2.2.3 La cour cantonale a retenu que la volonté réelle et commune des parties était de céder la titularité des actions au moment du paiement du prix. Elle a déduit cette volonté de l'ensemble des circonstances et des clauses du contrat. En particulier, le prix de vente correspondant à EUR 400'000, augmenté des intérêts au 1er octobre 2005, permettait d'acquérir la conviction que les droits et obligations inhérents aux actions étaient transférés dès la date de ce paiement et que la cession devait intervenir au plus tard jusqu'au 1er mai 2006 (jugement attaqué, p. 16).
Pour le recourant, il convient de distinguer les droits sociaux liés aux actions au porteur (qui sont toujours restés à D._ Ltd) et les droits patrimoniaux. L'art. 5 de la convention aurait pour seul effet de réserver les droits patrimoniaux de A._ jusqu'au paiement de la somme de EUR 400'000. La titularité des actions au porteur a, en revanche, été cédée, le 13 décembre 2005 par A._ à D._ Ltd, lors de la conclusion de la convention de cession d'actions. Il invoque à l'appui de son argumentation un courrier du 23 mars 2005, de la teneur suivante: " Par la présente, je vous informe que je cède en faveur de D._ Ltd les 15'000 actions au porteur de la société C._ SA que je détiens à ce jour. Je fais référence à l'art. 8 paragraphe 6 de notre convention fiduciaire du 17 novembre 2004 ". Selon le recourant, ce courrier ne fait pas dépendre l'exécution de la cession du paiement du montant de EUR 400'000.
La cour cantonale a établi, en fait, la volonté réelle et commune des parties à la suite d'une interprétation subjective. Il s'agit d'une constatation de fait qui lie le Tribunal fédéral, à moins d'être entachée d'arbitraire. Son interprétation se fonde sur l'ensemble des circonstances et sur les déclarations de A._. A._ a fait savoir qu'il voulait actionner la clause de remboursement, en conformité avec l'art. 8 de la convention fiduciaire, déjà le 23 mars 2005. Compte tenu de la période lors de laquelle le recourant a fait croire à plusieurs reprises à A._ qu'il était sur le point d'être remboursé, voire qu'il avait même été remboursé, on peut comprendre que A._ n'acceptait de restituer les actions qu'à la condition de recevoir le paiement des EUR 400'000. Dans son témoignage devant le tribunal de première instance, A._ a d'ailleurs bien expliqué que la titularité des actions changeait au moment du paiement (cf. jugement de première instance p. 6). Il en avait même discuté avec X._ et c'est ce qui avait été convenu entre eux (cf. jugement de première instance, p. 7). Du reste, on ne voit pas l'intérêt de A._ de se réserver uniquement le droit au dividende, dans la mesure où l'art. 6 de la convention fiduciaire précisait qu'il n'était pas envisagé de procéder à des distributions de dividende au terme des exercices 2004 et 2005. L'art. 5 de cette convention ne fait que constater la volonté des parties de ne transférer la titularité des actions au moment du paiement du prix en prévoyant que " tous les droits et obligations inhérents aux actions de C._ SA (et en particulier le droit au dividende intégral relatif à l'exercice 2005) " passent à l'acquéreur au moment du paiement du prix. Quant au courrier du 23 mars 2005, il n'a pas pu entraîner la cession des actions, dans la mesure où le recourant (cessionnaire) n'a pas accepté l'offre de cession, mais qu'il a tenté de convaincre A._ de rester dans l'opération. Sur la base de l'ensemble de ces éléments, la cour cantonale pouvait sans arbitraire retenir que la volonté réelle et commune des parties était de transférer la titularité des actions seulement au moment du paiement du prix. Mal fondé, le grief du recourant doit être rejeté.
2.3 Le recourant se plaint également de la mauvaise interprétation de la convention du 13 décembre 2005 sur la question de la reprise de dette relative au paiement des actions. Il explique que, par la convention du 13 décembre 2005, il s'est porté codébiteur du versement des EUR 400'000 convenus, en y étant partie. Selon lui, au travers de cette reprise de dette, les parties ont voulu tacitement l'autoriser à reprendre les actions de la société C._ SA à son nom, et ainsi modifier l'affectation des valeurs patrimoniales convenue dans le cadre de la convention fiduciaire du 17 novembre 2004 de même que la convention de cession des actions du 15 novembre 2005.
Par cette argumentation, au demeurant peu convaincante, le recourant substitue son appréciation des faits à celle de la cour cantonale (cf. consid. 2.2 ci-dessus), sans démontrer en quoi celle-ci serait tombée dans l'arbitraire. Purement appellatoire (cf. art. 106 al. 2 LTF), cette argumentation est irrecevable.
2.4 Le recourant reproche à la cour cantonale d'avoir versé dans l'arbitraire en retenant qu'il avait agi avec conscience et volonté. Il fait valoir que, comme il avait repris la dette de la société D._ Ltd relative au paiement de EUR 400'000 dus à A._, il pouvait raisonnablement penser qu'il était libre de disposer des actions comme bon lui en semblait.
La cour cantonale a retenu que le recourant avait conscience de son enrichissement illégitime. Déterminer ce qu'une personne a su, envisagé ou accepté relève de l'établissement des faits (ATF 135 IV 152 consid. 2.3.2 p. 156), que le Tribunal fédéral ne peut réexaminer que lorsqu'il est entaché d'inexactitude manifeste (art. 97 al. 1 LTF), à savoir d'arbitraire (ATF 134 IV 36 consid. 1.4.1 p. 39). La cour cantonale a déduit la conscience et volonté du fait que le recourant avait sans cesse promis le remboursement des EUR 400'000 à A._, cela jusqu'à l'ouverture de la procédure civile, dans laquelle il a obstinément opposé une fin de non-recevoir. En outre, l'art. 5 de la convention de la cession d'actions précisait que l'entrée en jouissance ne se ferait qu'au moment du paiement du prix. Sur la base de ces éléments, la cour cantonale pouvait sans verser dans l'arbitraire retenir que le recourant savait que la société D._ Ltd détenait les actions à titre fiduciaire et qu'elle ne pouvait pas en disposer tant qu'elle n'en avait pas payé le prix conformément à la convention de cession d'actions. Le grief soulevé par le recourant est infondé.
3. Le recourant dénonce la violation de l'art. 409 CPP en relation avec le principe de l'accusation. Il fait valoir qu'il n'a pas pu prendre position sur l'argumentation retenue à l'appui du jugement (d'appel) du 4 juillet 2012.
3. Le recourant dénonce la violation de l'art. 409 CPP en relation avec le principe de l'accusation. Il fait valoir qu'il n'a pas pu prendre position sur l'argumentation retenue à l'appui du jugement (d'appel) du 4 juillet 2012.
3.1 3.1.1 Selon l'art. 409 CPP, si la procédure de première instance présente des vices importants auxquels il est impossible de remédier en procédure d'appel, la juricition d'appel annule le jugement attaqué et renvoie la cause au tribunal de première instance pour qu'il soit procédé à de nouveaux débats et pour qu'un nouveau jugement soit rendu.
En règle générale, il appartient à la juridiction d'appel de corriger les erreurs commises par le tribunal de première instance dans l'établissement des faits et l'application du droit (art. 408 CPP). L'annulation et le renvoi doit rester l'exception (NIKLAUS SCHMID, Schweizerische Strafprozessordnung, Praxiskommentar, 2009, n° 1 ad art. 409 CPP; MARKUS HUG, in Kommentar zur Schweizerischen Strafprozessornung, 2010, n° 1 ad art. 409 CPP). L'art. 409 CPP s'applique lorsque les erreurs affectant la procédure ou le jugement de première instance sont si graves que le renvoi au juge de première instance est la seule solution pour respecter les droits des parties, et notamment pour garantir la double instance. Lorsque l'administration des preuves est incomplète, il appartient à la juridiction d'appel de procéder à de nouvelles preuves ou de compléter les preuves administrées de manière insuffisante (art. 389 CPP). Il n'existe pas de droit à ce que le tribunal de première instance discute tous les aspects juridiques et factuels, qui apparaissent devant la juridiction d'appel et qui seront traités dans son jugement (NIKLAUS SCHMID, op. cit., n° 6 ad art. 409 CPP). Ce n'est que si l'administration des preuves en première instance a été inexistante ou quasi inexistante et que le condamné n'a pas pu bénéficier de débats réguliers de première instance que la juridiction d'appel devra casser le jugement de première instance et renvoyer la cause à l'autorité précédente.
3.1.2 L'art. 9 CPP consacre la maxime d'accusation. Selon cette disposition, une infraction ne peut faire l'objet d'un jugement que si le ministère public a déposé auprès du tribunal compétent un acte d'accusation dirigé contre une personne déterminée sur la base de faits précisément décrits. En effet, le prévenu doit connaître exactement les faits qui lui sont imputés et les peines et mesures auxquelles il est exposé, afin qu'il puisse s'expliquer et préparer efficacement sa défense (ATF 126 I 19 consid. 2a p. 21; 120 IV 348 consid. 2b p. 353). Le tribunal est lié par l'état de fait décrit dans l'acte d'accusation, mais peut s'écarter de l'appréciation juridique qu'en fait le ministère public (art. 350 al. 1 CPP), à condition d'en informer les parties présentes et de les inviter à se prononcer (art. 344 CPP).
3.2 En l'espèce, la cour cantonale ne s'est pas écartée de l'état de fait retenu par le tribunal de première instance. En effet, celui-ci avait considéré qu'il n'était pas possible de déterminer si les actions de la société C._ SA avaient été ou non émises et avait examiné les deux hypothèses, alors que la cour cantonale a retenu la seconde. En outre, s'agissant de l'interprétation de l'art. 5 de la convention de cession d'actions, le tribunal de première instance avait envisagé deux hypothèses (cession au moment de la conclusion de la convention de cession d'actions ou cession au moment du paiement du prix) pour retenir celle qui était la plus favorable au recourant (cession au moment de la conclusion de la convention de cession), alors que la cour cantonale a considéré que la cession d'actions ne produisait ses effets qu'au moment du paiement du prix. C'est donc avant tout sur la question des motifs que la cour cantonale s'est écartée du jugement de première instance. Partant, on ne saurait soutenir que le recourant a été privé du bénéfice de la double instance et que la cour cantonale a violé l'art. 409 CPP en réformant le jugement de première instance. Pour le surplus, la cour cantonale ne s'est pas écartée de l'acte d'accusation, de sorte qu'une violation du principe d'accusation n'entre pas en considération.
4. Le recourant conteste s'être rendu coupable d'abus de confiance (art. 138 CP).
Selon l'art. 138 ch. 1 CP, se rend coupable d'abus de confiance celui qui, pour se procurer ou procurer à un tiers un enrichissement illégitime, se sera approprié une chose mobilière appartenant à autrui et qui lui avait été confiée (al. 1), de même que celui qui, sans droit, aura employé à son profit ou au profit d'un tiers des valeurs patrimoniales qui lui avaient été confiées (al. 2).
4.1 Le code pénal distingue deux formes d'abus de confiance selon qu'il porte sur une chose mobilière (art. 138 ch. 1 al. 1 CP) ou sur une valeur patrimoniale (art. 138 ch. 1 al. 2 CP).
Il résulte des faits constatés que les actions au porteur à l'origine de la présente affaire n'ont jamais été émises (jugement attaqué p. 15 s.). A défaut de titre sur lequel peut porter un droit réel, l'actionnaire est titulaire de droits (et, possiblement, débiteur d'obligations) liés au sociétariat (RITA TRIGO TRINDADE, op. cit., n. 11 ad art. 683 CO). Dès lors, seul l'abus de confiance au sens de l'art. 138 ch. 1 al. 2 CP entre en considération.
4.2 La valeur patrimoniale est confiée au sens de l'art. 138 ch. 1 al. 2 CP lorsque le lésé l'a remise à l'auteur, moyennant l'engagement d'en faire un usage déterminé. L'auteur acquiert la possibilité de disposer juridiquement d'une valeur patrimoniale qui appartient économi-quement à autrui et dont il ne peut faire, en vertu d'un accord (exprès ou tacite) ou d'un autre rapport juridique, qu'un usage déterminé (la garder, l'administrer ou l'aliéner); il a la disposition de la valeur patrimoniale, mais la destination de cette valeur est fixée (ATF 133 IV 21 consid. 6.2 p. 27 s.).
En l'espèce, D._ Ltd détenait les actions au porteur de C._ SA à titre fiduciaire, en son propre nom, mais pour le compte de A._. Juridiquement, elle était titulaire des actions, mais ne pouvait en disposer que conformément à la convention de fiducie du 17 novembre 2004. Selon l'art. 8 de cette convention, C._ SA était en étroite négociation avec deux sociétés de capital risque, afin d'assurer son développement stratégique; si les actions de C._ SA devaient être cédées à l'une de ces sociétés de capital, A._ (fiduciant) donnait son accord à D._ Ltd (fiduciaire) pour entériner et signer toute cession d'actions en faveur de l'une ou l'autre de ces sociétés, pour autant que le prix de vente soit égal ou supérieur à l'investissement réalisé par le fiduciant (à savoir EUR 400'000; art. 8 de la convention de fiducie). En dehors de ce cas, D._ Ltd n'était pas autorisée à disposer des actions de C._ SA.
Les conventions de cession d'actions des 11 novembre 2005 et 13 décembre 2005, par lesquelles A._ s'est engagé à céder les actions litigieuses à D._ Ltd, ne modifient pas cette situation. En effet, interprétant la volonté réelle et commune des parties, la cour cantonale a retenu que la cession ne déployait ses effets qu'à la date du paiement du prix (art. 5 de la convention du 13 décembre 2005). Cette constatation de fait lie la cour de céans dans la mesure où le recourant n'en a pas démontré l'arbitraire (cf. consid. 2.2). Comme en 2008 D._ Ltd n'avait pas payé le prix des actions à A._, elle continuait donc de les détenir à titre fiduciaire, pour le compte de ce dernier, et ne pouvait en disposer librement.
Il faut donc admettre qu'en 2008, D._ Ltd détenait les actions litigieuses à titre fiduciaire, pour le compte de A._ et que partant celles-ci constituaient des valeurs patrimoniales confiées au sens de l'art. 138 ch. 1 al. 2 CP.
4.3 Le comportement délictueux consiste à utiliser la valeur patrimoniale contrairement aux instructions reçues, en s'écartant de la destination fixée (ATF 129 IV 257 consid. 2.2.1 p. 259).
En l'espèce, à la suite de la décision de C._ SA de supprimer les entités intermédiaires, le recourant a, en tant qu'administrateur de D._ Ltd, regroupé pour son propre compte les actions que D._ Ltd détenait pour devenir ainsi propriétaire en direct de la totalité des actions, dont les 15'000 actions que D._ Ltd détenait pour le compte de A._ sans toutefois payer concrètement ces actions à D._ Ltd, ni même à A._. En transmettant à lui-même ces actions, le recourant a disposé sans droit des valeurs que D._ Ltd détenait pour A._. Lorsque - comme en l'espèce - les valeurs sont confiées à une personne morale et que le devoir de conserver incombe à cette dernière, l'art. 29 CP permet de punir l'organe qui a utilisé sans droit les valeurs. En l'espèce, les valeurs ont été confiées à D._ Ltd, et le recourant a agi comme administrateur.
Se fondant sur la jurisprudence développée en matière d'abus de confiance en cas de contrat de prêt (cf. ATF 129 IV 257), le recourant fait valoir qu'en reprenant les actions à son nom, il n'aurait pas augmenté le risque de perte encouru par A._ dans la mesure où lui-même est resté en possession des valeurs patrimoniales. Cette argumentation ne convainc pas. En reprenant les actions litigieuses à son nom, le recourant en est devenu le nouveau titulaire vis-à-vis de la société C._ SA, avec tous les droits qui leur sont liés (notamment celui de recevoir un dividende et de les céder à un tiers), et s'est ainsi bien " approprié " les actions litigieuses contrairement aux instructions reçues.
4.4 L'abus de confiance est une infraction intentionnelle. L'intention doit porter sur l'appartenance à autrui d'un point de vue économique des valeurs patrimoniales confiées et le caractère illicite de l'usage. En outre, l'auteur doit avoir agir dans un dessein d'enrichissement illégitime. Le dessein d'enrichissement ne se conçoit pas nécessairement comme un mobile spécifique de l'auteur et peut être réalisé par dol éventuel (ATF 118 IV 32 consid. 2a p. 34). L'enrichissement consiste en une augmentation de l'actif, une diminution du passif, une non-augmentation du passif ou une non-diminution de l'actif (DUPUIS ET AL., Petit commentaire du CP, n° 25 des remarques préliminaires aux art. 137 ss CP). Il peut être seulement provisoire ou temporaire (ATF 118 IV 27 consid. 3a p. 29). L'élément subjectif de l'infraction n'est pas donné en cas de capacité de restituer (Ersatzbereitschaft), par quoi l'on désigne l'état dans lequel se trouve l'auteur qui peut justifier d'avoir eu à tout moment la volonté et la possibilité de restituer ou de transférer l'équivalent du bien confié (ATF 118 IV 32 consid. 2a p. 34).
En l'espèce, l'élément subjectif est réalisé. Comme vu au consid. 2.4, le recourant était conscient que D._ Ltd détenait les actions à titre fiduciaire, pour le compte de A._ et qu'il ne pouvait, en tant qu'administrateur, en disposer dans son intérêt propre. En reprenant à son actif les actions litigieuses, il a augmenté son actif, dans la mesure où il n'a pas payé la contre-valeur. Le refus de verser le prix des actions, malgré les demandes répétées de A._ montre que le recourant n'avait pas la volonté et/ou la possibilité de restituer.
4.5 En conclusion, les éléments constitutifs de l'abus de confiance sont réalisés. La cour cantonale n'a donc pas violé le droit fédéral en condamnant le recourant en application de l'art. 138 ch. 1 al. 2 CP.
5. Le recours doit être rejeté dans la mesure de sa recevabilité. Le recourant qui succombe devra supporter les frais (art. 66 al. 1 LTF).
II. Recours du Ministère public
6. Se fondant sur l'art. 71 CP, le recourant demande le prononcé d'une créance compensatrice équivalent au bénéfice de 87'260 fr. réalisé par X._ sur le change francs suisses - euros.
6.1 Le recourant explique que, le 24 novembre 2004, lors de l'achat des actions par A._, la contrevaleur de EUR 400'000 en francs suisses étaient de 606'808. Le remboursement des EUR a eu lieu en deux temps, une première tranche, le 29 novembre 2010, de EUR 150'000 (correspondant à 199'250 fr.) et une seconde tranche, le 31 janvier 2011, de 250'000 EUR (correspondant à 320'370 fr.). La différence entre les francs suisses touchés en 2004 et le remboursement fait en 2010 et 2011 est de 87'260 fr. (606'880 fr. auxquels on soustrait 199'250 fr. et 320'370 fr.) en faveur de X._.
La cour cantonale a considéré qu'il n'y avait pas lieu de prononcer une créance compensatrice, dans la mesure où les parties avaient passé une convention qui réglait de manière exhaustive les modalités du dédommagement de A._ par X._. Elle motive sa décision par le fait que la pratique voudrait que le juge pénal ne revienne pas sur une transaction civile qui a abouti, sous peine de voir l'Etat devenir créancier dans tous les rapports civils.
6.2 6.2.1 L'art. 70 al. 1 CP autorise le juge à confisquer des valeurs patrimoniales qui sont le résultat d'une infraction, si elles ne doivent pas être restituées au lésé en rétablissement de ses droits. Inspirée de l'adage selon lequel "le crime ne paie pas", cette mesure a pour but d'éviter qu'une personne puisse tirer avantage d'une infraction (ATF 132 II 178 consid. 4.1 p. 178; 129 IV 322 consid. 2.2.4 p. 327; 117 IV 107 consid. 2a p. 110). Lorsque les valeurs à confisquer ne sont plus disponibles, le juge ordonne, selon l'art. 71 CP, leur remplacement par une créance compensatrice de l'Etat d'un montant équivalent dont le but est d'éviter que celui qui a disposé des objets ou valeurs à confisquer soit privilégié par rapport à celui qui les a conservés (ATF 124 I 6 consid. 4b/bb p. 8 s.; 123 IV 70 consid. 3 p. 74).
6.2.2 La confiscation ne porte pas seulement sur les valeurs patrimoniales acquises directement grâce à l'infraction, mais s'étend aussi aux bénéfices réalisés entre le moment où les valeurs ont été acquises et celui où la mesure de confiscation a été ordonnée, à savoir, en particulier, aux intérêts sur les capitaux, aux dividendes des actions, aux loyers tirés de la location d'un immeuble (y compris à l'économie obtenue sur son propre loyer) et aux bénéfices réalisés en cas de gestion de fortune par une banque (par ex. bénéfice de cours ou de change). Cependant, ces montants ne sont la plupart du temps pas confiscables en tant que tels, mais doivent faire l'objet d'une créance compensatrice (NIKLAUS SCHMID, Kommentar, Einziehung, Organisiertes Verbrechen, Geldwäscherei, vol. I, 2e éd. 2007, n° 59 ad § 2 / StGB 70-72, p. 135).
6.2.3 Les prétentions du lésé prévalent sur l'intérêt étatique de confisquer. Une mesure de confiscation, respectivement une créance compensatrice ne sera ordonnée que si l'auteur n'a pas dédommagé le lésé ou que ce dernier ne se sera pas vu restituer directement les valeurs patrimoniales en rétablissement de ses droits. En effet, l'esprit et le but des art. 70 et 71 CP est d'empêcher que l'auteur profite du produit de ses infractions en leur enlevant toute rentabilité. Lorsque l'auteur a réparé le dommage causé, il ne profite plus du produit de son infraction, et la confiscation, respectivement la créance compensatrice perd sa raison d'être. La jurisprudence a précisé qu'il y a lieu de renoncer à la confiscation uniquement lorsque le condamné s'est acquitté de sa dette envers le lésé et qu'il ne retire plus d'avantage de son infraction; la simple admission des prétentions que celui-ci a fait valoir n'est, à elle seule, pas suffisante (ATF 117 IV 107 consid. 2a p. 110). Lorsque le lésé a passé une convention avec l'auteur, par laquelle il renonce à toute indemnisation, l'auteur continue à tirer profit de l'infraction, de sorte qu'il convient d'ordonner une mesure de confiscation ou une créance compensatrice (FAVRE ET AL., Code pénal annoté, 3e éd. 2007, n. 1.2 ad art. 70 CP).
6.2.3 Les prétentions du lésé prévalent sur l'intérêt étatique de confisquer. Une mesure de confiscation, respectivement une créance compensatrice ne sera ordonnée que si l'auteur n'a pas dédommagé le lésé ou que ce dernier ne se sera pas vu restituer directement les valeurs patrimoniales en rétablissement de ses droits. En effet, l'esprit et le but des art. 70 et 71 CP est d'empêcher que l'auteur profite du produit de ses infractions en leur enlevant toute rentabilité. Lorsque l'auteur a réparé le dommage causé, il ne profite plus du produit de son infraction, et la confiscation, respectivement la créance compensatrice perd sa raison d'être. La jurisprudence a précisé qu'il y a lieu de renoncer à la confiscation uniquement lorsque le condamné s'est acquitté de sa dette envers le lésé et qu'il ne retire plus d'avantage de son infraction; la simple admission des prétentions que celui-ci a fait valoir n'est, à elle seule, pas suffisante (ATF 117 IV 107 consid. 2a p. 110). Lorsque le lésé a passé une convention avec l'auteur, par laquelle il renonce à toute indemnisation, l'auteur continue à tirer profit de l'infraction, de sorte qu'il convient d'ordonner une mesure de confiscation ou une créance compensatrice (FAVRE ET AL., Code pénal annoté, 3e éd. 2007, n. 1.2 ad art. 70 CP).
6.3 6.3.1 X._ s'est approprié en 2008 les actions de C._ SA, dont A._ était le titulaire. Le juge ou l'autorité d'instruction aurait pu ordonner la restitution de ces actions au lésé ou en ordonner la confiscation. Par convention conclue entre les parties, X._ s'est engagé à verser un montant de EUR 400'000 à A._. Il est établi qu'il s'est acquitté de ses obligations. Il ne ressort pas du jugement attaqué - et le recourant ne le prétend pas - qu'un dividende aurait été versé à X._, ni que la valeur des actions C._ SA aurait augmenté ou encore que la convention du 24 novembre 2010 aurait sous-évalué la valeur des actions. Une confiscation, respectivement une créance compensatrice, ne saurait dès lors être ordonnée à ce titre.
6.3.2 Le bénéfice de 87'260 fr. que le recourant entend confisquer provient de l'ensemble de l'opération financière convenue entre les parties (vente de 15'000 actions C._ SA à A._ au prix de EUR 400'000 en vue de les revendre rapidement avec un bénéfice substantiel, avec toutefois possibilité de les céder à D._ Ltd pour le même prix au cas où la reprise des actions par une société de capital-risque ne devait pas être concrétisée). Grâce à la baisse de l'euro entre 2004 (vente des actions pour EUR 400'000) et 2011 (rachat des actions pour EUR 400'000), l'intimé a gagné un montant de 87'260 francs. Cette opération n'a toutefois pas été qualifiée d'illicite, le recourant ayant renoncé à l'accusation d'escroquerie (cf. acte d'accusation), et ne constitue donc pas le produit d'une infraction. C'est donc à tort que le recourant parle dans son mémoire de " produit direct de l'infraction ", en se référant au montant de 606'880 fr. (qui correspond à la contrevaleur en francs suisses du montant de EUR 400'00 versé le 19 novembre 2004 à titre de paiement des actions C._ SA); l'infraction d'abus de confiance a été commise, elle, en 2008. En conséquence, il faut admettre que le bénéfice de 87'260 fr. n'est pas le produit de l'infraction d'abus de confiance, mais de l'ensemble de l'opération qui n'a pas été qualifiée d'illicite, et qu'il ne saurait faire l'objet d'une créance compensatrice.
7. Le recours doit être rejeté.
Il n'y a pas lieu de percevoir des frais judiciaires, puisque le recourant agit dans l'exercice de ses attributions officielles sans que son intérêt patrimonial soit en cause (art. 66 al. 4 LTF). L'intimé, qui n'a pas été amené à se déterminer dans la procédure devant le Tribunal fédéral, n'a pas droit à des dépens.
Par ces motifs, le Tribunal fédéral prononce:
1. Les causes 6B_528/2012 et 6B_572/2012 sont jointes.
2. Le recours de X._ est rejeté dans la mesure où il est recevable.
3. Le recours du Ministère public vaudois est rejeté.
4. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge de X._.
5. Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 28 février 2013
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin