Faits :
A.
A.a. Le 6 mai 2008, C._ SA (ci-après: C._), société qui a pour but notamment la prise de participations dans toutes entreprises et dont le président administrateur est, depuis 2012, D._, a acquis l'intégralité du capital-actions de B._ SA (ci-après: B._ ou la défenderesse), à Meyrin, société ayant pour but social la création, la fabrication, l'achat et la vente de composants horlogers et autres, notamment en or ou autres métaux communs ou précieux.
A._ (ci-après: le demandeur) était le directeur général de B._ SA, depuis le 26 janvier 2005.
A.b. Le 28 mai 2008 déjà, C._ et A._ ont passé un contrat intitulé " Options call et put en cas de fin des rapports de travail de M. A._ avec B._ SA " dans le but d'aligner les intérêts des actionnaires sur ceux des dirigeants de la société, ainsi que d'accroître la valeur de cette société. En vertu de ce contrat, A._ devait notamment bénéficier d'une option put lui permettant d'exiger de C._ le rachat de toutes ses actions de la société B._, dont le prix devait être calculé selon la formule suivante, qui sera reprise en substance par la suite: " 6,2 [Multiple d'EBITDA consolidé B._ normalisé sur la base duquel la présente acquisition est effectuée] x l'EBITDA normalisé moyen des deux années comptables précédentes, croisé avec une option call au bénéfice de C._ exerçable sur les mêmes bases et liant M. A._ ".
A._ a été confirmé dans ses fonctions de directeur général de B._ pour une période indéterminée et pour un salaire brut global de 238'000 fr., par contrat de travail du 29 mai 2008. Il a été retenu en procédure que les options de rachat de ses actions selon le contrat du 28 mai 2008 faisaient partie de son salaire variable.
B.
B.a. Le contrat options call et/ou put du 28 mai 2008 a été remplacé par le contrat d'intéressement du 3 février 2011, passé entre A._, B._ et C._ en marge d'une augmentation conditionnelle du capital-actions de B._. Cette dernière société s'est substituée à C._ en qualité de contre-partie de A._.
A._ a obtenu gratuitement 21 options lui permettant d'acheter 21 actions de la société B._ (dont le capital-actions passait de 400 à 421 actions) et une option put lui permettant d'exiger de la société qu'elle lui rachète ses 21 options jusqu'au 10 juillet 2014 à un prix calculé selon la formule:
" 6,2 [Multiple d'EBITDA consolidé B._ normalisé sur la base duquel l'acquisition de la société [B._] a été réalisée en date du 11 juin 2008] x l'EBITDA normalisé moyen des deux années comptables précédentes. "
L'EBITDA normalisé suppose que l'EBITDA résultant des comptes d'activité et de gestion soit retraité de l'impact de la revalorisation des stocks de matières précieuses, que celle-ci soit positive ou négative (art. 9.2 du contrat).
Le prix d'exercice de l'option, qui devait être déduit du prix de chaque action obtenu conformément à cette formule, a été fixé à 75'000 fr. (correspondant au prix payé par action par C._ lors de son entrée dans le capital de B._ en 2008).
B.b. A._ a exercé son option put le 18 décembre 2013.
Les EBITDA des deux années comptables précédentes, soit de 2011 et 2012, se sont élevés à 7'905'000 fr. et 10'354'000 fr., incluant l'impact de la revalorisation des stocks de matières précieuses. Pour obtenir l'EBITDA moyen normalisé, il faut en retraiter l'impact de la revalorisation des stocks de matières précieuses.
En vue de la vente de la société, E._ SA a établi des rapports de due diligence les 20 décembre 2013 et 4 septembre 2014. Elle a repris les EBITDA mentionnés dans les rapports d'activité et de gestion de la société (qui incluaient la revalorisation des stocks de matières précieuses) et en a retranché la revalorisation de ces stocks, soit la part relative à la variation de la valeur des métaux précieux (Margin deferral), qui s'élève à 2'356'000 fr. pour 2011 et à 3'065'000 fr. pour 2012. Il s'agissait par là de " lisser " (normaliser selon l'art. 9.2 du contrat d'intéressement) les effets dus à l'évolution du cours des métaux précieux, en particulier celui de l'or, et de pouvoir fixer un prix de vente correspondant à la performance financière intrinsèque de l'entreprise, sans tenir compte des effets de ces cours des métaux précieux. L'EBITDA normalisé moyen pour les années 2011 et 2012 est donc de 6'419'000 fr. ([ (7'905'000 - 2'356'000) + (10'354'000 - 3'065'000)]: 2).
A._ a confirmé la teneur du rapport de due diligence en tant que directeur général de la société le 4 septembre 2014.
B.c. Avant cela, par courriel du 19 novembre 2013, D._, administrateur-président de C._, avait fait parvenir à A._ un document intitulé " BSA - Valorisation des Options de A._ - 21/8/2013 ".
Il y était invoqué que le multiple de 6,2 était erroné et devait être de 4,9. Quant à l'EBITDA normalisé 2011, il était de 7'042'000 fr. et celui de 2012 de 8'698'000 fr., de sorte que l'EBITDA moyen normalisé était de 7'870'000 fr. Le prix de rachat des 21 options était fixé à 375'830 fr.
B.d. Présentement, le litige ne porte plus sur le multiple de 6,2, admis par la cour cantonale, mais uniquement sur l'EBITDA normalisé moyen des années 2011 et 2012. Selon l'employeuse, il est de 6'419'000 fr. et selon l'employé, il est de 7'870'000 fr.; c'est le retraitement de la revalorisation des stocks de matières précieuses qui fait problème et, par suite, le montant du prix de rachat des 21 options de l'employé.
C.
C.a. Le 20 décembre 2013, pour ne pas empêcher la vente de la société à un tiers, l'employé et l'employeuse ont conclu un accord de cession d'options (i.e. de rachat des 21 options de l'employé) : ils ont convenu que le prix des options (dans leur totalité) serait de 375'000 fr. et qu'un complément de prix serait versé à l'employé selon les modalités de l'art. 3 de cet accord. Il y est précisé que les parties divergent sur la façon de calculer la valorisation de la société (selon le contrat du 3 février 2011), ainsi que sur les définitions des termes servant au calcul de cette valeur (préambule de l'accord). La méthode d'évaluation comptable à la base de la formule reste donc celle du contrat du 3 février 2011.
Le montant de 375'000 fr. a été versé à l'employé en janvier 2014. C'est le montant du complément de prix qui encore est litigieux.
C.b. Le 4 septembre 2014, la société a été vendue à un tiers pour un montant de 28'400'000 fr.
D.
A._ a ouvert action en paiement contre B._ par requête de conciliation du 10 septembre 2014 et, après échec de la conciliation, a déposé sa demande en justice devant le Tribunal des prud'hommes du canton de Genève le 11 décembre 2014. Il conclut à la condamnation de la défenderesse à lui payer le montant de 511'170 fr. avec intérêts à 5% l'an dès le 26 août 2014.
La défenderesse a conclu à l'irrecevabilité de la demande et subsidiairement à son rejet.
Par jugement du 21 avril 2016, le Tribunal des prud'hommes du canton de Genève a condamné la défenderesse à verser au demandeur un montant brut de 511'179 fr. avec intérêts à 5% l'an dès le 30 août 2014 (ch. 2) et a statué sur les frais et dépens. Il a considéré que la société défenderesse avait, par erreur, valorisé ses stocks avec la méthode FIFO, alors qu'elle croyait appliquer la méthode PUMP; elle devait toutefois se laisser opposer cette erreur et, partant, l'EBITDA normalisé était celui ressortant du courriel du 19 novembre 2013, soit 7'870'000 fr.
Le demandeur a été licencié le 21 avril 2016.
Statuant le 11 janvier 2017 sur appel de la défenderesse, la Chambre des prud'hommes de la Cour de justice du canton de Genève a réformé le ch. 2 du dispositif du premier jugement et réduit le montant que la défenderesse a été condamnée à verser au demandeur à 62'398 fr. 60 bruts avec intérêts à 5% l'an dès le 30 août 2014, et modifié les frais et dépens en conséquence. Elle a calculé l'EBITDA normalisé moyen en se basant sur les rapports de due diligence de E._ SA et donc sur le montant de 6'419'000 fr.
E.
Contre cet arrêt, qui lui a été notifié le 12 janvier 2017, le demandeur a interjeté un recours en matière civile au Tribunal fédéral le 13 février 2017. Il en ressort qu'il conclut en substance à la condamnation de la défenderesse à lui payer le montant de 511'179 fr. avec intérêts à 5% l'an dès le 30 août 2014, montant qui lui avait été alloué par le tribunal de première instance. Subsidiairement, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à la cour cantonale pour nouvelle décision dans le sens des considérants. Il conteste l'application de la méthode (méthode FIFO) utilisée pour arrêter l'EBITDA normalisé moyen de 2011 et 2012, invoquant une appréciation arbitraire des faits et une violation du droit. Il soutient que c'est la méthode PUMP qui doit être utilisée. Il fait valoir quatre griefs: une appréciation arbitraire des faits sur trois points, une violation du droit à la preuve (art. 8 CC), une violation de l'interprétation de la volonté subjective des parties, une violation de l'art. 18 CO en ce qui concerne l'art. 3 § 4 de l'accord de cession d'options du 20 décembre 2013 et, subsidiairement, une violation de l'art. 18 CO dans le complètement de l'accord de cession du 20 décembre 2013.
La défenderesse intimée conclut au rejet du recours et à la confirmation de l'arrêt attaqué.
La cour cantonale se réfère aux considérants de son arrêt.
Les parties ont encore déposé chacune de brèves observations.
Considérant en droit :
1.
Interjeté en temps utile (art. 100 al. 1 et 45 al. 1 LTF), par la partie demanderesse qui a succombé partiellement dans ses conclusions en paiement du solde du prix de ses options d'achat d'actions (art. 76 al. 1 LTF), contre une décision finale prise sur recours par le tribunal supérieur du canton (art. 75 LTF) dans une affaire de contrat de travail (bonus), dont la valeur litigieuse est supérieure à 15'000 fr., le recours en matière civile est recevable.
2.
2.1. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Relèvent de ces faits tant les constatations relatives aux circonstances touchant l'objet du litige que celles concernant le déroulement de la procédure conduite devant l'instance précédente et en première instance, c'est-à-dire les constatations ayant trait aux faits procéduraux (ATF 140 III 16 consid. 1.3.1 et les références). Le Tribunal fédéral ne peut rectifier ou compléter les constatations de l'autorité précédente que si elles sont manifestement inexactes ou découlent d'une violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). "Manifestement inexactes" signifie ici "arbitraires" (ATF 140 III 115 consid. 2 p. 117; 135 III 397 consid. 1.5). Encore faut-il que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
De jurisprudence constante, le Tribunal fédéral se montre réservé en matière de constatation des faits et d'appréciation des preuves, vu le large pouvoir qu'il reconnaît en la matière aux autorités cantonales (ATF 120 Ia 31 consid. 4b p. 40; 104 Ia 381 consid. 9 p. 399et les arrêts cités). Dans ce domaine, l'autorité verse dans l'arbitraire lorsqu'elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsqu'elle tire des conclusions insoutenables à partir des éléments recueillis (ATF 140 III 264 consid. 2.3 p. 266; 137 III 226 consid. 4.2 p. 234).
La critique de l'état de fait retenu est soumise au principe strict de l'invocation énoncé par l'art. 106 al. 2 LTF (ATF 140 III 264 consid. 2.3 p. 266 et les références). La partie qui entend attaquer les faits constatés par l'autorité précédente doit expliquer clairement et de manière circonstanciée en quoi ces conditions seraient réalisées (ATF 140 III 16 consid. 1.3.1 p. 18 et les références). Si elle souhaite obtenir un complètement de l'état de fait, elle doit aussi démontrer, par des renvois précis aux pièces du dossier, qu'elle a présenté aux autorités précédentes, en conformité avec les règles de la procédure, les faits juridiquement pertinents à cet égard et les moyens de preuve adéquats (ATF 140 III 86 consid. 2 p. 90). Si la critique ne satisfait pas à ces exigences, les allégations relatives à un état de fait qui s'écarterait de celui de la décision attaquée ne pourront pas être prises en considération (ATF 140 III 16 consid. 1.3.1 p. 18).
2.2. L'interprétation de la volonté subjective des parties (art. 18 al. 1 CO), le cas échéant empiriquement, sur la base d'indices (ATF 132 III 268 consid. 2.3.2, 626 consid. 3.1 p. 632; 131 III 606 consid. 4.1) relève du fait (arrêts 4A_508/2016 du 16 juin 2017 consid. 6.2, non publié aux ATF 143 III 348; 4A_98/2016 du 22 août 2016 consid. 5.1; 4A_608/2016 du 30 mai 2017 consid. 2.4; ATF 118 II 365 consid. 1 p. 366/367; 112 II 337 consid. 4a p. 342 s.). Si le juge parvient à la conclusion que les parties se sont comprises ou qu'elles ne se sont pas comprises, cette constatation lie le Tribunal fédéral (art. 105 al. 1 LTF), à moins qu'elle ne soit manifestement inexacte (art. 97 al. 1 et 105 al. 2 LTF), c'est-à-dire arbitraire au sens de l'art. 9 Cst.
2.3. Sous réserve de la violation des droits constitutionnels (art. 106 al. 2 LTF). le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Toutefois, compte tenu de l'obligation de motiver qui incombe au recourant en vertu de l'art. 42 al. 2 LTF, il n'examine pas, comme le ferait un juge de première instance, toutes les questions juridiques qui pourraient se poser, mais uniquement celles qui sont soulevées devant lui (ATF 140 III 86 consid. 2 p. 88; 137 III 241 consid. 5; 137 III 580 consid. 1.3 p. 584; 134 III 102 consid. 1.1 p. 104 s.; 133 III 545 consid. 2.2), à moins que la violation du droit ne soit manifeste (ATF 140 III 115 consid. 2 p. 116; arrêts 5A_621/2013 du 20 novembre 2014 consid. 2.2, non publié aux ATF 141 III 53; 4A_399/2008 du 12 novembre 2011 consid. 2.1, non publié aux ATF 135 III 112). Il n'est lié ni par les motifs invoqués par les parties, ni par l'argumentation juridique retenue par l'autorité cantonale; il peut donc admettre le recours pour d'autres motifs que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (ATF 135 III 397 consid. 1.4 et l'arrêt cité).
3.
3.1. Il n'est pas contesté que l'employé et la société employeuse étaient liés par un plan d'intéressement (Mitarbeiterbeteiligung, stock option plan), qui avait pour but d'aligner les intérêts du directeur général sur ceux de l'entreprise et de son actionnaire unique pendant une certaine période, et que l'employé a reçu à ce titre (gratuitement) 21 options lui permettant d'acquérir autant d'actions de la société employeuse et de participer ainsi à l'augmentation de valeur de celle-ci entre son acquisition par C._ en juin 2008 et sa revente ultérieure.
La rétribution que l'employé doit percevoir par le biais de ce plan d'intéressement est un salaire variable, car elle se rapproche d'une participation au résultat de l'exploitation de l'entreprise (application par analogie de l'art. 322a al. 1 CO) et elle ne pouvait pas être modifiée unilatéralement par l'employeuse.
A la suite de l'exercice de son option put et conformément à l'accord de cession de ses 21 options du 20 décembre 2013, l'employé a déjà perçu le montant de 375'000 fr., qui a été considéré comme un " bonus ".
C'est le complément du prix de rachat de ces 21 options devant être versé à l'employé selon l'accord de cession d'options du 20 décembre 2013, qui demeure litigieux.
3.2. En vertu du contrat d'intéressement du 3 février 2011, le prix de ces 21 options est fonction d'une formule composée, d'une part, d'un multiple (correspondant à l'EBITDA normalisé sur la base duquel la société avait été achetée en 2008 [art. 10.4] et, d'autre part, de la moyenne des EBITDA normalisés des deux dernières années précédant l'exercice de l'option put, en l'occurrence les années 2011 et 2012.
En instance d'appel, les parties divergeaient encore sur le multiple applicable (6,2 ou 4,9), l'employeuse soutenant qu'une erreur s'était glissée dans le contrat d'intéressement qui indiquait 6,2.
Désormais, l'employeuse ne conteste plus le multiple de 6,2, de sorte que seul l'EBITDA normalisé moyen des années 2011 et 2012 demeure litigieux.
4.
Le contrat d'intéressement du 3 février 2011 ne définit aucune méthode pour évaluer l'EBITDA normalisé moyen. Le recourant conteste la méthode FIFO appliquée dans le rapport E._ SA et soutient que les parties ont convenu d'appliquer la méthode PUMP.
4.1. Préalablement, pour la bonne compréhension du litige, il s'impose de clarifier le sens des termes techniques utilisés dans la formule de calcul du prix des options et les méthodes de revalorisation des stocks de matières précieuses, ce que la cour cantonale a fait ici et là, mais de manière sommaire et peu claire.
L'EBITDA est l'abréviation de Earnings Before Interest, Taxes, Depreciation and Amortization. Les EBITDA ressortent des rapports d'activité et de gestion annuels de la société, approuvés par l'assemblée générale. Ils incluent la revalorisation des stocks de matières précieuses, en particulier de l'or. Il existe plusieurs méthodes pour revaloriser ces stocks, dont le fonctionnement n'est pas explicité par l'arrêt attaqué:
- la méthode FIFO, pour First In First Out;
- la méthode PUMP, pour Prix Moyen Pondéré;
- la méthode LIFO, pour Last In First Out.
L'EBITDA normalisé implique de retraiter l'impact de la revalorisation des stocks des matières précieuses, qu'elle soit positive ou négative (conformément à l'art. 9.2 du contrat). En particulier, en période de hausse de l'or, la revalorisation des stocks de matières premières valorise la société à un montant trop élevé, qui ne correspond pas à la performance de l'entreprise, laquelle est déterminante pour sa vente.
Dans son rapport en vue de la vente de l'entreprise du 4 septembre 2014, E._ SA a donc retraité l'EBITDA pour exclure l'impact de la revalorisation des stocks de matières précieuses en déduisant la part relative à la variation de la valeur des métaux précieux (" Margin deferral ") de l'EBITDA ressortant du rapport d'activité et de gestion.
Sur la base des chiffres de l'annexe au courriel du 19 novembre 2013 et du rapport E._ SA, on peut constater que les parties sont d'accord sur le fait que les EBITDA 2011 et 2012 (avant retraitement de l'impact de la revalorisation des matières précieuses) déterminants sont les EBITDA des comptes de la société approuvés par l'assemblée générale, respectivement de 7'905'000 fr. pour 2011 et de 10'354'000 fr. pour 2012.
Les parties ne contestent pas non plus que, selon l'art. 9.2 du contrat d'intéressement, ces EBITDA doivent être normalisés en ce sens qu'ils doivent être " retraités de l'impact de la revalorisation des stocks de matières précieuses, qu'elle soit positive ou négative ".
Les parties divergent en revanche sur la façon de calculer le montant de ce retraitement: la cour cantonale s'est basée sur le rapport de E._ SA, qui a déterminé le " Margin deferral " à retrancher, soit 2'356'000 fr. pour 2011 et 3'065'000 fr. pour 2012, alors que le recourant se base sur l'annexe au courriel du 19 novembre 2013, qui chiffre l' " impact de la revalorisation des stocks d'or allié " à retrancher à 863'000 pour 2011 et à 1'655'000 fr. pour 2012.
4.2. Selon l'arrêt attaqué, la cour cantonale a considéré ce qui suit pour se rallier au rapport de E._ SA:
4.2.1. La cour cantonale a retenu que le contrat ne précise pas quelle méthode a été appliquée pour évaluer l'EBITDA ayant servi à arrêter le multiple de 6,2.
4.2.2. Selon elle, les parties ont convenu d'un EBITDA normalisé, ce qui implique que celui-ci doit être retraité afin d'exclure l'impact de la revalorisation des stocks de matières précieuses, qu'elle soit positive ou négative (art. 9.2 et 10.4 du contrat du 3 février 2011).
Les EBITDA ressortant des rapports d'activité et de gestion des comptes de la société approuvés par l'assemblée générale, de 7'905'000 fr., pour 2011 et de 10'354'000 fr. pour 2012 ne sont pas normalisés, de sorte qu'il faut en retrancher la revalorisation des matières précieuses, pour obtenir l'EBITDA normalisé moyen.
Pour l'estimation de cette revalorisation, la cour cantonale s'est basée sur les rapports E._ SA, qui a repris les EBITDA des rapports d'activité et de gestion et qui les a réévalués selon la méthode FIFO. La part relative à la variation de la valeur des matières précieuses (" Margin deferral ") s'élève à 2'356'000 fr. pour 2011 et 3'065'000 fr. pour 2012. Elle a donc retenu des EBITDA normalisés de 5'549'000 fr. pour 2011 (7'905'000 fr. - 2'356'000 fr.) et de 7'289'000 fr. pour 2012 (10'354'000 fr. - 3'065'000 fr.), ce qui donne un EBITDA normalisé moyen de 6'419'000 fr.
La cour cantonale a considéré que le courriel de D._ du 19 novembre 2013 ne permet pas de retenir un EBITDA normalisé moyen de 7'870'000 fr., car si ce montant a été articulé dans les discussions entre C._, l'employeuse et l'employé à la fin de l'année 2013, il n'a pas été confirmé par les rapports établis par E._ SA en vue de la vente de la société en septembre 2014.
Pour le surplus, la cour reproche à l'employé de ne pas avoir démontré que si E._ SA avait utilisé, en lieu et place de la méthode FIFO, la méthode PUMP, l'EBITDA normalisé moyen des années 2011-2012 aurait nécessairement été de 7'870'000 fr.
4.3. La cour cantonale a ainsi retenu deux motifs: premièrement, l'impossibilité de se fonder sur le courriel de D._ du 19 novembre 2013 pour retenir un EBITDA normalisé moyen de 7'870'000 fr., qui a certes été évoqué dans des discussions entre les parties mais n'a pas été confirmé par E._ SA; deuxièmement, l'absence de démonstration par le demandeur que l'emploi de la méthode PUMP aurait nécessairement conduit à un EBITDA normalisé moyen de 7'870'000 fr.
4.3.1. Le recourant fait grand cas de la méthode utilisée pour calculer l'EBITDA normalisé moyen: selon lui, la cour cantonale a retenu la méthode FIFO, utilisée par E._ SA dans son rapport, alors qu'il existerait un accord des parties sur la méthode PUMP, qui n'a notamment pas été valablement modifié de manière unilatérale. Il s'en plaint à la fois sous le titre d'établissement arbitraire des faits et sous celui de violation de l'art. 18 CO dans la détermination de la volonté subjective des parties sur dite méthode.
Or, dans son second motif, la cour cantonale constate que le demandeur n'a pas démontré que si E._ SA avait utilisé, en lieu et place de la méthode FIFO, la méthode PUMP, l'EBITDA normalisé moyen des années 2011-2012 aurait nécessairement été de 7'870'000 fr.
Le recourant ne s'en prend pas à cette motivation et ne démontre donc pas que les deux méthodes aboutiraient à des résultats différents (sur la valorisation de la performance de l'entreprise). Il s'ensuit que la méthode appliquée ne peut pas être examinée par la cour de céans.
Le grief du recourant n'est recevable qu'en tant qu'il oppose aux chiffres du rapport E._ SA, auquel s'est ralliée la cour cantonale, les chiffres du document annexé au courriel du 19 novembre 2013 de D._, auxquels les parties seraient liées " par un accord ".
Les critiques du recourant qui s'en éloigneraient sont donc sans pertinence. En particulier, il n'y a pas lieu d'examiner selon quelle méthode - prétendument la méthode PUMP - la société a établi ses comptes par le passé et quelle méthode elle appliquait au moment de la signature du contrat d'intéressement du 3 février 2011; il n'est pas non plus décisif de savoir quelle méthode était appliquée au moment de l'accord de cession d'options du 20 décembre 2013, dès lors qu'il y est expressément rappelé que les parties divergent sur les définitions des termes servant au calcul de l'EBITDA normalisé. Il sied d'ailleurs de relever que si le rapport d'activité et de gestion de l'exercice 2011 contient le nom de " FIFO ", c'est en ces termes: " Le principe de valorisation des stocks de métaux précieux correspond à un FIFO basé sur les achats effectifs de la Société. Ces stocks ne sont pas réévalués sur la base des cours de fin d'année. Les stocks " façon " sont valorisés à un coût standard en conformité avec les méthodes générales admises dans la branche d'activité " (art. 105 al. 2 LTF).
Quant au grief tiré de l'invalidité d'une modification unilatérale de la méthode de calcul, il est sans pertinence, au vu de ce qui précède.
4.3.2. En ce qui concerne le premier motif, force est de constater que le recourant ne s'en prend pas directement au calcul effectué par E._ SA, mais soutient que ce rapport ne peut pas être considéré comme déterminant puisqu'un accord des parties découle du document annexé au courriel du 19 novembre 2013 au sujet de l'EBITDA normalisé 2011-2012 de 7'870'000 fr.
Comme on l'a vu, la cour cantonale a considéré que ce montant a été simplement articulé dans les discussions entre les différentes parties, mais qu'il n'a pas été confirmé par les experts E._ SA.
Dans ses critiques d'établissement arbitraire des faits, ainsi que de violation de la détermination de la volonté subjective des parties, le recourant invoque à nouveau la méthode PUMP, relève que le rapport de E._ SA n'aurait pas été produit dans son intégralité, que l'on ne sait donc pas pourquoi E._ SA a adopté une nouvelle méthode (FIFO), que le rapport a été établi en vue de la vente de la société et donc dans l'intérêt de C._, que la méthode PUMP aurait été un choix, et non une erreur, qu'à la date du 19 novembre 2013, la société ne contestait que le multiple (4,9 au lieu de 6,2) et non l'EBITDA normalisé, que la société n'aurait contesté la méthode PUMP que dans sa réponse à la demande en justice.
Or, comme on vient de le voir, la méthode PUMP en tant que telle (le terme de PUMP ayant même été utilisé dans le document annexé au courriel) n'est pas déterminante puisque le demandeur n'a pas démontré que la valorisation de l'entreprise selon sa performance intrinsèque (donc après retrait de l'impact de la revalorisation des stocks d'or) donnerait nécessairement un EBITDA normalisé de 7'870'000 fr. ou, en d'autres termes, serait différent selon que l'on applique la méthode PUMP ou FIFO, de sorte que toutes ces critiques n'ont pas à être examinées. Dans la mesure où sa critique peut être prise en considération, elle est irrecevable: le recourant se limite en effet à soutenir qu'il ne s'agissait pas de discussions, ce qui n'est évidemment pas suffisant pour démontrer que ces documents envoyés par D._ constituaient un réel accord et lieraient la société.
Les considérations du recours sur l'absence d'invalidation pour erreur sont superflues, dès lors qu'elles ne se conçoivent que comme conséquence de l'admission d'un accord.
4.4. Le recourant se plaint également de " violation du droit à la preuve (art. 8 CC) ".
Le recourant ne soutient pas que les juridictions cantonales lui auraient refusé à tort l'administration du seul moyen de preuve propre à prouver un fait pertinent, en l'occurrence un accord des parties sur l'EBITDA normalisé. Après avoir relevé que la défenderesse a allégué que le montant de 7'870'000 fr. était indiqué par erreur dans le courriel du 19 novembre 2013 de D._, il reproche à la cour cantonale de s'être fondée sur une allégation non prouvée et, partant, d'avoir violé l'art. 8 CC. Or, un tel grief n'a rien à voir avec le droit à la preuve, mais simplement avec l'exigence que tout fait doit être prouvé pour servir de fondement au jugement.
En l'occurrence, la cour cantonale a simplement considéré que ce chiffre avait été articulé dans les discussions, mais qu'il n'a pas été confirmé par les rapports de E._ SA en vue de la vente de la société en septembre 2014. Lorsqu'il soutient que la cour cantonale a mal apprécié le témoignage de D._ - président du conseil d'administration de la société, qui a un intérêt à l'issue du procès -, que celui-ci ne fait que se référer au rapport de E._ SA, que les pages de ce rapport quant à un changement de méthode dans les comptes de la société n'ont pas été produites, qu'il n'est pas prouvé que l'hypothétique changement de méthode serait le résultat d'une erreur, plutôt que d'un choix dont le motif lui échappe et que, partant, la cour cantonale ne pouvait pas se baser sur le témoignage de D._ pour considérer que le montant de 7'870'000 fr. ne pouvait être admis, le recourant s'en prend en réalité à l'appréciation des preuves (mélangeant à nouveau la méthode en tant que telle et les chiffres contenus dans l'annexe au courriel), et non à la violation de l'art. 8 CC. Or, le sort de l'appréciation des preuves sur ce point a déjà été scellé ci-dessus.
4.5. Quant à la critique de l'inapplicabilité de l'art. 3 § 4 de l'accord de cession, elle manque sa cible. En effet, la cour cantonale a considéré à propos de cette disposition que l'employeuse ne pouvait pas prévoir une clause d'arbitrage ni même une clause d'expertise-arbitrage, qu'elle ne pouvait pas modifier unilatéralement la méthode d'évaluation comptable, avant de conclure que les parties n'ont pas valablement modifié le contrat du 3 février 2011.
4.6. Enfin, à titre subsidiaire, pour le cas où un accord sur la méthode PUMP ne serait pas retenu, le recourant reproche à la cour cantonale d'avoir violé les art. 18 CO et 1 et 2 CC dans le complètement du contrat.
Comme on l'a vu, la cour cantonale a reproché au recourant de n'avoir pas démontré que les deux méthodes aboutiraient à des résultats différents de valorisation de la société selon sa performance intrinsèque. Il s'ensuit que le grief du recourant est irrecevable.
5.
Le recours doit donc être rejeté dans la mesure où il est recevable, aux frais de son auteur (art. 66 al. 1 LTF). Le recourant sera également condamné à payer à l'intimée une indemnité à titre de dépens (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 7'500 fr., sont mis à la charge du recourant.
3.
Le recourant versera à l'intimée une indemnité de 8'500 fr. à titre de dépens.
4.
Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre des prud'hommes.
Lausanne, le 7 décembre 2017
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente : Kiss
La Greffière : Schmidt