Faits : A. A.a. Le 6 mai 2008, C._ SA (ci-après: C._), société qui a pour but notamment la prise de participations dans toutes entreprises et dont le président administrateur est, depuis 2012, D._, a acquis l'intégralité du capital-actions de B._ SA (ci-après: B._ ou la défenderesse), à Meyrin, société ayant pour but social la création, la fabrication, l'achat et la vente de composants horlogers et autres, notamment en or ou autres métaux communs ou précieux. A._ (ci-après: le demandeur) était le directeur général de B._ SA, depuis le 26 janvier 2005. A.b. Le 28 mai 2008 déjà, C._ et A._ ont passé un contrat intitulé " Options call et put en cas de fin des rapports de travail de M. A._ avec B._ SA " dans le but d'aligner les intérêts des actionnaires sur ceux des dirigeants de la société, ainsi que d'accroître la valeur de cette société. En vertu de ce contrat, A._ devait notamment bénéficier d'une option put lui permettant d'exiger de C._ le rachat de toutes ses actions de la société B._, dont le prix devait être calculé selon la formule suivante, qui sera reprise en substance par la suite: " 6,2 [Multiple d'EBITDA consolidé B._ normalisé sur la base duquel la présente acquisition est effectuée] x l'EBITDA normalisé moyen des deux années comptables précédentes, croisé avec une option call au bénéfice de C._ exerçable sur les mêmes bases et liant M. A._ ". A._ a été confirmé dans ses fonctions de directeur général de B._ pour une période indéterminée et pour un salaire brut global de 238'000 fr., par contrat de travail du 29 mai 2008. Il a été retenu en procédure que les options de rachat de ses actions selon le contrat du 28 mai 2008 faisaient partie de son salaire variable. B. B.a. Le contrat options call et/ou put du 28 mai 2008 a été remplacé par le contrat d'intéressement du 3 février 2011, passé entre A._, B._ et C._ en marge d'une augmentation conditionnelle du capital-actions de B._. Cette dernière société s'est substituée à C._ en qualité de contre-partie de A._. A._ a obtenu gratuitement 21 options lui permettant d'acheter 21 actions de la société B._ (dont le capital-actions passait de 400 à 421 actions) et une option put lui permettant d'exiger de la société qu'elle lui rachète ses 21 options jusqu'au 10 juillet 2014 à un prix calculé selon la formule: " 6,2 [Multiple d'EBITDA consolidé B._ normalisé sur la base duquel l'acquisition de la société [B._] a été réalisée en date du 11 juin 2008] x l'EBITDA normalisé moyen des deux années comptables précédentes. " L'EBITDA normalisé suppose que l'EBITDA résultant des comptes d'activité et de gestion soit retraité de l'impact de la revalorisation des stocks de matières précieuses, que celle-ci soit positive ou négative (art. 9.2 du contrat). Le prix d'exercice de l'option, qui devait être déduit du prix de chaque action obtenu conformément à cette formule, a été fixé à 75'000 fr. (correspondant au prix payé par action par C._ lors de son entrée dans le capital de B._ en 2008). B.b. A._ a exercé son option put le 18 décembre 2013. Les EBITDA des deux années comptables précédentes, soit de 2011 et 2012, se sont élevés à 7'905'000 fr. et 10'354'000 fr., incluant l'impact de la revalorisation des stocks de matières précieuses. Pour obtenir l'EBITDA moyen normalisé, il faut en retraiter l'impact de la revalorisation des stocks de matières précieuses. En vue de la vente de la société, E._ SA a établi des rapports de due diligence les 20 décembre 2013 et 4 septembre 2014. Elle a repris les EBITDA mentionnés dans les rapports d'activité et de gestion de la société (qui incluaient la revalorisation des stocks de matières précieuses) et en a retranché la revalorisation de ces stocks, soit la part relative à la variation de la valeur des métaux précieux (Margin deferral), qui s'élève à 2'356'000 fr. pour 2011 et à 3'065'000 fr. pour 2012. Il s'agissait par là de " lisser " (normaliser selon l'art. 9.2 du contrat d'intéressement) les effets dus à l'évolution du cours des métaux précieux, en particulier celui de l'or, et de pouvoir fixer un prix de vente correspondant à la performance financière intrinsèque de l'entreprise, sans tenir compte des effets de ces cours des métaux précieux. L'EBITDA normalisé moyen pour les années 2011 et 2012 est donc de 6'419'000 fr. ([ (7'905'000 - 2'356'000) + (10'354'000 - 3'065'000)]: 2). A._ a confirmé la teneur du rapport de due diligence en tant que directeur général de la société le 4 septembre 2014. B.c. Avant cela, par courriel du 19 novembre 2013, D._, administrateur-président de C._, avait fait parvenir à A._ un document intitulé " BSA - Valorisation des Options de A._ - 21/8/2013 ". Il y était invoqué que le multiple de 6,2 était erroné et devait être de 4,9. Quant à l'EBITDA normalisé 2011, il était de 7'042'000 fr. et celui de 2012 de 8'698'000 fr., de sorte que l'EBITDA moyen normalisé était de 7'870'000 fr. Le prix de rachat des 21 options était fixé à 375'830 fr. B.d. Présentement, le litige ne porte plus sur le multiple de 6,2, admis par la cour cantonale, mais uniquement sur l'EBITDA normalisé moyen des années 2011 et 2012. Selon l'employeuse, il est de 6'419'000 fr. et selon l'employé, il est de 7'870'000 fr.; c'est le retraitement de la revalorisation des stocks de matières précieuses qui fait problème et, par suite, le montant du prix de rachat des 21 options de l'employé. C. C.a. Le 20 décembre 2013, pour ne pas empêcher la vente de la société à un tiers, l'employé et l'employeuse ont conclu un accord de cession d'options (i.e. de rachat des 21 options de l'employé) : ils ont convenu que le prix des options (dans leur totalité) serait de 375'000 fr. et qu'un complément de prix serait versé à l'employé selon les modalités de l'art. 3 de cet accord. Il y est précisé que les parties divergent sur la façon de calculer la valorisation de la société (selon le contrat du 3 février 2011), ainsi que sur les définitions des termes servant au calcul de cette valeur (préambule de l'accord). La méthode d'évaluation comptable à la base de la formule reste donc celle du contrat du 3 février 2011. Le montant de 375'000 fr. a été versé à l'employé en janvier 2014. C'est le montant du complément de prix qui encore est litigieux. C.b. Le 4 septembre 2014, la société a été vendue à un tiers pour un montant de 28'400'000 fr. D. A._ a ouvert action en paiement contre B._ par requête de conciliation du 10 septembre 2014 et, après échec de la conciliation, a déposé sa demande en justice devant le Tribunal des prud'hommes du canton de Genève le 11 décembre 2014. Il conclut à la condamnation de la défenderesse à lui payer le montant de 511'170 fr. avec intérêts à 5% l'an dès le 26 août 2014. La défenderesse a conclu à l'irrecevabilité de la demande et subsidiairement à son rejet. Par jugement du 21 avril 2016, le Tribunal des prud'hommes du canton de Genève a condamné la défenderesse à verser au demandeur un montant brut de 511'179 fr. avec intérêts à 5% l'an dès le 30 août 2014 (ch. 2) et a statué sur les frais et dépens. Il a considéré que la société défenderesse avait, par erreur, valorisé ses stocks avec la méthode FIFO, alors qu'elle croyait appliquer la méthode PUMP; elle devait toutefois se laisser opposer cette erreur et, partant, l'EBITDA normalisé était celui ressortant du courriel du 19 novembre 2013, soit 7'870'000 fr. Le demandeur a été licencié le 21 avril 2016. Statuant le 11 janvier 2017 sur appel de la défenderesse, la Chambre des prud'hommes de la Cour de justice du canton de Genève a réformé le ch. 2 du dispositif du premier jugement et réduit le montant que la défenderesse a été condamnée à verser au demandeur à 62'398 fr. 60 bruts avec intérêts à 5% l'an dès le 30 août 2014, et modifié les frais et dépens en conséquence. Elle a calculé l'EBITDA normalisé moyen en se basant sur les rapports de due diligence de E._ SA et donc sur le montant de 6'419'000 fr. E. Contre cet arrêt, qui lui a été notifié le 12 janvier 2017, le demandeur a interjeté un recours en matière civile au Tribunal fédéral le 13 février 2017. Il en ressort qu'il conclut en substance à la condamnation de la défenderesse à lui payer le montant de 511'179 fr. avec intérêts à 5% l'an dès le 30 août 2014, montant qui lui avait été alloué par le tribunal de première instance. Subsidiairement, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à la cour cantonale pour nouvelle décision dans le sens des considérants. Il conteste l'application de la méthode (méthode FIFO) utilisée pour arrêter l'EBITDA normalisé moyen de 2011 et 2012, invoquant une appréciation arbitraire des faits et une violation du droit. Il soutient que c'est la méthode PUMP qui doit être utilisée. Il fait valoir quatre griefs: une appréciation arbitraire des faits sur trois points, une violation du droit à la preuve (art. 8 CC), une violation de l'interprétation de la volonté subjective des parties, une violation de l'art. 18 CO en ce qui concerne l'art. 3 § 4 de l'accord de cession d'options du 20 décembre 2013 et, subsidiairement, une violation de l'art. 18 CO dans le complètement de l'accord de cession du 20 décembre 2013. La défenderesse intimée conclut au rejet du recours et à la confirmation de l'arrêt attaqué. La cour cantonale se réfère aux considérants de son arrêt. Les parties ont encore déposé chacune de brèves observations.