Faits :
A.
A.a. Le 17 mai 1984, A._ (ci-après: l'employé ou le courtier) a conclu un contrat de travail avec X._ & Cie SA - aujourd'hui B._ SA - (ci-après: l'employeur), société ayant pour but les opérations immobilières.
Engagé en qualité d'aide-gérant, l'employé a ensuite exercé une activité comme stagiaire courtier, puis, dès le 14 décembre 1990, en qualité de courtier au service des ventes.
A.b. La rémunération du courtier se composait alors d'un salaire fixe brut mensuel (4'000 fr. dès le 1er janvier 2000) et de commissions liées aux opérations réalisées par son entremise.
Diverses conventions ont été signées entre les parties, qui régissaient notamment les conditions d'octroi des commissions du courtier (système de commissionnement basé sur des montants-seuils).
Il résulte des constatations cantonales qu'en sus du salaire de base (4'000 fr. versés chaque mois), les commissions de l'employé sur ses affaires personnelles, soit 15%, lui étaient versées tout au long de l'année, au fur et à mesure de l'encaissement des factures par l'employeur. L'employé a perçu de manière régulière des commissions conséquentes; pour l'année 2007, il a par exemple reçu des salaires mensuels bruts (salaire de base et commissions) entre 12'579 fr. et 74'007 fr. Les revenus annuels de l'employé s'élevaient, à partir des années 2000, entre 254'121 fr. et 501'708 fr.
A.c. D'importantes divergences de vues sont peu à peu apparues entre l'employé et l'administrateur directeur délégué de B._ SA, qui ont finalement conduit au licenciement de l'employé le 14 mai 2007 (avec effet au 31 août 2007). Celui-ci a été libéré avec effet immédiat de son obligation de travailler durant le délai de congé.
L'employé a fait valoir diverses prétentions auprès de son employeur. De nombreux points, alors litigieux entre les parties (manière dont la rémunération de l'employé a été calculée [détermination des seuils découlant du système de commissionnement], heures supplémentaires, remboursement de divers montants prélevés par l'employeur au détriment de l'employé, licenciement considéré comme abusif par l'employé et indemnités y relatives), ne sont plus discutés devant le Tribunal fédéral.
Les parties sont toutefois encore en désaccord sur deux points: premièrement, l'employé prétend avoir une créance vis-à-vis de l'employeur de 181'319 fr. (l'employé, qui prétendait initialement être titulaire d'une créance de 224'914 fr.25, a réduit ses prétentions devant le Tribunal fédéral), qui correspondrait au paiement de la part variable du salaire afférent aux vacances pour les années 2002 à 2006, l'employé soutenant qu'il n'a reçu, durant ces périodes de vacances, que son salaire fixe (premier poste); deuxièmement, les parties discutent encore d'un montant de 107'060 fr.20 (l'employé, qui prétendait initialement être titulaire d'une créance de 74'708 fr.98, a augmenté ses prétentions devant le Tribunal fédéral) qui serait due, toujours selon l'employé, à titre de salaire variable durant le délai de congé, soit du 15 mai 2007 au 31 août 2007 (deuxième poste).
B.
Par demande du 19 février 2008, l'employé a conclu à ce que la Cour civile du Tribunal cantonal vaudois constate la nullité de diverses clauses de concurrence auxquelles il était lié, à ce que l'employeur soit condamné à lui verser la somme de 743'038 fr. (total des divers postes énumérés ci-dessus let. A.c), avec intérêts à 5% l'an dès le 14 mai 2007, et à ce que l'employeur lui établisse un certificat de travail complet selon le texte fourni en cours d'instance.
Par jugement du 30 octobre 2013, la Cour civile a condamné l'employeur à verser à l'employé les sommes de 5'828 fr.80 net (prélèvements indus à rembourser à l'employé), intérêts en sus, et de 1'697 fr.70 brut (à titre de salaire variable dû pendant le délai de congé [deuxième poste]), sous déduction des cotisations sociales, intérêts en sus, les frais et dépens étant répartis entre les parties. La Cour civile a par contre rejeté la demande en tant qu'elle portait sur la part du salaire afférent aux vacances (premier poste).
Par arrêt du 23 décembre 2014, la Cour d'appel civile du Tribunal cantonal vaudois a admis partiellement l'appel de l'employé et réformé le jugement attaqué s'agissant du poste du dommage visant le salaire variable dû pendant le délai de congé (deuxième poste), l'employeur étant condamné à verser à l'employé le montant de 25'401 fr.10 brut, sous déduction des cotisations sociales, intérêts en sus. Elle a confirmé le jugement pour le surplus (soit également le rejet de la demande en tant qu'elle portait sur le premier poste) et réparti les frais et dépens entre les parties.
C.
L'employé exerce un recours en matière civile contre l'arrêt cantonal du 23 décembre 2014. Il conclut à l'admission du recours, à ce que l'arrêt entrepris soit réformé en ce sens que l'employeur lui doit la somme de 288'379 fr.20, intérêts en sus, sous suite de frais et dépens. Cette somme comprend le revenu auquel il prétend avoir droit pendant ses vacances (premier poste), ainsi que le salaire qui serait encore dû pendant le délai de congé (deuxième poste). L'employé invoque une fausse application de l'art. 329d CO, ainsi que l'arbitraire dans l'établissement des faits (art. 9 Cst.).
La société intimée conclut, avec suite de frais et dépens, au rejet du recours.
Considérant en droit :
1.
1.1. Déposé en temps utile (art. 100 al. 1 LTF) par le demandeur qui a succombé partiellement dans ses conclusions en paiement (art. 76 al. 1 LTF) et dirigé contre un arrêt final (art. 90 LTF) rendu sur recours par le tribunal supérieur du canton (art. 75 LTF) dans une contestation en matière de droit du travail dont la valeur litigieuse est supérieure à 15'000 fr. (art. 72 al. 1 et 74 al. 1 let. a LTF), le recours en matière civile est recevable au regard de ces dispositions.
1.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire au sens de l'art. 9 Cst. (ATF 137 I 58 consid. 4.1.2; 137 II 353 consid. 5.1) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
Lorsque le recourant soutient que les faits ont été constatés de manière arbitraire, que les preuves ont été appréciées de manière insoutenable, le Tribunal fédéral se montre réservé dans son contrôle, vu le large pouvoir qu'il reconnaît en ce domaine aux autorités cantonales (ATF 120 Ia 31 consid. 4b; 104 Ia 381 consid. 9 et les références). Il n'intervient, du chef de l'art. 9 Cst., que si le juge du fait n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans raisons objectives de tenir compte des preuves pertinentes ou a effectué, sur la base des éléments recueillis, des déductions insoutenables (ATF 137 III 226 consid. 4.2; 136 III 552 consid. 4.2).
Le recourant qui soutient que les faits ont été constatés d'une manière arbitraire doit satisfaire au principe d'allégation (art. 106 al. 2 LTF), c'est-à-dire soulever expressément ce grief et exposer celui-ci de façon claire et détaillée (ATF 135 III 232 consid. 1.2; 133 II 249 consid. 1.4.2). Pour chaque constatation de fait incriminée, il doit démontrer comment les preuves administrées auraient dû, selon lui, être correctement appréciées et en quoi leur appréciation par l'autorité cantonale est insoutenable (arrêt 5A_621/2013 du 20 novembre 2014 consid. 2.1; 5A_129/2007 du 28 juin 2007 consid. 1.4). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (cf. ATF 130 I 258 consid. 1.3 p. 261/262; 125 I 492 consid. 1b p. 495).
1.3. Le Tribunal fédéral applique d'office le droit (art. 106 al. 1 LTF) à l'état de fait constaté dans l'arrêt cantonal. Cela ne signifie pas que le Tribunal fédéral examine, comme le ferait un juge de première instance, toutes les questions juridiques qui pourraient se poser. Compte tenu de l'obligation de motiver imposée par l'art. 42 al. 2 LTF, il ne traite que les questions qui sont soulevées devant lui par les parties, à moins que la violation ne soit manifeste (ATF 140 III 86 consid. 2; 133 III 545 consid. 2.2).
1.4. Devant la Cour de céans, le recourant a augmenté ses conclusions pour le deuxième poste, mais les a réduit pour le premier, la somme totale (288'379 fr.20) étant inférieure au montant réclamé devant l'autorité précédente pour ces deux postes, de sorte qu'il ne s'agit pas de conclusions nouvelles au sens de l'art. 99 al. 2 LTF (cf. ATF 123 III 115 consid. 6d p. 119; sous l'empire de la LTF: BERNARD CORBOZ, in Commentaire de la LTF, 2e éd. 2014, no 39 ad art. 99 LTF).
2.
La Cour d'appel civile du Tribunal cantonal vaudois, se prononçant sur le salaire afférent aux vacances (art. 329d al. 1 CO), a expliqué qu'il y avait en principe lieu, lorsque la rémunération est versée sous la forme de commissions, de calculer ce salaire en prenant en compte la moyenne réalisée durant les derniers mois de travail; il convenait toutefois - à la suite de la doctrine - de faire une exception (sous peine d'augmenter le salaire du travailleur de manière indue) lorsqu'une commission est calculée sur toutes les affaires conclues dans l'année de référence et que le versement d'une avance (correspondant à une part importante de la moyenne calculée périodiquement) est opéré lors de chaque terme de paiement, le règlement du solde se faisant à la fin de la période de référence. La cour cantonale relève que, dans cette hypothèse, l'employé reçoit effectivement une avance au moment où il doit financer son repos (vacances) et qu'il n'a donc aucun droit à un salaire supplémentaire.
Cela étant, la cour cantonale a retenu que les commissions de l'employé sur ses affaires personnelles, soit 15%, lui étaient versées tout au long de l'année, de sorte que l'employé n'était pas réduit à vivre pendant ses vacances sur son seul salaire de base (4'000 fr. par mois). Elle a aussi observé que l'employé a perçu de manière régulière des commissions conséquentes et non seulement sa part fixe et indiqué que, compte tenu des revenus particulièrement élevés de l'employé à partir des années 2000 (entre 254'121 fr. et 501'708 fr. annuellement), celui-ci était à l'évidence en mesure de financer ses vacances. Enfin, on ne saurait retenir, s'agissant de l'activité de courtier rémunérée en fonction du résultat, que ses revenus seraient proportionnels à son temps de travail (ce que soutenait l'employé).
S'agissant du solde de salaire pendant le délai de congé (15 mai au 31 août 2007), la cour cantonale, a établi que l'employé avait droit à un salaire de 294'915 fr.10 et, se basant sur l'expertise et les allégations de l'employeur, qu'il avait déjà effectivement reçu un montant de 269'514 fr. Une somme de 25'401 fr.10 devait donc encore lui être versée.
3.
En ce qui concerne le (premier) poste visant le salaire afférent aux vacances, l'employé considère que, par le simple fait qu'il ne travaillait pas pendant six semaines par année, il abattait un travail moins important et gagnait moins de commissions que s'il avait oeuvré 52 semaines par année (acte de recours p. 8). Il estime dès lors que, pour compenser un revenu " affecté par un repos annuel de six semaines ", la cour cantonale aurait dû considérer qu'il avait droit, pendant ses vacances, à un revenu calculé sur la moyenne de ses salaires annuels.
Le fait que l'employé continuait de recevoir son salaire fixe (4'000 fr.) pendant les périodes de vacances n'est pas litigieux.
3.1. Pour permettre au travailleur de prendre du repos sans en être dissuadé par la perte de salaire, l'art. 329d al. 1 CO prévoit que le travailleur a droit à son salaire pendant les vacances qui lui sont dues. Il s'agit d'une règle relativement impérative à laquelle il ne peut pas être dérogé au détriment du travailleur (art. 362 al. 1 CO).
La jurisprudence en a déduit que le travailleur ne doit pas être traité différemment, du point de vue salarial, lorsqu'il est en vacances que s'il travaillait (ATF 136 III 283 consid. 2.3.5 p. 287 et les arrêts cités). Par cette formule, la Cour de céans entendait éviter que, pendant les vacances, le travailleur s'expose à voir ses revenus baisser ou disparaître, ce qui pourrait le conduire à continuer à travailler et aurait pour conséquence de compromettre le but des vacances, qui est de pouvoir bénéficier d'un repos effectif (cf. ATF 129 III 664 consid. 7.3 p. 673 et les références; GABRIEL AUBERT, Le droit des vacances: quelques problèmes pratiques, in Journée 1990 de droit du travail et de la sécurité sociale, p. 120 ss). Autrement dit, le travailleur doit continuer à recevoir son salaire usuel ( WYLER/HEINZER, Droit du travail, 3e éd. 2014, p. 398).
La formule utilisée par le Tribunal fédéral ne doit donc pas être comprise dans le sens que celui-ci aurait droit à un salaire supplémentaire (cf. AUBERT, op. cit., p. 122). Cela équivaudrait à un accroissement de revenu, ce qui n'est précisément pas souhaité sous l'angle de l'art. 329d al. 1 CO (ATF 129 III 664 consid. 7.3 p. 673).
3.2.
3.2.1. Il découle des considérations générales qui précèdent que, lorsque le salarié est payé en fonction du temps de travail (forme la plus courante de rémunération des salariés), le salaire afférent aux vacances est calculé au prorata de ce temps (ATF 129 III 664 consid. 7.3 p. 673).
3.2.2. Si le travailleur est payé exclusivement à la commission ou aux pièces, il s'agit en principe de calculer la partie de son salaire afférent aux vacances selon la méthode de calcul forfaitaire, soit en fonction de la moyenne des revenus réalisés durant les derniers mois de travail ou au cours d'une autre période appropriée (ATF 129 III 664 consid. 7.3 p. 674).
Il existe toutefois des situations, considérées comme des exceptions par la doctrine, dans lesquelles l'application de la méthode de calcul forfaitaire conduirait à un résultat - ne correspondant pas à la réalité - qui équivaudrait à un accroissement du revenu de l'employé (ATF 129 III 664 consid. 7.3 p. 674; cf. STREIFF/VON KAENEL/RUDOLPH, Arbeitsvertrag, 7e éd. 2012, no 3 ad art. 329d CO p. 683). Il serait donc inapproprié, dans ces situations, de verser un salaire afférent aux vacances à l'employé. Tel peut être le cas s'il s'avère que la perte de salaire due à l'absence du travailleur pendant les vacances est compensée par le fait qu'il peut grouper ses commandes ou les contrats qu'il conclut avant ou après les vacances (ATF 129 III 664 consid. 7.3 p. 674), ou si le contrat prévoit une commission calculée sur toutes les affaires de l'année et que l'employeur verse chaque mois des acomptes, sous réserve d'un décompte final à la fin de l'exercice (cf. arrêt 4A_66/2009 du 8 avril 2009 consid. 4.2; AUBERT, op. cit., p. 121 s.; ERIC CEROTTINI, Le droit aux vacances, 2001, p. 200).
3.3.
3.3.1. En l'occurrence, l'employé laisse entendre qu'il sollicite une rémunération représentant la contrepartie du travail qu'il aurait pu réaliser pendant ses vacances. Autrement dit, l'employeur aurait dû lui verser, pendant celles-ci, un montant supplémentaire (calculé en fonction de la moyenne de ses salaires annuels), au motif que, pendant son absence, il n'a pas pu commencer de nouvelles affaires qui, en fin d'exercice, auraient augmenté son revenu annuel s'il n'avait pas pris de vacances.
Il résulte des considérations qui précèdent (cf. supra consid. 3.1 et 3.2) que l'art. 329d al. 1 CO n'entend précisément pas accorder dans cette hypothèse un montant supplémentaire à l'employé. Celui-ci n'a pas droit à une part proportionnelle des commissions qu'il aurait gagnées pendant les vacances et qui viendrait augmenter son salaire annuel. L'argument central qu'il avance tombe dès lors à faux.
3.3.2. Quant à l'argument selon lequel l'employé ne recevait pas d'avances de salaire, mais des commissions calculées a posteriori sur la base des factures encaissées par l'employeur, il ne résiste pas à l'examen.
Selon les constatations cantonales, qui lient le Tribunal fédéral, les commissions de l'employé sur ses affaires personnelles lui étaient versées tout au long de l'année, de sorte qu'il n'était pas réduit à vivre pendant ses vacances sur son seul salaire de base. Il a été également établi que sa rémunération lui était versée indépendamment des périodes durant lesquelles il prenait ses vacances. Cela étant, l'employé n'était pas placé, durant les périodes de vacances, dans une situation moins avantageuse que s'il avait travaillé (cf. encore à cet égard : arrêt 4A_66/2009 déjà cité consid. 4.2). Que la rémunération varie de mois en mois n'y change rien. Cette variation n'est pas causée par la prise de vacances de l'employé, mais s'explique simplement par le fait que le salaire du courtier ne dépend pas de l'étendue de l'activité déployée, mais de ses succès (cf. ATF 138 III 669 consid. 3.1 p. 670).
Le moyen soulevé par l'employé se révèle dès lors infondé.
4.
L'employé critique la solution adoptée par les magistrats cantonaux concernant le salaire pendant le délai de congé (deuxième poste).
4.1. A cet égard, il n'y a pas lieu d'entrer en matière sur les premières critiques soulevées par l'employé sous l'angle de l'art. 9 Cst. (acte de recours p. 9 et 10 let. a et b in initio), celui-ci n'expliquant pas en quoi elles pourraient avoir une incidence sur le sort de la cause (cf. supra consid. 1.2). Quant au moyen tiré de la transgression du droit d'être entendu (acte de recours p. 10 let. b in fine), il n'est pas motivé conformément aux exigences strictes de l'art. 106 al. 2 LTF et il se révèle irrecevable.
4.2. Le recourant estime qu'il était insoutenable de se baser sur le montant de 269'514 fr. déterminé par l'expert, alors même que les pièces du dossier démentent ce chiffre.
A cet égard, les reproches ayant trait au formalisme excessif et à la violation de son droit d'être entendu sont irrecevables, à défaut d'une quelconque motivation.
L'employé se prévaut également, dans ce contexte, de la violation de l'interdiction de l'arbitraire dans la constatation des faits (art. 9 Cst.) (acte de recours p. 10 let. c). Force est ici d'observer que la cour cantonale doute de l'exhaustivité des décomptes de salaires de janvier à mai (la cour cantonale constate à cet égard que les décomptes " ne comprennent apparemment pas le remboursement de frais ") et, notamment pour cette raison, retient qu'il n'y a pas lieu de s'écarter des chiffres établis par l'expert.
Si l'employé affirme que les pièces (décomptes de salaire) régulièrement versées au dossier permettent d'établir précisément le salaire brut effectivement reçu par lui en 2007, il ne revient toutefois pas sur le contenu de ces pièces (qui ont été écartées par la cour cantonale au profit de l'expertise en raison des doutes évoqués plus haut), ni n'explique en quoi le rapport de l'expert serait incorrect. Cela étant, il se limite à une affirmation appellatoire, et ne démontre pas en quoi le raisonnement de la cour cantonale serait arbitraire.
4.3. Quant à la critique de l'employé visant (sous l'angle de la violation du droit d'être entendu, du formalisme excessif et de l'interdiction de l'arbitraire) le reproche de nature procédurale qui lui est fait par la cour cantonale (quant aux faits qu'il n'aurait pas allégués), elle vise une motivation subsidiaire de l'arrêt cantonal (" L'appelant ne saurait de toute manière se prévaloir d'un élément qu'il n'a pas allégué... "). La motivation principale de l'autorité précédente étant confirmée (cf. supra consid. 4.2), il n'y a pas lieu d'examiner la motivation subsidiaire.
5.
Il résulte des considérations qui précèdent que le recours en matière civile de l'employé doit être rejeté dans la mesure où il est recevable.
Les frais et dépens sont mis à la charge du recourant, qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 6'500 fr. sont mis à la charge du recourant.
3.
Le recourant versera à l'intimée une indemnité de 7'500 fr. à titre de dépens.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Cour d'appel civile.
Lausanne, le 22 septembre 2015
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente : Kiss
Le Greffier : Piaget