Faits :
A.
A.a. Jusqu'à fin 2003, B._ a travaillé auprès de I._ SA, au service de gestion des salaires au sein du département des ressources humaines. Il utilisait un programme informatique créé par C._ SA, qui avait concédé à son employeur une licence d'utilisation et lui assurait des services de maintenance et d'assistance.
I._ SA a décidé de transférer son service de gestion des salaires à C._ SA, société dont E._ est directeur, administrateur et actionnaire majoritaire et qui a pour but "étude et développement de systèmes informatiques, courtage en assurances et réassurances, gestion et analyse de portefeuille d'assurances ". B._ a alors été engagé par cette société en qualité de " HR Outsourcing Director " par contrat de travail du 9 décembre 2003 pour le 1er janvier 2004, en contrepartie d'un salaire annuel brut de 153'063 fr. Son contrat contient une clause de non-concurrence.
A.b. En 2005, E._ a acheté la totalité des actions d'une autre société, dont il a modifié la raison sociale en F._ Sàrl, en vue de déployer ses activités à l'étranger.
A.c. Entre le 7 novembre et le 8 décembre 2006, B._ a élaboré plusieurs business plans " confidentiels " avec A._, un autre employé de C._, qui avait été engagé en mai 2005 en qualité de courtier en assurances, chargé de vendre des polices d'assurances aux clients du département dont B._ s'occupait.
Le 21 décembre 2006, le directeur de C._ a convoqué B._ en présence de deux agents de sécurité et l'a licencié avec effet immédiat. Par lettre de résiliation du même jour, C._ a précisé à B._ qu'elle avait découvert avec consternation qu'il préparait avec A._ la mise sur pied d'une structure concurrente (objet des business plans) et qu'elle ne pouvait tolérer des violations aussi caractérisées de ses devoirs de fidélité, de diligence et de non-concurrence. A la même date, C._ a résilié le contrat de travail de A._.
B._ a contesté son licenciement le 29 décembre 2006 et a déclaré se tenir à disposition de son employeur jusqu'à la fin du délai de congé.
Le 15 février 2007, C._ a déposé plainte pénale contre A._ pour abus de confiance, plainte qui a été ensuite étendue contre celui-ci et contre B._ pour concurrence déloyale. L'enquête pénale a abouti à une ordonnance de non-lieu.
La caisse de chômage a versé à B._ des indemnités pour la période de décembre 2006 à mars 2007 de 17'368 fr. 45, charges sociales déduites.
A.d. B._ a fait notifier à C._ trois commandements de payer pour respectivement 15'500 fr., 7'500 fr. et 7'532 fr.
Au montant de 7'532 fr. qu'elle a admis, C._ a opposé en compensation le montant de 5'000 fr.
B.
Le 16 mai 2007, B._ a ouvert action en paiement contre C._ SA devant la Cour civile du Tribunal cantonal du canton de Vaud, concluant à ce que la défenderesse soit condamnée à lui payer le montant total de 442'272 fr. 85 brut, sous déduction des cotisations aux assurances sociales, avec intérêts à 5 % l'an dès le 22 décembre 2006, soit les montants de:
1) 112'304 fr. 35 à titre de complément de salaire;
2) 41'784 fr. 45 pour salaire relatif à la période de congé;
3) 76'531 fr. 50 pour licenciement immédiat injustifié;
4) 138'310 fr. pour heures supplémentaires;
5) 31'081 fr. 75 pour vacances non prises au service de C._;
6) 11'728 fr. 80 pour vacances non prises au service de I._;
7) 15'500 fr. pour un montant versé par lui à son employeur,
8) 7'500 fr. pour un montant versé par lui à son employeur,
9) 7532 fr. pour un montant versé par lui à son employeur, dont à déduire un montant de 5'000 fr.
La caisse cantonale de chômage, intervenante, subrogée au demandeur, a réclamé le montant de 17'368 fr. avec intérêts à 5% l'an dès le 22 décembre 2006.
La défenderesse a conclu au rejet de la demande et, reconventionnellement, au paiement de 1'467 fr. 95 avec intérêts à 5% l'an dès le 12 octobre 2007.
Le juge instructeur de la cour civile a entendu 11 témoins, dont A._ et E._.
Par jugement du 13 février 2013, la cour civile, qui a retenu que l'existence de motifs justifiant une résiliation immédiate du contrat de travail du demandeur n'a pas été établie, a admis totalement ou partiellement six des postes susmentionnés.
Statuant le 21 mai 2014, la Cour d'appel civile du Tribunal cantonal vaudois, admettant que le licenciement immédiat est justifié n'en a admis que trois, soit le n° 5 pour les vacances non prises au service de C._ à raison de 17'914 fr. 50, le n° 8 pour le remboursement de 7'500 fr. et le n° 9 pour le remboursement de 7'532, sous déduction de 5'000 fr., rejetant tous les autres postes.
C.
Contre cet arrêt du 21 mai 2014, B._ a interjeté un recours en matière civile au Tribunal fédéral le 26 juin 2014. Il reprend les conclusions de sa demande sur les quatre postes n°s 1, 3, 7 et 9, le montant alloué par le tribunal de première instance pour le poste n° 2, ainsi que le poste du montant à rembourser à l'intervenante. Il conclut principalement à la réforme de l'arrêt attaqué dans le sens de l'admission des conclusions de sa demande sur ces postes, à la mainlevée définitive des oppositions à trois commandements de payer et, subsidiairement, à l'annulation de cet arrêt et au renvoi de la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants. Il demande que les faits soient complétés, se plaint d'arbitraire dans l'appréciation des preuves et l'établissement des faits et de violation de l'art. 8 CC, ainsi que des art. 322, 327a, 327b et 337 et 337c CO.
La Caisse de chômage s'est référée aux conclusions du recourant.
L'intimée conclut au rejet du recours dans la mesure de sa recevabilité. Le recourant a déposé des observations, ensuite de quoi l'intimée a renoncé à dupliquer.
Considérant en droit :
1.
Déposé en temps utile (art. 100 al. 1 LTF) par le demandeur qui a succombé partiellement dans ses conclusions en paiement (art. 76 al. 1 LTF) et dirigé contre un arrêt final (art. 90 LTF) pris sur recours par le tribunal supérieur du canton (art. 75 LTF) dans une contestation du contrat de travail dont la valeur litigieuse est supérieure à 15'000 fr. (art. 72 al. 1 et 74 al. 1 let. a LTF), le recours en matière civile est recevable au regard de ces dispositions.
2.
Le recours en matière civile au Tribunal fédéral peut être exercé pour violation du droit suisse tel qu'il est délimité à l'art. 95 LTF, en particulier du droit fédéral, y compris le droit constitutionnel (let. a).
Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire au sens de l'art. 9 Cst. (ATF 137 I 58 consid. 4.1.2; 137 II 353 consid. 5.1) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
La partie recourante qui soutient que les faits ont été constatés d'une manière arbitraire doit satisfaire au principe d'allégation (art. 106 al. 2 LTF), c'est-à-dire soulever expressément ce grief et exposer celui-ci de façon claire et détaillée (ATF 135 III 232 consid. 1.2; 133 II 249 consid. 1.4.2). Il lui appartient de démontrer précisément, pour chaque constatation de fait incriminée, comment les preuves administrées auraient dû, selon lui, être correctement appréciées et en quoi leur appréciation par l'autorité cantonale est insoutenable (ATF 129 I 113 consid. 2.1 p. 120; 128 I 295 consid. 7a p. 312; 125 I 492 consid. 1b p. 495 et les arrêts cités).
3.
Les postes n° s 4, 5, 6 et 8 ne sont pas litigieux. En ce qui concerne le poste n° 9 pour lequel il conclut au paiement de 7'532 fr. avec intérêts à 5% l'an dès le 20 mars 2007, le recourant semble contester la déduction du montant de 5'000 fr. admise par la cour cantonale. Dès lors qu'il ne motive pas cette contestation, son chef de conclusions est irrecevable.
Seuls demeurent donc litigieux le poste n° 1 relatif au complément de salaire (cf. infra consid. 5), les postes n° s 2 et 3 au titre d'indemnités pour licenciement injustifié (cf. infra consid. 4), dont dépend également le remboursement à l'intervenante, et le poste n° 7 (cf. infra consid. 6).
4.
A l'appui de ses prétentions en indemnités de 42'791 fr. 80 et 76'531 fr. 50 selon les postes n° s 2 et 3, le recourant soutient que le congé immédiat qui lui a été communiqué le 21 décembre 2006 n'était pas justifié. Il reproche à cet égard à la cour cantonale d'avoir commis l'arbitraire et d'avoir violé son droit d'être entendu, ainsi que d'avoir violé les art. 8 CC et 337 CO.
4.1. L'employeur et le travailleur peuvent résilier immédiatement le contrat en tout temps pour de justes motifs (art. 337 al. 1 1ère phrase CO). Doivent notamment être considérées comme de justes motifs toutes les circonstances qui, selon les règles de la bonne foi, ne permettent pas d'exiger de celui qui a donné le congé la continuation des rapports de travail (art. 337 al. 2 CO).
Selon la jurisprudence, la résiliation immédiate pour justes motifs doit être admise de manière restrictive. Les faits invoqués à l'appui d'un renvoi immédiat doivent avoir entraîné la perte du rapport de confiance qui constitue le fondement du contrat de travail. Seul un manquement particulièrement grave du travailleur justifie son licenciement immédiat; si le manquement est moins grave, il ne peut entraîner une résiliation immédiate que s'il a été répété malgré un avertissement. Par manquement du travailleur, on entend en règle générale la violation d'une obligation découlant du contrat de travail, mais d'autres incidents peuvent aussi justifier une résiliation immédiate (ATF 130 III 28 consid. 4.1 p. 31 et les arrêts cités).
En particulier, un manquement au devoir de fidélité du travailleur peut constituer un juste motif de congé. En vertu de l'art. 321a al. 1 CO, le travailleur doit sauvegarder fidèlement les intérêts légitimes de son employeur: il doit s'abstenir d'entreprendre tout ce qui pourrait lui nuire économiquement (ATF 117 II 560 consid. 3a p. 561). Toutefois, même si son contrat contient une clause de prohibition de concurrence, le travailleur ne viole pas son devoir de fidélité, si, envisageant avec d'autres de fonder une entreprise concurrente, il entreprend des préparatifs avant que le contrat de travail ne prenne fin, pour autant cependant qu'il ne commence pas à concurrencer son employeur, à débaucher des employés ou à détourner de la clientèle (arrêt 4A_212/2013 du 10 octobre 2013 consid. 2.2; ATF 138 III 67 consid. 2.3.5 p. 73 s.).
Le juge apprécie librement s'il existe de justes motifs (art. 337 al. 3 CO). Il applique les règles du droit et de l'équité (art. 4 CC). A cet effet, il prendra en considération tous les éléments du cas particulier, notamment la position et la responsabilité du travailleur, le type et la durée des rapports contractuels, ainsi que la nature et l'importance des manquements.
Le Tribunal fédéral ne revoit qu'avec réserve la décision d'équité prise par la cour cantonale. Il intervient lorsque celle-ci s'écarte sans raison des règles établies par la jurisprudence en matière de libre appréciation, ou lorsqu'elle s'appuie sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle, ou à l'inverse, lorsqu'elle n'a pas tenu compte d'éléments qui auraient absolument dû être pris en considération; il sanctionnera en outre les décisions rendues en vertu d'un pouvoir d'appréciation lorsqu'elles aboutissent à un résultat manifestement injuste ou à une inéquité choquante (ATF 130 III 28 consid. 4.1 p. 32, 213 consid. 3.1 p. 220 et les arrêts cités).
Il convient de préciser que, de manière générale, les éventuelles comparaisons avec des décisions judiciaires rendues dans des causes que les parties tiennent pour similaires à la leur doivent être appréciées avec circonspection. En effet, comme précédemment exposé, les justes motifs de l'art. 337 CO supposent d'examiner l'ensemble des circonstances et laissent une large place à l'appréciation, de sorte qu'établir une casuistique en se focalisant sur un seul élément du dossier, sorti de son contexte, n'est pas significatif (arrêt 4A_60/2014 du 22 juillet 2014 consid. 3.2 publié in SJ 2014 I p. 481).
4.2. La cour cantonale expose les motifs pour lesquels elle estime que l'employé et son collègue ont cherché, en cours d'emploi, à mettre en place une structure concurrente à l'insu de leur employeur et ont cherché à débaucher des clients et des collaborateurs de celui-ci, ce qui constitue un juste motif de licenciement au sens de l'art. 337 al. 1 CO.
Elle a retenu tout d'abord qu'entre le 7 novembre et le 8 décembre 2006, l'employé et son collègue ont élaboré à tout le moins six business plans, dont l'examen et les circonstances dans lesquelles ils ont été élaborés démontrent que les deux employés ont préparé en cours d'emploi une activité concurrente à celle de leur employeur, sans l'accord de celui-ci. La cour relève ainsi que les business plans avaient pour objectif la création d'une société dont le but était similaire à celui de l'employeur. Or, aucun de ces plans ne mentionnait le nom du directeur de la société qui les employait, les actions de la nouvelle société à créer étaient réparties entre les deux employés et des tiers et les deux employés en étaient les seuls organes. Ils se sont envoyés ces projets par leurs adresses électroniques privées, sans en adresser une copie au directeur de l'employeur. Si deux de ces projets mentionnent les numéros de téléphone et de télécopie et les adresses électroniques professionnelles des deux employés auprès de leur employeur, on ne peut en déduire que celui-ci a donné son accord; il n'est pas impossible que les employés voulaient profiter de leur position auprès de leur employeur pour rendre leur projet attractif.
Ensuite, la cour a considéré que le document intitulé " 2007 DB Consulting Budget ", qui dresse une liste de sociétés, pour la plupart clientes de l'employeur, ainsi qu'une liste de collaborateurs de celui-ci, révèle que l'employé et son collègue ont cherché, en cours d'emploi à débaucher des clients et des collaborateurs de leur employeur.
La cour a estimé qu'il n'y avait aucun lien entre ce projet de l'employé et de son collègue et celui de l'employeur en relation avec la société F._ Sàrl et qu'il ne pouvait être retenu que le directeur de l'employeur et les deux employés auraient eu le projet commun d'étendre leurs services à l'étranger. Le demandeur n'a rien pu alléguer quant aux circonstances dans lesquelles il aurait discuté d'un tel projet, ni allégué que des instructions lui auraient été données dans ce sens. Et il n'y a aucune preuve que l'employeur aurait donné son accord à un tel projet.
Enfin, la cour cantonale a considéré que les événements qui ont suivi le licenciement, dont on peut tenir compte pour évaluer la volonté des deux employés, corroborent l'appréciation selon laquelle ceux-ci ont tenté de mettre en place, en cours d'emploi, une structure concurrente à l'insu de leur employeur.
En conclusion, la cour cantonale a tenu pour établi que le demandeur a, en cours d'emploi, préparé une activité concurrente à celle de son employeur sans l'accord de celui-ci et que ce comportement doit être qualifié de particulièrement grave et constitutif d'un juste motif au sens de l'art. 337 al. 1 CO. Ces faits étaient d'ailleurs d'autant plus graves que l'employé occupait une fonction de cadre, qu'il était lié par une clause de non-concurrence et que l'employeur est actif dans un marché très fermé dans lequel peu d'entreprises offrent les mêmes prestations.
4.3. Cette motivation de la cour cantonale ne prête pas le flanc à la critique. Le recourant ne s'en prend d'ailleurs pas directement à elle. Dans une argumentation touffue et difficile à suivre, il soutient tout d'abord sur 6 pages et sans aucune référence à la motivation de la cour cantonale, que les juges cantonaux auraient établi arbitrairement les faits et violé son droit d'être entendu, omettant de prendre en considération des preuves pertinentes, puis qu'ils auraient commis l'arbitraire dans l'appréciation des preuves en tirant des constatations insoutenables des éléments recueillis et violé l'art. 8 CC et, enfin, sur cinq pages, il affirme que, vu les faits qu'il a relevés, les juges cantonaux auraient violé l'art. 337 al. 1 CO.
4.3.1. Sous le titre de l'appréciation arbitraire des preuves, pour peu qu'on puisse le comprendre, le recourant fait en réalité valoir qu'il n'a pas établi les business plans à l'insu de son employeur, invoquant qu'il y était prévu d'utiliser les logiciels informatiques de son employeur, que lui et son collègue ont bénéficié d'un non-lieu au pénal, que deux témoins dans la procédure pénale ont déclaré n'avoir pas constaté que les deux employés créaient une société concurrente à l'insu de leur employeur et que trois anciens clients de l'employeur y ont déclaré n'avoir pas quitté celui-ci à cause du départ des deux employés. Ce faisant, il s'en prend à l'appréciation (juridique) de l'existence d'un juste motif, reprochant à la cour cantonale de n'avoir pas tenu compte de faits qui auraient dû jouer un rôle dans son appréciation. Les faits qu'il mentionne ne suffisent toutefois pas à faire apparaître l'appréciation de la cour comme contraire au droit fédéral. Comme on vient de l'exposer, la cour a constaté que le directeur de leur employeur n'était pas mentionné dans les business plans et n'a été associé ni comme actionnaire, ni comme organe de la société à créer.
En tant qu'il considère que les événements postérieurs à son licenciement ne sont pas déterminants pour apprécier s'il existait un juste motif de licenciement et que la cour en aurait arbitrairement tenu compte, le recourant se méprend sur le sens de la motivation cantonale, laquelle a considéré que les événements postérieurs ne font que corroborer son appréciation fondée sur les événements antérieurs.
En tant que le recourant invoque la violation de l'art. 8 CC, précisant que le fardeau de la preuve de l'existence d'un juste motif est à la charge de l'employeur, et qu'il a pleinement collaboré à la procédure probatoire, son grief est infondé dès lors qu'il se fonde sur un état de fait modifié.
Quant au grief de violation du droit d'être entendu (art. 29 al. 2 Cst. et art. 6 par. 1 CEDH), il ne fait l'objet d'aucune motivation.
4.3.2. Sous violation de l'art. 337 al. 1 CO, le recourant fait valoir plusieurs griefs.
4.3.2.1. Il soutient tout d'abord que le soupçon d'une infraction pénale ne fonde pas un juste motif de résiliation, si la plainte pénale aboutit à un non-lieu.
Ce grief est infondé. Tout d'abord, l'art. 53 CO pose le principe de l'indépendance du juge civil. Ensuite, le recourant méconnaît que les conditions d'une condamnation pénale diffèrent des circonstances permettant de retenir l'existence d'un juste motif de résiliation du contrat de travail. Enfin, la cour cantonale a tenu pour établi, après avoir entendu les parties et onze témoins, que le demandeur et son collègue ont cherché à débaucher des clients et des collaborateurs déjà pendant la durée des rapports de travail.
4.3.2.2. Ensuite, le recourant soutient que le fait d'envisager de fonder avec d'autres employés une entreprise concurrente pendant la durée des rapports de travail n'est pas constitutif d'une violation du devoir de fidélité - et, partant, un juste motif de congé au sens de l'art. 337 al. 1 CO - si l'employé ne commence pas à concurrencer son employeur, à débaucher des employés et à détourner de la clientèle.
Ce grief est irrecevable dès lors qu'il se fonde sur un état de fait différent de celui retenu par la cour cantonale, celle-ci ayant constaté en fait que l'employé et son collègue ont cherché en cours d'emploi à débaucher des clients et des collaborateurs de leur employeur et que ce comportement a été corroboré par les événements survenus postérieurement, en 2007.
4.3.2.3. En tant qu'il invoque qu'il y a contradiction à retenir qu'il a violé son devoir de fidélité en préparant une activité concurrente et, parallèlement, que l'employeur n'a pas droit à une indemnité pour violation de la clause de non-concurrence, le recourant méconnaît le motif pour lequel la cour cantonale a laissé indécise la question de la violation de la clause de non-concurrence: c'est parce que l'employeur n'a ni allégué, ni établi l'existence d'un dommage et un lien de causalité, ayant mentionné ces points pour la première fois dans son mémoire de droit du 10 octobre 2012, que l'indemnité a été rejetée.
4.3.2.4. Pour le reste, les griefs du recourant ne consistent qu'en une reprise, sous une autre forme, des griefs qu'il avait formulés précédemment sous le titre d'arbitraire dans l'établissement des faits et l'appréciation des preuves et dont le sort a été réglé ci-dessus (cf. consid. 4.3.1).
4.4. La résiliation n'étant pas abusive, il n'y a pas lieu d'examiner l'argumentation du recourant en relation avec les différents montants qu'il réclame comme conséquence d'une résiliation injustifiée de son contrat de travail.
5.
Le recourant conclut également à l'allocation d'un montant de 106'304 fr. 35 avec intérêts à titre de complément de salaire pour les années 2004, 2005 et 2006. Il fait valoir que son contrat de travail prévoyait un salaire annuel brut de 153'063 fr. et que s'il a accepté de toucher un salaire en espèces de 8'900 fr. par mois et le reste en nature, il entendait toutefois toucher le montant total de son salaire contractuel. Il aurait donc dû toucher, pour ses presque trois années de travail, 455'229 fr. 75 brut, mais n'a reçu effectivement que 317'663 fr. 35, sous déduction d'un montant de 25'000 fr. qu'il admet devoir rembourser. Il conteste aussi que son employeur ait assumé ses frais privés (de téléphone et de véhicule) par 78'639 fr. 30. Il fait donc valoir un solde en sa faveur, qu'il a arrêté à 112'403 fr. 35 (au lieu de 112'558 fr. 65). La cour cantonale, à la suite des premiers juges, a rejeté cette prétention. Le recourant lui reproche l'arbitraire dans l'établissement des faits, la violation de son droit d'être entendu et la violation des art. 322, 327a et 327b CO.
5.1. Selon l'art. 322 al. 1 CO, l'employeur paie au travailleur le salaire convenu, usuel ou fixé par un contrat-type de travail ou par une convention collective. Cette disposition étant de droit dispositif (non soumise à l'art. 341 CO; ATF 124 II 436 consid. 10e/aa p. 451), les parties peuvent conventionnellement diminuer le salaire en cours de contrat (arrêts 4C.242/2005 du 9 novembre 2005 consid. 4.1; 4C.426/2005 du 28 février 2006 consid. 5.2.1). Si la conclusion du contrat primitif n'était pas soumise à la forme écrite, la réduction du salaire arrêté dans le contrat passé peut être convenue tacitement, c'est-à-dire par le silence ou par actes concluants (arrêts 4C.242/2005 déjà cité consid. 4.2; 4A_223/2010 du 12 juillet 2010 consid. 2.1).
En principe, le silence du travailleur ne vaut pas acceptation de la réduction du salaire proposée par l'employeur. Une acceptation tacite ne peut être admise que dans des circonstances où, selon les règles de la bonne foi, on doit attendre une réaction du travailleur en cas de désaccord de sa part (ATF 109 II 327 consid. 2b p. 330; arrêts 4C.242/2005 du 9 novembre 2005 consid. 4.3; 4A_443/2010 du 26 novembre 2010 consid. 10.1.4; 4A_216/2013 du 29 juillet 2013 consid. 6.3). Il appartient à l'employeur d'établir ces circonstances. Tel est le cas lorsqu'il est reconnaissable pour le travailleur que l'employeur en déduit son accord tacite et que, dans le cas contraire, il prendrait d'autres mesures ou résilierait le contrat; dans ce cas, le travailleur doit exprimer son désaccord dans un délai raisonnable (arrêts 4A_443/2010 déjà consid. 10.1.4; 4A_223/2010 déjà cité consid. 2.1.2). Si, conformément à ce qu'il a annoncé au travailleur, l'employeur paie un salaire réduit, il est en règle générale reconnaissable pour le travailleur que l'employeur part d'une acceptation tacite de la réduction. Il est aussi admis que, si le travailleur a encaissé pendant au moins trois mois un salaire réduit par rapport à celui convenu initialement, sans formuler de réserve, il y a présomption de fait ( tatsächliche Vermutung ) qu'il a accepté tacitement la baisse de salaire. Si, par la suite, le travailleur entend réclamer une créance de salaire en raison de cette réduction, il lui incombe de renverser cette présomption en établissant des circonstances particulières sur la base desquelles l'employeur n'aurait pas dû déduire, malgré son long silence, un accord de sa part avec cette réduction (arrêts 4A_223/2010 déjà cité consid. 2.1.2; 4C.242/2005 déjà cité consid. 4.3).
5.2. En l'espèce, la cour cantonale a retenu que le contrat de travail prévoyait un salaire annuel brut de 153'063 fr. et que le travailleur a admis qu'il a été convenu postérieurement à sa conclusion qu'une part de sa rémunération lui serait versée en espèces et l'autre en nature. Bien que le travailleur ait soutenu qu'il n'a jamais accepté que la part du salaire en nature puisse être inférieure à la différence entre son salaire contractuel et la part versée en espèces, en d'autres termes que son salaire total puisse être inférieur au salaire convenu, la cour cantonale a retenu que le travailleur a toujours encaissé un salaire réduit et fait usage de son téléphone portable et de son véhicule, qu'il n'a jamais contesté ni le principe d'une rémunération en partie en espèces et en partie en nature, ni le montant de la part du salaire en espèces, ni la part en nature et ne s'est jamais plaint de ce que les frais pris en charge seraient trop bas. Durant toute la durée du contrat, il n'a pas réclamé de prestation supplémentaire, ni formulé de réserve. La cour cantonale a donc jugé que le travailleur a admis que l'employeur lui verserait une part de son salaire en espèces, soit 8'900 fr., et l'autre en nature, la somme des deux pouvant atteindre une valeur inférieure ou supérieure au montant du salaire fixé initialement. Elle a estimé en sus que, vu la fonction dirigeante qu'il occupait, à savoir responsable du département " outsourcing ", l'employé ne se trouvait pas en position de faiblesse vis-à-vis de son employeur et qu'il était parfaitement en mesure de s'exprimer au sujet de la réduction de son salaire en espèces au profit d'une rémunération en nature.
Par conséquent, la cour a renoncé à examiner si une partie du montant de 78'639 fr. 30 payé par l'employeur pour les frais de téléphone portable et pour le véhicule automobile de son employé couvrait des frais imposés par l'exécution du travail, comme le prétendait celui-ci, relevant qu'il lui aurait appartenu, au demeurant, de l'établir.
5.3.
5.3.1. Sur ce dernier point, qui fait l'objet de sa première critique, le recourant se limite à affirmer qu'il n'est pas prouvé que ce montant concernerait des dépenses privées, qui compenseraient la réduction du salaire en espèces. Une telle critique ne satisfait clairement pas aux exigences des art. 42 al. 2 et 106 al. 2 LTF.
5.3.2. En ce qui concerne l'acceptation tacite de la réduction de son salaire, le recourant se borne à affirmer qu'" il est bien évident [qu'il] espérait toucher en espèces et en nature le montant total du salaire contractuel et qu'il n'a pas accepté un salaire réduit de 30% durant trois ans ". Il estime que la cour cantonale aurait dû faire preuve de retenue avant de déduire de son silence qu'il aurait accepté une modification de son contrat qui lui était défavorable dès lors qu'il a toujours affirmé n'avoir accepté une telle réduction qu'en cas de compensations équivalentes en nature. S'il a accepté cette modification et n'a pas réclamé son dû avant son licenciement avec effet immédiat, c'est uniquement parce qu'il s'attendait à recevoir un salaire en nature sous forme d'actions de la nouvelle entité qu'il était en train de créer avec son collègue sur instructions du directeur de son employeur.
Alors qu'il a accepté pendant presque trois ans un salaire inférieur - dans une proportion réduite au vu du consid. 5.3.1 ci-dessus -, il incombait au travailleur d'établir des circonstances qui apporteraient la contre-preuve du fait présumé, soit de son consentement à un salaire réduit. Par sa critique, le recourant n'apporte aucun élément dans ce sens. Au contraire, lorsqu'il invoque qu'il espérait recevoir des actions d'une nouvelle entité à constituer, il confirme qu'il a bien accepté une réduction de son salaire. Le fait que ses espérances ne se soient pas réalisées - que ce soit ou non sans sa faute - est sans pertinence.
Les critiques d'arbitraire dans l'établissement des faits et de violation du droit d'être entendu sont de ce fait sans objet.
6.
Enfin, reprenant le poste n° 7 de sa demande, le recourant conclut au remboursement par son employeur du montant de 15'500 fr. qu'il a payé sur la première tranche de 25'000 fr. du leasing du véhicule Mercedes Benz mis à sa disposition par son employeur.
En fait, la cour cantonale a retenu qu'il s'agissait du seul montant pris à sa charge par le travailleur en relation avec le véhicule mis à sa disposition; l'employeur a payé tous les autres frais (leasing, carburant, entretien, services, primes d'assurances). En droit, elle a considéré que lorsque le travailleur est autorisé à utiliser à titre privé le véhicule mis à sa disposition par l'employeur, un partage des frais de celui-ci peut être convenu entre parties. Elle a jugé qu'il n'est pas établi que les frais de 15'500 fr. constitueraient des frais imposés par l'exécution du travail. Par conséquent, la convention ne saurait être nulle en vertu de l'art. 327a al. 3 CO. Elle a ensuite considéré que, même si la convention était nulle, le travailleur n'a pas établi qu'il avait cru par erreur devoir payer ce montant.
Le recourant se limite à opposer à cette motivation sa propre version des faits. Ce faisant, il ne démontre pas que les frais de 15'500 fr. sur les 25'000 fr. de la première prime de leasing n'auraient pas concerné la part privée des frais qui était à sa charge selon la convention passée avec son employeur. Il s'ensuit que son grief est irrecevable.
7.
Le recours doit donc être rejeté dans la mesure où il est recevable.
Les frais de la procédure doivent être mis à la charge de son auteur qui succombe (art. 66 al. 1 LTF). Celui-ci devra également verser une indemnité de dépens à sa partie adverse (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 6'000 fr., sont mis à la charge du recourant.
3.
Le recourant versera à l'intimée une indemnité de 6'500 fr. à titre de dépens.
4.
Le présent arrêt est communiqué aux parties, à la Caisse cantonale de chômage et au Tribunal cantonal du canton de Vaud, Cour d'appel civile.
Lausanne, le 17 décembre 2014
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente : Klett
Le Greffier : Piaget