Faits:
A. A la suite de négociations, X._ SA (ci-après: l'employeuse) a engagé Y._ (ci-après: l'employé) en qualité de courtier dès le 23 novembre 2004. Le contrat, qui ne prévoyait pas de temps d'essai, devait initialement rester en vigueur pendant deux ans et pouvait ensuite être renouvelé, contenait notamment les clauses suivantes:
"3. Salaires
En compensation de son travail, l'Employé recevra les paiements suivants:
a) Un salaire brut annuel fixe de CHF 216'000.-, payable en douze versements mensuels de CHF 18'000.-.
b) Une avance de CHF 39'600.- payable en deux fois la première année et d'un montant identique la deuxième année. Ce montant sera ajouté au salaire brut annuel du paragraphe a) pour les calculs de participation (les paiements seront faits tous les 6 mois).
c) Une contribution de 42% calculée sur les bénéfices générés par l'Employé avec ses clients.
Cette contribution sera calculée tous les deux mois (ci-après: « période de calcul »). Si le montant de la contribution est supérieure au salaire fixe tel que décrit sous a) et b) (CHF 18'000 fr.+ CHF 3'300.- = CHF 21'300.-), l'Employé recevra la différence (montant fixe minimum de contribution) dans le mois suivant la période de calcul.
4. Clause de performance
Si, après une période de douze mois, les bénéfices générés par l'Employé ne couvrent pas le salaire fixe annuel brut mentionné ci-dessus ainsi que les contributions annuelles, la Société aura le droit de réduire le salaire fixe annuel brut jusqu'à un maximum de 20%".
Lors d'une séance du 25 mai 2005, les parties ont parlé des performances de l'employé, que l'employeuse considérait insuffisantes; la discussion a eu pour objet la réduction du salaire minimum garanti de 18'000 fr. à 12'000 fr. bruts par mois. Dès lors que l'employé s'apprêtait à partir pour un congé de cinq jours, les parties ont décidé de se revoir le 31 mai 2005. A cette dernière date, l'employeuse a fait part à l'employé de son intention de mettre fin à leurs rapports contractuels; elle lui a immédiatement remis une confirmation écrite dont la teneur était la suivante:
"(...)
Faisant suite à la discussion que vous avez eue avec Monsieur A._, nous vous confirmons notre décision de cesser notre collaboration. Cependant, suite à certaines dispositions de votre contrat de travail et à votre refus d'accepter de nouvelles conditions de rémunération, nous allons prendre contact avec notre avocat afin de régler cette affaire de la façon la plus satisfaisante pour les deux parties.
Dès lors, jusqu'à la résolution de ce litige, vous être toujours employé de X._ S.A. et par conséquent rémunéré par la société, jusqu'au terme définitif de votre contrat de travail. Cependant, nous vous libérons de votre obligation de venir travailler dès ce jour, ce qui implique également que vos vacances seront comprises dans cette période.
(...)".
Par lettre signature du 6 juin 2005 valablement distribuée le 8 juin 2005, l'employeuse a fait savoir ce qui suit à l'employé:
"(...)
Nous référant à nos récents entretiens, nous vous informons que nous résilions le contrat de travail qui nous lie avec effet immédiat, et ce en invoquant les justes motifs suivants:
1/ Lors des pourparlers qui ont précédé la signature de votre contrat de travail, vous nous avez donné toute une série d'indications relatives à votre expérience et à vos performances, ainsi qu'à la clientèle et aux relations auxquelles vous aviez accès. Vous nous avez assuré que, de cette manière, vous produisiez un chiffre d'affaires qui couvrirait largement la rémunération convenue. C'est ainsi sur la base de ces indications et des qualités de broker dont vous vous êtes vanté que nous avons décidé de vous engager.
2/ C'est également sur la base de ces informations que le système de votre rémunération a été convenu.
3/ Depuis votre entrée au service de X._ SA, vous avez généré par votre propre production un chiffre d'affaires total de Fr. 110'000.- en chiffres ronds en sept mois d'activité, ce qui représente une moyenne mensuelle de Fr. 15'800.-. Une telle performance est totalement incompatible avec les assurances que vous nous avez données avant votre engagement et nous ne pouvons dès lors qu'en conclure que soit nous avons été induits en erreur au moment de contracter, soit vous ne remplissez pas les obligations qui sont les vôtres à l'égard de notre société. Dans le premier cas, nous nous prévalons de l'erreur essentielle dans laquelle nous nous sommes trouvés pour invalider le contrat de travail. Dans le second cas, nous invoquons votre inactivité comme juste motif de résiliation immédiate.
4/ Le constat de votre inactivité résulte de la confrontation de votre performance telle que mentionnée ci-dessus à celle réalisée par vos collègues, dont la moyenne est de Fr. 303'000.- de production pour la période de janvier à mai 2005, alors que la vôtre totalise Fr. 95'000.- pour la même période.
5/ Vous n'avez pas été capable de nous donner la moindre explication raisonnable sur une telle situation et il ne peut dès lors être question dans ces conditions de maintenir des rapports de travail qui s'inscrivent dans une telle disproportion entre les prestations de l'employeur que nous sommes et celles de l'employé que vous êtes.
6/ En conséquence de ce qui précède, vous n'êtes dès ce jour plus employé de X._ SA et nous vous ferons parvenir dans les jours qui viennent un décompte final d'une part et un certificat de travail d'autre part.
(...)".
Le dernier décompte de salaire de l'employé remonte au 10 juin 2005, pour la période du 1er au 30 juin 2005, et seul le premier des quatre montants de 19'800 fr. prévus dans le contrat a été versé. Il a été admis que l'employé a retrouvé un travail dès le 2 mai 2006.
B. Par demande du 28 juillet 2005, l'employé a ouvert action contre l'employeuse, concluant en dernier lieu au paiement de la somme de 507'927 fr., à savoir 306'000 fr. à titre de solde de salaire de base, 59'400 fr. à titre de solde de complément de salaire, 127'800 fr., à titre d'indemnité pour résiliation injustifiée et 14'727 fr. à titre d'indemnité pour le solde de jours de vacances qu'il n'avait pas pris en 2005. Intervenue entre-temps à la procédure, la Caisse d'assurance-chômage Z._ (ci-après: la caisse de chômage) a pour sa part sollicité sa subrogation dans les droits de l'employé à concurrence d'un montant qui s'est finalement élevé à 63'173 fr. 70. L'employeuse a conclu au rejet des prétentions de l'employé, à ce que celui-ci soit tenu de la relever de toute condamnation dont elle pourrait faire l'objet à l'égard de la caisse de chômage et à ce que le sort des conclusions de celle-ci soit fixé à dire de justice.
Par jugement du 22 avril 2009, la Cour civile du Tribunal cantonal vaudois a prononcé que l'employeuse devait payer à l'employé les sommes de 365'400 fr. bruts et 18'000 fr. nets avec intérêt à 5 % l'an dès le 9 juin 2005, sous déduction d'un montant de 63'173 fr. 70 avec intérêt à 5 % l'an dès le 15 février 2006 à payer directement à la caisse de chômage. En substance, elle a considéré que, faute de preuve des éléments déterminants - qui reposaient uniquement sur le témoignage de B._, directeur adjoint de l'employeuse -, celle-ci ne pouvait pas invoquer une erreur essentielle ou un dol, ni de justes motifs liés aux pourparlers précontractuels, en rapport avec la performance effective de l'employé; par ailleurs, le rendement insuffisant de l'employé ne constituait pas un motif de licenciement immédiat sans avertissement préalable, la résiliation du 6 juin 2005 étant au demeurant tardive; l'employé avait droit, à titre de dommages-intérêts, à un solde de dix-sept mois de salaire de base, à savoir (17 x 18'000 fr. =) 306'000 fr. bruts, ainsi qu'à un solde de complément de salaire de (3 x 19'800 fr. =) 59'400 fr. bruts; en revanche, le solde de vacances pour 2005 avait été dûment compensé; il convenait encore d'allouer à l'employé une indemnité pour licenciement immédiat injustifié de 18'000 fr.; enfin, la caisse de chômage étant subrogée dans les droits de l'employé à concurrence de la somme qu'elle lui avait versée, elle avait droit au paiement de 63'173 fr. 70.
C. L'employeuse (la recourante) a successivement déposé d'une part un recours en nullité auprès de la Chambre des recours du Tribunal cantonal vaudois, d'autre part un recours en matière civile et recours constitutionnel subsidiaire au Tribunal fédéral. Dans ce dernier cadre, elle a invoqué une violation du droit fédéral ainsi qu'une violation de l'interdiction de l'arbitraire et de son droit d'être entendue; elle a conclu principalement à la réforme du jugement du 22 avril 2009 en ce sens que les conclusions de l'employé et de la caisse de chômage sont rejetées, subsidiairement à l'annulation de ladite décision et au renvoi de la cause pour nouvelle instruction et nouveau jugement dans le sens des considérants. Par ordonnance du 18 novembre 2009, la Présidente de la Cour de céans a suspendu la procédure de recours fédéral jusqu'à droit connu sur le recours en nullité cantonal.
Par arrêt du 8 janvier 2010, la Chambre des recours du Tribunal cantonal vaudois a rejeté le recours en nullité cantonal. En bref, elle a considéré que dans la mesure où les témoignages de B._ et C._ avaient été dûment protocolés, le droit d'être entendue de la recourante n'avait pas été violé; par ailleurs, en ne retenant les déclarations de B._ que dans la mesure où elles étaient corroborées par d'autres éléments du dossier, compte tenu de la fonction du témoin au sein de l'employeuse, les premiers juges n'avaient pas commis arbitraire dans l'appréciation des preuves; au demeurant, se posait la question de l'incidence de la prétendue informalité sur le jugement.
Contre cette dernière décision, l'employeuse a interjeté un second recours en matière civile au Tribunal fédéral; se plaignant d'une violation de l'interdiction de l'arbitraire et de son droit d'être entendue, elle a conclu à l'annulation de l'arrêt du 8 janvier 2010 et au renvoi de la cause pour nouvelle instruction et nouveau jugement dans le sens des considérants.
L'employé (l'intimé) a proposé le rejet des recours dans la mesure de leur recevabilité. Dans un mémoire unique, la caisse de chômage (l'intimée) a également conclu au rejet des recours, dans la mesure de sa recevabilité pour ce qui est du premier.
Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (ATF 135 III 1 consid. 1.1, 329 consid. 1).
En l'occurrence, la recourante interjette d'une part un "recours en matière civile et recours constitutionnel subsidiaire" contre le jugement de la Cour civile du 22 avril 2009, d'autre part un "recours en matière civile" contre l'arrêt de la Chambre des recours du 8 janvier 2010. Dans le premier, elle développe sous le titre "recours en matière civile" une argumentation liée au principe et aux conséquences du licenciement immédiat, et dit qu'elle "exerce le recours constitutionnel subsidiaire en faisant valoir la violation de son droit d'être entendue et le caractère arbitraire du jugement en tant qu'il n'a pas admis l'invalidation du contrat de travail pour erreur essentielle".
Le jugement de la Cour civile du 22 avril 2009 étant une décision rendue en matière civile (art. 72 al. 1 LTF) et la valeur litigieuse dépassant largement le seuil de 15'000 fr. applicable en matière de droit du travail (art. 74 al. 1 let. a LTF), le recours en matière civile est ouvert. Par conséquent, le recours constitutionnel subsidiaire - voie de droit que la recourante, dans la mesure où elle indique l'exercer pour violation de son droit d'être entendue et arbitraire, semble confondre avec l'ancien recours de droit public - est irrecevable (art. 113 LTF), étant rappelé que le recours en matière civile peut être formé pour violation du droit fédéral (art. 95 let. a LTF), y compris les droits constitutionnels (ATF 134 III 379 consid. 1.2 p. 382).
Cela étant, il n'est pas nécessaire d'examiner si une conversion est possible, car les griefs susmentionnés sont de toute façon irrecevables en tant qu'ils sont dirigés contre la décision du 22 avril 2009, faute d'épuisement des voies de recours cantonales (cf. art. 75 al. 1 LTF). En effet, en procédure civile vaudoise, le jugement rendu par la Cour civile peut faire l'objet d'un recours en nullité cantonal à la Chambre des recours pour violation des règles essentielles de la procédure, notamment pour arbitraire dans l'établissement des faits (art. 444 al. 3 du code de procédure civile [du canton de Vaud] du 14 décembre 1966 [CPC/VD; RSV 270.11]). Les griefs d'arbitraire et de violation du droit d'être entendu ne seront ainsi examinés que dans la mesure où ils sont formulés dans le deuxième recours et dirigés contre l'arrêt de la Chambre des recours du 8 janvier 2010, dont les motifs doivent être spécifiquement discutés dans une motivation topique, sous peine d'irrecevabilité (cf. art. 42 al. 2 LTF; ATF 134 II 244 consid. 2.1).
Pour des motifs d'économie de procédure, les deux recours seront traités dans un seul et même arrêt. Il y a lieu d'examiner les différents griefs dans un ordre logique, à savoir de commencer par traiter les critiques liées à la problématique de l'invalidation du contrat, car si elles devaient aboutir, il ne serait plus nécessaire de se pencher sur les questions relatives au licenciement immédiat.
2. Saisi d'un recours en matière civile, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), dont il ne peut s'écarter que s'ils l'ont été de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 135 III 397 consid. 1.5) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
3. La présente affaire revêt un aspect international du fait que l'intimé est domicilié en Italie. Il s'impose dès lors de contrôler d'office la question du droit applicable au litige, en fonction de la loi du for, singulièrement de la loi fédérale du 18 décembre 1987 sur le droit international privé (LDIP; RS 291; cf. ATF 133 III 323 consid. 2.1). Il n'est pas contesté que les plaideurs ont conclu un contrat de travail. Si comme en l'espèce les parties ne sont pas convenues du droit applicable (cf. art. 116 et 121 al. 3 LDIP), le contrat de travail est régi par le droit de l'Etat dans lequel le travailleur accomplit habituellement son travail (art. 121 al. 1 LDIP). En l'occurrence, l'intimé exerçait son activité à Lausanne, de sorte que c'est assurément le droit suisse qui gouverne les relations juridiques nouées par les parties.
4. La recourante tient pour arbitraire la décision de la Cour civile, confirmée par la Chambre des recours, "d'écarter le témoignage B._".
4.1 Selon la jurisprudence, une décision est arbitraire, au sens de l'art. 9 Cst., lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité; il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; pour que cette décision soit annulée, encore faut-il qu'elle se révèle arbitraire, non seulement dans ses motifs, mais aussi dans son résultat (ATF 135 V 2 consid. 1.3 p. 4 s.; 134 I 263 consid. 3.1 p. 265 s.). En matière d'appréciation des preuves et d'établissement des faits, il n'y a arbitraire que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, si, sur la base des éléments recueillis, il a fait des déductions insoutenables, ou encore s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée (ATF 134 V 53 consid. 4.3; 129 I 8 consid. 2.1).
4.2 A cet égard, la Chambre des recours a relevé que, dans le préambule de son jugement, la Cour civile avait indiqué que, compte tenu de leurs fonctions au sein de la recourante et de leur intérêt dans cette procédure, les témoignages de B._ et C._ ne seraient retenus que dans la mesure où d'autres éléments du dossier confirmaient leurs dires; le témoignage de B._ n'avait ainsi pas été purement et simplement écarté, mais uniquement dans la mesure où il n'était pas corroboré pas d'autres éléments, et compte tenu de la fonction de l'intéressé, il n'y avait aucun arbitraire dans cette appréciation; il importait peu que celui-ci ait été - avec A._ - le seul témoin des pourparlers contractuels, cette circonstance ne pouvant justifier une appréciation plus favorable des dires de ce témoin; si la Cour civile avait pris en compte le témoignage de B._ sur certains allégués, elle n'avait en revanche pas retenu l'allégation relative au "large réseau" que l'intimé aurait indiqué avoir en Italie, pas plus que celle sur la clientèle importante de ce pays qu'il aurait "assuré" d'apporter à sa future employeuse; sur ce dernier point, le témoin s'était d'ailleurs montré moins affirmatif, se contentant d'indiquer que l'intimé lui avait laissé entendre qu'il connaissait bien le marché italien et qu'il avait des opportunités; les premiers juges n'avaient pas non plus retenu l'affirmation de la recourante selon laquelle les "assurances" données par l'intimé avaient été "déterminantes" pour elle, tant en ce qui concernait le principe de l'engagement que les conditions et modalités de celui-ci, nonobstant les réponses "c'est exact" des témoins B._ et C._ sur ces éléments; ils n'avaient pas davantage pris en compte l'allégation selon laquelle l'intimé avait confirmé au directeur de la recourante toutes les "indications et assurances" qu'il avait données à B._ relativement aux performances qu'il était en mesure de garantir à cette société, ce témoin ayant déclaré l'ignorer; ce faisant, les premiers juges avaient apprécié librement les preuves selon leur intime conviction et il n'y avait rien d'arbitraire dans une telle approche; au surplus, la recourante n'indiquait pas quels autres éléments du dossier - qui corroboreraient le témoignage de B._ et feraient apparaître globalement arbitraire l'appréciation des preuves par les premiers juges - n'auraient arbitrairement pas été pris en compte; la déduction que la Cour civile avait tirée de l'absence de preuve sur les éléments fondant le prétendu vice de consentement dont la recourante entendait se prévaloir était quant à elle la conséquence directe de l'appréciation des preuves à laquelle il avait été procédé, celle-ci étant - comme précédemment indiqué - exempte d'arbitraire; au demeurant, se posait la question de l'incidence de la prétendue informalité sur le jugement, dans la mesure où aux termes de la première phrase de sa lettre du 6 juin 2005, la recourante s'était elle-même placée sur le terrain de la résiliation immédiate pour justes motifs du contrat la liant à l'intimé et non sur celui de son invalidation pour cause d'erreur essentielle ou de dol.
4.3 D'emblée, il y a lieu de se demander si, par cette dernière remarque, la Chambre des recours n'a fait que soulever la question tout en la laissant indécise, ou a au contraire écarté le grief d'arbitraire sur la base d'une double motivation. Dans cette hypothèse, l'argumentation de la recourante, qui n'indique pas en quoi le deuxième pan de la motivation alternative violerait le droit fédéral, serait irrecevable (cf. ATF 133 IV 119 consid. 6.3 p. 120 s.). La cour cantonale n'ayant pas apporté de réponse claire à la seconde question, il y a néanmoins lieu d'entrer en matière sur le grief d'arbitraire.
4.4 Cela étant, force est de constater que la recourante ne fait pour l'essentiel que présenter ses propres vision de la situation et appréciation du témoignage litigieux, dans des développements de nature générale qui ne sont pas spécifiquement dirigés contre la motivation de la Chambre des recours. En particulier, elle persiste en vain à partir de la prémisse que le témoignage de B._ aurait été purement et simplement écarté, alors qu'il a en réalité été apprécié avec retenue et pris en compte uniquement dans la mesure où il était corroboré par d'autres éléments du dossier. Pour le surplus, la recourante ne démontre nullement en quoi les premiers juges auraient, dans le cas particulier, commis arbitraire dans l'appréciation des déclarations de B._, son directeur adjoint, étant rappelé que l'existence de liens professionnels entre un témoin et une partie est un élément à considérer dans l'appréciation des déclarations faites par ce témoin, et en outre que le fait que le témoin ait été exhorté à dire la vérité et risque des poursuites pénales en cas de faux témoignage ne garantit pas encore qu'il dise effectivement la vérité (cf. arrêt 4P.39/2007 du 10 juillet 2007 consid. 4.3). Au demeurant, le témoin n'a pas été aussi affirmatif que la recourante voudrait le faire croire, mais au contraire plus nuancé sur certains points, ce que la Chambre des recours a d'ailleurs relevé en relation avec un certain nombre d'allégués, sans que la recourante n'y revienne dans son écriture au Tribunal fédéral, pas plus qu'elle ne conteste l'argumentation selon laquelle il lui incombait le cas échéant d'indiquer quels autres éléments du dossier corroborant les déclarations de B._ n'auraient arbitrairement pas été pris en compte; à cet égard, elle se limite en effet à faire état d'"indices" consistant dans les "conditions pharaoniques" consenties à l'intimé par le contrat, les déclarations de l'ancien employeur de l'intéressé selon lesquelles les performances de ce dernier étaient insuffisantes, ainsi que la "distorsion" entre les explications données par l'intimé en cours d'instance et ses performances réelles; un tel exposé n'est derechef que l'expression du propre point de vue de la recourante. Pour le surplus, celle-ci joue vainement sur les mots lorsqu'elle soutient que B._ n'aurait pas d'intérêt dans la procédure, cette notion se confondant en l'occurrence avec l'existence de liens avec l'employeuse. L'on ne voit dès lors pas que les précédents juges aient commis arbitraire dans l'appréciation du témoignage en cause et dans ces circonstances, l'argumentation de la recourante relative à l'influence de l'arbitraire sur la décision entreprise est sans objet.
5. La recourante plaide en outre que "la décision d'écarter le témoignage de B._" constituerait une violation de son droit d'être entendue. Elle ne se détermine toutefois pas sur les motifs de l'arrêt de la Chambre des recours qui a considéré - à juste titre - que dans la mesure où le témoin avait été auditionné et ses déclarations dûment protocolées, l'on ne voyait pas en quoi il y aurait une violation du droit d'être entendu. Pour le surplus, l'argumentation de la recourante se confond en réalité avec son grief d'arbitraire, qui ne résiste comme précédemment exposé pas à l'examen; il n'y a pas lieu de s'y pencher plus avant.
6. La recourante soutient que la Cour civile aurait violé le droit fédéral en niant l'existence d'un juste motif de licenciement immédiat.
6.1 Aux termes de l'art. 337 CO, l'employeur et le travailleur peuvent résilier immédiatement le contrat en tout temps pour de justes motifs (al. 1 1e phrase); doivent notamment être considérées comme tels toutes les circonstances qui, selon les règles de la bonne foi, ne permettent pas d'exiger de celui qui a donné le congé la continuation des rapports de travail (al. 2).
Mesure exceptionnelle, la résiliation immédiate pour justes motifs doit être admise de manière restrictive. D'après la jurisprudence, les faits invoqués à l'appui d'un renvoi immédiat doivent avoir entraîné la perte du rapport de confiance qui constitue le fondement du contrat de travail. Seul un manquement particulièrement grave du travailleur justifie son licenciement immédiat; si le manquement est moins grave, il ne peut entraîner une résiliation immédiate que s'il a été répété malgré un avertissement (ATF 130 III 28 consid. 4.1 p. 31, 213 consid. 3.1 p. 220 s.).
En principe, des prestations de travail mauvaises ne constituent pas un juste motif de résiliation immédiate du contrat de travail. Dans ce domaine, il convient de tenir compte de toutes les circonstances du cas concret, en particulier de la nature de l'activité promise. Selon une jurisprudence déjà ancienne, l'incapacité professionnelle n'est un motif de renvoi abrupt que si le travailleur ne satisfait pas les exigences minimales que l'employeur est en droit d'attendre de tout collaborateur pour un poste du même genre et qu'une amélioration est improbable, les exigences étant d'autant plus grandes que le poste est élevé et le délai ordinaire de résiliation long (cf. ATF 127 III 351 consid. 4b/bb; 97 II 142 consid. 2a p. 145 s.; plus récemment arrêt 4C.180/2004 du 16 août 2004 consid. 2.1, reproduit in JAR 2004 p. 252). La mauvaise exécution ou l'insuffisance du travail pourra également justifier un licenciement immédiat si elle résulte d'un manquement grave et délibéré du travailleur (cf. ATF 108 II 444 consid. 2; plus récemment arrêt 4C.180/2004 du 16 août 2004 consid. 2.1, reproduit in JAR 2004 p. 252).
Le juge apprécie librement s'il existe de justes motifs (art. 337 al. 3 CO). Il applique les règles du droit et de l'équité (art. 4 CC). A cet effet, il prendra en considération tous les éléments du cas particulier, notamment la position et la responsabilité du travailleur, le type et la durée des rapports contractuels, ainsi que la nature et l'importance des manquements (ATF 130 III 28 consid. 4.1 p. 32; 127 III 351 consid. 4a p. 354). Le Tribunal fédéral revoit avec réserve la décision d'équité prise en dernière instance cantonale. Il intervient lorsque celle-ci s'écarte sans raison des règles établies par la doctrine et la jurisprudence en matière de libre appréciation, ou lorsqu'elle s'appuie sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle, ou à l'inverse, lorsqu'elle n'a pas tenu compte d'éléments qui auraient absolument dû être pris en considération; il sanctionnera en outre les décisions rendues en vertu d'un pouvoir d'appréciation lorsqu'elles aboutissent à un résultat manifestement injuste ou à une iniquité choquante (ATF 130 III 28 consid. 4.1 p. 32, 213 consid. 3.1 p. 220).
6.2 En l'occurrence, la Cour civile a considéré que le rendement insuffisant de l'employé ne constituait pas un motif de licenciement immédiat sans avertissement préalable; il résultait de l'expertise que les performances de celui-ci étaient faibles par rapport à celles des autres courtiers et en outre qu'un courtier expérimenté et compétent était immédiatement rentable à moins qu'il ne rejoigne une start-up; cependant, il était exclu de voir dans cette situation un motif de licenciement avec effet immédiat sans avertissement préalable; on pouvait certes concevoir que l'employeur qui rémunérait un courtier de manière conséquente puisse exiger de lui un certain rendement et qu'à certaines conditions, une absence de performances, malgré un ou des avertissements, puisse conduire à un licenciement immédiat qui soit justifié; en l'espèce toutefois, l'employeuse avait convoqué son collaborateur à une séance le 25 mai 2005, puis le 31 mai 2005 et le licenciement était intervenu en l'absence de tout avertissement; l'employé ne s'était ainsi pas vu offrir la possibilité d'améliorer ses prestations; l'employeuse avait seulement estimé que les performances chiffrées réalisées par celui-ci en six mois étaient insatisfaisantes, ce qui ne justifiait en rien le licenciement immédiat litigieux.
Au demeurant, l'employeuse n'avait pas établi qu'elle avait dû effectuer diverses investigations ou opérations de vérifications entre la séance du 25 mai 2005 et celle du 31 mai 2005, ni entre cette date et l'envoi de la lettre du 6 juin 2005; la résiliation des rapports de travail pour justes motifs avec effet immédiat était donc tardive, outre qu'elle était infondée.
6.3 La recourante soutient pour l'essentiel que ce serait moins une insuffisance de résultats qu'une prestation inexistante, respectivement une inactivité devant être interprétée comme un manquement particulièrement grave à ses obligations et revenant à une inexécution, qui l'avait conduite à licencier son collaborateur avec effet immédiat; cet élément, qu'elle avait elle-même invoqué dans sa lettre de licenciement immédiat, n'a toutefois pas été confirmé dans le cadre de la procédure; si l'expertise a certes révélé que les performances de l'intimé étaient faibles, il n'a pas été constaté que l'intimé n'aurait délibérément pas travaillé, ou que son rendement insuffisant résulterait d'une autre manière d'un comportement critiquable, par exemple d'absentéisme ou de désinvolture.
Cela étant, l'on ne voit pas que les premiers juges aient violé l'art. 337 CO en considérant que, dans les circonstances de l'espèce, la recourante ne disposait pas d'un juste motif de résiliation immédiate, en l'absence d'avertissement préalable. Au demeurant, le fait que la recourante, qui avait déjà reproché à l'intimé ses performances insuffisantes lors de la séance du 25 mai 2005, ait dans un premier temps, soit le 31 mai 2005, décidé de licencier son collaborateur pour le terme de son contrat, démontre bien que la continuation des rapports de travail ne lui paraissait pas insupportable. Dans ce contexte, il y a encore lieu de relever que lorsque la recourante expose que le motif de licenciement immédiat résidait dans le refus d'accepter des conditions salariales réduites, elle confond les deux résiliations successives, la première signifiée le 31 mai 2005 pour l'échéance et la seconde notifiée le 8 juin 2005 avec effet immédiat; or, c'est uniquement sur cette dernière, qui a entraîné la cessation des rapports de travail, qu'il y a lieu de se pencher (cf. ATF 121 III 64 consid. 2b).
L'argumentation des premiers juges quant à l'inexistence d'un juste motif de licenciement immédiat ne prêtant pas le flanc à la critique, il devient superflu d'examiner le grief de la recourante dirigé contre l'argumentation subsidiaire de la cour cantonale, fondée sur la tardiveté de l'invocation du juste motif.
7. La recourante élève différentes critiques en rapport avec le montant alloué par la Cour civile en application de l'art. 337c CO.
7.1 Aux termes de l'art. 337c al. 1 CO, lorsque l'employeur résilie immédiatement le contrat sans justes motifs, le travailleur a droit à ce qu'il aurait gagné, si les rapports de travail avaient pris fin à l'échéance du délai de congé ou à la cessation du contrat conclu pour une durée déterminée; l'art. 337c al. 2 CO commande d'imputer sur ce montant ce que le travailleur a épargné par suite de la cessation du contrat de travail ainsi que le revenu qu'il a tiré d'un autre travail ou le revenu auquel il a intentionnellement renoncé; l'imputation prévue à l'art. 337c al. 2 CO est une expression du principe général selon lequel celui qui subit un dommage doit faire tout ce que l'on peut raisonnablement exiger de lui pour le réduire (art. 44 al. 1 CO).
7.2 En l'espèce, la Cour civile a considéré que l'intimé avait droit à son salaire jusqu'au moment où le contrat devait durer, soit jusqu'à fin novembre 2006; le salaire de juin 2005 ayant été versé, il restait dix-sept mois à 18'000 fr., soit 306'000 fr.; l'employeuse n'ayant pas allégué ni établi que l'employé aurait perçu un salaire durant tout ou partie de cette période auprès d'un autre employeur, ni le montant de cet éventuel salaire, aucune somme n'était à imputer sur ce montant; s'y ajoutait un solde de complément de salaire pour la même période de 59'400 fr., correspondant au reste des avances devant selon le contrat être ajoutées au salaire annuel brut pour les calculs de participation.
7.3 Invoquant l'art. 8 CC, la recourante reproche d'abord à la Cour civile de n'avoir tiré aucune conséquence de la constatation selon laquelle l'intimé avait repris un emploi le 2 mai 2006, au motif qu'elle n'avait ni allégué, ni établi qu'il aurait reçu un salaire durant tout ou partie de cette période, ni le montant de celui-ci; elle estime qu'"en lui imposant l'allégation et la preuve de faits dont elle n'avait pas la maîtrise, alors que l'intimé (...) les contrôlait totalement", les premiers juges auraient inversé le fardeau de la preuve.
Cette critique ne résiste pas à l'examen. En effet, conformément à l'art. 8 CC, c'est bien à la recourante qu'il incombait de prouver, sous réserve du devoir de collaboration de l'intimé, que celui-ci avait réalisé un revenu auprès d'un nouvel employeur et, le cas échéant, à combien il s'élevait. En réalité, la question litigieuse n'est pas tant celle du fardeau de la preuve que de l'absence d'instruction sur les points susmentionnés. A cet égard, il appartenait à la recourante de se plaindre soit du fait que les premiers juges n'auraient pas instruit à ce sujet alors qu'ils en auraient eu l'obligation, soit qu'ils n'auraient pas donné suite à des réquisitions de preuve qu'elle aurait valablement présentées. Or, ces points relèvent du droit cantonal de procédure, et la recourante n'élève aucun grief sous cet angle, de sorte qu'il n'y a pas lieu de s'y pencher (cf. art. 106 al. 2 LTF); au demeurant, semblable grief aurait de toute façon été irrecevable faute d'épuisement des voies de droit cantonales (cf. consid. 1).
7.4 La recourante estime que compte tenu de l'art. 4 du contrat de travail, elle aurait eu droit de réduire le salaire de l'intimé de 20 % dès le mois de décembre 2005, ce qui entraînerait une diminution de 51'120 fr. par rapport au montant alloué par les juges cantonaux.; elle soutient en outre que la cour cantonale n'aurait pas dû octroyer à l'intimé le montant correspondant aux avances prévues par l'art. 3 let. b du contrat, dès lors qu'à teneur de celui-ci, la rémunération en question n'aurait été acquise qu'à la condition que, additionnée au salaire annuel de 216'000 fr., elle ait été couverte par le 42 % du courtage réalisé, et que l'intimé était loin d'avoir atteint le seuil requis.
Ces arguments apparaissent d'emblée dénués de fondement. En effet, en résiliant prématurément le contrat de travail, la recourante a purement et simplement privé l'intimé de la possibilité de travailler et, partant, de progresser jusqu'à réaliser peut-être les objectifs qui lui avaient été assignés; en d'autres termes, l'employé ne saurait ainsi être tenu pour responsable de ne pas avoir été en mesure d'atteindre les chiffres prévus dans le contrat (en ce sens, cf. ATF 125 III 14 consid. 2c). Dans ces circonstances, l'on ne voit pas que la cour cantonale ait violé le droit fédéral en déterminant comme elle l'a fait le montant de la créance en dommages-intérêts due à l'intimé sur la base de l'art. 337c al. 1 CO, sans en réduire le montant compte tenu des éléments soulevés par la recourante. Pour le surplus, dans la mesure où celle-ci ne fait qu'exposer son point de vue sans développer d'argumentation en rapport avec l'interprétation du contrat, il n'y a pas lieu d'examiner la question sous cet angle.
8. La recourante expose enfin que si elle ne conteste pas le principe de la subrogation de la caisse de chômage dans les droits de l'intimé, elle "s'étonne en revanche de ce que la Caisse d'assurance-chômage a versé des prestations à l'intimé (...) au-delà de sa prise d'emploi du 2 mai 2006". A supposer qu'elle ait ainsi entendu élever un grief, celui-ci serait irrecevable, faute de motivation suffisante (cf. art. 42 al. 2 LTF; ATF 134 II 244 consid. 2.1 p. 245 s.; 134 V 53 consid. 3.3).
9. Il résulte des considérations qui précèdent que les recours en matière civile doivent être rejetés dans la mesure de leur recevabilité.
10. Comme la valeur litigieuse, calculée selon les prétentions à l'ouverture de l'action (ATF 115 II 30 consid. 5b p. 41), dépasse le seuil de 30'000 fr., le montant de l'émolument judiciaire est fixé selon le tarif ordinaire (art. 65 al. 3 let. b LTF) et non réduit (art. 65 al. 4 let. c LTF). Compte tenu de l'issue du litige, les frais judiciaires et dépens des parties intimées - réduits en ce qui concerne la caisse de chômage qui n'a déposé qu'une unique et courte réponse - sont mis à la charge du recourant, qui succombe (art. 66 al. 1 ainsi qu'art. 68 al. 1 et 2 LTF; art. 8 al. 2 du règlement du 31 mars 2006 sur les dépens alloués à la partie adverse et sur l'indemnité pour la représentation d'office dans les causes portées devant le Tribunal fédéral [RS 173.110.210.3]).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Les recours en matière civile sont rejetés dans la mesure où ils sont recevables.
3. Les frais judiciaires, arrêtés à 7'000 fr., sont mis à la charge de la recourante.
4. Des indemnités de 8'000 fr. à payer à l'intimé Y._ et de 4'000 fr. à verser à l'intimée Caisse d'assurance-chômage Z._, à titre de dépens, sont mises à la charge de la recourante.
5. Le présent arrêt est communiqué aux mandataires des parties, à la Cour civile du Tribunal cantonal vaudois et à la Chambre des recours du Tribunal cantonal vaudois.
Lausanne, le 7 mai 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Cornaz