Faits:
A. La société genevoise X._ SA poursuit entre autres buts la gestion de fonds d'investissement et de placements financiers. Dans le cadre de ses activités, elle gérait différents fonds, dont un dénommé xxx.
Par contrat de travail du 20 juin 2008, X._ SA a engagé Y._ en qualité de "Directeur - Senior Hedge Fund Advisor". Après période probatoire, le préavis de congé était d'un mois pendant la première année de service. En sus d'un salaire de base de 16'000 fr. brut par mois, l'employé avait droit à une rémunération définie de la façon suivante dans la langue originale du contrat: "a remuneration of 17,5% of a [recte: the] performance fee generated by the xxx Fund".
L'employé a été licencié. Un litige a surgi quant au point de savoir si la résiliation avait été notifiée le 30 octobre 2008 pour l'échéance ordinaire du 30 novembre 2008, ou le 1er décembre 2008 avec effet immédiat.
B. B.a Par demande du 13 mars 2009, l'employé a actionné l'employeuse devant le Tribunal des prud'hommes du canton de Genève. Selon ses dernières conclusions, il réclamait la somme de 652'892 fr. à titre de salaire de base, performance fee et indemnité pour licenciement immédiat injustifié.
La Caisse cantonale genevoise de chômage est intervenue dans la procédure.
Par jugement du 20 avril 2010, le tribunal a condamné l'employeuse à verser à l'employé 32'000 fr. bruts à titre de salaire pour les mois de décembre 2008 et janvier 2009, sous déduction de la somme nette de 14'074 fr. 85, laquelle devait être payée à la caisse de chômage. L'employeuse était invitée à procéder aux déductions sociales et légales usuelles. Elle était en outre condamnée à verser à l'employé une indemnité de 10'000 fr. pour licenciement immédiat injustifié. Le tribunal a par ailleurs constaté que l'employé avait déjà touché la somme nette de 95'000 fr. à titre de performance fee et n'avait plus de prétention de ce chef.
B.b L'employé a formé appel de cette décision devant la Chambre des prud'hommes de la Cour de justice. Il concluait à l'allocation de 215'688 fr. 70 brut à titre de performance fee, en sus des montants obtenus en première instance.
L'employeuse a conclu au rejet. Par appel incident, elle a en outre requis que le jugement soit annulé en tant qu'il la condamnait au paiement de divers montants, les conclusions de l'employé devant être entièrement rejetées.
Par arrêt du 25 octobre 2011, la Cour de justice a complété le jugement attaqué en condamnant l'employeuse à payer à l'employé la somme supplémentaire de 215'688 fr. 70 brut, dont à déduire les déductions sociales et légales usuelles. Elle a confirmé le jugement pour le surplus.
C. Par-devant le Tribunal fédéral, l'employeuse (ci-après: la recourante) a interjeté un recours en matière civile dans lequel elle requiert que l'employé (ci-après: l'intimé) soit débouté de l'ensemble de ses conclusions, qu'il soit condamné à payer les frais et dépens des procédures cantonale et fédérale et qu'il soit débouté, ainsi que tout autre intervenant, de toutes autres ou plus amples conclusions.
L'intimé a déposé une réponse dans laquelle il conclut au rejet du recours dans la mesure de sa recevabilité. La caisse de chômage a confirmé sa production à concurrence de 14'074 fr. 85 en renonçant à se déterminer pour le surplus. La Cour de justice s'est référée à son arrêt.
Le recourant a renoncé à déposer des observations supplémentaires dans le délai qui lui avait été imparti.
Considérant en droit:
1. 1.1 La valeur litigieuse minimale de 15'000 fr. exigée dans les conflits de droit du travail est manifestement atteinte au regard des conclusions prises devant l'autorité précédente (art. 51 al. 1 let. a et art. 74 al. 1 let. a LTF). Pour le surplus, les autres conditions de recevabilité du recours en matière civile sont remplies (cf. art. 72 al. 1, art. 75, art. 76 al. 1 et art. 90 LTF), y compris les exigences de délai et de forme (art. 100 al. 1 en relation avec l'art. 45 al. 1 LTF; art. 42 al. 1 et 2 LTF).
1.2 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'écarter des constatations cantonales que si elles ont été établies de façon manifestement inexacte - c'est-à-dire arbitraire (ATF 137 I 58 consid. 4.1.2) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Cette faculté d'intervenir d'office doit notamment permettre au Tribunal fédéral de parer à une erreur manifeste ou de compléter un état de fait trop succinct par un élément qui ressort à l'évidence du dossier et permet de répondre à un argument du recourant (BERNARD CORBOZ, in Commentaire de la LTF, 2009, n° 62 ad art. 105 LTF). Le Tribunal fédéral n'a toutefois pas à examiner d'office pour chaque point de fait s'il y a matière à le rectifier en vertu de l'art. 105 al. 2 LTF. Le recourant qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF sont réalisées (cf. art. 97 al. 1 LTF); à défaut, il ne peut être tenu compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 133 IV 286 consid. 6.2; cf. aussi ATF 133 II 249 consid. 1.4.3).
En l'occurrence, la recourante présente un résumé des faits qui ne saurait être pris en compte en tant qu'il s'écarte de ce qui est retenu dans l'arrêt attaqué.
2. 2.1 La recourante se plaint d'une violation de l'art. 8 CC. La Cour de justice aurait ignoré un faisceau d'indices concordants qui établirait la preuve que l'intimé se savait licencié le 30 octobre 2008 avec effet au 30 novembre 2008.
2.2 L'art. 8 CC règle de manière générale la question du fardeau de la preuve dans le domaine du droit civil fédéral et détermine quelle partie doit assumer les conséquences de l'échec de la preuve. Cette disposition confère en outre un droit à la preuve et à la contre-preuve (ATF 129 III 18 consid. 2.6 p. 24). Elle est notamment violée lorsque le juge refuse d'administrer une preuve régulièrement offerte ou retient sans preuve une allégation contestée par la partie adverse (ATF 114 II 289 consid. 2a).
Dès le moment où le juge acquiert une conviction sur la base des preuves administrées, l'art. 8 CC cesse d'entrer en considération. Il s'agit alors d'une question de libre appréciation des preuves, que le droit fédéral, singulièrement l'art. 8 CC, ne réglemente pas (ATF 130 III 591 consid. 5.4; 128 III 22 consid. 2d). Le Tribunal fédéral ne revoit l'appréciation des preuves que sous l'angle restreint de l'arbitraire (art. 9 Cst.; sur cette notion, cf. ATF 137 I 58 consid. 4.1.2). S'agissant de la violation d'un droit constitutionnel, le recourant doit présenter une argumentation conforme aux exigences strictes de l'art. 106 al. 2 LTF. L'acte de recours doit contenir un exposé succinct des droits ou principes constitutionnels violés et exposer de manière claire et circonstanciée en quoi consiste leur violation (ATF 135 III 232 consid. 1.2; 134 II 244 consid. 2.2).
2.3 En l'occurrence, la recourante se réfère à des faits et éléments de preuve qui sont discutés dans l'arrêt, et dont elle voudrait tirer d'autres déductions que l'autorité précédente. Ce faisant, elle s'en prend manifestement à l'appréciation des preuves. Le grief tiré de l'art. 8 CC ne peut qu'être rejeté. Pour le surplus, la recourante, qui est assistée d'un avocat, ne se plaint pas d'arbitraire ni n'invoque l'art. 9 Cst., de sorte qu'il n'y a pas à entrer en matière sur l'appréciation portée par la cour cantonale.
3. 3.1 La recourante fait en outre le grief à la Cour de justice d'avoir commis une double violation de l'art. 18 CO en interprétant comme elle l'a fait la clause relative à la performance fee. La cour se serait affranchie de la réelle et commune volonté des parties pour se focaliser sur le texte littéral de la clause, qu'elle aurait par ailleurs traduit de façon inexacte. L'expression performance fee ne signifierait pas "performance du fonds", mais "commission liée aux résultats". En conséquence, la rémunération concédée à l'intimé devrait se calculer non pas sur les résultats du fonds xxx, mais uniquement sur la participation aux résultats due à la recourante. La logique voudrait que la recourante ne puisse pas s'engager à donner plus qu'elle ne possédait elle-même.
3.2 En présence d'un litige sur l'interprétation d'une clause contractuelle, le juge doit s'efforcer de déterminer la commune et réelle intention des parties (art. 18 al. 1 CO). Cette interprétation subjective relève de l'appréciation des preuves et constitue une question de fait (ATF 132 III 626 consid. 3.1). Si le juge ne parvient pas à établir une telle volonté, il doit interpréter les déclarations et comportements des parties selon le principe de la confiance, en recherchant comment une déclaration ou une attitude pouvait de bonne foi être comprise en fonction de l'ensemble des circonstances; en procédant à une telle interprétation objective, il résout une question de droit (ATF 133 III 61 consid. 2.2.1). Relève aussi du droit le principe selon lequel l'interprétation subjective a la priorité sur l'interprétation objective (ATF 131 III 606 consid. 4.1 p. 611). L'interprétation purement littérale est prohibée. Le sens d'un texte en apparence limpide n'est pas forcément déterminant; d'autres éléments du contrat, le but poursuivi par les parties ou d'autres circonstances peuvent faire apparaître que le texte de la clause ne reflète pas fidèlement le sens de l'accord conclu. Il n'y a cependant pas lieu de s'écarter du sens littéral du texte lorsqu'il n'y a aucune raison sérieuse de penser qu'il ne correspond pas à leur volonté (ATF 135 III 295 consid. 5.2; 131 III 606 consid. 4.2 p. 611).
3.3 A la lecture du considérant, on comprend clairement que la Cour de justice a procédé à une interprétation objective, question qui relève du droit. L'arrêt attaqué ne contient aucune constatation de fait quant à une éventuelle volonté réelle concordante sur le sens à donner à l'expression "performance fee generated by the xxx Fund". La recourante n'a pas cherché à démontrer que l'état de fait aurait été établi arbitrairement en tant qu'il ne retient pas l'existence d'une volonté concordante des parties. Partant, l'on ne saurait reprocher à la cour cantonale d'avoir enfreint l'art. 18 CO en recourant à l'interprétation objective plutôt que subjective.
3.4 Le texte de la clause litigieuse est le suivant:
"(...) In addition to a monthly salary, you will be entitled to receive a remuneration of 17,5% of the performance fee generated by the xxx Fund."
En matière de hedge funds, la rémunération des gérants du fonds (managers) comprend habituellement deux postes. Le premier consiste en une commission de gestion (management fee) correspondant à un pourcentage donné des actifs du fonds, généralement entre 1 et 4 %, le taux de 2% étant un standard. Le second poste est une commission de performance ou commission liée aux résultats (performance fee), typiquement fixée à 20% des profits réalisés par le fonds; la fourchette est toutefois large, le taux pouvant monter jusqu'à 50% (KRYSTEL PASCHOUD, Hedge funds en Suisse, Réglementation actuelle et approche fiscale, in Bulletin CEDIDAC 2011 n° 55 p. 3; STEFAN OESTERHELT, in Basler Kommentar, Kollektivanlagengesetz, 2009, n° 243d des remarques précédant l'art. 1 LPCC; RAJNA GIBSON/SONGTAO WANG, Hedge Fund Alphas: Do they reflect manager skills or mere compensation for liquidity risk bearing?, Working Paper 485, National Centre of Competence in Research Financial Valuation and Risk Management, octobre 2008, p. 2 note 1; COMMISSION FÉDÉRALE DES BANQUES, Hedge-Fonds Marktentwicklung, Risiken und Regulierung, septembre 2007, p. 27 ch. 3.4, accessible sur le site Internet http://www.finma.ch/archiv/ebk/d/publik/positions-papiere/index.html). Des cautèles peuvent en outre être prévues afin que le manager ne perçoive une commission de performance que si le fonds excède un certain seuil de profit (Hurdle Rate) ou si les pertes réalisées lors des exercices précédents ont été compensées (High Water Mark; cf. DAVID WICKI, Hedge Funds im Schweizer Recht, 2011, p. 19 s.).
3.5 Dans le cas concret, la recourante était chargée de la gestion du fonds xxx, dont elle a précisé qu'il était incorporé aux Iles Caïman. Plus précisément, ce fonds était géré à titre principal par la société A._ Ltd (arrêt p. 10), laquelle percevait 2% d'honoraires basés sur les avoirs à gérer et 20% des honoraires "basés sur la performance d[u] fonds"; ces derniers n'étaient dus qu'après compensation d'éventuelles pertes précédentes (arrêt p. 7).
La gérante principale avait conclu avec la recourante une convention de conseil en investissement (Investment Advisory Agreement); en sa qualité d'investment advisor, la recourante avait droit à "60% de la performance du fonds", selon l'expression retenue par l'arrêt attaqué (p. 16). Dans sa teneur originale, l'art. 5.1 de cette convention accordait à la recourante "60% of the monthly Performance Fee (...)" ainsi que "45% per annum of the Management Fee".
En d'autres termes, A._ Ltd, en sa qualité de gérante principale du fonds, avait droit aux deux standards de rémunération, soit 2% de management fees et 20% de performance fees. Elle a délégué une partie de ses tâches à la recourante et s'est engagée à lui rétrocéder 45% de ses management fees et 60% de ses performance fees.
C'est dans ce contexte que la recourante a convenu d'allouer à l'intimé "17,5% of the performance fee generated by the xxx Fund", soit littéralement "17,5% de la commission de performance générée par le fonds xxx". La recourante soutient que le pourcentage de 17,5% portait sur la part de commission lui revenant comme sous-gérante [60% de la commission de 20%, soit une part de 12%], tandis que l'intimé plaide qu'il se rapportait à la commission entière [s'élevant à 20%].
La Cour de justice n'a pas méconnu l'objet du litige, même si elle a improprement traduit l'expression performance fee par "performance du fonds" ou "revenus du fonds". En substance, la cour a fait sien le raisonnement de l'intimé, en soulignant que le texte littéral de la clause ne précisait pas que la rémunération devait être calculée sur la part de commission due à la recourante en vertu de l'art. 5 du contrat conclu avec la gérante principale. L'intimé n'avait de surcroît pas connaissance de cet accord. Pour autant qu'il subsiste une ambiguïté, il fallait interpréter la clause en défaveur de la recourante qui l'avait rédigée (in dubio contra stipulatorem) (arrêt, p. 16 s.).
3.6 Il est exact que la clause litigieuse se réfère à la commission de performance générée par le fonds, et non à la part de commission due à la recourante. Un fonds ne génère pas à proprement parler une commission, mais des profits sur lesquels une commission peut être perçue. Or, la clause ne donne aucune indication sur le taux de cette commission, ni aucun autre détail. En bonne logique économique, l'intimé devait comprendre que l'employeuse entendait lui rétrocéder une part de ce qu'elle devait elle-même toucher pour la gestion du fonds. A cet égard, il n'est pas établi que la recourante se confonde avec la gérante principale et que la première ait ainsi pu avoir la mainmise économique sur la totalité de la commission de performance due à la seconde. L'associé-gérant de la recourante a certes expliqué qu'il avait fondé A._ en 2005, qu'il en avait été l'unique ayant droit économique avant de céder 60% de ses parts et qu'il en était l'un des deux administrateurs (arrêt, p. 10 s.). Ces éléments ne permettent toutefois pas de nier la réalité des sujets de droit concernés; la Cour de justice n'a du reste pas mis en cause la réalité de la convention passée entre la recourante et la gérante principale.
Se pose donc tout au plus la question de savoir si l'intimé pouvait de bonne foi partir du principe que la recourante touchait une commission de 20%. Il s'agit certes d'un taux standard, mais il n'existe pas de règle en la matière. Un taux de 50% peut aussi se rencontrer, tout comme un taux de 10-15%. De par la fonction qu'il exerçait, l'intimé devait connaître les aléas entourant la commission de performance. Il ne prétend du reste pas avoir cru de bonne foi que la recourante touchait une commission standard de 20%. En s'abstenant de faire préciser le taux de cette commission et les éventuelles réserves dont elle était assortie (High Water Mark, etc.), l'intimé montrait qu'il s'accommodait, quelle qu'elle soit, de la commission due à la recourante, sous réserve d'un comportement abusif. En l'occurrence, le taux de 12% (soit 60% de 20%) revenant à la recourante en vertu du contrat de sous-gestion n'était pas insolite, pas plus que la réserve de compensation des pertes, qui n'est du reste pas contestée. L'on ne saurait reprocher à la recourante d'avoir violé le principe de la bonne foi en s'abstenant d'attirer l'attention de l'intimé sur les spécificités de la commission. L'intimé pouvait dès lors tout au plus prétendre à 17,5% sur les 60% de performance fees revenant à la recourante.
En bref, le grief est bien fondé en tant qu'il se rapporte à l'interprétation de la clause de performance fee.
3.7 Pour déterminer la rémunération variable de l'intimé, la Cour de justice s'est fondée sur les commissions revenant à la gérante principale, alors qu'elle aurait dû se fonder seulement sur le 60% de ces commissions, correspondant à la part due à la recourante. Fondée sur cette base erronée, la cour est arrivée à la conclusion que pour toute la durée du contrat, l'intimé avait droit à 310'688 fr. 70 (arrêt, p. 17). Il convient d'appliquer le taux de 60% à cette somme pour obtenir la rémunération exacte due à l'intimé; celle-ci s'élève à 186'413 fr. 20. Il n'est pas contesté que la recourante avait déjà versé 95'000 fr., de sorte que le solde dû est de 91'413 fr. 20. Les intérêts à 5% l'an dès le 1er février 2009 ne sont pas non plus contestés.
3.8 Le calcul effectué par la cour cantonale porte sur la période de juillet à septembre 2008, le fonds ayant ensuite essuyé des pertes dès le mois d'octobre. La recourante objecte que l'intimé ne devrait pas toucher de commission pour juillet 2008 au motif qu'il n'aurait été engagé que le 15 de ce mois et n'aurait pas été effectif les quinze jours suivants.
L'état de fait de l'arrêt attaqué précise tout au plus que les rapports de travail ont duré "environ cinq mois" avant de prendre fin le 1er décembre 2008 (arrêt, p. 21). Cela étant, la Cour de justice a précisé qu'elle reprenait le calcul de l'intimé basé sur les commissions du troisième trimestre 2008, en relevant que la recourante avait reconnu l'exactitude de ce calcul pour autant qu'on suive l'interprétation de l'intimé quant à l'expression "performance fee".
La recourante ne prétend pas que l'autorité précédente aurait appliqué arbitrairement l'ancien droit de procédure cantonal (régissant encore la présente cause) en renonçant à s'écarter du calcul de l'intimé, en particulier quant à la période de décompte. Elle ne soulève pas non plus de grief relatif à l'établissement des faits. Il n'y a dès lors pas de motif d'exclure le mois de juillet 2008 du calcul des commissions.
4. 4.1 En définitive, le recours est partiellement admis. L'arrêt attaqué est réformé en ce sens que la recourante est condamnée à payer à l'intimé la somme brute de 91'413 fr. 20 plus intérêts à 5% l'an dès le 1er février 2009. Il est confirmé pour le surplus, sauf en ce qui concerne les frais et dépens de la procédure cantonale; la cause est renvoyée à l'autorité précédente pour qu'elle statue à nouveau sur cette question.
4.2 La recourante et l'intimé succombent chacun sur une partie de leurs conclusions. En conséquence, les frais judiciaires, arrêtés à 6'000 fr., seront répartis à part égale entre ces deux parties (art. 66 al. 1 LTF) et les dépens compensés (art. 68 al. 1 LTF).
Eu égard notamment à l'art. 68 al. 3 LTF, il n'y a pas lieu d'allouer de dépens à la caisse de chômage intimée.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis. L'arrêt attaqué est réformé en ce sens que la recourante est condamnée à payer à l'intimé la somme brute de 91'413 fr. 20 plus intérêts à 5% l'an dès le 1er février 2009.
L'arrêt attaqué est confirmé pour le surplus, sauf en ce qui concerne les frais et dépens de la procédure cantonale.
2. La cause est renvoyée à l'autorité précédente pour nouvelle décision sur les frais et dépens de la procédure cantonale.
3. Un émolument judiciaire de 6'000 fr. est mis à la charge de la recourante et de l'intimé à concurrence d'une demie chacun.
4. Les dépens de ces deux parties sont compensés.
5. Le présent arrêt est communiqué aux parties et à la Chambre des prud'hommes de la Cour de justice du canton de Genève.
Lausanne, le 3 avril 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Monti