Faits:
A. X._ a été engagé dès le 1er juin 2004 en qualité de négociant sur le marché pétrolier par la société Y._ SA, l'un des principaux négociants mondiaux de pétrole brut et de produits pétroliers raffinés. Son salaire annuel brut était de 300'000 fr.
Ni le contrat de travail ni le règlement du personnel annexé au contrat ne contenaient de dispositions relatives au versement d'un complément de salaire ou d'un bonus. Par contre le règlement du personnel entré en vigueur le 1er janvier 2005 évoquait différents types de primes susceptibles d'entrer dans la rémunération de l'employé sous forme d'augmentation du salaire, de bonus (discrétionnaire, garanti, retenu ...) ou de paiement discrétionnaire en liquide; pour le détail, il était renvoyé à un document qui n'a jamais vu le jour.
Pour les sept mois de l'année 2004 ainsi que pour les années 2005, 2006 et 2007, X._ a perçu, en plus du salaire, des montants de 100'000, 350'000, 515'000 et 230'000 fr. Les lettres qu'il a reçues à l'occasion de ces versements annuels parlaient de "bonus", de "bonus total" ou de "bonus spécial" et précisaient que les charges sociales étaient retenues sur ces montants.
Par courrier du 10 mars 2008, Y._ SA a résilié le contrat de travail pour le 31 mai 2008 et a immédiatement libéré X._ de son obligation de travailler.
B. Le 26 juin 2009, X._ a ouvert action contre Y._ SA devant le Tribunal des prud'hommes du canton de Genève en paiement de 125'000 fr. à titre de bonus pour l'année 2008 ainsi que de 67'065 fr. à titre de droit aux vacances; Y._ SA a conclu au rejet de l'action. Par jugement du 27 mai 2010, le Tribunal a partiellement admis l'action et condamné Y._ SA à payer 125'000 fr. à titre de bonus pour l'année 2008 ainsi que 16'760 fr. à titre d'indemnité pour vacances. Il a retenu que les bonus des années précédentes étaient relativement élevés par rapport au salaire convenu et avaient été versés sans réserve durant plus de trois années consécutives; il en a déduit que les bonus avaient pris le caractère d'un salaire variable.
Y._ SA a interjeté un appel portant uniquement sur le montant de 125'000 fr. Statuant par arrêt du 29 novembre 2010, la Cour d'appel de la juridiction des prud'hommes a confirmé la condamnation non contestée portant sur 16'760 fr. - rectifiant tout au plus l'inadvertance manifeste relative au point de départ de l'intérêt moratoire - et rejeté l'action de X._ en paiement de 125'000 fr.
Les motifs ayant amené la Cour d'appel à nier un droit de X._ à un bonus pour l'année 2008 sont en résumé les suivants: Les bonus versés doivent être qualifiés de gratifications (au sens de l'art. 322d CO). A réception de la lettre de résiliation ainsi qu'à réception des documents destinés à la déclaration fiscale en juin 2008, X._ a constaté que Y._ SA ne verserait pas de bonus pour 2008; il s'est satisfait de cette situation pendant une année. Ces éléments postérieurs à la conclusion du contrat de travail sont de nature à déterminer sa volonté réelle et permettent de retenir que les parties ont convenu que le versement d'une gratification était facultatif et, dans tous les cas, exclu pour l'année au cours de laquelle l'employé cessait son activité.
C. X._ (ci-après: le recourant) interjette un recours en matière civile auprès du Tribunal fédéral. Il conclut à la confirmation de l'arrêt de la Cour d'appel dans la mesure où il condamne Y._ SA (ci-après: l'intimée) au paiement de 16'760 fr. plus intérêts à 5% dès le 31 mai 2008 et à sa réforme dans le sens que l'intimée est condamnée à lui payer en sus la somme brute de 125'000 fr. avec intérêts à 5% l'an dès le 31 janvier 2009. L'intimée conclut au rejet du recours dans la mesure où il serait recevable. L'autorité précédente se réfère à son arrêt.
Considérant en droit:
1. La Cour d'appel a établi la volonté réelle du recourant et en a déduit que les parties avaient convenu que le versement de bonus était facultatif. Ce faisant, elle a procédé à une interprétation subjective du contrat liant les parties; il s'agit d'une constatation de fait (ATF 131 III 606 consid. 4.1 p. 611).
1.1 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF); en tant que cour suprême, il est instance de révision du droit (Message du 28 février 2001 concernant la révision totale de l'organisation judiciaire fédérale, ch. 4.1.4.2 ad art. 92, FF 2001 4135). Il peut certes rectifier ou compléter les faits s'ils ont été établis de façon manifestement inexacte, notion qui correspond à l'arbitraire, ou en violation du droit au sens de l'art. 95 LTF, ce pour autant que la correction soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 et art. 105 al. 2 LTF). Cette exception à la règle selon laquelle le Tribunal fédéral ne revoit pas les faits ne permet toutefois pas aux parties de rediscuter dans leurs mémoires les faits de la cause comme si elles plaidaient devant un juge d'appel. La partie recourante qui entend faire rectifier ou compléter un fait doit expliquer de manière circonstanciée en quoi les conditions pour le faire seraient réalisées; dans la mesure où le grief implique d'établir la violation d'un droit constitutionnel tel que l'interdiction de l'arbitraire, les exigences de motivation sont celles de l'art. 106 al. 2 LTF (ATF 133 II 249 consid. 1.4.3). L'arbitraire ne résulte pas du seul fait qu'une autre solution que celle retenue par l'autorité cantonale pourrait entrer en considération ou même qu'elle serait préférable (ATF 132 I 13 consid. 5.1 p. 17); le Tribunal fédéral ne s'écarte de la décision attaquée que lorsque celle-ci est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridique indiscuté, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité (ATF 134 I 263 consid. 3.1).
En outre, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF). La possibilité de présenter des faits ou des moyens de preuve nouveaux en instance de recours fédérale est exceptionnelle; elle permet notamment d'alléguer des faits qui ne sont devenus pertinents qu'en raison de l'argumentation inattendue de l'autorité précédente, mais ne saurait servir à rattraper des omissions antérieures (arrêt 4A_269/2010 du 23 août 2010 consid. 1.3, in SJ 2011 I 58; arrêt 4A_18/2010 du 15 mars 2010 consid. 2, non publié à l'ATF 136 I 197).
1.2 Le recourant invoque à divers titres une violation de l'interdiction constitutionnelle de l'arbitraire ou une constatation de fait manifestement inexacte. Ses objections sont toutefois largement de type appellatoire et en partie fondées sur des faits qui semblent nouveaux; en outre, il les mélange avec des considérations de droit et notamment d'interprétation objective du contrat. Seuls les griefs recevables afférents aux faits seront examinés.
La Cour d'appel a constaté, d'une part, qu'il ressortait clairement des courriers de l'intimée de mars et juin 2008 que celle-ci ne payerait pas de bonus pour l'année 2008 et, d'autre part, que le recourant n'y a pas réagi pendant une année. Selon la Cour d'appel, il faut en déduire que recourant et intimée avaient antérieurement convenu que les bonus étaient facultatifs. C'est une interprétation possible du défaut de réaction du recourant; elle n'est donc pas en soi arbitraire.
Le recourant objecte que la Cour d'appel s'est indûment fondée sur le témoignage d'une personne au service de l'intimée pour retenir que les bonus étaient accordés à titre discrétionnaire. Il est vrai que la Cour rapporte ce témoignage et évoque plus loin la "politique" de l'intimée en matière de bonus en se fondant implicitement sur les témoignages recueillis. Toutefois, elle ne tire aucune déduction de cette pratique pour la relation contractuelle en cause, constatant simplement que l'intimée, "conformément à sa politique en la matière", n'avait pas l'intention de verser au recourant un bonus pour l'année 2008 et qu'elle s'est exprimée en ce sens dans sa lettre de résiliation; c'est en définitive sans égard au témoignage litigieux, sur la base d'autres éléments que la Cour retient l'existence d'une convention entre recourant et intimée sur le caractère facultatif des bonus. Au demeurant, le fait qu'un témoin soit au service d'une partie n'exclut pas nécessairement de retenir ses déclarations, et le recourant ne démontre pas pourquoi il devrait en aller différemment dans le cas d'espèce; en outre, le fait d'écarter ce témoignage pour cause de défaut d'indépendance ne conduirait nullement à constater que le recourant et l'intimée n'ont pas passé une convention sur le caractère facultatif des bonus.
Le recourant objecte en outre que la Cour d'appel a mal interprété la déclaration d'un autre témoin en ne retenant pas que le caractère discrétionnaire du bonus se rapportait uniquement au montant et non au principe du versement. A lire les passages cités par le recourant, cette distinction ne s'impose pas. Certes, ce témoin était intervenu auprès de son supérieur uniquement à cause du montant qui lui avait été alloué et non pas du principe d'un bonus, qui n'était manifestement pas contesté dans le cas concret. Il lui a été répondu que le versement était discrétionnaire. On ne discerne pas en quoi il faudrait nécessairement comprendre cette réponse dans le sens que l'intimée, d'une manière générale, devait obligatoirement verser un bonus à ses employés et que seul le montant était laissé à sa libre appréciation. Mais même si l'on suivait l'interprétation du recourant, cela n'exclurait pas qu'il ait passé avec l'intimée un arrangement différent à ce sujet. Quoi qu'il en soit, la Cour d'appel ne s'est pas non plus fondée sur ce témoignage.
Le recourant relève que les bonus perçus figuraient sur les fiches de salaire sous la rubrique "éléments de salaire". On ne saisit pas la pertinence de la remarque; en effet, les gratifications, obligatoires ou facultatives, sont réglées à l'art. 322d CO sous le titre marginal "salaire" (cf. ch. I ad art. 322 CO). Cela étant, le fait que les bonus figurent sur la fiche de salaire n'exclut nullement une convention sur leur caractère facultatif entre recourant et intimée.
Enfin, le recourant fait valoir qu'il a attendu l'exigibilité du bonus 2008 - prétendument en mars 2009 - pour faire valoir ses droits et qu'il eût été inutile d'agir avant. L'argument tombe à faux. La Cour a certes retenu que le bonus était fonction de circonstances telles que les résultats de l'entreprise, élément qui est en soi propre à repousser l'exigibilité de la prétention au-delà de la fin du contrat de travail; toutefois, il est constant que le recourant a compris, à réception des courriers de mars et juin 2008, que ceux-ci valaient pour solde de tout compte, y compris pour le bonus 2008; au vu de ces constatations que le recourant ne remet pas valablement en cause, il n'était pas insoutenable d'en déduire que l'inaction du recourant pendant un an attestait l'existence d'un accord sur le caractère facultatif du bonus.
En résumé, le recourant n'a pas démontré que la constatation par la Cour d'appel de la volonté subjective des parties était arbitraire.
2. Il a ainsi été valablement retenu que recourant et intimée s'étaient accordés sur le caractère facultatif des bonus. Une telle convention est licite (art. 322d, 361 et 362 CO) et lie les parties, l'importance du salaire annuel et son rapport avec les bonus octroyés ne justifiant pas en l'espèce de s'écarter du principe de la liberté contractuelle (cf. arrêt 4A_509/2008 du 3 février 2009 consid. 4.3.2.2). Cela règle le sort du litige; il ne peut qu'être constaté que l'intimée n'a rien à payer au recourant à titre de bonus pour l'année 2008. Les griefs se rapportant à l'hypothèse où les parties n'auraient rien convenu sont sans pertinence.
3. Le recourant succombe. Il supporte les frais et dépens de la présente procédure (art. 66 al. 1 et art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimée une indemnité de 6'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Cour d'appel de la juridiction des prud'hommes du canton de Genève.
Lausanne, le 21 mars 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Monti