Faits:
A. A.a La société anonyme Z._ SA élabore et vend des machines destinées à l'impression de billets de banque. Sise dans le canton de Vaud, elle comprend notamment un atelier mécanique et un bureau technique composé d'ingénieurs chargés du développement des machines.
A.b Le 1er mars 1985, X._ (ci-après: l'employé) a été engagé en qualité de mécanicien spécialisé par une entité à laquelle la société précitée (l'employeuse) a succédé.
L'employé n'a pas de diplôme d'ingénieur. Il portait assistance aux techniciens des fournisseurs de l'employeuse dans les travaux de montage et de démontage des machines d'impression. Il fabriquait des pièces pour prototypes, effectuait des modifications générales sur les machines et passait des commandes d'outillages et de matériel. Si l'employé n'avait pas pour mission, dans le travail courant, de réaliser des études et créations, son domaine de prédilection était l'amélioration des pièces et des composants de machines. Son rôle ne se limitait pas à celui d'un mécanicien; il participait directement à la réalisation d'inventions et initiait souvent des nouveautés de façon spontanée. Le 31 janvier 2001, une tâche supplémentaire a été formellement ajoutée à son cahier des charges, soit la participation à de nouveaux développements techniques. Dans les faits, l'employé a déployé une telle activité dès son entrée au service de l'employeuse.
Au plus tard en juillet 1993, le règlement interne de l'employeuse a intégré une clause précisant que les inventions réalisées par les employés dans le cadre de leur activité restaient en tout temps la propriété de l'entreprise.
A.c L'employé a été désigné comme inventeur dans sept familles de brevets européens délivrés à l'employeuse. L'un des brevets portait sur des parois de séparation placées dans l'encrier d'une machine d'impression afin d'assurer une étanchéité parfaite. Un autre brevet concernait un dispositif de mise en tension des plaques d'impression, destiné à diminuer la déformation due aux fortes pressions exercées lors de l'impression taille-douce.
Ces inventions consistaient en de petits perfectionnements sur de grandes machines, qui pouvaient se révéler précieux ponctuellement. Il est admis qu'il s'agit d'inventions "de service" au sens de l'art. 332 al. 1 CO (cf. infra, consid. 3.1). L'employé les a conçues avec les moyens techniques mis à disposition par l'employeuse. Il réalisait les essais sur les machines de celle-ci. Toutes les conditions étaient réunies pour qu'il puisse exercer au mieux son activité inventive (mise à disposition de machines, collaboration d'autres employés).
A.d L'employé a dessiné six croquis datés du 23 novembre 2000. Ces esquisses très rudimentaires et schématiques représentent des variantes de configuration de machines d'impression taille-douce sans essuyage ("no wipe") et recto verso.
Les croquis de l'employé décrivent un système "sans essuyage" où les encres de différentes couleurs sont chacune transmises par un cylindre encreur doté d'un système d'essuyage et de récupération de l'encre. Ce procédé évite les mélanges et permet le recyclage des encres, qui sont très coûteuses; il offre en outre plus de couleurs qu'une machine conventionnelle, ce qui constitue un élément de sécurité s'agissant de billets de banque.
L'employé a en outre conçu un système d'impression recto verso simultanée. Ses dessins représentent un système combinant un cylindre conventionnel de grande dureté avec un cylindre contre-pression d'un matériau plus mou.
L'expert nommé dans le cadre de la procédure judiciaire (infra let. B) a examiné ces croquis. Il a conclu que les deux concepts imaginés par l'employé constituent une "contribution pratique et tout à fait intéressante, nouvelle et inventive", qui pourrait justifier la délivrance d'un brevet, sans que l'on puisse néanmoins la qualifier de "révolutionnaire".
A.e Le 15 décembre 2000, l'employé a présenté ses croquis à A._, qui était alors président du conseil d'administration de l'employeuse et détenait 50 % de son capital-actions. Le prénommé a fait établir un rapport intitulé "...". Conçu avec l'aide de l'employé, ce document contenait un projet de développement allant jusqu'au dépôt d'un brevet. Le développement en question devait se faire "en dehors" de l'employeuse, ce dont l'employé avait connaissance. Il a du reste été requis de garder le secret sur son invention.
Le projet ne s'est jamais réalisé. A._ et l'autre actionnaire ont décidé de vendre leurs participations dans la société employeuse, ce qui s'est produit le 30 mai 2001. L'entreprise a changé de structure.
Dans un courrier du 13 janvier 2003, le conseil de l'employeuse écrivait que si vraiment l'employé avait "travaillé sur un dossier en relation avec un système concernant le 'no wiping' de l'ampleur qu'il allégu[ait]", l'employeuse était "d'accord de discuter avec lui d'une rémunération équitable comme le prévo[yai]t la loi".
L'employé a réclamé plusieurs millions de francs pour ses inventions, avant de revoir ses prétentions à la baisse. Les parties ont parlementé sans parvenir à trouver un accord.
L'employeuse a déposé une première demande de brevet européen le 15 janvier 2004, puis une demande internationale le 5 janvier 2005. L'employé y était désigné comme inventeur, aux côtés de trois autres personnes. Dans un rapport préliminaire, l'Office européen des brevets a jugé que certaines revendications, prises en combinaison, pouvaient être brevetables. Selon l'expert judiciaire, la demande internationale englobe les propositions déduites des dessins de l'employé; celui-ci a contribué seul à quelques revendications, tandis que plusieurs autres doivent être imputées à parts égales aux quatre personnes indiquées comme inventeurs.
A.f Le 30 août 2005, le conseil de l'employé a écrit à l'employeuse pour rappeler les prétentions de son client, tout en soulignant qu'il était prêt à poursuivre les pourparlers. Il a joint à cette lettre une copie du rapport "...".
Le 8 septembre 2005, l'employeuse a résilié le contrat de l'employé pour le prochain terme légal. L'employeuse indiquait avoir pris connaissance "avec stupéfaction" du rapport "...", qui prouvait irréfutablement que l'employé avait agi de façon déloyale en utilisant ses infrastructures et des informations confidentielles pour un projet de développement concurrent.
L'employé s'est opposé au congé.
A.g Entre 1985 et 2005, le salaire annuel de l'employé a passé de 74'200 fr. à 139'930 fr.; il a notablement augmenté au moment des premières demandes de brevet. Cette rémunération était plus élevée que celle perçue par plusieurs collaborateurs du bureau technique, qui touchaient en 2005 des montants compris entre 79'100 fr. et 102'970 fr. Toutefois, une personne faisant partie dudit bureau a touché un salaire total annuel de 157'010 fr. en 1988 et de 160'300 fr. en 1989, année de son départ à la retraite.
B. B.a Le 17 mai 2006, l'employé a actionné l'employeuse devant la Cour civile du Tribunal cantonal vaudois. En substance, il entendait faire constater qu'il était seul titulaire des droits relatifs à l'invention décrite dans la demande de brevet internationale, et notamment du droit à la délivrance du brevet. Il entendait en outre faire signifier à l'employeuse l'interdiction d'utiliser l'invention visée par la demande de brevet, respectivement les deux systèmes d'impression sans essuyage et recto verso.
L'employé demandait en outre le paiement de diverses sommes d'argent, dont 1,12 millions de francs à titre d'indemnité pour les sept inventions brevetées entre les années 1988 et 2000, ainsi qu'une indemnité de 61'290 fr. pour licenciement abusif.
B.b La Cour civile a considéré qu'elle était compétente ratione materiae en tant que juridiction cantonale unique imposée par le législateur fédéral en matière de brevets (ancien art. 76 LBI) et en raison de la valeur litigieuse supérieure à 100'000 fr. (ancien art. 74 al. 2 de la loi vaudoise d'organisation judiciaire).
Sur le fond, elle n'a admis les conclusions de l'employé qu'à concurrence de 14'694 fr. 70 pour un solde de vacances non pris. Elle a rejeté toute autre conclusion. La cour a notamment considéré que les systèmes d'impression sans essuyage et recto verso représentaient des inventions de service au sens de l'art. 332 al. 1 CO et que les droits en découlant appartenaient dès l'origine à l'employeuse.
Le jugement mentionne comme voies de recours l'appel auprès de la Cour d'appel civile du Tribunal cantonal et, s'agissant des prétentions relevant de l'instance cantonale unique prévue à l'art. 5 al. 1 let. a CPC (RS 272), le recours en matière civile au Tribunal fédéral.
B.c L'employé a déféré ce jugement au Tribunal fédéral, en précisant qu'il agissait "à des fins conservatoires", dans l'hypothèse où son appel formé simultanément au niveau cantonal serait jugé irrecevable. Selon sa propre analyse, le jugement était une décision de première instance dans un pur contentieux de droit du travail, et donc entièrement susceptible d'appel. Toutefois, l'on ne pouvait exclure que les questions concernant la titularité des inventions soient qualifiées de "litige portant sur des droits de propriété intellectuelle" au sens de l'art. 5 al. 1 let. a CPC; dans ce cas de figure, les conclusions y relatives, tranchées en instance cantonale unique par la Cour civile, ne pourraient être réexaminées en appel.
Par ordonnance du 16 novembre 2011, la Présidente de la Cour de céans a suspendu la procédure de recours jusqu'à droit connu sur l'appel cantonal.
B.d La Cour d'appel civile a relevé que les prétentions litigieuses trouvaient toutes leur fondement dans le droit du travail, y compris celles ayant trait aux inventions de l'employé. En conséquence, elle a considéré que la Cour civile avait statué en première instance au sens de l'art. 308 CPC et que l'appel était entièrement recevable. Cela étant, elle l'a rejeté par arrêt du 26 mars 2012.
C. L'employé (ci-après: le recourant) a déposé un second recours en matière civile au Tribunal fédéral, dans lequel il réitère les conclusions prises en appel, tendant en substance à ce qu'il soit déclaré titulaire exclusif (subsidiairement cotitulaire) des droits relatifs à l'invention concernée par la demande de brevet du 5 janvier 2005 et qu'en conséquence, l'employeuse se voie signifier l'interdiction, sous menace de la peine prévue à l'art. 292 CP, d'utiliser l'invention objet de la demande de brevet, respectivement les deux systèmes d'impression sans essuyage et recto verso. Il conclut en outre au paiement de 840'000 fr. à titre d'indemnité équitable pour les sept inventions déjà brevetées, respectivement de 61'290 fr. en guise d'indemnité pour son licenciement abusif. Il requiert enfin la confirmation de l'arrêt attaqué en tant qu'il lui alloue un montant de 14'694 fr. 70 pour un solde de vacances non prises.
L'employeuse (ci-après: l'intimée) conclut au rejet du recours. La Cour d'appel civile se réfère à son arrêt.
Considérant en droit:
1. Vu la connexité évidente des recours, il se justifie de joindre les procédures.
2. 2.1 Le recours en matière civile au Tribunal fédéral est recevable contre les décisions prises par les autorités cantonales de dernière instance, soit les tribunaux supérieurs institués par les cantons conformément à l'art. 75 al. 2 LTF. Ces tribunaux statuent sur recours, sauf si une loi fédérale prévoit une instance cantonale unique (art. 75 al. 2 let. a LTF). L'art. 75 al. 2 LTF pose donc l'exigence de principe d'une double instance au niveau cantonal. L'art. 5 CPC énonce divers domaines où la juridiction cantonale doit statuer en instance unique. Tel est en particulier le cas des litiges portant sur des droits de propriété intellectuelle (art. 5 al. 1 let. a CPC). Lorsqu'elle émane d'une telle juridiction unique, la décision est directement déférée au Tribunal fédéral sans égard à la valeur litigieuse (art. 74 al. 2 let. b LTF).
Le délai de recours est de trente jours à compter de la notification de la décision (art. 100 al. 1 LTF).
2.2 La Cour civile a statué selon l'ancienne procédure cantonale. Toutefois, lorsqu'elle a communiqué son jugement, le CPC fédéral était entré en vigueur, tout comme l'art. 75 al. 2 LTF. Il s'ensuit que les voies de droit contre le jugement de la Cour civile sont régies par ces nouvelles réglementations (cf. art. 405 al. 1 CPC et art. 130 al. 2 LTF).
En l'occurrence, le recourant a formé des prétentions qui ressortissent typiquement au droit du travail, telle l'indemnité pour le congé abusif, ou encore le droit au paiement des vacances non prises. Toutefois, il a aussi fait valoir des droits liés aux inventions qu'il a conçues. Se pose la question de savoir si cet aspect de la cause doit être qualifié de litige sur la propriété intellectuelle ou de contentieux de droit du travail. Cette qualification importe pour les voies de droit. En effet, si l'on opte pour la première solution, cela implique que la Cour civile a statué au moins partiellement comme instance cantonale unique au sens de l'art. 5 al. 1 let. a CPC, et que sa décision devait directement être déférée au Tribunal fédéral. En revanche, si l'on estime que le litige était entièrement contractuel (droit du travail), il devait d'abord faire l'objet d'un appel cantonal (art. 308 al. 1 let. a CPC et art. 75 al. 2 LTF) avant d'être porté devant le Tribunal fédéral.
En l'occurrence, il n'est pas nécessaire d'examiner cette question plus avant. A supposer que la Cour civile ait partiellement statué comme instance cantonale unique, cela entraînerait l'irrecevabilité de certains griefs de fait afférents à cet aspect du litige, qui ont été formulés tardivement dans le second recours, soit plus de 30 jours après la communication du jugement de la Cour civile. Or, supposés recevables, ces moyens devraient de toute façon être rejetés (infra, consid. 3.2-3.4).
La qualification du litige a d'autant moins d'importance que la question de la compétence est désormais clairement résolue par la loi. En effet, l'art. 26 al. 2 de la loi sur le Tribunal fédéral des brevets consacre depuis le 1er janvier 2012 une compétence concurrente de ce tribunal spécialisé et des tribunaux cantonaux pour connaître des actions civiles ayant un lien de connexité avec des brevets, en particulier celles qui concernent la titularité ou la cession des brevets; selon le Message du Conseil fédéral, sont notamment visés les litiges entre employeur et employé sur la titularité ou la rémunération des inventions de service au sens de l'art. 332 CO (LTFB - RS 173.41; RO 2011 2241; Message du 7 décembre 2007 concernant la loi sur le Tribunal fédéral des brevets, FF 2007 400).
3. Le recourant se plaint d'une violation de l'art. 332 CO et de constatations de fait inexactes ayant une incidence sur l'application de cette disposition. En substance, il conteste que les deux systèmes d'impression conçus (sans essuyage et recto verso) soient des inventions de service rémunérées par son seul salaire, et entièrement acquises à son employeuse.
3.1 L'art. 332 al. 1 et 2 CO a la teneur suivante:
"1 Les inventions que le travailleur a faites et les designs qu'il a créés, ou à l'élaboration desquels il a pris part, dans l'exercice de son activité au service de l'employeur et conformément à ses obligations contractuelles, appartiennent à l'employeur, qu'ils puissent être protégés ou non.
2 Par accord écrit, l'employeur peut se réserver un droit sur les inventions que le travailleur a faites et sur les designs qu'il a créés dans l'exercice de son activité au service de l'employeur, mais en dehors de l'accomplissement de ses obligations contractuelles."
L'alinéa 1 traite des inventions dites "de service" (Aufgabenerfindungen). Pour être acquise à l'employeur, l'invention de l'employé doit réaliser deux conditions: elle doit être faite dans l'exercice de l'activité au service de l'employeur, et en vertu d'une obligation contractuelle. La doctrine relève que ces critères sont interdépendants, en ce sens que si l'employé accomplit une obligation contractuelle, il agit forcément dans l'exercice de son activité (STREIFF/VON KAENEL/RUDOLPH, Arbeitsvertrag, 7e éd. 2012, n° 7 ad art. 332 CO; WOLFGANG PORTMANN, Die Arbeitnehmererfindung, 1986, p. 50). Elle observe aussi que l'activité inventive ne peut souvent être décrite que de façon générale, eu égard à l'incertitude planant sur le résultat (STREIFF/VON KAENEL/RUDOLPH, ibidem).
Selon la jurisprudence fédérale, il doit exister un rapport de connexité étroit entre l'activité exercée par l'employé et l'invention. En revanche, il importe peu qu'il l'ait réalisée pendant ses heures de travail ou son temps libre (ATF 72 II 270 consid. 4 p. 273, à propos de l'ancien art. 343 CO). Il faut par ailleurs rechercher si le travailleur a l'obligation contractuelle de déployer une activité inventive. La convention à ce sujet peut être expresse ou se déduire des circonstances (ATF 100 IV 167 consid. 1; 57 II 304 consid. 2 p. 310). Entrent en considération les circonstances de l'engagement, les directives données à l'employé, la position de celui-ci, l'importance de son salaire, sa formation et ses connaissances particulières, le degré d'indépendance dans l'exécution de son travail, les ressources logistiques et financières à disposition, le but social de l'entreprise qui l'emploie (arrêt 2A.204/2006 du 22 juin 2007 consid. 7.1, in RtiD 2008 I 946; ATF 72 II 270 consid. 4 pp. 273 i.f. et 274). L'employé peut aussi avoir d'autres tâches et n'être astreint à une obligation inventive qu'à titre accessoire (STAEHELIN/VISCHER, Zürcher Kommentar, 3e éd. 1996, n° 7 ad art. 332 CO; PORTMANN, op. cit., p. 49 n. 9).
Selon la jurisprudence fédérale, il doit exister un rapport de connexité étroit entre l'activité exercée par l'employé et l'invention. En revanche, il importe peu qu'il l'ait réalisée pendant ses heures de travail ou son temps libre (ATF 72 II 270 consid. 4 p. 273, à propos de l'ancien art. 343 CO). Il faut par ailleurs rechercher si le travailleur a l'obligation contractuelle de déployer une activité inventive. La convention à ce sujet peut être expresse ou se déduire des circonstances (ATF 100 IV 167 consid. 1; 57 II 304 consid. 2 p. 310). Entrent en considération les circonstances de l'engagement, les directives données à l'employé, la position de celui-ci, l'importance de son salaire, sa formation et ses connaissances particulières, le degré d'indépendance dans l'exécution de son travail, les ressources logistiques et financières à disposition, le but social de l'entreprise qui l'emploie (arrêt 2A.204/2006 du 22 juin 2007 consid. 7.1, in RtiD 2008 I 946; ATF 72 II 270 consid. 4 pp. 273 i.f. et 274). L'employé peut aussi avoir d'autres tâches et n'être astreint à une obligation inventive qu'à titre accessoire (STAEHELIN/VISCHER, Zürcher Kommentar, 3e éd. 1996, n° 7 ad art. 332 CO; PORTMANN, op. cit., p. 49 n. 9).
3.2 3.2.1 Dans un premier moyen de fait, le recourant réfute les constatations selon lesquelles il aurait collaboré directement avec la direction technique et aurait été la personne de référence pour les membres du bureau technique. La Cour d'appel aurait fait preuve d'arbitraire et d'inconséquence dans l'appréciation des témoignages et aurait méconnu la portée d'un courrier (pièce 37). Dans un grief distinct, mais lié au précédent, le recourant conteste avoir eu un rôle excédant celui de mécanicien; il serait inexact d'affirmer que son cahier des charges de 1995 (pièce 24) mentionnait expressément le travail technique relatif aux projets de développement des machines d'impression.
3.2.2 Le recourant ne critique que quelques points précis et plutôt secondaires d'un ensemble d'éléments ayant conduit la Cour d'appel à constater que le rôle de l'employé ne se limitait pas à celui de mécanicien et consistait aussi à exécuter des tâches de développement technique et ce, dès son entrée en service.
Quoi qu'il en soit, les griefs ne sont pas fondés. Les juges cantonaux n'ont pas ignoré que le cahier des charges dans sa teneur de 1995 ne mentionnait pas la participation à des développements techniques. Cela étant, le courrier du 16 janvier 1995 auquel était annexé ledit cahier (pièce 24) précisait à l'employé qu'il conservait le même chef responsable - B._ - "pour le travail technique en relation avec les projets de développement", ce qui constituait l'un des indices permettant de retenir sans arbitraire l'existence d'une activité de recherche et de développement, au même titre que le courrier du 8 février 1988 adressé au fondateur de l'employeuse (pièce 37), dans lequel le recourant se référait à son travail de recherche et disait avoir besoin d'une collaboration technique adéquate pour pouvoir développer son idée sur une machine à échelle normale.
Les témoins C._ et D._, respectivement directeur général technique de l'employeuse et superviseur des travaux du bureau technique, ont qualifié d'exacte l'allégation selon laquelle le recourant "était une personne de contact privilégiée (...) pour le bureau technique" (all. 188); le premier a précisé qu'il y avait d'autres personnes compétentes auxquelles le bureau s'adressait, tandis que le second affirmait que le recourant était "la personne de référence". Le recourant ne conteste pas avoir été le responsable de fait de l'atelier mécanique, en tant que mécanicien le mieux formé et le plus expérimenté. L'autorité d'appel pouvait dès lors retenir sans arbitraire, nonobstant les liens professionnels entre les témoins et l'employeuse, que le recourant était la personne de référence pour les membres du bureau technique. Une telle constatation n'excluait naturellement pas que ce bureau puisse à l'occasion s'adresser à d'autres personnes compétentes. Pour le surplus, le recourant ne prétend pas que les juges auraient appliqué arbitrairement l'ancienne procédure cantonale en retenant une tournure s'écartant quelque peu de l'allégué 188.
S'agissant enfin de la collaboration directe avec la direction technique, la Cour d'appel s'est fondée sur les déclarations de D._, corroborées par celles de B._, également superviseur des travaux du bureau technique. Il n'était pas arbitraire de retenir ces déclarations concordantes, au demeurant corroborées dans une certaine mesure par le courrier précité du 16 janvier 1995, d'autant moins que le témoin B._ paraît avoir cessé de travailler pour l'employeuse en 2001 déjà, si l'on comprend bien les explications données dans le cadre de sa déposition. Par ailleurs, la Cour civile s'était expliquée sur les raisons l'ayant conduite à préférer les deux témoignages précités à celui de E._, dans une motivation que l'autorité d'appel a manifestement faite sienne, et que le recourant ne cherche pas à réfuter.
Pour le surplus, le recourant reproche essentiellement à la Cour d'appel de s'être fondée sur les découvertes brevetées déjà réalisées pour extrapoler à tort une obligation générale de déployer une activité inventive; cette question sera traitée plus loin (infra, consid. 3.5.2).
Pour le surplus, le recourant reproche essentiellement à la Cour d'appel de s'être fondée sur les découvertes brevetées déjà réalisées pour extrapoler à tort une obligation générale de déployer une activité inventive; cette question sera traitée plus loin (infra, consid. 3.5.2).
3.3 3.3.1 Le recourant se plaint d'une contradiction, qui résiderait dans le fait de constater qu'il touchait un salaire plus élevé que les collaborateurs du bureau technique, tout en reconnaissant que l'un d'eux, dénommé F._, touchait un salaire supérieur au recourant.
3.3.2 En page 8 de son arrêt, la Cour d'appel constate que le recourant touchait un salaire plus élevé que "plusieurs collaborateurs" du bureau technique, ce qui n'excluait pas qu'un autre membre de ce bureau touche une rémunération encore plus importante que celle du recourant. Dans ses considérants en droit, la cour a relevé qu'il importait peu de savoir si le salaire du recourant était le plus élevé du bureau technique, ou parmi les plus élevés. L'on ne discerne ainsi aucune contradiction. En réalité, le recourant reproche essentiellement à la Cour d'appel d'avoir retenu une obligation d'activité inventive sur la base notamment de son salaire et des remarques y relatives de l'expert, que le recourant ne remet par ailleurs pas en cause (cf. au surplus infra, consid. 3.5.2).
3.3.2 En page 8 de son arrêt, la Cour d'appel constate que le recourant touchait un salaire plus élevé que "plusieurs collaborateurs" du bureau technique, ce qui n'excluait pas qu'un autre membre de ce bureau touche une rémunération encore plus importante que celle du recourant. Dans ses considérants en droit, la cour a relevé qu'il importait peu de savoir si le salaire du recourant était le plus élevé du bureau technique, ou parmi les plus élevés. L'on ne discerne ainsi aucune contradiction. En réalité, le recourant reproche essentiellement à la Cour d'appel d'avoir retenu une obligation d'activité inventive sur la base notamment de son salaire et des remarques y relatives de l'expert, que le recourant ne remet par ailleurs pas en cause (cf. au surplus infra, consid. 3.5.2).
3.4 3.4.1 Le recourant conteste que les systèmes d'impression "sans essuyage" et "recto verso" n'aient été que des améliorations de systèmes déjà existants; cette constatation serait contredite par l'expert, qui a qualifié la contribution de "nouvelle" et d'"inventive". La Cour d'appel aurait en outre enfreint les règles fédérales en matière de preuve en retenant sans expertise une allégation de nature technique (all. 403).
3.4.2 L'allégué litigieux se rapporte aux sept croquis établis par le recourant et affirme qu'il s'agit d'"esquisses très schématiques de 7 variantes de configuration de machines d'impression taille-douce". Le recourant ne prétend pas avoir requis une expertise, ce qui exclut en soi une violation de son droit à la preuve. Pour le surplus, c'est une question de procédure cantonale et d'appréciation des preuves que de dire si une expertise pouvait et devait être ordonnée d'office, ou si l'allégation pouvait être retenue sur la base des preuves recueillies. Or, le recourant ne soulève pas le grief d'arbitraire dans l'application du droit cantonal ou dans l'appréciation des preuves (cf. ATF 133 III 462 consid. 2.3; 136 III 552 consid. 4.2). Tout au plus met-il en exergue une prétendue contradiction avec l'analyse de l'expert. Or, il n'est pas incompatible de retenir que le recourant a présenté des variantes de configuration de systèmes d'impression déjà existants, et que ses propositions comportent un aspect inventif intéressant.
3.4.2 L'allégué litigieux se rapporte aux sept croquis établis par le recourant et affirme qu'il s'agit d'"esquisses très schématiques de 7 variantes de configuration de machines d'impression taille-douce". Le recourant ne prétend pas avoir requis une expertise, ce qui exclut en soi une violation de son droit à la preuve. Pour le surplus, c'est une question de procédure cantonale et d'appréciation des preuves que de dire si une expertise pouvait et devait être ordonnée d'office, ou si l'allégation pouvait être retenue sur la base des preuves recueillies. Or, le recourant ne soulève pas le grief d'arbitraire dans l'application du droit cantonal ou dans l'appréciation des preuves (cf. ATF 133 III 462 consid. 2.3; 136 III 552 consid. 4.2). Tout au plus met-il en exergue une prétendue contradiction avec l'analyse de l'expert. Or, il n'est pas incompatible de retenir que le recourant a présenté des variantes de configuration de systèmes d'impression déjà existants, et que ses propositions comportent un aspect inventif intéressant.
3.5 3.5.1 En droit, le recourant se plaint d'une fausse application de l'art. 332 al. 1 CO. En résumé, la Cour d'appel aurait considéré à tort que les systèmes d'impression sans essuyage et recto verso étaient des inventions de service, alors qu'il n'y aurait aucun rapport logique étroit entre ces découvertes et sa fonction de simple mécanicien, qui l'aurait uniquement obligé à réaliser des travaux de modification mécanique sur diverses installations. Les deux inventions litigieuses n'entreraient pas dans ce type de travaux. Contrairement aux inventions brevetées, il ne s'agirait pas de simples améliorations de pièces et de composants, mais de nouveaux systèmes proposant des fonctionnalités complètement différentes.
3.5.2 Le recourant ne conteste pas que les sept inventions brevetées dont il est désigné comme l'auteur ou le coauteur sont des inventions de service. Sur le principe, l'obligation de déployer une activité inventive est donc établie. La question litigieuse se résume à déterminer l'étendue de cette obligation. Le recourant insiste sur la différence de nature entre les inventions déjà brevetées et les deux systèmes litigieux, lesquels sortiraient du champ de son activité de mécanicien.
L'état de fait des deux décisions cantonales fournit relativement peu d'indications sur la nature des inventions brevetées. L'on sait en particulier que l'une d'elles portait sur des parois de séparation dans l'encrier d'une machine d'impression et que d'autres concernaient les plaques d'impression des machines d'impression taille-douce ou les plaques d'encrage. Il s'agissait de petits perfectionnements sur de grandes machines, pouvant se révéler précieux ponctuellement.
L'on ne peut certes pas exclure que les systèmes d'impression sans essuyage et recto verso imaginés par le recourant aient une autre ampleur que les précédentes inventions, portent sur une partie de machine plus importante et/ou plus complexe, ou revêtent plus d'incidences pratiques. Il est vrai aussi que le rôle du recourant, comme mécanicien spécialisé, était au premier chef d'assurer le bon fonctionnement des machines d'impression et de remédier aux éventuels défauts et dysfonctionnements constatés à l'utilisation. L'on ne saurait pour autant en déduire que les deux découvertes réalisées sortent du cadre de l'obligation contractuelle d'activité inventive.
Le recourant était manifestement attiré par la recherche et le développement. Son activité de prédilection était d'améliorer les pièces et composants de machines. Il avait déjà participé à plusieurs inventions et souvent initié des nouveautés de façon spontanée. Il pouvait compter sur la collaboration d'autres employés et sur les moyens techniques de l'employeuse. Son salaire a notablement augmenté lorsque les premières demandes de brevets ont été déposées. Sa rémunération était plus élevée que celle perçue par plusieurs collaborateurs du bureau technique. De l'avis de l'expert judiciaire, l'augmentation de salaire remarquable enregistrée dès les premières demandes de brevet montre que l'employeuse reconnaissait les contributions de l'employé et en tenait compte généreusement dans sa rétribution; le salaire obtenu dans les années 2000-2005 atteignait un niveau tout à fait extraordinaire eu égard à la formation du recourant. Un tel salaire ne se serait jamais justifié si le recourant n'avait pas eu la charge de déployer des contributions inventives et de développement dans le cadre de son contrat de travail.
L'on peut inférer de ce qui précède que l'intimée a reconnu le potentiel inventif de l'employé et l'a rémunéré en conséquence, tout en faisant en sorte qu'il puisse exercer au mieux son activité inventive en mettant des moyens à sa disposition. Si réellement l'obligation de recherche du recourant avait dû se confiner à apporter de petits perfectionnements sur des détails pratiques, l'on concevrait mal que l'intimée ait accordé une telle rémunération au recourant, sachant par ailleurs que les brevets précédemment déposés grâce à l'activité inventive du recourant n'avaient en fin de compte qu'une valeur très relative. Il n'apparaît pas que ceux-ci aient eu pour l'intimée une incidence particulière au niveau commercial, ou même simplement pratique.
En bref, même si le recourant a peut-être conçu des développements plus conséquents que les inventions réalisées jusque-là, il faut admettre que ces découvertes, qui n'avaient rien de révolutionnaire, s'inscrivent encore dans le champ de l'obligation contractuelle inventive.
Le recourant objecte que l'intimée, dans son courrier du 13 janvier 2003, se disait prête à lui accorder pour ses travaux une rémunération équitable "comme le prévoit la loi". Il faudrait y voir un aveu de ce que les inventions sortiraient du champ contractuel, puisque la "rétribution spéciale équitable" de l'art. 332 al. 4 CO concerne précisément les inventions faites dans l'exercice de l'activité professionnelle, mais en dehors du champ des obligations contractuelles.
La Cour d'appel n'indique pas clairement si l'obligation de déployer une activité inventive découle d'une volonté réelle concordante des parties, dégagée par l'interprétation dite subjective, ou d'une volonté présumée, déterminée par interprétation objective en recourant au principe de la confiance. Quoi qu'il en soit, il faut constater que l'interprétation subjective ressortit à l'appréciation des preuves, que le Tribunal fédéral ne peut examiner que sous l'angle de l'arbitraire (ATF 132 III 626 consid. 3.1). Or, le recourant n'a pas soulevé un tel grief, de sorte qu'il n'y a pas à examiner si la cour a méconnu la portée de ce courrier. Quant à l'interprétation objective, elle exclut de prendre en compte des circonstances postérieures à la conclusion de l'obligation contractuelle (ATF 118 II 365 consid. 1). Le courrier litigieux ayant été rédigé après la conception des inventions, il est sans pertinence dans l'optique d'une interprétation objective.
3.6 En définitive, les cours cantonales n'ont pas enfreint le droit fédéral en considérant que les deux systèmes d'impression sans essuyage et recto verso conçus par le recourant étaient des inventions de service au sens de l'art. 332 al. 1 CO et que comme telles, elles étaient acquises à l'employeuse, ne conférant pas à l'employé d'autre droit que celui de se voir désigné comme inventeur dans le cadre d'un brevet.
4. Le recourant soutient qu'il aurait droit à une rétribution spéciale pour les sept inventions de service qui ont donné lieu à un brevet.
4.1 Lorsque l'employé fait une invention de service au sens de l'art. 332 al. 1 CO, la loi ne prévoit pas de rémunération autre que le salaire. Certains auteurs admettent qu'une indemnité spéciale peut devoir être allouée au travailleur lorsque les efforts déployés excèdent ce qu'on pouvait raisonnablement attendre de lui, ou lorsque son invention est dotée d'une valeur économique particulièrement élevée que les parties ne pouvaient pas prévoir lorsqu'elles ont fixé le salaire (MANFRED REHBINDER, Berner Kommentar, 1992, n° 8 ad art. 332 CO, et STAEHELIN/VISCHER, op. cit., n° 11 ad art. 332 CO, qui se réfèrent tous à un arrêt saint-gallois publié in JAR 1989 193 consid. 3). D'autres auteurs, non sans critiquer la solution légale, sont d'avis que le législateur a pris en compte ce problème et que de lege lata, l'employeur n'a pas à rétribuer spécialement l'employé, sauf disposition contractuelle spéciale (RÉMY WYLER, Droit du travail, 2e éd. 2008, p. 375 spéc. note infrapaginale 1330; PORTMANN, op. cit., p. 76 s.).
4.2 En l'occurrence, le recourant ne s'attache pas à démontrer que les conditions posées par la doctrine et la jurisprudence cantonale précitées seraient réalisées. Il se contente de procéder à des comparaisons avec le salaire de F._. Cet élément n'est pas pertinent; le seul fait qu'un autre collaborateur touche une rémunération plus élevée n'implique pas nécessairement que l'inventeur a déployé une activité excédant ce que l'on pouvait raisonnablement attendre de lui.
Il s'ensuit le rejet du grief, sans qu'il soit nécessaire d'examiner plus avant si une rétribution spéciale devrait exceptionnellement être allouée à l'employé qui fait une invention de service.
5. 5.1 Le recourant reproche enfin à la Cour d'appel d'avoir refusé à tort de reconnaître l'existence d'un congé abusif. Outre un grief de fait, il fait valoir une violation de l'art. 336 CO.
5.2 La Cour d'appel fait en substance les constatations suivantes: le recourant savait que le projet "..." devait se développer "en dehors" de l'intimée. En adhérant à de telles modalités, le recourant a adopté un comportement déloyal vis-à-vis de l'intimée. Il n'est pas établi que celle-ci ait eu connaissance dudit projet avant le 30 août 2005. Rien ne permet de retenir que le motif invoqué pour justifier le licenciement serait un prétexte, ni d'ailleurs que le congé aurait été donné parce que l'employé faisait valoir des prétentions découlant du contrat. En bref, le licenciement n'est pas abusif.
5.3 Le recourant nie avoir eu connaissance du fait que l'intimée devait être tenue à l'écart du développement du projet. Pour réfuter cette constatation soi-disant arbitraire, il développe une argumentation appellatoire, sans discuter l'appréciation des preuves opérée par les juges cantonaux; il se contente d'objecter qu'il s'est adressé au président du conseil d'administration de son employeuse et qu'il ignorait que cette personne chercherait à faire des opérations pour son propre compte.
Il est constant que le recourant s'est adressé au président de l'organe précité et que cet interlocuteur, lors de la réunion du 18 décembre 2000, n'a pas explicitement déclaré son intention de commercialiser l'invention pour son propre compte. Cela n'enlève rien au fait que le recourant a été informé de ce que le développement du projet devait se faire en dehors de l'employeuse. Il était ainsi à même de comprendre que celle-ci ne pourrait pas tirer profit du projet; or, il s'est accommodé des modalités de développement envisagées par le président du conseil d'administration. Le recourant ne cherche pas non plus à démontrer en quoi il serait arbitraire de retenir que le motif réel du congé ne résidait pas dans les prétentions émises pour ses inventions, mais dans la découverte du rapport "...". Il ne discute pas les arguments développés par la Cour civile et repris par la Cour d'appel pour établir le motif du congé. Il n'y a ainsi pas matière à s'écarter de l'état de fait retenu par cette autorité.
Pour le surplus, le recourant lie le grief de violation de l'art. 336 CO à son moyen de fait. Il ne conteste pas que l'adhésion en connaissance de cause à un projet dont le développement ne devait pas profiter à l'employeuse constitue un motif de congé valable. Il n'y a dès lors pas à discuter cette question plus avant.
6. En définitive, les deux recours sont rejetés dans la mesure où ils sont recevables.
En conséquence, le recourant assumera les frais judiciaires et versera à l'intimée une indemnité à titre de dépens (art. 66 et art. 68 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Les causes 4A_691/2011 et 4A_415/2012 sont jointes.
2. Les recours sont rejetés dans la mesure où ils sont recevables.
3. Les frais judiciaires, arrêtés à 10'000 fr., sont mis à la charge du recourant.
4. Le recourant versera à l'intimée une indemnité de 12'000 fr. à titre de dépens.
5. Le présent arrêt est communiqué aux mandataires des parties ainsi qu'à la Cour civile et à la Cour d'appel civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 6 novembre 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Monti