Faits:
A. A.a Y._ AG en tant que bailleresse et X._ en tant que locataire sont liés par trois contrats de bail à loyer conclus en 1979 concernant divers locaux d'un même immeuble sis à la rue ... à Lausanne. Deux des baux portent respectivement sur un studio au troisième étage et sur deux studios au deuxième étage; le troisième bail inclut une surface commerciale (restaurant), un appartement de deux pièces, un local d'économat, une buanderie et une cave en sous-sol.
Le 14 novembre 2008, la gérante de l'immeuble a sommé le locataire de s'acquitter dans les trente jours du loyer de l'établissement pour le mois de novembre, par 11'476 fr., faute de quoi le bail serait résilié en application de l'art. 257d CO. Ce montant a été payé le 3 décembre 2008.
Le 15 décembre 2008, la gérante a sommé le locataire de s'acquitter dans les trente jours du loyer de l'établissement pour le mois de décembre, par 11'476 fr., faute de quoi le bail serait résilié en application de l'art. 257d CO.
Le 15 janvier 2009, la gérante a sommé le locataire de s'acquitter dans les trente jours du loyer de l'établissement pour le mois de janvier, par 11'476 fr., faute de quoi le bail serait résilié en application de l'art. 257d CO.
Un montant de 11'476 fr. a été payé le 19 janvier 2009. Il a été imputé sur le loyer du mois de décembre 2008.
Par courrier du 9 février 2009, l'avocat du locataire a avisé la gérante de l'immeuble que son client envisageait de remettre l'établissement à un tiers disposé à entreprendre d'importantes transformations. Il demandait à ce que la bailleresse remette en état les installations électriques de l'établissement public, la ventilation et les issues de secours, comme il l'avait déjà requis à la fin de l'année 2008.
Le 16 février 2009, la gérante de l'immeuble a sommé le locataire de s'acquitter dans les trente jours du loyer de l'établissement pour le mois de février, par 11'476 fr., ainsi que des loyers des studios, par 735 fr. et 872 fr., faute de quoi le bail serait résilié en application de l'art. 257d CO. Les trois sommations ont été notifiées au locataire le 25 février 2009.
Le 2 mars 2009, le locataire a payé les sommes de 872 fr., 735 fr. et 11'476 fr. Elles ont été imputées aux loyers de janvier 2009.
Bailleresse et locataire se sont rencontrés le 15 avril 2009. Celui-ci a proposé que celle-là prenne à sa charge les travaux de remise en état, ou que lui-même renonce au bail moyennant le versement de 300'000 fr. pour compenser en partie la perte de son fonds de commerce. Le 29 avril 2009, la bailleresse a refusé d'entrer en matière. Elle a annoncé que vu les loyers impayés, elle allait résilier le bail.
A.b Par formules officielles du 30 avril 2009, notifiées le 8 mai 2009, la bailleresse, en application de l'art. 257d CO, a résilié chacun des trois baux avec effet au 30 juin 2009 pour non-paiement du loyer de février 2009. Le 2 juillet 2009, elle a saisi le Juge de paix de Lausanne d'une requête d'expulsion.
Auparavant, soit le 20 mai 2009, le locataire avait saisi la Commission de conciliation en matière de baux à loyer du district de Lausanne. Il demandait le paiement immédiat par la bailleresse du montant de 300'000 fr. avec intérêts à 7% l'an dès le 1er mai 2009, une réduction de loyer de 9'732 fr. pour l'établissement public, la libération en sa faveur des loyers consignés et l'annulation pure et simple de la résiliation de bail du 30 avril 2009.
Par décision du 5 janvier 2010, la Commission de conciliation a constaté l'échec de la conciliation s'agissant de la requête en paiement de 300'000 fr. Elle a pour le surplus décidé que les loyers étaient valablement consignés, que la bailleresse devait procéder à la remise en état des installations défectueuses dans un délai échéant le 31 mai 2010 et que les loyers consignés étaient immédiatement libérés à raison de 50'000 fr. en faveur du locataire à titre d'indemnité, le solde revenant à la bailleresse.
A l'audience du Juge de paix du 6 janvier 2010, la bailleresse a retiré sa requête d'expulsion. Deux jours plus tard, soit le 8 janvier 2010, elle a réintroduit une requête d'expulsion.
A.c Le 29 janvier 2010, le locataire a adressé au Tribunal des baux du canton de Vaud une requête en annulation de la résiliation de bail. Le dossier a été transmis au Juge de paix saisi de la requête d'expulsion. Par ordonnance du 17 mars 2010, le Juge de paix a considéré que les résiliations des baux litigieux constituaient des congés de représailles (art. 271a al. 1 let. a CO); il a en conséquence annulé les congés au motif qu'ils étaient abusifs. Saisie par la bailleresse, la Chambre des recours du Tribunal cantonal vaudois a confirmé cette décision par arrêt du 20 juillet 2010.
La bailleresse a interjeté un recours en matière civile au Tribunal fédéral. Statuant le 29 octobre 2010, la cour de céans a annulé l'arrêt de la Chambre des recours et renvoyé la cause à cette autorité. Relevant qu'il n'y avait rien d'abusif à ce qu'un bailleur résilie le bail d'un locataire qui ne paie plus son loyer même si ces deux parties sont en litige, elle a constaté que l'arrêt cantonal ne contenait aucune constatation de fait relative aux arriérés de loyers, au paiement ou à la consignation des loyers ou encore à une éventuelle compensation, si bien qu'elle n'était pas en mesure d'examiner l'application des art. 257d CO et 271 CO (4A_468/2010).
B. Le 2 février 2011, la Chambre des recours a annulé l'ordonnance du Juge de paix du 17 mars 2010 et lui a renvoyé la cause pour nouvelle décision. Le 19 mai 2011, le Juge de paix a ordonné au locataire de quitter tous les locaux loués pour le 25 juillet 2011 à midi.
Le locataire a déféré cette décision à la Cour d'appel civile du Tribunal cantonal qui, dans un arrêt du 1er septembre 2011, a confirmé l'ordonnance d'expulsion et renvoyé la cause au Juge de paix pour qu'il fixe un nouveau délai pour libérer les locaux.
C. Le locataire (ci-après: le recourant) interjette un recours en matière civile auprès du Tribunal fédéral. Il conclut à l'annulation de l'ordonnance rendue le 19 mai 2011 par le Juge de paix et au rejet de la requête d'expulsion du 8 janvier 2010. La bailleresse (ci-après: l'intimée) conclut au rejet du recours. Il n'a pas été ordonné de second échange d'écritures; chacune des deux parties a néanmoins déposé des observations. Par ordonnance du 9 novembre 2011, la présidente de la cour de céans a accordé l'effet suspensif au recours.
Considérant en droit:
1. L'arrêt attaqué a été rendu sur appel par le tribunal supérieur du canton dans une cause civile; la valeur litigieuse, qui équivaut à au moins trois ans de loyer (cf. ATF 137 III 389), est de l'ordre du demi-million. La voie du recours en matière civile est partant ouverte (cf. art. 72 al. 1, 74 al. 1 let. a et 75 al. 2 LTF).
2. Le recourant se plaint de ce que l'ordonnance du Juge de paix ne contient pas un état de fait distinct des considérants de droit et opère ainsi un amalgame entre les questions de fait et de droit, si bien qu'il aurait été empêché d'exercer valablement un appel pour constatation inexacte des faits au sens de l'art. 310 let. b CPC. Il y voit une violation de cette dernière disposition et, partant, une violation du droit d'être entendu (art. 29 Cst.) et de la prohibition de l'arbitraire (art. 9 Cst.).
2.1 Seule la décision d'appel est attaquable devant la cour de céans (art. 75 LTF; ATF 137 III 417 consid. 1.2; 134 III 524 consid. 1.3). Le recourant ne peut dès lors pas s'en prendre directement à la décision de première instance.
2.2 Les procédures en cours à l'entrée en vigueur du Code de procédure civile fédéral sont régies par l'ancien droit de procédure cantonal jusqu'à la clôture de l'instance (art. 404 al. 1 CPC). La doctrine est divisée sur la question de savoir si l'ancien droit cantonal s'applique aussi en cas de renvoi de la cause à l'autorité dont la décision finale clôturant l'instance a été annulée par l'autorité de recours à une date postérieure à l'entrée en vigueur du CPC. Denis Tappy répond par l'affirmative (TAPPY, in Code de procédure civile commenté, 2011, n° 20 ad art. 404 CPC), tandis qu'Ivo Schwander plaide pour l'application du nouveau droit (SCHWANDER, in Schweizerische Zivilprozessordnung (ZPO), DIKE-Kommentar, 2011, n° 29 ad art. 404 CPC, qui réserve toutefois le cas où le renvoi est dû à une application erronée de l'ancien droit de procédure cantonal). Andreas Frei et Daniel Willisegger estiment quant à eux que pour des motifs de coordination, le juge de renvoi doit appliquer le même droit de procédure que l'autorité de recours qui lui retourne la cause (FREI/WILLISEGGER, in Basler Kommentar, Schweizerische Zivilprozessordnung, 2010, n° 13 ad art. 404 CPC); le droit applicable après renvoi serait ainsi celui qui était en vigueur au moment de la communication de la décision annulée et qui a déterminé la procédure de recours (art. 405 al. 1 CPC).
L'annulation de la décision ayant mis fin à la procédure devant l'instance et le renvoi de la cause à cette instance pour nouvelle décision ont pour effet de reporter la procédure au stade où elle se trouvait immédiatement avant que cette instance se prononce. L'autorité de renvoi ne se trouve pas saisie d'une nouvelle procédure, mais reprend la précédente procédure qui n'est pas close, faute de décision finale. Il découle de l'art. 404 CPC que l'ancien droit de procédure reste applicable y compris après un renvoi; à cet égard, il importe peu qu'il n'y ait jamais eu de décision finale, ou qu'une décision finale ait été rendue, puis annulée.
Comme le relèvent Frei et Willisegger, l'autorité saisie d'un recours contre une décision rendue en application de l'ancien droit de procédure cantonal peut être amenée à appliquer le CPC (cf. art. 405 al. 1 CPC; ATF 137 III 127 consid. 1). Sont concernées en premier lieu les règles régissant la voie de recours; or, le fait que l'autorité de recours annule la décision de l'instance inférieure dans le cadre d'une voie de droit régie par la nouvelle loi n'empêche nullement l'instance de renvoi de continuer à procéder selon l'ancien droit. Le problème de coordination évoqué par ces auteurs ne se poserait que dans l'hypothèse où l'autorité de recours compléterait l'instruction au fond selon les règles du nouveau droit avant de renvoyer la cause; dans la mesure du possible, elle devrait alors éviter une telle situation en renonçant à compléter l'instruction dans des causes qu'elle n'entend pas garder à juger.
En l'espèce, le Juge de paix a été saisi de la cause en 2010, à l'époque où l'ancien droit cantonal de procédure était encore applicable. De même, la Chambre des recours a été saisie en 2010 par une voie de droit de l'ancienne procédure cantonale. Suite à l'arrêt de la cour de céans, la Chambre des recours a rendu une nouvelle décision le 2 février 2011, par laquelle elle a annulé l'ordonnance du Juge de paix et lui a retourné la cause. Peu importe que cette décision cassatoire et de renvoi soit intervenue après l'entrée en vigueur du CPC; dans la mesure où la procédure devant le Juge de paix faisait suite à l'annulation de la première ordonnance rendue en 2010, elle restait régie par l'ancien droit de procédure cantonal (cf. aussi arrêt 4A_225/2011 du 15 juillet 2011 consid. 2.2).
2.3 Comme la Cour d'appel l'a retenu à bon escient, l'ancien droit cantonal régissait la procédure devant le Juge de paix; il déterminait en particulier comment l'ordonnance de cette autorité devait être motivée, sous réserve des exigences minimales découlant du droit constitutionnel d'être entendu. Dans la mesure où le recourant entendrait se plaindre de ce que la Cour d'appel n'a pas examiné la motivation de l'ordonnance à la lumière du CPC, le grief serait donc d'emblée infondé. Au demeurant, l'art. 310 CPC se rapporte aux motifs d'appel; on ne discerne pas en quoi il déterminerait la façon de motiver la décision dont est appel.
La Cour d'appel a retenu que la motivation de l'ordonnance du juge de paix était régie par l'art. 15 al. 2 LPEBL/VD (loi du 18 mai 1955 sur la procédure d'expulsion en matière de baux à loyer et à ferme) et par l'art. 354 CPC/VD, et elle a jugé que les exigences découlant de ces dispositions de droit cantonal avaient été respectées. La cour de céans peut revoir l'application du droit cantonal uniquement sous l'angle d'une violation de l'interdiction constitutionnelle de l'arbitraire (art. 95 LTF e contrario; ATF 133 III 462 consid. 2.3), et pour autant qu'un tel grief soit expressément soulevé et motivé (art. 106 al. 2 LTF; ATF 134 I 83 consid. 3.2). Cette dernière condition n'est pas remplie en l'espèce; il n'y a pas à entrer en matière.
Le droit d'être entendu comporte notamment l'obligation pour le juge de motiver sa décision, afin que ses destinataires et toutes les personnes intéressées puissent la comprendre et l'attaquer utilement en connaissance de cause s'il y a lieu, et qu'une instance de recours soit en mesure, si elle est saisie, d'exercer pleinement son contrôle (ATF 135 III 513 consid. 3.6.5; 133 I 270 consid. 3.1). Le recourant ne démontre toutefois pas concrètement en quoi il aurait été empêché, contrairement à ce qu'a jugé la Cour d'appel, de comprendre et d'attaquer utilement l'ordonnance du Juge de paix; pour satisfaire aux exigences de motivation du recours en matière civile, il ne suffit pas d'affirmer que le justiciable "aurait pu bien mieux exercer son appel" si le premier juge avait distingué l'état de fait des considérants de droit (cf. art. 42 al. 1 et art. 106 al. 2 LTF; ATF 134 II 244 consid. 2).
Dans ce cadre, le recourant reproche encore au Juge de paix de ne pas avoir suffisamment instruit la cause. Un tel moyen ne concerne pas la motivation de l'ordonnance. Quoi qu'il en soit, il n'est pas suffisamment développé; le recourant se limite à des affirmations et ne démontre pas en quoi les motifs invoqués par la Cour d'appel pour rejeter son grief seraient erronés.
3. Le recourant s'en prend à l'état de fait retenu par l'autorité cantonale. Il soutient que le loyer de décembre 2008 était déjà payé lorsqu'il a effectué son versement du 19 janvier 2009, de sorte que celui-ci aurait dû être imputé sur le loyer de janvier 2009 (et non de décembre 2008); de même, le versement du 2 mars 2009 aurait dû être porté en déduction du loyer de février 2009 (et non de janvier 2009).
3.1 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF); en tant que cour suprême, il est instance de révision du droit et non pas juge du fait. Il peut certes rectifier ou compléter les faits s'ils ont été établis de façon manifestement inexacte, notion qui correspond à l'arbitraire, ou en violation du droit au sens de l'art. 95 LTF, ce pour autant que correction soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 et art. 105 al. 2 LTF). Néanmoins, cette exception à la règle selon laquelle le Tribunal fédéral ne revoit pas les faits ne permet pas aux parties de rediscuter dans leurs mémoires les faits de la cause comme si elles plaidaient devant un juge d'appel. La partie recourante qui entend faire rectifier ou compléter un fait doit expliquer de manière circonstanciée en quoi les conditions pour le faire seraient réalisées (ATF 133 IV 286 consid. 6.2); dans la mesure où le grief a trait au caractère arbitraire de l'établissement des faits, les exigences de motivation sont celles, plus strictes, de l'art. 106 al. 2 LTF (ATF 133 II 249 consid. 1.4.3 p. 255).
3.2 Sur le point litigieux, la Cour d'appel a retenu ce qui suit : Le recourant "ne conteste toutefois pas que le loyer du mois de janvier 2009, qui avait fait l'objet d'une sommation le 15 janvier 2009, n'avait pas été réglé et ne prétend pas avoir utilisé, pour effectuer le versement du 2 mars 2009, un ordre de paiement fourni par l'intimée indiquant que celui-ci couvrait le mois de février 2009, ni avoir lui-même indiqué dans ledit ordre le mois de loyer que celui-ci devait couvrir". Et d'en déduire qu'en application des art. 86 et 87 CO, le paiement devait être imputé sur la première dette exigible, soit celle du loyer de janvier 2009.
Dans le présent recours, le recourant, qui supporte le fardeau de la preuve pour le paiement du loyer, ne démontre ni même n'allègue que la Cour d'appel aurait émis une constatation arbitraire en retenant qu'il n'avait pas contesté le défaut de paiement du loyer de janvier; la cour de céans est donc liée par un tel fait. Or, en se fondant sur un aveu judiciaire du recourant, la Cour d'appel n'est pas tombée dans l'arbitraire. Cela scelle le sort du grief.
Au demeurant, le recourant se fonde sur une phrase de l'arrêt attaqué qu'il isole de son contexte pour en déduire que le loyer de décembre 2008 était payé. La Cour d'appel constate certes que le recourant s'est toujours acquitté à temps du loyer jusqu'à la fin de l'année 2008; mais immédiatement ensuite, elle relève qu'il a été sommé de payer les arriérés de loyers de novembre et de décembre 2008 sous menace de résiliation. La première phrase ne saurait donc être comprise dans le sens que tous les loyers de l'année 2008 auraient été payés à temps et qu'en particulier celui de décembre aurait déjà été payé lors du versement du 15 janvier 2009.
Le recourant relève ensuite de prétendues inexactitudes dans le décompte de l'intimée, qui porteraient sur quelques centaines de francs et qui le rendraient dès lors suspect. A supposer que le recourant ait raison, on ne saurait pour autant en déduire que le loyer de décembre 2008 a été versé avant le 15 janvier 2009.
Les deux griefs évoqués ci-dessus visent le loyer du restaurant, qui était seul concerné par le décompte contesté; le recourant ne soulève aucun moyen relatif à l'arriéré des loyers des trois studios. L'arrêt attaqué retient que les loyers de février afférents à ces locaux n'ont été payés que le 5 mai 2009, ce qui revient à constater, d'une façon qui lie la cour de céans, que les loyers de janvier n'étaient pas payés lorsque le recourant a effectué le versement du 2 mars 2009.
En résumé, les faits sur la base desquels la Cour d'appel a fait application des art. 86 et 87 CO ne prêtent pas à critique sous l'angle de l'arbitraire.
4. Le recourant reproche à la Cour d'appel de ne pas avoir complété les faits de manière exhaustive; elle aurait ainsi omis de constater que le bail concernant le restaurant datait aussi de 1979 et qu'en trente ans, il avait versé environ 4'500'000 fr. de loyers, qu'il s'était plaint de défauts de la chose louée à de nombreuses reprises à la fin de l'année 2008 et qu'il avait une option pour prolonger le bail de cinq ans, ainsi qu'un droit à une indemnité forfaitaire de 300'000 fr. en cas d'impossibilité d'exercer l'option.
L'arrêt attaqué constate que le bail relatif à l'établissement public a été conclu en 2001, alors que le dossier contient effectivement un contrat plus ancien datant de 1979. Pour le surplus, l'arrêt retient que le locataire, soit le recourant, s'était plaint à la fin de l'année 2008 des installations électriques, de la ventilation et des issues de secours insuffisantes, sans toutefois préciser que ces éléments avaient fait l'objet de plusieurs courriers de la part du recourant, ce dont on peut lui donner acte. Quoi qu'il en soit, tous ces faits ne sont pas pertinents pour juger du caractère licite de la résiliation litigieuse intervenue pour défaut de paiement du loyer (cf. infra consid. 6 et 7).
5. Sous le titre "absence de clarté de la situation imputable à la bailleresse", le recourant se plaint d'une mauvaise application de l'art. 257d CO dans le sens que l'avis comminatoire du 16 février 2009 aurait manqué de clarté.
Aux termes de l'art. 257d CO, lorsque, après réception de la chose, le locataire a du retard pour s'acquitter d'un terme ou de frais accessoires échus, le bailleur peut lui fixer par écrit un délai de paiement et lui signifier qu'à défaut de paiement dans ce délai il résiliera le bail. Ce délai sera de dix jours au moins et, pour les baux d'habitations ou de locaux commerciaux, de 30 jours au moins (al. 1). Faute de paiement dans le délai fixé, le bailleur peut résilier le contrat avec effet immédiat; les baux d'habitations et de locaux commerciaux peuvent être résiliés moyennant un délai de congé minimum de 30 jours pour la fin d'un mois (al. 2). Il est reconnu en jurisprudence et en doctrine que l'avis comminatoire doit indiquer le montant impayé de façon suffisamment claire et précise. Une indication chiffrée n'est pas indispensable; il suffit que l'objet de la mise en demeure soit déterminable sans discussion, par exemple avec une désignation précise des mois de loyers impayés (arrêt 4C.123/2000 du 14 juin 2000 consid. 3b, CdB 2000 109; PIERRE WESSNER, in Droit du bail à loyer, 2010, n° 17 ad art. 257d CO; DAVID LACHAT, Le bail à loyer, 2008, p. 666; PETER BURKHALTER/EMMANUELLE MARTINEZ-FAVRE, Le droit suisse du bail à loyer, Commentaire SVIT, 2011, n° 26 ad art. 257d CO).
En l'espèce, il n'est pas contesté que les avis comminatoires du 16 février 2009 se référaient expressément aux loyers de février 2009 et indiquaient clairement les montants dus, ainsi que le délai de paiement de trente jours et la menace de résiliation en cas de défaut de paiement; sur ces points, il ne subsistait aucune ambiguïté, ce que le recourant ne conteste d'ailleurs pas. Ce dernier estime néanmoins que les avis manquaient de clarté parce qu'ils ne contenaient pas la précision supplémentaire que le loyer pour le mois de janvier était toujours impayé; il en déduit qu'il pouvait de bonne foi considérer qu'il était à jour dans le paiement des loyers des mois antérieurs à celui de février 2009.
Le recourant ne saurait être suivi. L'avis comminatoire n'a pas à contenir d'autres indications que celles prévues à l'art. 257d CO. Il doit clairement indiquer au locataire la dette dont le défaut de paiement dans les trente jours est susceptible d'entraîner la résiliation du bail, afin qu'il puisse éviter une résiliation immédiate en payant cette dette déterminée; l'avis n'a en revanche pas à répertorier d'éventuelles autres dettes du locataire envers le bailleur qui ne font pas l'objet de la sommation.
Au demeurant, le recourant ne saurait invoquer la bonne foi. Pour les loyers de novembre 2008, décembre 2008, janvier 2009 et février 2009, il a reçu quatre avis comminatoires successifs respectivement datés du 14 novembre 2008, 15 décembre 2008, 15 janvier 2009 et 16 février 2009. Durant les quatre délais de paiement de trente jours successivement fixés dans ces avis, il n'a effectué que trois versements correspondant chacun au loyer d'un mois, à savoir les 3 décembre 2008, 19 janvier 2009 et 2 mars 2009. Au moment d'effectuer ce dernier versement, il ne pouvait donc raisonnablement pas penser qu'il était quitte de payer le loyer de janvier 2009, alors qu'il n'avait jusque-là effectué que deux versements de loyer mensuel en réponse à trois sommations portant sur les loyers de novembre, décembre et janvier.
6. Le recourant soutient que le congé a été donné parce qu'il s'était plaint de défauts et invoque une violation des art. 271 et 271a al. 1 let. a CO; le premier prévoit qu'un congé est annulable lorsqu'il contrevient aux règles de la bonne foi et le second précise que tel est en particulier le cas lorsque le congé est donné parce que le locataire fait valoir de bonne foi des prétentions découlant du bail (congé de représailles). Le recourant reproche à la Cour d'appel de ne pas avoir examiné cette question en prétextant à tort que celle-ci avait été définitivement tranchée par l'arrêt de la cour de céans du 29 octobre 2010 (4A_468/2010).
Le juge auquel la cause est renvoyée voit sa cognition limitée par les motifs de l'arrêt de renvoi, en ce sens qu'il est lié par ce qui a déjà été jugé définitivement par le Tribunal fédéral (ATF 135 III 334 consid. 2 et 2.1). Dans l'arrêt du 29 octobre 2010, la cour de céans a d'abord rappelé qu'un congé donné conformément à l'art. 257d CO ne pouvait être annulé en vertu de l'art. 271a al. 1 let. a CO que dans des circonstances tout à fait exceptionnelles; puis elle a constaté que de telles circonstances n'étaient pas établies dans le cas concret et que les congés litigieux ne sauraient être annulés au motif qu'ils constitueraient des congés de représailles. La question du congé-représailles était ainsi définitivement tranchée; c'est à bon droit que la Cour d'appel a jugé ne plus pouvoir s'en saisir. Si cette dernière a été invitée à compléter l'instruction, c'était uniquement sur les questions nécessaires pour examiner l'application de l'art. 257d CO.
7. Le recourant se plaint de ce que le montant impayé n'a pas été considéré comme insignifiant. Il entend manifestement soutenir que pour ce motif, le congé était contraire aux règles de la bonne foi et partant annulable (cf. art. 271 CO).
Il est admis que le congé prononcé conformément à l'art. 257d CO peut, à titre très exceptionnel, contrevenir aux règles de la bonne foi, par exemple lorsque le montant impayé est insignifiant. Le caractère insignifiant a été retenu par exemple pour les intérêts moratoires dus sur un terme arriéré, mais non pas pour un montant de 286 fr. représentant environ le tiers d'un loyer mensuel (ATF 120 II 31 consid. 4b). La notion doit être interprétée très restrictivement, afin de ne pas mettre en question le droit du bailleur à recevoir le loyer à l'échéance.
En l'espèce, le montant impayé correspond à un loyer mensuel. Or, un loyer mensuel, indépendamment de son montant, ne saurait être qualifié d'insignifiant, c'est-à-dire dérisoire, infime; l'art. 257d CO prévoit d'ailleurs expressément la possibilité de résilier le bail lorsque le retard du locataire porte sur "un terme". Le fait que le locataire loue l'objet depuis longtemps - en l'espèce un peu plus de trente ans - et qu'il a en conséquence versé durant cette période un montant important à titre de loyer n'y change rien; le bailleur, qui doit le cas échéant aussi faire face à des obligations, a le droit d'obtenir le loyer à temps, y compris de la part de locataires de longue date.
8. Le recourant objecte que la résiliation est annulable parce qu'elle est intervenue trop longtemps après l'expiration du délai comminatoire. L'avis comminatoire du 16 février 2009 a été notifié au recourant le 25 février, si bien que le délai de trente jours est venu à échéance le 27 mars; le congé a été donné le 30 avril.
Le bailleur n'est pas tenu de résilier immédiatement le bail, sitôt le délai comminatoire expiré. Il n'est pas réputé avoir renoncé à donner le congé s'il attend quelque peu, en particulier s'il a une raison fondée d'attendre. Mais il ne saurait trop tarder; une résiliation qui interviendrait de nombreux mois après l'expiration du délai comminatoire peut, selon les circonstances, apparaître abusive (LACHAT, op. cit., p. 669). En l'espèce, la résiliation est intervenue après un mois, et avant que le recourant ne verse le loyer impayé; elle n'est pas sujette à critique. Elle l'est d'autant moins que selon les constatations de la Cour d'appel qui lient la cour de céans, les parties ont été en pourparlers durant cette période.
Le recourant se réfère à un arrêt non publié (4A_366/2008 du 25 novembre 2008), également invoqué par la Cour d'appel. La cour de céans y dit certes que le bailleur a laissé s'écouler près de trois semaines entre l'expiration du délai comminatoire et la résiliation du bail, que cette inaction est longue, qu'elle correspond probablement à la limite de ce qui peut être admis, au regard des règles de la bonne foi, comme exempt d'équivoque et qu'une inaction plus longue encore pourrait être comprise, sauf circonstances particulières, comme une renonciation à résilier le bail. Mais dans cette cause, le locataire avait versé le montant dû le jour ouvrable suivant l'échéance du délai comminatoire, et la résiliation du bail était intervenue dix-huit jours après ce paiement. La situation n'est donc nullement comparable à celle de la présente cause, où le congé a été donné avant le paiement des montants dus, paiement intervenu seulement les 5 mai (loyers des studios) et 15 mai (loyer de l'établissement, versé par l'office des poursuites), selon les constatations de la Cour d'appel.
9. Le recourant soutient enfin que postérieurement à la résiliation litigieuse du 30 avril 2009, le bail a été tacitement reconduit. Il en veut pour preuve que, d'une part, l'intimée a retiré à l'audience du 6 janvier 2010 la requête d'expulsion qu'elle avait présentée le 2 juillet 2009 et, d'autre part, qu'elle a accepté sans émettre de réserves les paiements ou consignations des loyers intervenus après la résiliation litigieuse.
L'intimée a retiré sa requête d'expulsion lors de l'audience du 6 janvier 2010 et a réintroduit une requête d'expulsion le 8 janvier 2010, soit seulement deux jours plus tard. Les motifs d'un tel procédé ne ressortent pas de l'arrêt attaqué; il n'a en particulier pas été constaté que l'intimée avait retiré la requête parce qu'elle avait, à ce moment-là, subjectivement l'intention de renoncer à l'expulsion du recourant et de maintenir le bail; il n'apparaît pas non plus qu'elle ait communiqué une telle intention au recourant. La question est dès lors de savoir si le recourant a interprété le retrait de la requête d'expulsion le 6 janvier 2010 comme une reconduction tacite du bail et si, en fonction de l'ensemble des circonstances, il pouvait de bonne foi tirer cette conclusion. Il ne ressort pas de l'état de fait que le recourant a compris le retrait comme une reconduction; qu'il ait quelques jours plus tard conclu à l'annulation des résiliations, par demande en justice du 29 janvier 2010, plaide plutôt dans le sens contraire. Quoi qu'il en soit, les circonstances de ce retrait du 6 janvier 2010 ne sont absolument pas connues, et le recourant n'en dit mot. Si les conditions avaient été telles que le retrait, intervenu lors d'une audience judiciaire, pouvait de bonne foi être compris comme une reconduction du bail mettant définitivement fin au litige sur cette question, on peut raisonnablement admettre que le recourant ou le juge aurait fait préciser ce point par l'intimée et, le cas échéant, l'aurait fait figurer au procès-verbal; rien de tel n'a toutefois été constaté. En définitive, le recourant ne démontre pas en quoi les circonstances lors de l'audience du 6 janvier 2010 lui permettaient de retenir de bonne foi que l'intimée renonçait à la résiliation et entendait reconduire le bail.
Dès lors que le recourant continuait d'occuper les locaux de l'intimée, il devait lui verser soit le loyer, soit des dommages-intérêts correspondant en principe au montant du loyer (ATF 131 III 257 consid. 2), selon que les contrats de bail étaient encore en vigueur ou avaient été valablement résiliés. On ne saurait dès lors rien déduire en défaveur de l'intimée du fait qu'elle a accepté des versements qui lui étaient dus, à un titre ou à un autre. En outre, la procédure d'expulsion suivant son cours, elle n'avait bien évidemment pas à faire de réserve quant au motif pour lequel les versements lui étaient dus (cf. ATF 119 II 147 consid. 5).
10. Dans la mesure où il est recevable, le recours est infondé. Ensuite du rejet du recours, l'effet suspensif tombe. Le recourant supporte en conséquence les frais judiciaires et les dépens de l'intimée (art. 66 al. 1 et art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 6'000 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimée une indemnité de 7'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Cour d'appel civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 27 janvier 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Monti