Faits:
A. A.a Le 10 avril 2006, la bailleresse Fondation Y._ et le locataire X._, représenté par son tuteur, ont conclu un contrat de bail à loyer portant sur un appartement de 3 pièces situé au rez-de-chaussée d'un immeuble dans le canton de Genève.
Initialement valable du 1er juin 2006 au 31 décembre 2009, le bail était ensuite renouvelable tacitement d'année en année. Le loyer annuel s'élevait à 15'204 fr., selon dernière fixation au 1er octobre 2008.
A.b Le 19 avril 2007, la régie chargée de gérer l'immeuble a reçu une pétition signée par 13 locataires. Ceux-ci se plaignaient du fait que X._, depuis son emménagement, était souvent pris de crises de folie au cours desquelles il donnait des coups dans les murs et plafonds de son appartement. Ils lui reprochaient aussi d'être à l'origine d'odeurs insupportables, de se promener souvent saoul dans le parc, de déambuler parfois en slip dans l'entrée de l'immeuble, d'avoir des comportements agressifs envers les enfants et de leur faire peur, ainsi qu'aux femmes habitant l'immeuble.
Le 25 avril 2007, la régie a adressé un courrier au locataire concerné pour l'informer de cette pétition et des comportements qui lui étaient en substance reprochés. Elle l'a prié de respecter les règles et usages locatifs du canton en précisant qu'il était interdit d'incommoder ses voisins et qu'entre 22 heures et 7 heures, toute musique ou bruit susceptibles d'être perçus hors de l'appartement étaient prohibés. La régie a ajouté que ce courrier constituait un premier avertissement et qu'en cas de récidive, elle serait contrainte de résilier le bail.
Le 18 juin 2008, la régie a derechef reçu une pétition de 12 habitants de l'immeuble. En substance, ils se plaignaient des éléments suivants: le locataire du rez-de-chaussée avait à plusieurs reprises effrayé les enfants qui jouaient dans le parc en leur courant après et en criant. Il tendait à devenir violent lorsqu'il était énervé, comportement qui était également dû à son alcoolisme observé à plusieurs reprises. De fortes odeurs nauséabondes émanaient de son appartement. Son comportement suscitait la peur des enfants et de leurs parents. Les pétitionnaires concluaient qu'il n'était plus possible de vivre dans de telles conditions.
Le 4 juillet 2008, la régie a adressé copie de cette plainte au service du Tuteur général en se référant à leur entretien téléphonique de la veille. Elle invitait ledit service à prendre les mesures nécessaires, en rappelant qu'une pétition avait déjà été formée en 2007 et en précisant que si ce premier avertissement n'était pas respecté, elle devrait résilier le bail.
Le 15 juillet 2008, la régie a reçu un courrier de deux locataires rapportant un incident survenu le 9 juillet 2008, au cours duquel X._ avait refermé avec violence la porte d'entrée sur elles et leurs enfants, puis avait commencé à pousser des cris de dément et était rentré chez lui en démolissant presque sa porte. Les deux signataires du courrier estimaient que si une agression devait survenir, la responsabilité de la régie serait engagée.
Par courrier recommandé du 31 juillet 2008 adressé au service du Tuteur général, la régie a déclaré résilier le contrat de bail pour le 30 septembre 2008 en vertu de l'art. 257f CO.
B. B.a Le 28 août 2008, le locataire a contesté le congé auprès de la Commission de conciliation en matière de baux et loyers du canton de Genève. A l'issue de l'audience du 28 novembre 2008, la Commission a rendu un acte de non-conciliation.
Le 30 décembre 2008, le locataire a déposé une demande auprès du Tribunal des baux et loyers, dans laquelle il concluait à l'annulation du congé, subsidiairement à une prolongation de bail pour une durée de 4 ans. La bailleresse a conclu au rejet de la demande; à titre reconventionnel, elle a requis l'évacuation du locataire.
Par arrêt du 14 décembre 2009, le Tribunal des baux et loyers a déclaré irrecevable, pour cause de tardiveté, la demande principale en annulation de congé et prolongation de bail. Il a considéré que la demande reconventionnelle était recevable et que dans le cadre de cette action en évacuation, il restait possible d'examiner à titre préjudiciel la question de l'inefficacité du congé soulevée par le locataire. Statuant sur demande reconventionnelle, il a constaté la validité du congé donné pour le 30 septembre 2008, a condamné le locataire à évacuer immédiatement l'appartement loué en le laissant en bon état de propreté et a débouté les parties de toutes autres conclusions.
B.b Le locataire a porté ce jugement devant la Chambre d'appel en matière de baux et loyers. Il a conclu à ce que sa requête en annulation de congé et prolongation de bail soit jugée recevable, à ce que le congé donné pour le 30 septembre 2008 soit déclaré non valable et à ce que la bailleresse soit déboutée de ses conclusions en évacuation. La bailleresse a conclu au rejet de l'appel.
Par arrêt du 14 mars 2011, la Chambre d'appel en matière de baux et loyers a confirmé le jugement entrepris.
C. Le locataire (ci-après: le recourant) forme un recours en matière civile auprès du Tribunal fédéral. A titre principal, il conclut à ce que soit constatée la nullité de la résiliation du bail et à ce que la bailleresse (ci-après: l'intimée) soit déboutée de toute autre conclusion.
L'intimée conclut au rejet du recours. L'autorité précédente renonce à se déterminer.
Par courrier du 5 septembre 2011, le recourant demande l'octroi de l'effet suspensif.
Considérant en droit:
1. Dans les causes de droit du bail à loyer, le recours en matière civile n'est recevable que si la valeur litigieuse s'élève au moins à 15'000 fr. (art. 74 al. 1 let. a LTF). Lorsque la résiliation d'un bail de durée indéterminée est contestée, la valeur litigieuse équivaut au loyer afférent à la période minimale pendant laquelle le contrat subsiste si la résiliation n'est pas valable, période qui s'étend jusqu'à la date pour laquelle un nouveau congé peut être donné. Si la contestation émane du locataire, la durée déterminante pour le calcul de la valeur litigieuse ne saurait être inférieure à la période de trois ans pendant laquelle l'art. 271a al. 1 let. e CO consacre l'annulabilité d'une résiliation signifiée après une procédure judiciaire (ATF 136 III 196 consid. 1.1).
Eu égard au loyer annuel de 15'204 fr. d'une part et au délai de protection triennal d'autre part, le seuil de la valeur litigieuse est manifestement atteint en l'espèce.
Pour le surplus, le recours satisfait sur le principe aux autres conditions de recevabilité dès lors qu'il vise une décision finale (art. 90 LTF) rendue par un tribunal supérieur statuant en dernière instance cantonale (art. 75 LTF), émane de la partie ayant succombé devant l'autorité précédente (art. 76 al. 1 LTF) et a été déposé dans le délai et la forme prévus par la loi (art. 100 al. 1 LTF en relation avec l'art. 46 al. 1 let. a LTF, resp. art. 42 LTF).
2. 2.1 Le recours en matière civile peut être formé pour violation du droit fédéral (art. 95 let. a LTF), notion qui inclut le droit constitutionnel (ATF 136 I 241 consid. 2.1). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). N'étant pas lié par l'argumentation des parties, il s'en tient cependant, d'ordinaire, aux questions de droit que la partie recourante soulève conformément aux exigences légales relatives à la motivation du recours (art. 42 al. 2 LTF; ATF 135 III 397 consid. 1.4).
Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF). L'acte de recours doit alors contenir un exposé succinct des droits ou principes constitutionnels violés et exposer de manière claire et circonstanciée en quoi consiste leur violation (ATF 135 III 232 consid. 1.2; 134 II 244 consid. 2.2).
2.2 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les constatations de cette autorité ont été établies de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 137 I 58 consid. 4.1.2) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
S'il entend s'écarter des constatations de fait de l'autorité précédente, le recourant doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF sont réalisées. A défaut, il n'est pas possible de tenir compte d'un état de fait divergent de celui qui est contenu dans l'acte attaqué (ATF 133 II 249 consid. 1.4.3).
Au vu de ce qui précède, il n'y a pas à tenir compte du long résumé de l'état de fait auquel le recourant se livre avant d'énoncer ses griefs.
3. 3.1 Le recourant se plaint d'une violation de l'art. 257f al. 2 et 3 CO. Il soutient en substance que seul un comportement fautif du locataire pourrait autoriser la résiliation anticipée du bail pour manque d'égards envers ses voisins. Cette condition subjective devrait se déduire du fait que la loi exige la persistance du comportement du locataire après une protestation écrite du bailleur; l'art. 257f CO ne serait qu'un cas d'application de l'art. 97 CO. In casu, le comportement anormal du recourant serait dû à des troubles psychiques dont il ne serait pas responsable. Dans une telle hypothèse, la poursuite du contrat pourrait être imposée au bailleur, à tout le moins lorsque le comportement de la personne irresponsable peut être modifié par l'intervention de tiers, ce qui serait en l'occurrence le cas depuis le début de l'année 2009.
3.2 Selon l'art. 257f CO, le locataire est tenu d'avoir pour les personnes habitant la maison et les voisins les égards qui leur sont dus (al. 2). Lorsque le maintien du bail est devenu insupportable pour le bailleur ou les personnes habitant la maison parce que le locataire, nonobstant une protestation écrite du bailleur, persiste à manquer d'égards envers les voisins, le bailleur peut résilier le contrat avec effet immédiat; les baux d'habitations peuvent être résiliés moyennant un délai de congé minimum de 30 jours pour la fin d'un mois (al. 3). Ils peuvent toutefois être résiliés avec effet immédiat si le locataire cause volontairement un préjudice grave à la chose (al. 4).
Dans sa protestation écrite, le bailleur doit indiquer précisément quelle violation il reproche au locataire, afin que celui-ci puisse rectifier son comportement (PETER HIGI, Commentaire zurichois, 3e éd. 1994, n° 51 ad art. 257f CO). Selon la jurisprudence du Tribunal fédéral, le bailleur peut exceptionnellement renoncer à l'avertissement si une telle mesure apparaît d'emblée inutile (arrêt 4C.267/1994 du 10 janvier 1995 consid. 2a, in MP 1996 7; plus récent, arrêt 4A_456/2010 du 18 avril 2011 consid. 3.1 et 3.2). La doctrine majoritaire est aussi de cet avis (Commentaire-SVIT, Le droit suisse du bail à loyer, 2011, n° 42 ad art. 257f CO; TERCIER/FAVRE, Les contrats spéciaux, 4e éd. 2009, n° 2382; RICHARD PERMANN, Mietrecht, Kommentar, 2e éd. 2007, n° 8 ad art. 257f CO; cf. toutefois DAVID LACHAT, Le bail à loyer, 2008, p. 678, qui doute de l'applicabilité de l'art. 108 ch. 1 CO dès lors que l'art. 257f al. 3 CO est une règle spéciale dérogeant aux art. 107 ss CO).
Le locataire qui enfreint son devoir d'égards envers les autres occupants de l'immeuble commet une violation contractuelle. HIGI relève que le degré de faute n'importe pas et qu'un comportement négligent suffit à fonder une telle violation (HIGI, op. cit., n° 39 ad art. 257f CO). Selon le commentaire SVIT, le bailleur peut notifier un congé anticipé même au locataire incapable de discernement afin de préserver les autres locataires (Commentaire-SVIT, op. cit., n° 34 ad art. 257f CO).
L'art. 257f CO ne règle qu'une conséquence particulière de cette violation contractuelle, soit la faculté pour le bailleur de résilier le contrat de façon anticipée. Pour le surplus, les règles générales sont applicables; le bailleur peut demander la réparation du dommage subi en se fondant sur les art. 97 ss CO (HIGI, op. cit., n° 45 ad art. 257f CO; Commentaire-SVIT, op. cit., n° 29 s. ad art. 257f CO).
3.3 En l'occurrence, le recourant reproche uniquement à l'autorité cantonale d'avoir méconnu le fait que son comportement n'était pas fautif. Il ne conteste pas que les autres conditions de la résiliation anticipée de l'art. 257f CO sont réalisées. Seul le point soulevé sera dès lors examiné (art. 42 al. 2 LTF; cf. supra, consid. 2.1).
3.4 L'art. 257f al. 3 CO ne subordonne pas la résiliation anticipée du bail à l'existence d'une faute du locataire; il requiert tout au plus un comportement contrevenant aux égards dus aux autres locataires. La résiliation anticipée est destinée à rétablir une situation normale dans l'immeuble et à ménager les intérêts des autres locataires et des voisins, auxquels le bailleur doit veiller. Sa responsabilité contractuelle ou légale (art. 679 CC) peut du reste être engagée à cet égard (TERCIER/FAVRE, op. cit., n° 2380). La résiliation anticipée doit être distinguée des conséquences générales de la violation contractuelle, pour lesquelles l'art. 97 CO requiert expressément l'existence d'une faute.
L'art. 257f CO impose certes l'obligation de principe d'adresser un avertissement écrit au locataire pour lui permettre d'adapter son comportement. Il ne s'agit toutefois pas d'une condition absolue, de sorte qu'on ne saurait en déduire que la résiliation extraordinaire ne pourrait concerner qu'un locataire ayant la maîtrise de son comportement et la capacité de le modifier suite à un avertissement du bailleur. A supposer qu'un locataire soit privé de discernement en raison d'une maladie psychique et ne soit pas en mesure de contrôler son comportement, cet état ne saurait priver le bailleur de la faculté de résilier le bail de façon anticipée, mais poserait tout au plus la question de la nécessité d'un avertissement.
En l'occurrence, le recourant est placé sous tutelle sans que la cause de cette mesure soit précisée; il est en outre suivi par un psychiatre. Les témoignages concordants des occupants de l'immeuble ont attesté de comportements "anormaux" du recourant, à savoir qu'il vociférait et insultait ses voisins et leurs enfants, leur inspirait de la peur, claquait les portes, tapait les murs ou cassait des objets chez lui; certains l'ont vu saoul à plusieurs reprises. L'assistante sociale qui rencontre ponctuellement le recourant a déclaré qu'elle ne connaissait pas l'origine de sa détresse profonde et de la confusion dans laquelle il évoluait et ignorait si cette situation était due à l'alcool.
L'on peut se demander si les éléments qui précèdent suffisent à retenir l'absence de discernement du recourant. Quoi qu'il en soit, l'éventuelle absence de comportement fautif du recourant ne privait nullement l'intimée du droit de lui signifier un congé extraordinaire.
Le recourant insiste sur le fait que son comportement non fautif pouvait être modifié et que de fait, il a durablement changé d'attitude dès le début de l'année 2009. Il ne prétend toutefois pas avoir modifié son comportement avant la résiliation litigieuse; or, des circonstances postérieures à la résiliation ne sont en principe pas pertinentes pour juger du bien-fondé du congé. Pour le surplus, on ne saurait imposer au bailleur de maintenir un bail devenu insupportable pour les autres habitants - condition dont le recourant ne remet pas en cause l'existence - afin de permettre au locataire de suivre un traitement susceptible d'améliorer sa condition. Le bailleur ne doit pas trop tarder à résilier le bail, faute de quoi son inaction est susceptible de fournir un indice que la continuation du bail n'est pas insupportable (cf. arrêt 4C.118/2001 du 8 août 2001 consid. 1b/bb/aaa, in mp 2001 205).
Le recourant objecte encore que l'intimée ne saurait invoquer à son profit "une situation dont elle avait parfaitement connaissance au moment de la conclusion du contrat". Il apparaît tout au plus que le contrat a été signé avec le tuteur du recourant, ce qui ne signifie nullement que l'intimée aurait eu connaissance des problèmes comportementaux du recourant et qu'elle adopterait une attitude contraire à la bonne foi en reprochant au recourant un état de choses qu'elle aurait initialement accepté.
Il s'ensuit que le grief de violation de l'art. 257f al. 2 et 3 CO doit être rejeté.
3.5 Le recourant se plaint encore d'une violation de l'art. 274d al. 3 CO. Il reproche aux juges cantonaux d'avoir non seulement refusé les auditions de témoins qu'il avait requises, mais de s'être en outre abstenus de rechercher s'il avait été suivi médicalement depuis son audition du 23 mars 2009 et si cet élément était de nature à écarter un risque de récidive. Dans le même ordre d'idées, il se plaint d'une interprétation erronée de ses déclarations sur sa motivation à poursuivre son traitement médical.
Ces griefs sont privés d'objet dans la mesure où la question du caractère fautif du comportement du recourant et celle de son attitude après la résiliation sont sans incidence pour l'issue de la cause.
4. 4.1 Le recourant se plaint encore d'une violation des art. 8 al. 4, 10 al. 3 et 13 al. 1 Cst. Ces dispositions protégeraient les personnes atteintes dans leur santé de mesures discriminatoires, notamment lorsqu'elles aboutissent à la privation de domicile. L'art. 257f CO aurait dû être appliqué à la lumière de ces droits constitutionnels. En considérant que l'intimée pouvait résilier le bail en raison d'un comportement causé par un problème de santé, la cour cantonale aurait indûment pénalisé le recourant pour son état de santé.
4.2 La recevabilité du grief est fortement sujette à caution compte tenu des exigences de motivation strictes de l'art. 106 al. 2 LTF (cf. supra, consid. 2.1). A supposer qu'il soit recevable, le grief devrait de toute façon être rejeté. Le recourant se méprend sur les droits conférés par les dispositions constitutionnelles précitées. En effet, un droit au logement ne découle ni de l'art. 10 al. 3 Cst., relatif à l'interdiction de la torture ou de tout autre traitement cruel, inhumain ou dégradant, ni de l'art. 13 al. 1 Cst., garantissant la protection de la sphère privée, notamment quant au domicile (cf. PETER LING, Résiliation du bail et droit au logement en droit suisse, in Les Droits de l'Homme au Centre, 2006, pp. 657-659). Quant à l'art. 8 al. 4 Cst., il comporte uniquement un mandat à l'adresse du législateur, que celui-ci a exécuté en adoptant la loi sur l'égalité pour les handicapés (LHand - RS 151.3). L'art. 8 al. 4 Cst. ne confère aucun droit fondamental individuel qui puisse être invoqué devant les tribunaux; la personne handicapée qui entend se plaindre de discrimination doit se fonder sur le deuxième alinéa de l'art. 8 Cst., que le recourant n'invoque pas (MARGRITH BIGLER-EGGENBERGER, in Die schweizerische Bundesverfassung, Kommentar, 2002, n° 101 s. ad art. 8 Cst.).
5. En définitive, le recours doit être rejeté dans la mesure où il est recevable. La requête d'effet suspensif s'en trouve par là même privée d'objet.
Le recourant supportera les frais judiciaires et versera à l'intimée une indemnité à titre de dépens (art. 66 al. 1 et art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimée une indemnité de 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 20 septembre 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Monti