Faits:
A. B.B._ et C.B._ sont depuis le 1er avril 2008 locataires d'un appartement de quatre pièces et d'une surface de 88 mètres carrés sis dans un immeuble à ........ (NE). Le loyer initial s'élevait à 1'200 fr., montant auquel s'ajoutait un acompte pour charges de 280 fr. Par voie successorale, A._ est ultérieurement devenu propriétaire de l'immeuble dont la surface habitable totale est de 1'020 mètres carrés.
Par avis du 10 décembre 2009 donné sur formule officielle, le bailleur a notifié, pour le 1er avril 2010, une hausse de loyer de 144 fr. par mois ainsi qu'une diminution de 65 fr. par mois de l'acompte pour les charges. Sur la formule, l'augmentation de loyer est motivée par des travaux à plus-value et par l'adaptation du taux hypothécaire, de l'indice des prix à la consommation ainsi que de la hausse des coûts, et il est renvoyé à une lettre annexée où les travaux réalisés et le calcul de la hausse sont détaillés. Les locataires ont contesté cette augmentation auprès de l'autorité de conciliation; la tentative de conciliation n'a pas abouti.
B. B.a Le 25 février 2010, le bailleur a ouvert action devant le Tribunal civil du district de Neuchâtel, concluant à une augmentation du loyer mensuel de 144 fr. Les locataires ont admis une augmentation mensuelle de 45 fr. Par jugement du 2 septembre 2010 envoyé aux parties le 30 septembre 2010, la présidente du Tribunal civil a admis qu'une hausse mensuelle de 80 fr. était justifiée; elle a en conséquence fixé le loyer mensuel net à 1'280 fr. dès le 1er avril 2010.
B.b Le bailleur a interjeté recours auprès de la Cour de cassation civile du Tribunal cantonal, concluant à ce que le loyer soit augmenté de 144 fr. par mois. Les locataires, assistés d'une avocate de l'ASLOCA neuchâteloise non inscrite au registre neuchâtelois des avocats, ont pour leur part déposé un recours joint, concluant à ce que la hausse mensuelle soit fixée à 45 fr. Par arrêt du 17 juin 2011, la Cour a admis une augmentation de 77 fr. et fixé le loyer mensuel dû dès le 1er avril 2010 à 1'277 fr., sur les bases suivantes:
Les travaux pouvant être répercutés sur les loyers s'élèvent à 561'427 fr.; le 60% de cette somme, soit 336'856 fr., est à prendre en considération comme créant une plus-value; il y a lieu d'en déduire diverses aides et subventions ascendant à 53'682 fr.; le montant investi déterminant pour le calcul de la hausse de loyer est ainsi de 283'174 fr.; il est à amortir sur trente-cinq ans, ce qui correspond à un montant annuel de 8'090 fr. 70.
Le taux hypothécaire de référence (au 1er avril 2010) est de 3%; la rémunération annuelle du capital, calculée sur la base d'un taux de 3,5% sur la moitié du capital, équivaut à 4'955 fr. 55. Les frais d'entretien sont fixés au 10% des montants dus au titre d'amortissement et de rémunération, soit à 1'304 fr. 60 par an.
Le bailleur peut ainsi répercuter 14'350 fr. 85 (8'090.70 + 4'955.55 + 1'304.60) sur les loyers de l'immeuble entier. Le montant à charge des locataires en cause, calculé en proportion de la surface habitable totale de l'immeuble (88/1'020), est ainsi de 1'238 fr. par année ou 103 fr. par mois. De ce montant, il faut encore déduire 25 fr. 90 pour tenir compte d'une diminution du taux hypothécaire de 3,25% à 3% et d'une variation de l'indice des prix à la consommation de 107,3 à 103,9 (sic!). Il en résulte finalement une hausse admissible de 77 fr. par mois.
C. Le bailleur (ci-après: le recourant) interjette un recours en matière civile auprès du Tribunal fédéral. Il conclut principalement à ce que les locataires (ci-après: les intimés) soient condamnés à lui payer une augmentation de loyer de 144 fr., avec intérêts à 5% l'an sur les montants impayés dès l'échéance de chaque mensualité de loyer.
Les recourants ont été invités à se déterminer. L'ordonnance leur a été adressée personnellement (cf. art. 40 al. 1 LTF; art. 6 al. 1 et art. 8 al. 1 let. d LLCA, RS 935.61), avec copie à l'ASLOCA Neuchâtel. Ils n'ont pas répondu dans le délai fixé.
L'autorité précédente se réfère à son arrêt.
Considérant en droit:
1. La valeur litigieuse est déterminée par les conclusions restées litigieuses devant l'autorité précédente (art. 51 al. 1 let. a LTF); si la durée de prestations périodiques est indéterminée, le montant annuel est multiplié par vingt (art. 51 al. 4 LTF). En l'espèce, en instance d'appel, le recourant demandait une augmentation de 144 fr. par mois, que les intimés n'acceptaient qu'à hauteur de 45 fr.; la différence de 99 fr. par mois, annualisée et capitalisée sur vingt ans, donne un montant de 23'760 fr. La voie du recours en matière civile est ainsi ouverte (art. 74 al. 1 let. a LTF).
Le recours doit être succinctement motivé (art. 42 al. 2 LTF), ce qui suppose que le recourant discute au moins brièvement les considérants de l'arrêt attaqué (ATF 134 II 244 consid. 2.1); cette exigence est une condition de recevabilité (cf. art. 108 al. 1 let. b LTF). Seuls les griefs invoqués et suffisamment motivés sont examinés (ATF 134 II 244 consid. 2.1; 133 III 545 consid. 2.2).
2. Le recourant critique en premier lieu le fait que l'autorité précédente n'a pas fait de distinction entre le coût des améliorations énergétiques et le coût des autres investissements lorsqu'elle a déterminé la part des coûts ayant créé une plus-value.
2.1 L'autorité précédente a retenu que l'investissement du bailleur à prendre en compte s'élevait au total à 561'427 fr.; ce montant n'est pas remis en cause. Le recourant reproche cependant à l'autorité précédente de ne pas avoir constaté que dans ce montant figurent 353'496 fr. pour des améliorations énergétiques devant entièrement être prises en compte au titre d'améliorations à plus-value.
L'autorité cantonale ne s'est pas prononcée à ce sujet. Elle a estimé que le recourant était lié par les motifs de hausse indiqués dans ses observations adressées à l'autorité de conciliation où il avait uniquement fait référence au coût total des travaux, sans distinguer ceux relatifs aux travaux d'amélioration énergétique. Elle a considéré qu'en invoquant ces derniers chiffres, le recourant sortait du cadre qu'il avait lui-même fixé pour motiver la hausse de loyer.
2.2 L'avis de majoration du loyer, avec indication des motifs, doit être donné au moyen d'une formule agréée par le canton (art. 269d al. 1 CO). Les motifs peuvent aussi figurer dans une lettre d'accompagnement s'il y est expressément fait référence sur la formule (art. 19 al. 1bis OBLF, RS 221.213.11); à défaut d'un tel renvoi, les motifs doivent figurer sur la formule même et la lettre peut uniquement les expliciter (ATF 121 III 6 consid. 3a). Le bailleur est lié par les motifs donnés; il ne peut pas invoquer après coup d'autres motifs que ceux qui figurent dans l'avis de majoration (ATF 121 III 364 consid. 4b). Les motifs doivent être précis; ils doivent permettre au locataire de saisir la portée et la justification de la modification de manière à pouvoir apprécier en pleine connaissance de cause l'opportunité de la contester ou non (ATF 121 III 460 consid. 4a/bb). Toutefois, en cas de hausse de loyer fondée sur une augmentation des coûts ou une amélioration avec plus-value, la comparaison de l'ancien et du nouveau loyer permet sans autre de mesurer la portée de la modification, si bien qu'il n'est pas nécessaire que l'avis officiel contienne le calcul précis à l'origine de la hausse (arrêt 4A_136/2011 du 10 juin 2011 destiné à la publication, consid. 3.3); le locataire peut au surplus toujours exiger du bailleur qu'il motive l'augmentation avec des chiffres précis et présente les pièces justificatives (art. 20 OBLF).
Le locataire qui estime l'augmentation de loyer abusive peut la contester devant l'autorité de conciliation (art. 270b al. 1 CO), puis devant le juge (art. 274d aCO, applicable en l'espèce en vertu des art. 404 et 405 CPC; cf. art. 200 CPC). Non seulement l'autorité de conciliation, mais aussi le juge de première instance saisi ultérieurement établissent les faits d'office (art. 274d al. 3 aCO; cf. art. 243 al. 2 let. c et art. 247 CPC). Cette maxime inquisitoriale sociale n'oblige pas le juge à instruire d'office le litige lorsqu'un plaideur renonce à expliquer sa position; en revanche, elle lui impose d'interroger les parties et de les informer de leur devoir de collaborer à l'instruction et de fournir des preuves. Si des motifs objectifs conduisent le juge à soupçonner que les allégations et offres de preuve d'une partie, locataire ou bailleur, sont lacunaires, il n'est pas lié par l'offre de preuve en question et a le devoir de rechercher lui-même des preuves pour autant qu'il ait connaissance, sur la base des déclarations des parties et/ou du dossier, de l'existence de moyens probatoires pertinents. Le juge peut de même inviter cette partie à compléter ses moyens, par exemple si les documents produits sont insuffisants (ATF 136 III 74 consid. 3.1 p. 80; 125 III 231 consid. 4a).
Les hausses de loyer justifiées par des prestations supplémentaires du bailleur ne sont en règle générale pas abusives (art. 269a let. b CO). A teneur de l'art. 14 al. 1 OBLF, les investissements qui aboutissent à des améliorations créant des plus-values sont réputés être des prestations supplémentaires du bailleur; cette disposition énonce en outre que les frais causés par d'importantes réparations sont en général considérés, à raison de 50 à 70%, comme des investissements créant des plus-values. Ce taux forfaitaire est une mesure de simplification, car en cas d'importantes réparations, la distinction est souvent difficile à opérer entre travaux d'entretien couverts par le loyer actuel et travaux à plus-values justifiant une hausse de loyer; le taux forfaitaire ne représente toutefois qu'une simple alternative à la détermination exacte des plus-values créées par de tels travaux (ATF 118 II 415 consid. 3a).
En outre, certaines améliorations énergétiques énoncées à l'art. 14 al. 2 OBLF sont également considérées comme des prestations supplémentaires. Cette disposition a été introduite au 1er janvier 2008 suite à l'adoption d'une motion correspondante par les Chambres fédérales (Motion 02.473 du 21 février 2006 de la CEATE-CN; BO CN 2006 954, CE 2007 256, CN 2007 782). Constatant que la répercussion du coût des mesures d'économie d'énergie sur les locataires suscitait un certain nombre d'incertitudes susceptibles de dissuader les propriétaires d'investir dans ce domaine important, la motion demandait que les améliorations écologiques soient considérées comme des prestations supplémentaires au sens du droit du bail; elle précisait toutefois que pour protéger les locataires, ces investissements seraient considérés comme prestations supplémentaires dans la seule mesure où leur coût excéderait les coûts de rétablissement ou de maintien de l'état initial de la chose louée. Lors de l'adoption de la motion, il a été relevé que selon l'avis des deux conseils, il n'y avait plus-value que si cela se répercutait sous la forme bien réelle des frais accessoires de chauffage (BO CN 2007 782 intervenant Nordmann). Il en découle que les investissements pour des améliorations énergétiques peuvent être considérés dans leur totalité comme des améliorations à plus-value, pour autant qu'ils soient de nature à induire une réduction des frais accessoires (DAVID LACHAT, Le bail à loyer, 2008, p. 482; cf. aussi SARAH BRUTSCHIN, Die Mietzinsgestaltung bei energetischen Verbesserungen gemäss Art. 14 VMWG unter besonderer Berücksichtigung der Förderbeiträge von Bund und Kantonen, mp 2010, p. 5 ss).
2.3 A titre liminaire, il y a lieu de constater que contrairement à ce qu'affirme le recourant, les intimés n'ont pas admis des améliorations énergétiques pour un montant de 353'496 fr. Une telle constatation ne ressort pas de l'arrêt attaqué. Le passage du jugement de première instance cité par le recourant ne dit rien de tel non plus; il y est seulement précisé que selon les intimés, seuls les travaux apportant une amélioration énergétique devaient être pris en considération à un taux de 70%; il n'y est fait aucune référence au montant précité. Enfin, le passage du mémoire d'appel joint des intimés auquel le recourant se réfère ne contient pas de reconnaissance de ce montant; les intimés y contestent une plus-value de 100% pour les travaux d'améliorations énergétiques allégués par le recourant, estiment la plus-value à 70% et précisent que seul le surcoût (et non l'entier du montant) pourrait être pris en considération.
Cela précisé, il y a lieu de constater qu'il ressort du jugement de première instance que le recourant avait allégué des coûts de 353'496 fr. pour des travaux d'améliorations énergétiques et qu'il a demandé à ce qu'ils soient pris en compte à 100%; cela correspond aux allégués présentés dans la demande en justice du 25 février 2010 et repris dans le mémoire d'appel. Par contre, ce montant ne ressort pas de la formule de hausse ni de la lettre d'accompagnement; on n'y trouve que le montant total des coûts reportés, sans autre précision. Et dans une lettre du 28 janvier 2010 adressée à l'autorité de conciliation, la régie immobilière représentant le recourant expliquait sans autre précision avoir opté, par simplification, pour un taux de répercussion et d'amortissement de 60% sur vingt ans, plus frais d'intérêts et d'entretien; elle a joint les factures des travaux requises par l'autorité de conciliation et un récapitulatif des coûts.
2.4 Sur la formule, le recourant a justifié la hausse en particulier par des travaux à plus-value dont il a indiqué le montant total dans la lettre d'accompagnement, sans autre précision sur le mode de calcul ayant conduit à l'augmentation litigieuse. Devant l'autorité de conciliation, il a présenté un récapitulatif des coûts et les factures correspondantes et expliqué avoir déterminé la hausse par un calcul dit simplifié en répercutant le 60% de ce montant sur une durée de vingt ans, ce qui correspond à 3% annuellement, auquel il avait ajouté les frais d'intérêts et d'entretien.
La conciliation ayant échoué, le recourant devait démontrer devant le juge que les motifs invoqués dans la formule officielle, dont en particulier les investissements consentis, justifiaient la hausse demandée dans le sens qu'elle n'était pas abusive au sens de la loi. On ne discerne pas en quoi il n'aurait pas été en droit, à ce stade de la procédure, de se prévaloir de toutes les possibilités légales d'imputer les coûts sur le loyer, en particulier de celle d'imputer à 100% certains travaux effectués, dans la mesure où ces coûts figuraient sur la formule de hausse de loyer. Face à une requête sans ambiguïté du recourant, le juge de première instance devait se saisir de la question et, si nécessaire, l'instruire d'office. C'est donc à tort que l'autorité précédente a rejeté le grief que le recourant a soulevé à cet égard.
3. Le recourant critique le taux de 60% retenu au titre de plus-value des investissements autres que les améliorations énergétiques; à son avis, il fallait retenir 70%.
A titre liminaire, il faut relever que contrairement à ce que soutient le recourant, les intimés ont admis un taux de 70% uniquement pour les améliorations énergétiques et non pas pour les autres investissements. Il ne peut donc rien tirer d'un prétendu accord des intimés.
L'autorité précédente a retenu le taux moyen de 60% pour le seul motif que le recourant avait articulé ce pourcentage dans sa détermination à l'autorité de conciliation. Le recourant conteste être lié par une telle indication. Dans l'écriture précitée, il avait effectivement retenu, dans le cadre de ce qu'il avait qualifié de calcul simplifié, un taux de 60% sur une durée d'amortissement de 20 ans. L'autorité précédente n'a pas retenu 20 ans, mais 35 ans. La proportion entre les travaux ayant créé une plus-value et ceux d'entretien ne dépend certes pas de la durée à prendre en compte pour l'amortissement; les deux chiffres ne sont pas liés. Néanmoins, pour les motifs déjà exposés, on ne discerne pas pourquoi le recourant n'aurait pas été en droit, devant le juge de première instance, de s'écarter de son calcul simplifié présenté en conciliation pour essayer de démontrer que la hausse, sur la base des investissements indiqués sur la formule officielle et la lettre d'accompagnement, n'était pas abusive au sens de la loi; les chiffres pris par le recourant pour le calcul simplifié ne constituent pas un aveu judiciaire le liant dans la procédure judiciaire subséquente dominée par la maxime d'office atténuée.
Pour le surplus, l'autorité précédente n'a pas constaté les faits pertinents pour fixer le taux à l'intérieur de la fourchette légale (à ce sujet, cf. LACHAT, op. cit., p. 481; BERNARD CORBOZ, Les travaux de transformation et de rénovation de la chose louée entrepris par le bailleur et leur répercussion sur les loyers, in 12e Séminaire sur le droit du bail, Neuchâtel 2002, p. 19 ss). La Cour de céans n'est pas en mesure d'examiner si le taux retenu est conforme à la loi.
4. Le recourant critique le fait que les subventions par lui reçues aient été déduites du montant de la plus-value créée et non du coût total des travaux.
Le bailleur peut augmenter le loyer uniquement en fonction des investissements ayant créé une plus-value. Savoir si des subventions reçues par le bailleur sont à déduire de ces investissements-là ou au contraire du coût total des travaux entrepris dépend du but dans lequel les subventions ont été versées.
Le recourant a reçu en tout 53'682 fr. au titre de subventions pour travaux d'améliorations énergétiques. A défaut d'indices contraires ressortant du dossier ou du recours, il faut retenir que ces montants n'étaient pas alloués pour des travaux d'entretien, mais bien pour des améliorations énergétiques créant une plus-value au sens défini par la loi (art. 14 al. 2 et 3 OBLF). Le montant des subventions reçues par le recourant doit en conséquence être déduit de tels investissements ayant créé une plus-value (cf. BRUTSCHIN, op. cit., pp. 12-14 ch. IV.1 et p. 17 s.). Le grief est infondé.
5. Le recourant conteste la durée d'amortissement de 35 ans retenue par l'autorité précédente. Il critique la façon dont l'autorité précédente a estimé cette durée moyenne pour l'ensemble des travaux à plus-value; à son avis, l'autorité précédente devait individualiser le calcul installation par installation ou fixer une valeur moyenne au prorata de la valeur de chaque installation.
Déterminer la durée de vie probable d'une installation n'est, selon la jurisprudence, pas une question de fait, mais une question d'appréciation (ATF 118 II 415 consid. 3c/bb pp. 419 et 421). Le Tribunal fédéral contrôle certes librement la décision rendue dans l'exercice de ce pouvoir, mais il fait néanmoins preuve de réserve afin de ne pas empiéter sur le pouvoir d'appréciation accordé au juge cantonal; il n'intervient que si celui-ci s'est écarté sans raison des règles établies par la doctrine et la jurisprudence, s'il s'est appuyé sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle ou, à l'inverse, a méconnu des éléments qui auraient absolument dû être pris en considération, ou enfin, si la décision rendue en vertu d'un pouvoir d'appréciation aboutit à un résultat manifestement injuste ou à une iniquité choquante (cf. ATF 135 III 121 consid. 2).
En l'espèce, l'autorité précédente a motivé son choix; elle s'est notamment fondée sur la table de longévité des installations, établie par la Fédération romande immobilière et l'ASLOCA romande (cf. LACHAT, op. cit., p. 867 ss). Le recourant ne démontre pas en quoi elle aurait outrepassé son pouvoir d'appréciation. Il se limite à exiger un calcul plus détaillé; mais il n'y procède pas lui-même, alors qu'il disposait de tous les éléments pour le faire, et ne tente ainsi pas de démontrer ni a fortiori ne démontre que la solution contestée est manifestement injuste et que la façon de procéder qu'il préconise conduirait nécessairement à un résultat très différent de celui auquel a abouti l'autorité précédente. Il n'y a pas à entrer en matière faute de motivation satisfaisant aux exigences légales.
6. Le recourant critique le refus de l'autorité précédente de répercuter sur le loyer, au titre de frais d'entretien des nouvelles installations, un montant correspondant à 1% des investissements à plus-value. Elle a retenu à ce titre 10% des intérêts et de l'amortissement, selon ce que le recourant avait lui-même proposé dans la procédure de consultation.
La Cour de céans a déjà jugé par le passé que les deux façons de procéder étaient adéquates et relevaient de l'appréciation (ATF 118 II 415 consid. 3 c/cc). Le recourant ne tente pas de démontrer qu'il en irait différemment dans la présente cause. Le grief est irrecevable faute de motivation suffisante.
7. Le recourant conteste enfin le refus de l'autorité précédente de prendre en considération une hausse forfaitaire des coûts (charges courantes et charges d'entretien) de 0,5% par an.
La jurisprudence exige la prise en compte des coûts effectifs; pour déterminer leur évolution, il faut comparer la moyenne des coûts des années antérieures à la précédente fixation de loyer avec la moyenne des coûts des années postérieures, lesquelles précèdent la hausse actuellement contestée. Une exception à cette règle suppose qu'il ne soit pas possible d'établir des moyennes fiables, par exemple parce que certaines données ne sont plus accessibles ou parce que les comptes d'un exercice comportent des chiffres anormalement bas ou élevés faussant toute comparaison (ATF 122 III 257 consid. 3b/bb; 111 II 378 consid. 2).
Le recourant n'invoque pas de tels motifs; il objecte uniquement qu'un seul exercice sépare les deux fixations de loyer et qu'il n'est pour ce motif pas possible de procéder selon la jurisprudence. En réalité, deux ans séparent les dates déterminantes dans le cas d'espèce. On ne discerne dès lors pas en quoi il ne serait pas possible de calculer des moyennes fiables; la jurisprudence a d'ailleurs considéré une période de deux ans précédant la dernière notification de loyer comme base suffisante pour une comparaison (ATF 111 II 378 consid. 2). Le refus de retenir un taux forfaitaire ne prête pas à critique.
8. Le recourant obtient partiellement gain de cause; les intimés, même s'ils n'ont pas pris de conclusions, succombent partiellement. Il se justifie de répartir les frais judiciaires par moitié entre le recourant et les intimés (art. 66 al. 1 et 5 LTF; cf. ATF 128 II 90 consid. 2b; 123 V 156 consid. 3c). Il y a lieu de répartir les dépens de la même façon (art. 68 al. 1, 2 et 4 LTF); les intimés n'ayant aucune prétention à ce titre, ils verseront au recourant un montant correspondant à la moitié de dépens ordinairement alloués.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis.
2. L'arrêt attaqué est annulé et la cause renvoyée à l'autorité cantonale.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis par moitié à la charge du recourant et par moitié solidairement à la charge des intimés.
4. Les intimés verseront solidairement 1'250 fr. au recourant à titre de dépens.
5. Le présent arrêt est communiqué aux parties et à la Cour de cassation civile du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 2 novembre 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Monti