Faits:
A. A.a Le 23 décembre 2010, A.A._ a introduit une action en libération de dette devant la Cour civile du Tribunal cantonal du canton de Vaud (cause CO 10.042438). Le demandeur concluait à ce qu'il soit constaté qu'il n'est pas le débiteur de la banque F._ d'un montant de 1'670'000 fr. et à ce qu'en conséquence, l'opposition au commandement de payer notifié le 12 mars 2009 soit maintenue et que la poursuite n° vvv n'aille pas sa voie.
L'introduction de cette action fait suite à un arrêt rendu le 17 juin 2010 par la Cour des poursuites et faillites du Tribunal cantonal du canton de Vaud et notifié en expédition complète le 10 décembre 2010. Dans cette décision, la cour cantonale a rejeté le recours que A.A._ avait formé contre un prononcé du Juge de paix du district de la Riviera - Pays-d'Enhaut, admis partiellement celui de la banque et réformé le prononcé du juge de paix en ce sens que l'opposition était provisoirement levée à concurrence de 1'670'000 fr. plus intérêt à 5 % l'an dès le 1er mars 2009 et de 6'374 fr.25 plus intérêt à 5 % l'an dès le 5 mars 2009, l'opposition étant maintenue pour le surplus. Il ressort de cet arrêt cantonal que le commandement de payer notifié le 12 mars 2009, à la requête de la banque F._, dans la poursuite n° vvv contenait les indications suivantes:
«Titre de la créance ou cause de l'obligation:
1) Montant dû sur le capital de la cédule hypothécaire RF [...] grevant en 1er rang à hauteur de 1'670'000 CHF la parcelle RF [W._] n° 723 sise sur la commune de [...]. 2) Intérêts dus sur le capital de la cédule hypothécaire conformément au chiffre 2 de l'acte de "Transfert de propriété à fin de garantie" signé le 28.04.2004 par les preneurs de crédit. Le total des deux créances précitées correspond aux montants dus en capital, intérêts et frais sur les prêts hypothécaires n° [hhh] H1K et [hhh] H1X ainsi que sur le compte courant n° [hhh] 01B. Créances dénoncées au remboursement le 26.11.2008 pour le 28.02.2009.
Désignation de l'immeuble:
Immeuble sis sur la commune de [...], parcelle RF [W._] n° 723, habitation. Copropriété de M. [A.A._] et de Mme [C.A._], chacun pour une demie.»
Il résulte également de l'arrêt de la Cour des poursuites et faillites que les emprunteurs hypothécaires étaient A.A._, son épouse C.A._ ainsi que sa mère D.A._.
A.b Le 23 décembre 2010, A.A._ a également introduit quatre autres actions en libération de dette devant la Cour civile du Tribunal cantonal du canton de Vaud (causes CO 10.042420, CO 10.042433, CO 10.042447 et CO 10.042452). Ces actions tendent toutes à ce qu'il soit constaté que le demandeur ne doit pas à la banque F._ différents montants pour un total de 14'200'000 fr. résultant de cédules hypothécaires garantissant des prêts hypothécaires souscrits par A.A._ et sa soeur B.A._ dans le cadre de la relation bancaire n° fff. Elles font suite à des arrêts de la Cour des poursuites et faillites du canton de Vaud prononçant la mainlevée provisoire dans le cadre des poursuites en réalisation de gage immobilier n° www, n° xxx, n° zzz et n° yyy.
B. Dans la cause CO 10.042438, A.A._ a requis l'assistance judiciaire, limitée à la dispense du paiement des frais judiciaires. Il en a fait de même dans les causes CO 10.042420, CO 10.042433, CO 10.042447 et CO 10.042452.
Par prononcés du 23 mars 2011, le juge délégué de la Cour civile a refusé à A.A._ le bénéfice de l'assistance judiciaire dans les cinq procès en libération de dette susmentionnés. A part le numéro de cause, les cinq décisions sont identiques; elles ne distinguent pas les différentes actions en libération de dette, ni par le montant en jeu, ni par le numéro de poursuite.
A.A._ a recouru contre le refus de l'assistance judiciaire dans les cinq procédures. Il a déposé quatre mémoires similaires; dans son cinquième mémoire, où figure le numéro de cause CO 10.042420, il faisait valoir que le juge délégué s'était fondé sur un état de fait ne correspondant pas à celui de l'action en libération de dette introduite dans le cadre de la poursuite n° vvv.
Par arrêts du 4 mai 2011 dont les considérants ont été envoyés le 26 août 2011, la Chambre des recours civile du Tribunal cantonal du canton de Vaud a rejeté les cinq recours et confirmé les décisions du 23 mars 2011. L'état de fait des cinq arrêts est identique, sauf en ce qui concerne la retranscription des conclusions des actions en libération de dette et le montant des avances de frais requises; la motivation est semblable dans les cinq décisions.
C. A.A._ interjette un recours en matière civile. Principalement, il demande à être mis au bénéfice de l'assistance judiciaire en ce qui concerne le paiement des frais judiciaires relatifs à son action en libération de dette dans la cause CO 10.042438. A titre subsidiaire, il conclut au renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants du Tribunal fédéral.
Par ailleurs, le recourant requiert l'assistance judiciaire pour la procédure devant le Tribunal fédéral; il limite sa demande à la dispense du paiement des frais judiciaires.
Le recourant a également présenté une requête d'effet suspensif. Par ordonnance du 12 octobre 2011, la Présidente de la cour de céans a accordé l'effet suspensif au recours.
Invitée à se déterminer sur le recours, la Chambre des recours civile a déclaré se référer aux considérants de sa décision.
Considérant en droit:
1. L'autorité cantonale a confirmé le rejet de la demande d'assistance judiciaire formée par le recourant. Il s'agit là d'une décision incidente, notifiée séparément, qui est de nature à causer un préjudice irréparable au justiciable; elle peut par conséquent faire l'objet d'un recours immédiat au Tribunal fédéral (art. 93 al. 1 let. a LTF; cf. ATF 133 IV 335 consid. 4 p. 338; 129 I 129 consid. 1.1 p. 131). Selon le principe de l'unité de la procédure, la voie de droit contre une décision incidente correspond à celle ouverte dans la cause au fond (ATF 133 III 645 consid. 2.2 p. 647; cf. également ATF 134 V 138 consid. 3 p. 144). L'art. 51 al. 1 let. c LTF précise à cet égard que lorsque le recours a pour objet une décision incidente, la valeur litigieuse est déterminée par les conclusions restées litigieuses devant l'autorité compétente sur le fond. En l'espèce, la valeur litigieuse de l'action en libération de dette dépasse largement le montant de 30'000 fr., de sorte que le recours en matière civile est ouvert (art. 74 al. 1 let. b LTF).
Au surplus, l'arrêt attaqué, rendu sur recours, émane d'une autorité judiciaire cantonale supérieure statuant en dernière instance (art. 75 al. 1 et 2 LTF). Interjeté par la partie qui n'a pas obtenu le bénéfice de l'assistance judiciaire limitée à la dispense du paiement des frais judiciaires (art. 76 al. 1 LTF), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
2. En premier lieu, le recourant reproche à la Chambre des recours civile d'avoir fait preuve d'arbitraire dans l'appréciation des faits. En effet, à l'instar du premier juge, l'autorité cantonale aurait fondé sa décision sur l'assistance judiciaire dans la présente cause sur les mêmes faits que ceux repris dans les quatre autres affaires, alors que les faits fondant l'action en libération de dette dans la procédure CO 10.042438 seraient complètement différents.
2.1 Selon la jurisprudence, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (ATF 137 I 58 consid. 4.1.2 p. 62; 136 III 552 consid. 4.2 p. 560; 134 V 53 consid. 4.3 p. 62; 129 I 8 consid. 2.1 p. 9).
2.2 L'état de fait à la base des actions en libération de dette dans les causes CO 10.042420, CO 10.042433, CO 10.042447 et CO 10.042452 n'est manifestement pas le même que celui qui fonde l'action en libération de dette dans la cause CO 10.042438. Dans les quatre premières affaires, il s'agit de faire constater l'inexigibilité de créances issues de cédules hypothécaires fournies en garantie de prêts hypothécaires accordés au recourant et à sa soeur dans le cadre de la relation bancaire n° fff, alors que la cause CO 10.042438 concerne une cédule hypothécaire transférée à la banque à titre de garantie pour des prêts hypothécaires accordés au recourant, à son épouse et à sa mère dans le cadre de la relation bancaire n° hhh. Le premier juge ne pouvait donc motiver sa décision de manière identique dans les cinq affaires en se basant sur les mêmes faits.
Pour sa part, la cour cantonale, saisie de cinq recours, ne pouvait pas ignorer que l'un des mémoires comportait une argumentation différente. Il importe peu à cet égard que ce recours-ci indique un numéro de cause erroné (CO 10.042420 au lieu de CO 10.042438). En effet, à la lecture des décisions du premier juge, il n'était guère possible de savoir laquelle concernait la procédure atypique, puisque les prononcés, tous identiques, ne mentionnaient ni les conclusions des actions en libération de dette, ni le numéro des poursuites. Dans son arrêt sur l'assistance judiciaire dans la cause CO 10.042438, la cour cantonale relate correctement les conclusions de l'action en libération de dette et fait référence à la poursuite n° vvv. Or, ce numéro de poursuite était précisément mentionné dans le mémoire de recours indiquant faussement le numéro de cause CO 10.042420. Sous peine d'arbitraire, il appartenait à la cour cantonale d'attribuer le bon recours à la bonne procédure, ce qui lui était aisé puisqu'elle disposait des dossiers dans toutes les affaires. En ne le faisant pas et en appréciant les chances de succès dans la cause CO 10.042438 sur la base d'un état de fait qui n'avait rien à voir avec celui déterminant pour l'action en libération de dette correspondante, la cour cantonale a manifestement versé dans l'arbitraire de sorte que son arrêt doit être annulé. La cause lui sera renvoyée afin qu'une nouvelle décision soit rendue sur les chances de succès de l'action en libération de dette dans la cause CO 10.042438.
3. Vu l'admission du recours, la demande d'assistance judiciaire, limitée à la dispense des frais judiciaires, devient sans objet.
Il ne sera pas perçu de frais judiciaires, de tels frais ne pouvant en principe être mis à la charge d'un canton (art. 66 al. 4 LTF). En revanche, le canton de Vaud versera des dépens au recourant (art. 68 al. 2 LTF; arrêt 5A_336/2011 du 8 août 2011 consid. 4).
Par ces motifs, le Tribunal fédéral prononce:
1. La demande d'assistance judiciaire est sans objet.
2. Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à la cour cantonale pour nouvelle décision.
3. Il n'est pas perçu de frais judiciaires.
4. Le canton de Vaud versera au recourant une indemnité de 2'500 fr. à titre de dépens.
5. Le présent arrêt est communiqué au mandataire du recourant et à la Chambre des recours civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 29 novembre 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Godat Zimmermann