Faits:
A. Par «convention de crédit-cadre» des 6/11 septembre 2006, la banque F._ a accordé à A.A._ et à sa soeur, B.A._, en qualité de codébiteurs solidaires, une limite de crédit d'un montant maximum de 17'443'177 fr., utilisable sous forme d'hypothèques fixes d'un montant minimum de 1'000'000 fr. et d'une durée de un à sept ans; la relation bancaire était désignée sous le n° fff. Les dettes ainsi souscrites par les emprunteurs, y compris les intérêts et les commissions, étaient garanties par plusieurs cédules hypothécaires au porteur dont la propriété a été transférée à la banque; il y avait notamment les cédules suivantes grevant des parcelles de la commune de W._:
- trois cédules de 3'500'000 fr., 2'500'000 fr. et 2'100'000 fr., grevant en 1er et parité de rang la parcelle n° 261, située rue ... ;
- une cédule de 2'500'000 fr. grevant en 1er rang la parcelle n° 940, située avenue ... ;
- deux cédules de 2'700'000 fr. et 500'000 fr. grevant, respectivement en 1er et 2ème rang, la parcelle n° 198, située avenue ... ;
- une cédule de 400'000 fr. grevant en 1er rang la parcelle n° 200, située avenue ... .
Selon le ch. 10.1 de la convention de crédit-cadre, la banque F._ pouvait résilier le contrat en tout temps et sans motifs particuliers; le remboursement des montants déjà utilisés était alors exigible à l'échéance de la durée convenue pour l'hypothèque fixe.
En automne 2008, les parties ont été amenées à renégocier leurs relations et, dans ce cadre, A.A._ a demandé un délai de réflexion. La banque F._ a alors adressé au conseil de A.A._ une lettre datée du 12 décembre 2008, dont la teneur est la suivante:
«Monsieur [A.A._] et Madame [B.A._] no [fff]
Nous nous référons à l'entretien d'hier que nous avons eu ensemble avec M. [A.A._], [à ...].
Ces discussions ont porté sur l'ensemble de nos relations, et doivent faire l'objet de réflexions de votre part. Vous nous avez demandé de patienter encore jusqu'à fin janvier 2009 pour une décision.
Nous sommes prêts à accéder à votre demande, pour autant que Monsieur [A.A._] et Me [E._], qui reçoit copie de la présente en sa qualité de représentant de Madame [B.A._], reconnaissent par leur signature sur le double de la présente que
a) la créance de CHF 5'994'000 en prêt hypothécaire no [fff] H1 C 0002, échue au 30.9.2008, et qui fait l'objet de notre proposition de contrat du 8 octobre 2008, est due et exigible et porte un intérêt de 4 % l'an dès le 30.9.2008, jusqu'à nouvel avis de notre part, et que
b) la créance de CHF 8'000'000 en prêt hypothécaire no [fff] H1 J 0007, échue depuis le 3.11.2008, est due et exigible, et porte un intérêt de 4 % l'an dès le 4.11.2008 jusqu'à nouvel avis de notre part.
Nous vous remercions d'avance de nous confirmer cet accord d'ici au 22 décembre 2008.
(...)»
Au-dessus de sa signature apposée le 17 décembre 2008 sur la lettre précitée, A.A._ a ajouté de sa main les éléments suivants: «Concernant M. [A.A._], l'ensemble des relations avec [la banque F._] comprend également le prêt n° [hhh] H1K + H1C + H1x.» et «Pour accord sur la présente avec les annotations ci-dessus».
Pour sa part, Me E._, pour B.A._, a contresigné une copie de la lettre du 12 décembre 2008, après y avoir ajouté la mention «bon pour accord».
Les parties n'ont pas trouvé de terrain d'entente. En conséquence, par lettre du 12 février 2009, la banque F._ a dénoncé la convention de crédit-cadre des 6/11 septembre 2006 et demandé le remboursement des deux prêts échus mentionnés dans la lettre du 12 décembre 2008; la banque réclamait également le remboursement d'un troisième prêt, d'un peu plus de 3'000'000 fr., accordé en exécution de la convention de crédit-cadre et qui devait venir à échéance le 17 avril 2009.
La banque F._ a introduit ensuite plusieurs poursuites en réalisation de gage. Ainsi, le 19 mai 2009, l'Office des poursuites de l'arrondissement de W._ a notifié à A.A._ un commandement de payer dans la poursuite en réalisation de gage immobilier n° yyy portant sur les sommes de 3'500'000 fr., 2'500'000 fr. et 2'100'000 fr., chacune avec intérêts à 10 % dès le 18 avril 2009. Le commandement de payer contenait les indications suivantes:
«Titre de la créance ou cause de l'obligation:
Montant dû au 17.04.2009, en capital, sur la cédule hypothécaire au porteur RF no [...] remise en pleine propriété selon acte de transfert du 11.09.2006 et grevant en 1er rang la parcelle désignée sous objet du gage. Montant dû au 17.04.2009, en capital, sur la cédule hypothécaire au porteur RF no [...] remise en pleine propriété selon acte de transfert du 11.09.2006 et grevant en 1er rang la parcelle désignée sous objet du gage. Montant dû au 17.04.2009, en capital, sur la cédule hypothécaire au porteur RF no [...] remise en pleine propriété selon acte de transfert du 11.09.2006 et grevant en 1er rang la parcelle désignée sous objet du gage. Ces titres garantissent les engagements souscrits par les codébiteurs sous la relation n° fff et totalisant 17'158'741.86 CHF conformément à notre correspondance du 12 février 2009. Ces engagements sont également garantis par d'autres immeubles faisant l'objet de poursuites distinctes. Créances exigibles au remboursement.»
«Désignation de l'immeuble:
Parcelle RF 261, fo [...] sise Rue [...] à [W._], consistant en place-jardin, habitation et garage d'une surface totale de 1'408 m2. Propriété en mains communes de Monsieur [A.A._] et Madame [B.A._].»
Le poursuivi a fait opposition totale.
La banque a requis la mainlevée provisoire de l'opposition.
Par prononcé du 2 septembre 2009, le Juge de paix du district de la Riviera - Pays-d'Enhaut a prononcé la mainlevée provisoire de l'opposition à concurrence de 3'500'000 fr. plus intérêts à 10 % dès le 18 avril 2009, de 2'500'000 fr. plus intérêts à 10 % dès le 18 avril 2009 et de 2'100'000 fr. plus intérêts à 10 % dès le 18 avril 2009; il a constaté l'existence du droit de gage.
Sur recours du poursuivi, la Cour des poursuites et faillites du Tribunal cantonal du canton de Vaud a, par arrêt du 17 juin 2010 notifié en expédition complète le 10 décembre 2010, réformé le prononcé du juge de paix en ce sens que l'opposition était provisoirement levée à concurrence des montants de 3'500'000 fr. plus intérêts à 5 % dès le 18 avril 2009, de 2'500'000 fr. plus intérêts à 5 % dès le 18 avril 2009 et de 2'100'000 fr. plus intérêts à 5 % dès le 18 avril 2009, l'opposition étant maintenue pour le surplus. Dans les considérants de sa décision, la Cour des poursuites et faillites a retenu que la poursuivante n'avait pas établi que le troisième prêt, d'un peu plus de 3'000'000 fr., était exigible; seule une somme en capital de 14'087'480 fr., correspondant aux deux premiers prêts, était ainsi exigible le 21 avril 2009, lors de l'envoi des réquisitions de poursuite. En vertu du pactum de non petendo qu'impliquait nécessairement la convention de transfert fiduciaire et qui oblige le créancier à ne pas faire usage des créances incorporées, c'est-à-dire en poursuivre le paiement, au-delà de ce qui est nécessaire à la fonction de garantie, le premier juge ne pouvait accorder la mainlevée dans les différentes procédures parallèles qu'à concurrence du total de la somme précitée, avec au surplus un intérêt moratoire limité à celui applicable à la créance causale, soit au taux de 5 % l'an (art. 104 al. 1 CO). Déterminant pour quelles cédules la mainlevée pouvait être octroyée, la cour cantonale s'est fondée sur l'ordre figurant dans la convention de crédit-cadre, au lieu du numéro attribué par l'office aux différentes poursuites, toutes requises le même jour; elle a ainsi considéré que la mainlevée pouvait être accordée pour les poursuites en réalisation de gage concernant les parcelles n° 261 (3'500'000 fr., 2'500'000 fr. et 2'100'000 fr.), n° 940 (2'500'000 fr.), n° 198 (2'700'000 fr. et 500'000 fr.) et partiellement pour la poursuite concernant la parcelle n° 200, à concurrence de 287'480 fr. (soit 14'087'480 fr. moins 13'800'000 fr.), la mainlevée devant en revanche être refusée pour les autres poursuites concernant d'autres parcelles.
Contre cet arrêt, A.A._ a interjeté un recours en matière civile en date du 27 janvier 2011. La banque F._ en a fait de même.
B. Le 23 décembre 2010, A.A._ a ouvert action en libération de dette et déposé une demande en paiement devant la Cour civile du Tribunal cantonal du canton de Vaud (cause CO 10.042452). Sur l'action en libération de dette, il conclut à ce qu'il soit constaté qu'il n'est pas le débiteur de la banque F._ des montants de 3'500'000 fr., de 2'500'000 fr. et de 2'100'000 fr., à ce que la poursuite n° yyy n'aille pas sa voie, l'opposition au commandement de payer étant maintenue, et à la radiation de ladite poursuite. Sur la demande en paiement, il conclut à la condamnation de la banque F._ à lui verser un montant à déterminer en cours de procédure.
Le 27 décembre 2010, un délai échéant le 19 janvier 2011 a été imparti à A.A._ pour verser l'avance des frais de demande par 41'500 fr. Ce délai a été prolongé au 11 février 2011, puis au 16 mars 2011.
Le 16 mars 2011, A.A._ a déposé une demande d'assistance judiciaire dans le procès en libération de dette et en paiement qui l'oppose à la banque F._.
Par prononcé du 23 mars 2011, le juge délégué de la Cour civile a refusé au requérant le bénéfice de l'assistance judiciaire, considérant que sa cause était dénuée de chances de succès.
A.A._ a interjeté recours contre cette décision. Par arrêt du 4 mai 2011 dont les considérants ont été envoyés le 26 août 2011, la Chambre des recours civile du Tribunal cantonal du canton de Vaud a rejeté le recours et confirmé la décision du 23 mars 2011. En substance, elle a jugé que, par sa signature sur la lettre du 12 décembre 2008, A.A._ avait reconnu l'exigibilité des créances y mentionnées, les adjonctions manuscrites qu'il avait apportées sur ce document ne pouvant être considérées comme une condition valant contre-offre.
C. A.A._ forme un recours en matière civile. Principalement, il demande à être mis au bénéfice de l'assistance judiciaire en ce qui concerne le paiement des frais judiciaires relatifs à son action en libération de dette et à sa demande en paiement dans la cause CO 10.042452. A titre subsidiaire, il conclut au renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants du Tribunal fédéral. Encore plus subsidiairement, il demande au Tribunal fédéral de lui impartir un nouveau délai pour procéder au versement de l'avance de frais dans la cause CO 10.042452.
Par ailleurs, le recourant requiert l'assistance judiciaire pour la procédure devant le Tribunal fédéral; il limite sa demande à la dispense du paiement des frais judiciaires.
Le recourant a également présenté une requête d'effet suspensif. Par ordonnance du 12 octobre 2011, la Présidente de la cour de céans a accordé l'effet suspensif au recours.
Invitée à se déterminer sur le recours, la Chambre des recours civile cour cantonale a déclaré se référer aux considérants de sa décision.
Considérant en droit:
1. La cour cantonale a confirmé le rejet de la demande d'assistance judiciaire formée par le recourant. Il s'agit là d'une décision incidente, notifiée séparément, qui est de nature à causer un préjudice irréparable au justiciable; elle peut par conséquent faire l'objet d'un recours immédiat au Tribunal fédéral (art. 93 al. 1 let. a LTF; cf. ATF 133 IV 335 consid. 4 p. 338; 129 I 129 consid. 1.1 p. 131). Selon le principe de l'unité de la procédure, la voie de droit contre une décision incidente correspond à celle ouverte dans la cause au fond (ATF 133 III 645 consid. 2.2 p. 647; cf. également ATF 134 V 138 consid. 3 p. 144). L'art. 51 al. 1 let. c LTF précise à cet égard que lorsque le recours a pour objet une décision incidente, la valeur litigieuse est déterminée par les conclusions restées litigieuses devant l'autorité compétente sur le fond. En l'espèce, la valeur litigieuse de l'action en libération de dette dépasse largement le montant de 30'000 fr., de sorte que le recours en matière civile est ouvert (art. 74 al. 1 let. b LTF).
Au surplus, l'arrêt attaqué, rendu sur recours, émane d'une autorité judiciaire cantonale supérieure statuant en dernière instance (art. 75 al. 1 et 2 LTF). Interjeté par la partie qui n'a pas obtenu le bénéfice de l'assistance judiciaire limitée à la dispense du paiement des frais judiciaires (art. 76 al. 1 LTF), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
2. Dans son mémoire, sous le titre «Les faits», le recourant expose, sur une dizaine de pages, sa propre version des faits, censée démontrer en quoi la décision entreprise procède de l'arbitraire; il renvoie très souvent à l'«appréciation» du Tribunal fédéral ou à l'«absence de preuve du contraire».
Ce faisant, le recourant semble oublier que le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF) et qu'il ne peut s'en écarter que si les constatations factuelles de l'autorité cantonale ont été établies de façon manifestement inexacte - notion qui correspond à celle d'arbitraire telle que l'entend l'art. 9 Cst. (ATF 137 I 58 consid. 4.1.2 p. 62; 136 II 304 consid. 2.4) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Or, s'il entend critiquer des constatations de fait de l'autorité précédente, le recourant doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF sont réalisées. A défaut, il n'est pas possible de tenir compte d'un état de fait divergent de celui qui est contenu dans l'acte attaqué (ATF 136 I 184 consid. 1.2 p. 187 et les arrêts cités). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (ATF 136 II 101 consid. 3 p. 104 s. et les arrêts cités). En l'espèce, faute d'une motivation précise, la cour de céans n'examinera pas les faits prétendument omis ou retenus de manière arbitraire par l'autorité cantonale, que le recourant expose dans la première partie de son mémoire. Dans cette mesure, le recours se révèle irrecevable.
3. 3.1 Le recourant reproche à la cour cantonale d'avoir violé les art. 117 CPC et 29 al. 3 Cst. en jugeant que son action en libération de dette était dénuée de chances de succès. A son avis, des investigations supplémentaires, en particulier l'audition des parties et de tiers, étaient nécessaires pour déterminer la volonté réelle et commune des parties, à savoir si le recourant avait réellement reconnu, par sa signature, l'exigibilité des deux créances mentionnées dans la lettre du 12 décembre 2008 et si la banque F._ l'avait compris dans ce sens ou si, en apposant sa signature assortie d'adjonctions, le recourant avait formulé une contre-offre qui n'avait pas été acceptée par la banque F._. Selon le recourant, la cour cantonale ne pouvait pas se borner à interpréter la lettre du 12 décembre 2008.
Le recourant fait également valoir que la cour cantonale a établi les faits de manière manifestement inexacte en retenant, sur la base dudit courrier contresigné par le débiteur, que celui-ci avait reconnu que les créances mentionnées dans cette lettre étaient exigibles. Par ailleurs, il fait observer que l'échéance des créances était déterminée par les contrats de prêt, que la banque F._ n'a jamais produits. La cour cantonale aurait ainsi de manière insoutenable considéré que le défaut de production de ces contrats n'avait aucune incidence sur les chances de succès de l'action en libération de dette.
3.2 Contrairement à ce que le recourant prétend, la cour cantonale n'a pas appliqué l'art. 117 CPC à la demande d'assistance judiciaire formulée dans le cadre de l'action en libération de dette, mais s'est fondée directement sur l'art. 29 al. 3 Cst. Du reste, l'art. 117 CPC n'est pas applicable à la requête du recourant. En effet, l'action au fond a été introduite en 2010, avant l'entrée en vigueur du CPC, et reste soumise à l'ancien droit de procédure (art. 404 al. 1 CPC), ce qui vaut également pour la demande - incidente - tendant à l'exonération des frais judiciaires, même si celle-ci a été déposée en 2011 (DENIS TAPPY, in Code de procédure civile commenté, 2011, n° 21 ad art. 404). La question est toutefois dénuée de portée pratique en l'occurrence, puisque la condition des chances de succès, litigieuse ici, est appréhendée de manière identique par les art. 117 CPC et 29 al. 3 Cst. (Message relatif au code de procédure civile suisse du 28 juin 2006, FF 2006 6913, ch. 5.8.4; TAPPY, op. cit., n° 6 ad art. 117; VIKTOR RÜEGG, in Basler Kommentar, Schweizerische Zivilprozessordnung, 2010, n° 5 ad art. 117).
3.3 Selon la jurisprudence, un procès est dénué de chances de succès lorsque les perspectives de le gagner sont notablement plus faibles que les risques de le perdre et qu'elles ne peuvent être considérées comme sérieuses, au point qu'un plaideur raisonnable et de condition aisée renoncerait à s'y engager en raison des frais qu'il s'exposerait à devoir supporter (ATF 133 III 614 consid. 5 p. 616; 129 I 129 consid. 2.3.1 p. 135/136; 128 I 225 consid. 2.5.3 p. 236; 125 II 265 consid. 4b p. 275). La situation doit être appréciée au moment du dépôt de la requête et sur la base d'un examen sommaire (ATF 133 III 614 consid. 5 p. 616 et les arrêts cités). La procédure d'octroi de l'assistance judiciaire gratuite ne doit pas constituer une sorte de procès à titre préjudiciel. Les allégations du requérant doivent être vérifiées. L'autorité peut tenir compte des faits connus d'elle, s'ils sont avérés; lorsqu'elle s'achemine vers le refus de l'assistance judiciaire, elle ne peut ni ignorer des faits qui tendraient à l'admission de la cause, ni renoncer à élucider la portée de faits essentiels encore peu clairs. S'il est inadmissible d'attendre l'administration des mesures probatoires pour se déterminer sur les chances de succès, l'autorité d'octroi de l'assistance judiciaire a néanmoins le pouvoir d'entreprendre une appréciation des preuves et des offres de preuves, pour autant que celle-ci soit nécessaire à l'évaluation des perspectives de succès. En général, dans la procédure d'octroi de l'assistance judiciaire pour un procès civil ordinaire, l'appréciation se fait sur la base des pièces produites, soit de la preuve par titres (arrêt 4P.264/2005 du 17 janvier 2006 consid. 4.1.2; arrêt 4P.155/2002 du 2 septembre 2002 consid. 3.1 et les références).
4. 4.1 En l'espèce, le recourant a ouvert une action en libération de dette, tendant à faire constater qu'il ne doit pas à la banque F._ les montants de 3'500'000 fr., 2'500'000 fr. et 2'100'000 fr. qui résultent des trois cédules hypothécaires grevant la parcelle n° 261 de la commune de W._. Parallèlement, il a déposé trois autres actions en libération de dette qui portent sur quatre autres cédules grevant les parcelles n° 198, n° 200 et n° 940 de la commune de W._. Toutes les cédules hypothécaires en cause garantissent les prêts hypothécaires accordés par la banque F._ dans le cadre de la relation bancaire n° fff. Ce point n'est pas remis en cause par le recourant. Par ailleurs, toute l'argumentation du recours a trait aux chances de succès de l'action en libération de dette. Elle ne porte pas sur les conclusions en paiement que le recourant a formées parallèlement à l'action en libération de dette, de sorte que la cour de céans n'a pas à examiner ce point.
4.2 L'action en libération de dette a pour objet la constatation de l'inexistence ou de l'inexigibilité de la créance invoquée par le créancier poursuivant au moment de la notification du commandement de payer (ATF 95 II 617 consid. 1 p. 620; arrêt 5A_127/2010 du 7 septembre 2010 consid. 3.1, in SJ 2011 I p. 133 consid. 3.1). Dans ce type d'action en constatation négative, le fardeau de l'allégation et le fardeau de la preuve résultant de l'art. 8 CC ne sont pas renversés. Il appartient donc au poursuivant de prouver l'existence et l'exigibilité de la créance (PIERRE-ROBERT GILLIÉRON, Poursuite pour dettes, faillite et concordat, 4e éd. 2005, n° 811 p. 161). En l'espèce, le procès est limité à un seul problème, celui de l'exigibilité des créances de la banque F._. Selon les demandes en libération de dette parallèles, la banque F._ n'a pas prouvé que les créances issues des prêts hypothécaires accordés dans le cadre de la relation bancaire n° fff (créances causales) étaient exigibles et, par conséquent, que les créances incorporées dans les cédules hypothécaires (créances abstraites) l'étaient également.
Pour apprécier les chances de succès des actions en libération de dette, la cour cantonale, à la suite du premier juge, s'est fondée sur la lettre de la banque F._ du 12 décembre 2008 annotée et contresignée par le recourant. Elle a jugé qu'en signant ce document, le recourant avait reconnu l'exigibilité des deux créances y mentionnées d'un montant total de l'ordre de 14'000'000 fr., lesquelles correspondaient au remboursement de deux prêts hypothécaires accordés dans le cadre de la relation bancaire n° fff.
La question se pose de savoir si l'autorité pouvait nier les chances de succès de l'action en libération de dette sur la base de la lettre précitée, contresignée par le recourant, ou si la portée des faits essentiels n'était alors pas suffisamment claire pour refuser le bénéfice de l'assistance judiciaire.
4.3 Comme on l'a vu, le juge appelé à statuer sur une requête d'assistance judiciaire se fonde en principe sur les pièces produites. En l'espèce, le juge disposait de la lettre du 12 décembre 2008 de la banque F._, comportant la signature du recourant. En soi, une lettre de la banque indiquant des créances et leurs échéances, contresignée par le débiteur, est à même de démontrer l'existence desdites créances et leurs échéances. Du reste, dans le cas présent, le recourant ne prétend pas que les prêts en question n'existent pas ou que les dates des échéances figurant dans la lettre litigieuse ne sont pas correctes. Il se borne à invoquer l'absence de production des contrats de prêt hypothécaire dans la procédure. Dans ces conditions, le fait de se fonder uniquement sur la lettre du 12 décembre 2008 contresignée par le recourant pour apprécier l'exigibilité des créances hypothécaires n'apparaît pas contraire aux principes résultant de l'art. 29 al. 3 Cst.
4.4 Il reste à examiner si, comme les instances cantonales l'ont retenu, le recourant a reconnu l'exigibilité des créances. La lettre du 12 décembre 2008 fait référence à un récent entretien entre le recourant et la banque F._ sur «l'ensemble de [leurs] relations», à l'issue duquel aucun accord n'est intervenu. Il ressort du courrier litigieux que le recourant doit encore réfléchir et qu'il a demandé à la banque de «patienter» jusqu'à fin janvier 2009. La banque F._ s'est déclarée d'accord d'accéder à cette requête, à condition que le recourant et le représentant de sa soeur reconnaissent, par leur signature sur le double de la lettre, que deux créances de 5'994'000 fr. et de 8'000'000 fr. en prêts hypothécaires dans la relation n° fff sont «due[s] et exigible[s]» et qu'elles portent intérêt à 4 % dès le 30 septembre 2008, respectivement le 4 novembre 2008.
Le recourant a contresigné le double de cette lettre après avoir ajouté la mention «Pour accord sur la présente avec les annotations ci-dessus.» En précisant qu'il donnait son «accord sur la présente», le recourant a manifestement reconnu l'exigibilité des deux créances, conformément à la condition posée par la banque pour n'entreprendre aucune démarche jusqu'à fin janvier 2009. Dans les annotations dont il fait état, le recourant précise uniquement que, en ce qui le concerne, l'ensemble des relations avec la banque F._ comprend également le prêt accordé sous la relation bancaire n° hhh. Cette adjonction ne change rien au fait que le recourant a apposé sa signature «sur la présente», laquelle mentionne clairement que l'engagement de la banque de ne rien entreprendre à l'encontre des débiteurs jusqu'à fin janvier 2009 est conditionné à la reconnaissance par le recourant et le représentant de sa soeur de l'exigibilité de deux créances hypothécaires échues résultant de la relation bancaire n° fff.
Le recourant soutient qu'en annotant la lettre du 12 décembre 2008, il a formulé une contre-offre qui appelait une acceptation de la part de la banque. Il ne précise toutefois pas sur quoi aurait porté exactement cette contre-offre, se bornant à indiquer qu'il s'agissait pour lui de trouver une solution globale dans ses relations contractuelles avec la banque. C'est le lieu d'observer que l'échange de correspondance de décembre 2008 ne portait pas sur le fond des relations contractuelles entre les parties, mais uniquement sur la question de savoir si et, le cas échéant, pendant combien de temps la banque F._ allait attendre avant de procéder à des démarches à l'encontre des débiteurs. En effet, le recourant a tout d'abord demandé un délai de réflexion et la banque lui a répondu qu'elle était d'accord de «patienter» jusqu'à fin janvier 2009 moyennant une reconnaissance d'exigibilité. Dans ce contexte, la simple mention d'un prêt accordé par la banque F._ dans le cadre d'une autre relation bancaire que celle citée sous la rubrique de la lettre litigieuse, sans adjonction ni réserves, se comprend nécessairement comme une précision du débiteur, qui entend que ledit prêt soit traité comme les autres prêts en cause et que la banque reste inactive jusqu'à la fin janvier 2009 également en ce qui concerne la relation bancaire n° hhh. Or, une telle précision n'est pas propre à modifier de quelque façon la portée de la signature du débiteur telle que décrite ci-dessus.
Contrairement à ce que le recourant soutient, la cour cantonale n'a dès lors pas versé dans l'arbitraire en retenant que, par sa signature apposée sur la lettre du 12 décembre 2008, le recourant avait reconnu l'exigibilité des deux créances mentionnées dans ce courrier.
4.5 La situation résultant des éléments à disposition lors de l'introduction de l'action en libération de dette apparaît suffisamment claire. L'exigibilité des créances hypothécaires garanties notamment par les créances cédulaires, objets de l'action en libération de dette, n'est guère contestable; il en va de même de l'exigibilité des créances cédulaires elles-mêmes. L'arrêt attaqué ne consacre ainsi aucune violation de l'art. 29 al. 3 Cst. en confirmant que le procès en libération de dette est dénué de chances de succès et en refusant pour ce motif le bénéfice de l'assistance judiciaire au recourant.
En conclusion, le recours sera rejeté dans la mesure où il est recevable.
5. Prenant apparemment en considération cette hypothèse-là, le recourant a présenté une conclusion subsidiaire tendant à la fixation d'un nouveau délai pour procéder à l'avance de frais dans la procédure cantonale.
Dépourvu de toute motivation, ce chef de conclusions est irrecevable au regard de l'art. 42 al. 1 et 2 LTF.
6. Il résulte de ce qui précède que le recours était voué à l'échec. Par conséquent, la demande d'assistance judiciaire formulée par le recourant sera rejetée en application de l'art. 64 al. 1 LTF.
L'arrêt rendu dans la présente cause est similaire à ceux rendus parallèlement dans les causes 4A_592/2011, 4A_598/2011 et 4A_600/2011. Il convient d'en tenir compte dans la fixation des frais judiciaires mis à la charge du recourant (art. 65 al. 2 et art. 66 al. 1 LTF).
Aucuns dépens ne seront alloués à l'intimé (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. La demande d'assistance judiciaire est rejetée.
2. Le recours est rejeté dans la mesure où il est recevable.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4. Il n'est pas alloué de dépens.
5. Le présent arrêt est communiqué au mandataire du recourant et à la Chambre des recours civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 29 novembre 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Godat Zimmermann