Faits:
A. Le 12 mars 2009, l'Office des poursuites de l'arrondissement de Vevey a notifié à A._, à la réquisition de X._ SA, un commandement de payer dans la poursuite en réalisation de gage immobilier n° xxxx portant sur les sommes de 1'670'000 fr. plus intérêt à 10 % l'an dès le 28 février 2009 (1) et de 6'374 fr. 25 plus intérêt à 5 % l'an dès le 5 mars 2009 (2). Le commandement de payer contenait les indications suivantes:
"Titre de la créance ou cause de l'obligation:
1) Montant dû sur le capital de la cédule hypothécaire RF xxxx grevant en 1er rang à hauteur de 1'670'000 CHF la parcelle RF B._ n° 723 sise sur la commune de Y._.
2) Intérêts dus sur le capital de la cédule hypothécaire conformément au chiffre 2 de l'acte de «Transfert de propriété à fin de garantie» signé le 28.04.2004 par les preneurs de crédit. Le total des deux créances précitées correspond aux montants dus en capital, intérêts et frais sur les prêts hypothécaires n° xxxx et xxxx ainsi que sur le compte courant n° xxxx. Créances dénoncées au remboursement le 26.11.2008 pour le 28.02.2009.
Désignation de l'immeuble:
Immeuble sis sur la commune de Y._, parcelle RF B._ n° 723, habitation. Copropriété de M. A._ et de Mme A._, chacun pour une demie."
Le poursuivi a fait opposition totale.
Le 15 mai 2009, la poursuivante a requis la mainlevée provisoire de l'opposition. A l'appui de sa requête, elle a notamment produit, outre le commandement de payer susmentionné, trois contrats de prêt hypothécaire, une copie de la cédule hypothécaire n° xxxx, l'acte de transfert de propriété à fin de garantie signé le 28 avril 2004, la copie d'une lettre du 18 avril 2008 précisant la situation des prêts en cours, la copie d'une lettre de résiliation des trois prêts du 26 novembre 2008 et la copie d'un acte notarié du 28 avril 2004.
- Le premier contrat de prêt hypothécaire était le prêt en compte n° xxxx d'un montant de 270'000 fr. pour la durée du 30 avril 2004 au 29 avril 2005 avec un taux d'intérêt de 2,75 % l'an, garanti notamment par des droits de gage immobilier d'au moins 270'000 fr., sans rang antérieur, grevant l'immeuble locatif à Y._. Le deuxième contrat de prêt hypothécaire était le prêt en compte n° xxxx, d'un montant de 400'000 fr., pour la durée du 30 avril 2004 au 29 avril 2005 avec un taux d'intérêt de 3,75 % l'an, garanti notamment par des droits de gage immobilier d'au moins 400'000 fr., sans rang antérieur, grevant le même immeuble. Le troisième contrat de prêt hypothécaire était le prêt en compte n° xxxx, d'un montant de 1'000'000 fr., pour la durée du 30 avril 2004 au 30 avril 2009 avec un taux d'intérêt de 3,75 % l'an, garanti notamment par des droits de gage immobilier d'au moins 1'000'000 fr., sans rang antérieur, grevant le même immeuble. Les preneurs de crédit étaient dans les trois cas A._, dame A._ et D._. Chacun des trois contrats de prêt hypothécaire contenait les dispositions ci-après concernant la dénonciation de l'hypothèque fixe X._:
"Si X._ est disposée à consentir le présent crédit, elle se réserve toutefois le droit de procéder à la résiliation anticipée dudit crédit et de tout autre crédit éventuel, moyennant un préavis de 90 jours, s'il apparaît que:
- le client est en retard dans le paiement des intérêts ou des amortissements convenus pour le remboursement du présent et d'autres crédits éventuels, y compris ceux d'autres créanciers.
- selon X._, les immeubles mis en gage ont perdu de leur valeur et n'offrent plus une couverture suffisante.
- selon X._, la situation financière et/ou le niveau des revenus du client se sont détériorés ou qu'une telle évolution est à prévoir.
- des mesures (telles que l'application de réserves minimales obligatoires, l'augmentation des exigences en matière de fonds propres) prises par la Banque Nationale ou d'autres autorités entraînent une augmentation des coûts du crédit.
Tout acquéreur de ce crédit peut faire valoir les mêmes motifs de résiliation que X._."
- La cédule hypothécaire n° xxxx de 1'670'000 fr. était au porteur et mentionnait un taux maximal inscrit au registre foncier de 10 % l'an; elle pouvait être dénoncée au remboursement total ou partiel en tout temps moyennant un préavis de six mois; elle n'indiquait pas le nom de son débiteur.
- L'acte de transfert de propriété à fin de garantie prévoyait notamment que les cédules hypothécaires étaient remises à la banque "en propriété fiduciaire" aux fins de garantir l'exécution de toutes créances issues des contrats conclus ou à conclure entre les parties (ch. 1), le(s) preneur(s) de crédit déclarant, pour le cas où les titres transférés à titre de sûreté ne le désignaient pas comme débiteur, reprendre les dettes que constataient ces mêmes titres hypothécaires (ch. 2); il permettait à la banque, "plutôt que d'exiger l'exécution des créances de crédits devenues exigibles, de faire directement valoir les créances qu'incorpor[ai]ent les titres hypothécaires remis à titre de garantie", dispense lui étant faite, "dans un tel cas, de dénoncer, par avis supplémentaire, les créances dérivant des titres" (ch. 3); en outre, "dès l'exigibilité, fût elle seulement partielle, de l'une des créances résultant des crédits, [la banque était] en droit d'exiger l'exécution des créances hypothécaires constituées en garantie" (ch. 4).
- La lettre du 18 avril 2008 précisant la situation des prêts en cours faisait état de 1'028'581 fr. 85 pour le prêt xxxx, 270'000 fr. pour le prêt xxxx et 323'031 fr. 80 pour le prêt xxxx, soit au total 1'621'613 fr. 65. Elle mentionnait que les deux derniers prêts étaient échus et exigibles, qu'au regard de l'évolution du marché le taux de l'intérêt serait porté à 4 % pour le prêt xxxx dès le 1er mai suivant et que la banque patienterait jusqu'au 31 juillet 2008 pour le paiement des arriérés d'intérêts et d'amortissements, qui s'élèveraient alors à 76'863 fr. 65.
- La lettre du 26 novembre 2008 résiliait les trois prêts et le compte courant pour le 28 février 2009, les créances s'élevant à cette date à 1'676'374 fr. 25, et dénonçait au remboursement pour le 28 février 2009 également le capital incorporé dans la cédule hypothécaire n° xxxx.
- L'acte notarié du 28 avril 2004 mentionnait que A._ et dame A._ étaient les débiteurs solidaires de la cédule.
B. Par prononcé du 27 août 2009, le Juge de paix du district de la Riviera - Pays-d'Enhaut a prononcé la mainlevée provisoire de l'opposition à concurrence de 1'670'000 fr. plus intérêt au taux de 4 % l'an dès le 28 février 2009 et de 6'374 fr. 25 plus intérêt à 5 % l'an dès le 5 mars 2009, date de la réquisition de poursuite. Le lendemain, il a rendu un prononcé rectificatif par lequel il constatait en outre l'existence du droit de gage. Il a considéré en substance que la cédule hypothécaire remise en propriété aux fins de garantie à la poursuivante constituait bien une reconnaissance de dette pour la créance abstraite incorporée dans la cédule dont elle était titulaire et dont le poursuivi était le débiteur, que cette créance était exigible au jour du dépôt de la réquisition de poursuite mais qu'en revanche, en vertu du pactum de non petendo qu'avait impliqué le transfert de propriété à fin de garantie, la poursuivante ne pouvait pas réclamer un intérêt supérieur à celui applicable à la créance causale.
Saisie à la fois par le poursuivi et par la poursuivante, la Cour des poursuites et faillites du Tribunal cantonal vaudois a, par arrêt du 17 juin 2010 notifié en expédition complète aux parties le 10 décembre 2010, rejeté le recours du poursuivi, admis partiellement celui de la poursuivante et réformé le prononcé du juge de paix en ce sens que l'opposition était provisoirement levée à concurrence de 1'670'000 fr. plus intérêt à 5 % l'an dès le 1er mars 2009 et de 6'374 fr. 25 plus intérêt à 5 % l'an dès le 5 mars 2009, l'opposition étant maintenue pour le surplus. Elle a considéré en substance qu'au 28 février 2009, la dette résultant des trois prêts hypothécaires (créance causale) se montait à 1'676'374 fr. 25, soit une somme très légèrement supérieure au capital de la créance cédulaire ou abstraite (1'670'000 fr.), mais inférieure au montant maximal couvert par le gage immobilier, à savoir le capital et les intérêts conventionnels échus de trois années et ceux ayant couru depuis la dernière échéance (art. 818 al. 1 ch. 3 CC); dès lors, en vertu du pactum de non petendo, les intérêts conventionnels dus pour la cédule devaient être réduits afin que la poursuivante ne puisse réclamer plus que sa créance effective; le poursuivi étant en demeure pour le paiement de la créance causale de 1'676'374 fr. 25, il devait dès le 1er mars 2009, lendemain du délai fixé au poursuivi pour s'acquitter de l'intégralité de la dette, un intérêt moratoire dont le taux ne pouvait être inférieur à 5 % l'an, conformément à l'art. 104 al. 1 CO.
C. Le 27 janvier 2011, le poursuivi a interjeté un recours en matière civile au Tribunal fédéral, tendant principalement à la réforme de l'arrêt de la cour cantonale en ce sens que la requête de mainlevée est rejetée et l'opposition confirmée, et qu'il est constaté que la gérance légale n'a plus lieu d'être; subsidiairement, le recourant conclut à l'annulation dudit arrêt et au renvoi de la cause à l'autorité précédente pour nouveau jugement dans le sens des considérants. Il invoque la violation de l'art. 82 LP pour cause d'absence d'exigibilité du montant de 1'670'000 fr.
Le recourant sollicite par ailleurs l'octroi de l'assistance judiciaire en ce sens seulement qu'il soit dispensé du paiement des frais judiciaires (art. 64 al. 1 LTF).
La poursuivante conclut au rejet du recours. Sa réponse a été communiquée au recourant, qui a renoncé à se déterminer à son sujet. La cour cantonale se réfère à son arrêt.
Considérant en droit:
1. 1.1 La décision rendue en matière de mainlevée - définitive ou provisoire - de l'opposition est une décision finale au sens de l'art. 90 LTF puisqu'elle met fin à l'instance (ATF 134 III 115 consid. 1.1). Elle peut faire l'objet du recours en matière civile (art. 72 al. 2 let. a LTF) lorsque la valeur litigieuse atteint, comme en l'espèce, au moins 30'000 fr. (art. 74 al. 1 let. b LTF; ATF 133 III 399 consid. 1.3). Interjeté en temps utile (art. 46 al. 1 let. c et 100 al. 1 LTF) par la partie qui a succombé (partiellement) en instance cantonale (art. 76 al. 1 LTF) à l'encontre d'une telle décision prise sur recours en dernière instance cantonale (art. 75 LTF), le présent recours est en principe recevable.
1.2 Le recours en matière civile peut être formé pour violation du droit fédéral, lequel comprend les droits constitutionnels (art. 95 let. a LTF; ATF 133 III 446 consid. 3.1, 462 consid. 2.3). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours en se fondant sur d'autres arguments que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (ATF 133 III 545 consid. 2.2). Il ne connaît toutefois de la violation des droits fondamentaux que si ce grief a été soulevé et motivé par le recourant ("principe d'allégation"; art. 106 al. 2 LTF; ATF 134 I 83 consid. 3.2; 133 II 249 consid. 1.4.2).
1.3 Saisi d'un recours en matière civile, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Le recourant qui entend se plaindre d'un établissement manifestement inexact - c'est-à-dire arbitraire (art. 9 Cst.; ATF 133 II 249 consid. 1.2.2 p. 252) - des faits doit satisfaire au principe d'allégation susmentionné (consid. 1.2), étant rappelé que l'appréciation des preuves n'est arbitraire que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait des déductions insoutenables (ATF 129 I 8 consid. 2.1).
1.4 Dépourvu de toute motivation, le chef de conclusions tendant à ce qu'il soit constaté que la gérance légale n'a plus lieu d'être est irrecevable au regard de l'art. 42 al. 1 et 2 LTF.
2. 2.1 Constitue une reconnaissance de dette, au sens de l'art. 82 al. 1 LP, l'acte authentique ou sous seing privé signé par le poursuivi - ou son représentant -, d'où découle sa volonté de payer au poursuivant, sans réserve ni condition, une somme d'argent déterminée, ou aisément déterminable, et échue (ATF 130 III 87 consid. 3.1 p. 88 et les références citées).
S'agissant de l'exigibilité de la créance en poursuite, il appartient au créancier de l'établir (arrêt 5A_845/2009 du 16 février 2010 consid. 7.1; DANIEL STAEHELIN, in Kommentar zum Bundesgesetz über Schuldbetreibung und Konkurs, n. 77 et 79 ad art. 82 LP). Le poursuivi peut la contester et rendre immédiatement vraisemblable sa libération conformément à l'art. 82 al. 2 LP. La loi n'exige pas une preuve stricte de ce moyen libératoire (cf. ATF 96 I 4 consid. 1). Lorsque le juge statue sous l'angle de la simple vraisemblance, il doit, en se fondant sur des éléments objectifs, avoir l'impression que les faits allégués se sont produits, sans exclure pour autant la possibilité qu'ils se soient déroulés autrement (ATF 132 III 140 consid. 4.1.2 et les citations; arrêt 5A_726/2010 du 22 mars 2011 consid. 3.2.1).
2.2 Le recourant prétend que la cour cantonale a admis à tort l'exigibilité de la créance cédulaire, car la créance causale résultant du prêt hypothécaire de 1'000'000 fr. accordé le 28 avril 2004 n'était pas exigible au moment du dépôt de la réquisition de poursuite faute d'avoir été résilié valablement. Il fait valoir à cet égard que la poursuivante n'a pas respecté le délai de dénonciation de 90 jours et que lui-même n'a pas été en retard dans le paiement des intérêts et des amortissement de la dette.
Le recourant ne remet toutefois pas en cause la constatation de la cour cantonale selon laquelle les deux autres créances causales, issues des prêts hypothécaires de 270'000 fr. du 18 avril 2004 et de 400'000 fr. du 28 avril 2004, étaient exigibles depuis le 29 avril 2005. Or, aux termes du chiffre 4 de l'acte de transfert de propriété à titre de garantie, la banque était en droit d'exiger l'exécution des créances hypothécaires constituées en garantie dès l'exigibilité, fût-elle seulement partielle, de l'une des créances résultant des crédits. Deux de celles-ci étant effectivement exigibles, c'est à bon droit que l'arrêt attaqué retient que l'intimée pouvait réclamer la créance abstraite ou cédulaire. Le recourant ne conteste pas que cette créance, comme l'admet en outre l'arrêt attaqué, a été valablement dénoncée au remboursement le 26 novembre 2008 pour le 28 février 2009. En limitant sa critique à la résiliation - en soi non décisive - du troisième prêt hypothécaire de 1'000'000 fr., il ne fait pas la démonstration de la violation de l'art. 82 LP en tant que cette disposition subordonne l'octroi de la mainlevée de l'opposition à l'exigibilité de la créance ici en cause, à savoir la créance - abstraite - de 1'670'000 fr.
Au demeurant, s'agissant de la résiliation du troisième prêt hypothécaire, le recourant se contente de simples dénégations concernant le retard dans le paiement des intérêts et amortissements convenus et le respect du délai de dénonciation. Il ne démontre pas, conformément aux exigences rappelées plus haut (consid. 1.3), en quoi, sur ces points, la cour cantonale aurait établi les faits de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF.
2.3 Il résulte de ce qui précède que le recours doit être rejeté dans la mesure de sa recevabilité.
3. En vertu de l'art. 64 al. 1 LTF, une partie peut obtenir l'assistance judiciaire à la double condition qu'elle ne dispose pas de ressources suffisantes et que ses conclusions ne paraissent pas vouées à l'échec.
S'agissant de la première condition, il appartient au requérant d'établir et de documenter son indigence (ATF 125 IV 161 consid. 4a p. 164). En l'espèce, le recourant allègue n'avoir aucun revenu professionnel, étant en détention, ni aucune fortune à disposition, dès lors que les revenus des immeubles qu'il possède en indivision avec sa soeur ont été séquestrés conformément à une ordonnance pénale du 18 avril 2007, qu'une action en partage et des poursuites en réalisation de gage concernant ses immeubles sont en cours et que la part sur l'immeuble qu'il possède en copropriété avec son épouse fait également l'objet d'un séquestre pénal. Il ne donne toutefois aucune indication chiffrée permettant d'évaluer son besoin, se contentant de renvoyer aux décisions rendues au pénal. Or, il va de soi que les valeurs patrimoniales séquestrées ou confisquées par le juge pénal ne peuvent être que celles susceptibles de constituer le résultat de l'infraction reprochée ou celles destinées à décider ou à récompenser l'auteur de celle-ci (cf. art. 70 al. 1 CP). Rien n'indique que le recourant ne dispose pas d'autres avoirs à côté de ces valeurs patrimoniales séquestrées ou confisquées. Le fait qu'une action en partage soit en cours n'est pas décisif. Il en va de même du fait que le recourant fasse l'objet de poursuites, l'indigence n'étant pas nécessairement assimilée à l'insolvabilité (arrêt 4P.50/1992 du 16 juin 1992 consid. 7 c/bb p. 12).
La demande d'assistance judiciaire doit donc être rejetée faute pour le recourant d'établir sa prétendue indigence et, en outre, faute de chances de succès du recours.
Les frais judiciaires doivent par conséquent être mis à la charge du recourant (art. 66 al. 1 LTF). L'intimée, qui a conclu au rejet du recours, a droit à des dépens (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire du recourant est rejetée.
3. Les frais judiciaires, arrêtés à 8'000 fr., sont mis à la charge du recourant.
4. Une indemnité de 8'000 fr., à payer à l'intimée à titre de dépens, est mise à la charge du recourant.
5. Le présent arrêt est communiqué aux participants à la procédure et à la Cour des poursuites et faillites du Tribunal cantonal du canton de Vaud.
Lausanne, le 1er novembre 2011
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
Le Greffier: Fellay