Faits:
A.
A.a. Le 31 mai 1990, la Banque W._, à laquelle a succédé la Banque Z._ (ci-après: la banque ou la Banque Z._), a octroyé à chacun des frères A.X._ et B.X._ un crédit en compte courant de _ fr. avec intérêts. A titre de garantie, chaque emprunteur a cédé en propriété à la Banque une cédule hypothécaire au porteur de _ fr. en premier rang grevant sa quote-part d'une demie de la parcelle n° 2 (cédule n° xxx pour B.X._ et cédule n° yyy pour A.X._).
Le 26 juillet 1990, les deux crédits ont été restructurés de manière identique pour chacun des frères sous la forme d'un compte courant de 3'750'000 fr. et d'une avance à terme fixe du même montant. Afin de garantir cette augmentation de crédit, les deux emprunteurs ont cédé en propriété à la banque la cédule hypothécaire au porteur de 2'000'000 fr. qu'ils avaient constituée sur la parcelle n° 1 (cédule n° zzz).
A.b. En ce qui concerne A.X._, après un premier acte de cession du 14 juin 1990, il a signé le 27 août 1990 deux actes de cession en propriété et à fin de garantie - le second acte étant cosigné avec son frère B.X._ -, par lesquels il a remis à la banque en tant que propriétaire fiduciaire aux fins de garantie - dont la qualification de garantie fiduciaire ( Sicherungsübereignung ) n'est en soi pas contestée -, la cédule hypothécaire au porteur de 6'000'000 fr. (cédule n° yyy) et celle de 2'000'000 fr. (cédule n° zzz).
Ces deux actes, sur formules préimprimées de la banque, garantissent les prétentions actuelles et futures de la banque et renvoient aux conditions spéciales figurant au verso ainsi qu'aux conditions générales de la banque, contresignées par l'intéressé. En ce qui concerne l'exécution forcée, sous le titre " Droit de gage et de compensation ", l'art. 8, 3è me phrase, des conditions générales prévoit uniquement qu' "en cas de demeure du client, la banque peut, à son choix, réaliser les gages de gré à gré ou par voie de poursuite ".
A.c. Les crédits ont été dénoncés au remboursement le 10 décembre 1993. Les cédules l'ont été le 30 octobre 1996.
Entre 1994 et 1997, la banque a introduit plusieurs poursuites contre les deux débiteurs.
B.
Le 12 septembre 2003, des commandements de payer ont à nouveau été notifiés à A.X._ et à son frère.
B.a. En ce qui concerne A.X._, trois commandements de payer dans des poursuites en réalisation de gage immobilier lui ont été notifiés: le premier pour un montant de 6'000'000 fr. plus intérêts à 10 % l'an dès le 4 septembre 2000 sur la base de la cédule hypothécaire n° yyy (poursuite n° 4); le deuxième, au libellé identique, sur la base de la cédule n° xxx, lui a été notifié en sa qualité de tiers propriétaire du gage (poursuite n° 5); le troisième pour le montant de 2'000'000 fr. avec intérêts à 10 % dès le 4 septembre 2000 sur la base de la cédule hypothécaire n° zzz (poursuite n° 6).
Les oppositions formées par A.X._ à ces commandements de payer ont été levées par prononcés de mainlevée provisoire.
B.b. Le 29 janvier 2004, A.X._ et B.X._ ont introduit une action en libération de dette contre la Banque Z._ devant la Cour civile du Tribunal cantonal du canton de Vaud, concluant notamment à ce qu'il soit dit qu'ils ne doivent pas les montants objets des poursuites en réalisation de gage immobilier n os 4, 5 et 6/7.
La Banque Z._ a conclu reconventionnellement au paiement par chacun des débiteurs des créances correspondant au solde de leurs comptes courants et de leurs avances à terme fixe, à savoir, contre A.X._, au paiement des montants de 8'705'120 fr. 75 plus intérêts à 9 1/4 % l'an dès le 1 er juillet 2002 et de 3'916'406 fr. 25 avec intérêts à 8 7/8 % l'an dès le 27 février 1993.
Par jugement du 25 novembre 2009, dont la motivation a été notifiée le 13 juillet 2010, la Cour civile a, en ce qui concerne A.X._, partiellement admis son action en libération de dette (ch. I); sur reconvention, l'a condamné à payer à la Banque Z._ la somme de 4'219'456 fr. avec intérêts à 8,5 % dès le 30 septembre 1993, sous déduction de dix-huit versements de 3'000 fr., de quatre versements de 6'000 fr., d'un versement de 19'523 fr. 10 et d'un versement de 5'125 fr. 35, valeur à la date de leur paiement (contrat de compte courant; ch. II), ainsi que la somme de 3'916'406 fr. 26 avec intérêts à 8 7/8 % dès le 27 février 1993 (avance à terme fixe; ch. III); elle a levé les oppositions que le débiteur avait formées aux trois commandements de payer en réalisation de gage immobilier, à savoir à concurrence des créances abstraites de 6'000'000 fr. plus intérêts dans la poursuite n° 4 (ch. VI), de 6'000'000 fr. plus intérêts dans la poursuite n° 5 (ch. VII) et de 2'000'000 fr. plus intérêts dans la poursuite n° 7 (ch. IX); elle l'a enfin condamné au versement de 92'423 fr. 25 à titre de dépens (ch. XI).
Les recours interjetés au Tribunal fédéral contre ce jugement par les deux frères ont été rejetés (arrêt 4A_513/2010 et 4A_515/2010 du 30 août 2011).
B.c. La banque a requis la continuation des poursuites en réalisation de gage immobilier.
C.
Se fondant sur le jugement de la Cour civile du 25 novembre 2009, la banque a requis, le 8 août 2011, la poursuite ordinaire de A.X._ en recouvrement des deux créances causales et de la créance de dépens pour les montants alloués. Celui-ci a fait opposition au commandement de payer qui lui a été notifié (poursuite n° 8) le 12 août 2011.
La plainte formée par le débiteur contre la notification de ce commandement de payer a été définitivement rejetée par arrêt du Tribunal fédéral du 9 octobre 2012 (arrêt 5A_295/2012), l'exception du beneficium excussionis realis de l'art. 41 al. 1bis LP ne pouvant être opposée, ni aux deux créances causales puisqu'elles ne sont pas garanties par gage, ni à la créance de dépens.
Dans la procédure de mainlevée introduite le 16 août 2011, dans laquelle le délai de détermination du poursuivi avait été prolongé jusqu'à droit connu sur le sort de la plainte sus-mentionnée, le juge de paix du district de Nyon a accordé la mainlevée définitive de l'opposition par décision du 11 janvier 2013, décision envoyée aux parties le 15 janvier 2013, considérant que le poursuivi n'avait fait valoir aucun des moyens de libération de l'art. 81 al. 1 LP.
Statuant le 15 août 2013, la Cour des poursuites et faillites du Tribunal cantonal vaudois a rejeté le recours du poursuivi et confirmé le prononcé de mainlevée définitive, pour des motifs qui seront exposés dans les considérants de droit ci-dessous.
D.
Contre cet arrêt, A.X._ a interjeté un recours en matière civile au Tribunal fédéral le 17 septembre 2013, concluant à sa réforme en ce sens que la mainlevée de son opposition est refusée. Il invoque la violation des art. 81 LP et 19 et 398 CO.
Invitées à se déterminer, la cour cantonale se réfère à son arrêt et la Banque Z._ conclut principalement au rejet du recours et, subsidiairement, à son admission partielle en ce sens que la mainlevée soit accordée, d'une part, pour les montants des créances causales en poursuite selon les ch. II et III du jugement du 25 novembre 2009 (cf. consid. B.b ci-dessus), mais sous déduction des montants des créances abstraites de 7'800'000 fr. avec intérêts à 10 % l'an dès le 21 juin 2011, et, d'autre part, pour la créance de dépens de 92'423 fr. 25 avec intérêts à 5 % l'an dès le 10 août 2011.
La réponse a été communiquée au recourant pour information.

Considérant en droit:
1.
1.1. Le recours a été déposé en temps utile (art. 100 al. 1 LTF) à l'encontre d'une décision de mainlevée définitive (art. 80 LP), soit une décision finale (art. 90 LTF; <ref-ruling> consid. 1.4), rendue en matière de poursuite pour dettes (art. 72 al. 2 let. a LTF) par le tribunal supérieur du canton ayant statué sur recours (art. 75 al. 1 et 2 LTF); la valeur litigieuse est atteinte (art. 74 al. 1 let. b LTF); le poursuivi, qui a été débouté de ses conclusions par l'autorité précédente, a qualité pour recourir (art. 76 al. 1 LTF).
1.2. L'état de fait de l'arrêt attaqué étant incomplet, il a été complété (art. 105 al. 2 LTF) à l'aide du jugement de la Cour civile du 25 novembre 2009 et des arrêts du Tribunal fédéral déjà rendus entre les parties.
2.
Le recours en matière civile peut être formé pour violation du droit fédéral, y compris les droits constitutionnels (art. 95 let. a LTF). La décision en matière de mainlevée, qu'elle soit définitive ou provisoire, n'est en effet pas une décision de mesures provisionnelles au sens de l'art. 98 LTF - contre laquelle seule la violation des droits constitutionnels peut être invoquée - (<ref-ruling> consid. 1.5).
3.
Le droit de la cédule hypothécaire a été modifié lors de la révision du 11 décembre 2009, entrée en vigueur le 1er janvier 2012 (RO 2011 4637 ss, p. 4657). Dès lors que les cédules hypothécaires ont en l'espèce été remises en garantie avant l'entrée en vigueur du nouveau droit, le présent recours sera examiné sous l'angle de l'ancien droit (art. 1 al. 1 et 26 al. 1 Tit. fin. CC; cf. Denis Piotet, Le droit transitoire de la révision du Code civil du 11 décembre 2009 et la pratique notariale, Le notaire bernois 2010 225 ss, p. 230; Bénédict Foëx, Le nouveau droit des cédules hypothécaires, in: JdT 2012 II 3 ss, p. 14).
4.
4.1. Selon l'arrêt attaqué, le jugement de la Cour civile du 25 novembre 2009 est un titre à mainlevée définitive au sens des art. 80 et 81 LP et les moyens que le poursuivi entend opposer doivent être prouvés par titre. Les cédules ont été remises à la banque à titre de garantie fiduciaire, de sorte que les créances abstraites incorporées dans les cédules et la créance causale issue du rapport de base se juxtaposent. Examinant en détail la doctrine, citée par le Tribunal fédéral dans son arrêt 5A_295/2012 du 9 octobre 2012, relative à l'exception dilatoire qui permet au débiteur d'exiger du créancier qu'il réalise d'abord le gage avant de s'en prendre à lui personnellement, la cour cantonale a considéré que, selon la majorité de la doctrine, cette exception dilatoire relève du droit matériel, soit du contrat. Interprétant les conditions générales et les conditions spéciales de la banque, elle a alors considéré qu'en suivant la majorité de la doctrine, il conviendrait d'admettre qu'en l'espèce, les parties seraient tacitement convenues que la banque réaliserait d'abord le gage avant de s'en prendre aux autres biens. Elle a toutefois écarté cette conclusion en relevant tout d'abord que cette exception dilatoire n'a pas son fondement dans le droit des poursuites, comme le serait le moyen tiré du fait que le poursuivi est déjà l'objet d'une poursuite exécutoire pour la même créance, et qu'au demeurant, en l'espèce on est en présence de deux créances distinctes. Puis, elle a retenu que, dès lors que cette exception dilatoire est un moyen de droit matériel - qui découle du contrat de fiducie conclu entre les parties et qui entraîne l'inexigibilité de la créance -, elle peut certes être opposée dans une procédure de mainlevée provisoire (art. 82 al. 2 LP), mais elle ne peut pas l'être dans une procédure de mainlevée définitive: le juge du fond a tranché définitivement la question de l'exigibilité de la créance et, dès lors que l'inexigibilité qui découlerait de l'exception existait déjà au moment du jugement, elle ne peut être invoquée comme moyen libératoire au sens de l'art. 81 al. 1 LP, puisque cette disposition n'admet un tel moyen que s'il est postérieur au jugement. L'exception aurait dû être invoquée dans le cadre du procès qui a abouti au jugement du 25 novembre 2009. La cour cantonale a donc jugé que le moyen libératoire tiré de cette exception par le poursuivi - qui ne concerne d'ailleurs pas la créance de dépens - est mal fondé; elle a rejeté le recours et confirmé le prononcé de mainlevée définitive.
4.2. En substance, le recourant semble formuler deux critiques.
Tout d'abord, il soutient que, même si l'exception dilatoire relève du droit matériel, puisqu'elle a son fondement dans le contrat de fiducie, elle doit pouvoir être invoquée dans la procédure d'exécution - au stade de la mainlevée définitive -, et n'a pas à l'être dans la procédure au fond: la clause de la convention de fiducie est en effet une restriction relative à l'exécution forcée; les effets de cette clause sont spécifiques à la procédure de poursuite; cette clause ne concerne pas l'exigibilité de la créance causale ni le droit pour le créancier d'agir en justice en condamnation au paiement de celle-ci, de sorte que la banque était en droit d'exiger le paiement et d'obtenir un jugement condamnatoire, ce qu'elle a obtenu par le jugement du 25 novembre 2009; l'admission de l'exception ne saurait avoir pour conséquence que la créance causale n'est pas exigible, contrairement à ce qu'a retenu la cour cantonale.
Ensuite, le recourant fait valoir que l'art. 81 al. 1 LP ne contient pas une liste exhaustive des motifs de refus de la mainlevée définitive; l'exception doit être soulevée non pas dans le procès au fond, mais au stade de l'opposition au commandement de payer et, partant, doit être examinée dans la mainlevée définitive. Il invoque plusieurs raisons à cet égard. Tout d'abord, puisque la poursuite en réalisation de gage présuppose que la créance causale soit exigible, si l'exception faisait obstacle à l'exigibilité de celle-ci, comme le retient la cour cantonale, le créancier ne pourrait pas poursuivre en réalisation de gage, ce qui n'est pas conforme au système. Ensuite, le créancier doit aussi pouvoir obtenir un jugement sur la créance causale, de façon à pouvoir ensuite, une fois le gage réalisé, continuer rapidement la poursuite ordinaire sur l'excédent revenant au propriétaire débiteur, voire participer à une éventuelle saisie sur cet excédent obtenu par un autre créancier. Enfin, il soutient subsidiairement que la poursuite ordinaire est postérieure au jugement au fond, de sorte que l'exécution est fondée sur un élément postérieur au jugement au sens de l'art. 81 al. 2 LP.
Il semble reprendre la même argumentation, invoquant la violation des art. 19 et 398 CO.
S'agissant des conclusions subsidiaires - en mainlevée définitive partielle - de la banque, le recourant soutient que cette dernière les a formulées pour la première fois au stade de la procédure de recours et qu'elle n'a allégué aucun fait à l'appui de celles-ci. De surcroît, le calcul des intérêts selon l'art. 818 al. 1 ch. 3 CC serait incorrect. La banque produirait également sa créance de dépens dans la poursuite en réalisation de gage.
4.3. Dans sa réponse, la banque conclut principalement au rejet du recours. Elle développe essentiellement trois arguments.
Premièrement, elle estime qu'une exception de bénéfice de discussion réelle (i.e. exception de beneficium excussionis realis ) n'existe pas, d'une part, parce qu'en cas de garantie fiduciaire, les deux créances - causale et abstraite - sont juxtaposées dans le but de renforcer la position du créancier et non de l'affaiblir et, d'autre part, parce qu'il n'y a aucune clause dans ce sens dans le contrat de fiducie, clause qui ne saurait être simplement implicite lorsque la créance causale dépasse très largement la créance abstraite.
Deuxièmement, à supposer que cette exception existe, elle soutient que le débiteur aurait dû l'invoquer dans la procédure au fond, comme l'a retenu la cour cantonale, ce qui aurait pu conduire la Cour civile à constater le montant de sa créance causale, voire à en différer l'exigibilité jusqu'à la réalisation du gage; lui refuser la mainlevée l'empêcherait de participer à la saisie sur le solde après réalisation du gage, requise par un autre créancier. Troisièmement, puisqu'il ne s'agit que d'empêcher que la banque obtienne plus que le montant total de sa créance causale, elle estime que l'on peut prononcer la mainlevée définitive et seulement ensuite suspendre la continuation de la poursuite, et donc la saisie, jusqu'à l'entrée en force du tableau de distribution dans la poursuite en réalisation de gage immobilier.
Subsidiairement, la banque conclut à ce que la mainlevée définitive partielle lui soit accordée, d'une part, pour les montants des créances causales en poursuite selon les ch. II et III du jugement du 25 novembre 2009, mais sous déduction des montants des créances abstraites qu'elle chiffre pour la première fois au montant de 7'800'000 fr. avec intérêts à 10 % l'an dès le 21 juin 2011, et, d'autre part, pour la créance de dépens de 92'423 fr. 25 avec intérêts à 5 % l'an dès le 10 août 2011.
5.
Après avoir rappelé les principes dégagés par la jurisprudence s'agissant de la cession à titre fiduciaire de cédules hypothécaires au porteur, il y aura lieu d'examiner tout d'abord si le contrat de fiducie prévoit ou non deux voies d'exécution forcée parallèles en recouvrement, d'une part, des créances abstraites et, d'autre part, de la créance causale.
5.1. Sous le droit antérieur à la révision du Code civil de 2009 (cf. supra consid. 3), comme sous le nouveau droit, la cédule hypothécaire est une créance personnelle garantie par un gage immobilier (art. 842a CC et art. 842 al. 1 CC; Message du Conseil fédéral du 27 juin 2007 concernant la révision du Code civil suisse (Cédule hypothécaire de registre et autres modifications des droits réels), FF 2007 p. 5015 ss, p. 5053 [ci-après: Message]). Il s'agit d'un papier-valeur qui incorpore à la fois la créance et le droit de gage immobilier, qui en est l'accessoire.
5.1.1. Selon la jurisprudence, lorsque les parties conviennent - par contrat de fiducie - que la cédule hypothécaire est remise au créancier en propriété à titre fiduciaire aux fins de garantie (garantie fiduciaire; Sicherungsübereignung), il n'y a pas novation de la créance garantie (<ref-ruling> consid. 3.1; <ref-ruling> consid. 3 et les références); la créance incorporée dans la cédule se juxtapose à la créance garantie en vue d'en faciliter le recouvrement (<ref-ruling> consid. 2a in fine ). On distingue alors la créance abstraite (ou créance cédulaire) garantie par le gage immobilier, incorporée dans la cédule hypothécaire, et la créance causale (ou créance garantie ou encore créance de base) résultant de la relation de base, en général un contrat de prêt, pour laquelle la cédule a été remise en garantie, ces deux créances étant indépendantes l'une de l'autre. La créance abstraite incorporée dans la cédule hypothécaire et garantie par le gage immobilier doit faire l'objet d'une poursuite en réalisation de gage immobilier; la créance causale doit faire l'objet d'une poursuite ordinaire (<ref-ruling> consid. 3.1 et les arrêts cités). Ces considérations demeurent valables sous le nouveau droit, qui présume toutefois la remise de la cédule à titre de garantie fiduciaire (art. 842 al. 2 CC), alors que l'ancien droit présumait la remise à titre de garantie directe, avec novation (art. 855 al. 1a CC).
5.1.2. Dans la poursuite en réalisation de gage immobilier pour la créance abstraite, la cédule hypothécaire au porteur est une reconnaissance de dette au sens de l'art. 82 al. 1 LP et vaut titre de mainlevée pour toute la créance instrumentée dans le titre (ATF <ref-ruling> consid. 3; arrêt 5A_226/2007 du 20 novembre 2007 consid. 5.1 et les références). Le créancier n'a donc pas à produire une reconnaissance de dette pour la créance causale.
Si le créancier poursuit pour le montant de la créance abstraite incorporée dans le titre, alors que la créance causale (en capital et intérêts) est d'un montant inférieur, le débiteur poursuivi peut opposer les exceptions personnelles dont il dispose contre le poursuivant (propriétaire fiduciaire), conformément au contrat de fiducie, en particulier celle consistant à exiger la limitation de la somme réclamée au montant de la créance causale (art. 855 al. 2 et 872a CC; art. 842 al. 3 et 849 al. 1 CC); il doit rendre vraisemblable, dans le cadre de l'art. 82 al. 2 LP, que le montant de la créance causale est inférieur au montant de la créance abstraite incorporée dans le titre et que le créancier a, à tort, poursuivi pour le montant de cette dernière (arrêt 5A_226/2007 du 20 novembre 2007 consid. 5.1 et les références; cf. également <ref-ruling> consid. 3.2).
Si la créance causale (en capital et intérêts) résultant du rapport de base est en revanche supérieure au montant nominal de la créance cédulaire (capital) majoré des intérêts couverts par le droit de gage, le créancier peut faire valoir dans la poursuite en réalisation de gage immobilier l'intégralité de la créance cédulaire avec les intérêts de trois années échus au moment de l'ouverture de la faillite ou de la réquisition de vente. Pour le calcul de ces intérêts, le nouvel art. 818 al. 1 ch. 3 CC est applicable immédiatement (art. 26 al. 2 Tit. fin. CC; Piotet, op. cit., p. 230; Foëx, op. cit., p. 14) : la cédule ne garantit au créancier gagiste que les intérêts effectivement dus pour un maximum de trois ans, ainsi que les intérêts courants et les intérêts moratoires (Message p. 5049/5050; cf. Paul-Henri Steinauer, Les droits réels, tome III, 4ème éd., Berne 2012, n° 2795a [cité ci-après: T. III]; le même, La nouvelle réglementation de la cédule hypothécaire, in: Jusletter, p. 67 note 51; Foëx, op. cit., p. 8).
Le solde de la créance causale doit faire l'objet d'une poursuite ordinaire (<ref-ruling> consid. 3.2 et les références; arrêt 5A_295/2012 du 9 octobre 2012 consid. 4.2.2, publié in: SJ 2013 I p. 417); pour le recouvrement de ce solde, le créancier n'a pas à attendre l'issue de la procédure en réalisation de gage immobilier, puisque cet excédent n'est manifestement pas couvert par le gage et que l'exception du beneficium excussionis realis de l'art. 41 al. 1bis LP n'entre donc pas en ligne de compte (arrêt 5A_295/2012 précité consid. 4.2.2 et les références).
5.1.3. Jusqu'ici, le Tribunal fédéral n'a pas eu à se prononcer sur la possibilité pour le créancier, propriétaire fiduciaire de la cédule, d'introduire parallèlement une poursuite en réalisation de gage immobilier pour l'intégralité de la créance abstraite (capital et intérêts) et une poursuite ordinaire pour l'entier de la créance causale.
Dans l'arrêt 5A_295/2012, il n'a statué que sur la plainte que le poursuivi avait formée contre la notification du commandement de payer dans la poursuite ordinaire, successive à la poursuite en réalisation de gage immobilier: considérant qu'en cas de garantie fiduciaire, la créance abstraite incorporée dans la cédule se juxtapose à la créance causale et que l'on est donc en présence de deux créances, indépendantes l'une de l'autre, il a jugé que la créance causale - réclamée par la voie de la poursuite ordinaire - n'est pas elle-même garantie par un gage, de sorte que le poursuivi ne peut pas se prévaloir de l'exception du beneficium excussionis realis de l'art. 41 al. 1bis LP (<ref-ruling> consid. 1). En passant, il a toutefois relevé que, dans une telle situation, la doctrine accorde au débiteur une exception dilatoire, qu'il peut faire valoir par la voie de l'opposition au commandement de payer, en alléguant que la créance causale n'est pas exigible aussi longtemps que le poursuivant n'a pas été renvoyé perdant dans la procédure en réalisation de l'immeuble grevé de la cédule (citant parmi plusieurs: Daniel Staehelin, Betreibung und Rechtsöffnung beim Schuldbrief in: Pratique juridique actuelle [PJA], 1994 p. 1255 ss, p. 1261 [cité ci-après: Betreibung]; Dieter Zobl/Christoph Thurnherr, Berner Kommentar, Systematischer Teil und Art. 884-887 ZGB, 3ème éd. 2010, Syst. Teil, n° 1491 avec de nombreuses références; Domenico Acocella, in: Basler Kommentar, Bundesgesetz über Schuldbetreibung und Konkurs I, 2ème éd. 2010, n° 20 ad art. 41 LP; Charles Jaques, Exécution forcée spéciale des cédules hypothécaires, in: Blätter für Schuldbetreibung und Konkurs [BlSchK] 2001 201 ss, p. 211; Wolfang Wiegand/Christoph Brunner, Vorschläge zur Ausgestaltung des Schuldbriefes als papierloses Registerpfand, p. 47; Markus F. Vollenweider, Die Sicherungsübereignung von Schuldbriefen als Sicherungsmittel der Bank, p. 136 s.; contra : Sidney Kamerzin, Le contrat constitutif de cédule hypothécaire, n° 197); en effet, la juxtaposition d'une créance abstraite à une créance causale implique généralement que les parties entendent que le créancier doive en premier lieu obtenir la prestation en faisant valoir la créance abstraite garantie par le gage (Pierre-Robert Gilliéron, Commentaire de la loi fédérale sur la poursuite pour dettes et la faillite, art. 1-88, n° 42 ad art. 41 LP; cf. ATF 42 III 496 consid. 2).
Cette question doit désormais être tranchée.
5.1.4. Lorsqu'une créance est garantie par gage, la poursuite doit se continuer par la réalisation de gage (art. 41 al. 1 LP), sitôt que le préposé est informé de l'existence du droit de gage (art. 151 al. 1 LP; Walter A. Stoffel/Isabelle Chabloz, Voies d'exécution, 2ème éd., Berne 2010, § 6 n° 14). L'exception du bénéfice de discussion réelle (i.e. beneficium excussionis realis ) permet au débiteur d'exiger que son créancier se désintéresse d'abord sur l'objet du bien remis en gage (au sens de l'art. 37 LP; <ref-ruling> consid. 1) avant de le faire sur tous ses autres biens; il peut l'invoquer par la voie de la plainte contre la notification du commandement de payer dans la poursuite ordinaire, par voie de saisie ou de faillite (art. 41 al. 1bis LP; <ref-ruling> consid. 1).
Bien qu'elle soit réglementée à l'art. 41 al. 1bis LP, l'exception du bénéfice de discussion réelle est une exception de droit matériel (ATF 68 III 131 p. 133; Acocella, op. cit., n° 17 ad art. 41 LP; Steinauer, T. III, n° 2785a; Franziska Martha Betschart, Der Grundpfandvertrag und die Allgemeinen Geschäftsbedingungen der Banken, thèse Lucerne 2011, n° 791); l'art. 41 al. 1bis LP est de droit dispositif (Acocella, loc. cit.; Steinauer, T. III, n° 2785a et les références citées). Les parties (débiteur, créancier et propriétaire du gage) peuvent convenir librement de l'ordre dans lequel l'objet du gage et le reste du patrimoine du débiteur servent de garantie; elles peuvent ainsi convenir que la créance abstraite est subsidiaire par rapport à la créance causale, par exemple lorsqu'un tiers est propriétaire du gage, et donc exclure la possibilité pour le débiteur de se prévaloir du bénéfice de discussion réelle (ATF 68 III 131 p. 133).
L'art. 41 al. 1bis LP ne s'applique pas, ainsi qu'en a jugé le Tribunal fédéral dans l'arrêt 5A_295/2012, lorsque la cédule hypothécaire au porteur a été remise au créancier à titre de garantie fiduciaire: en effet, la créance causale dont la poursuite ordinaire est en cause n'est pas elle-même garantie par le droit de gage immobilier; c'est la créance cédulaire (ou abstraite) qui est ainsi garantie; la créance causale est garantie par la créance cédulaire (ou abstraite).
5.1.5. Il n'en demeure pas moins que, lors de la remise de la cédule hypothécaire au porteur à titre de garantie fiduciaire ( Sicherungsübereignung ), les parties peuvent prévoir ou exclure l'exception du bénéfice de discussion réelle, que ce soit dans les clauses accessoires de la créance cédulaire (pour la renonciation à l'exception, cf. Steinauer, T. III, n° 3027; Foëx, op. cit., p. 6), dans les clauses (de nature personnelle) de la convention de fiducie (Foëx, op. cit., p. 6/7) ou encore dans les clauses (de nature personnelle) du rapport de base (ainsi, dans l'arrêt 7B.249/2003 du 7 janvier 2004, consid. 4.2, publié in: Pra, 2004 103 p. 583, l'exclusion du bénéfice de discussion réelle était prévue dans les conditions générales annexées au contrat de prêt; cf. Betschart, op. cit., n° 802). Si les parties conviennent d'une clause de bénéfice de discussion réelle, le débiteur peut exiger de son créancier qu'il poursuive d'abord en réalisation du gage immobilier et donc la créance abstraite; le créancier est donc limité dans ses droits de faire valoir la créance causale. En revanche, lorsque les parties excluent le bénéfice de discussion réelle, le débiteur renonce à exiger que le créancier fasse réaliser d'abord le gage; le créancier est donc libre de réclamer en premier lieu la créance causale, par la poursuite ordinaire.
Savoir si les parties sont convenues d'adopter le bénéfice de discussion réelle ou, au contraire, de l'exclure est affaire d'interprétation de leur volonté. Comme toute manifestation de volonté, une clause de bénéfice de discussion réelle peut aussi être tacite, résulter des circonstances ou du contenu particulier du contrat. Lorsqu'un débiteur remet à son créancier une cédule hypothécaire au porteur à titre de garantie fiduciaire, il le fait pour que celui-ci puisse se faire payer sur le gage en cas de demeure, de la même façon que lorsqu'il confère à son créancier un droit de gage en garantie de sa créance. Dès lors, de la même façon que l'art. 41 al. 1bis LP présume le bénéfice de discussion réelle, il y a lieu d'admettre qu'il découle de la nature de la convention de fiducie que les parties conviennent tacitement d'une clause de bénéfice de discussion réelle en ce sens que le créancier fiduciaire a l'obligation d'intenter d'abord la poursuite en réalisation de gage sur la base de la créance abstraite (Steinauer, Les nouvelles dispositions générales sur les cédules hypothécaires, in: Les servitudes et les cédules hypothécaires, Zurich 2012, p. 267 ss, p. 282 in fine [cité ci-après: Les nouvelles dispositions]; Foëx, op. cit., p. 15/16; Acocella, op. cit., n° 20 ad art. 41 LP; Betschart, op. cit., nos 170 et 798). Ainsi, contrairement à ce qu'a retenu la cour cantonale, le fait que la créance causale et la créance abstraite coexistent ne signifie pas que les deux créances s'ajoutent l'une à l'autre en ce sens que le créancier pourrait exiger cumulativement l'exécution des deux créances, ni qu'il pourrait choisir entre la poursuite ordinaire en recouvrement de la créance causale et la poursuite en réalisation de gage pour la créance abstraite.
Comme pour la créance garantie par gage au sens de l'art. 41 al. 1bis LP, les parties peuvent toutefois exclure l'exception de discussion réelle, de telle sorte que le créancier pourra poursuivre directement la créance causale, sans que le débiteur puisse s'y opposer, en exigeant qu'il recherche en premier lieu la créance abstraite; une telle exclusion n'a rien d'insolite dans les relations bancaires (arrêt 7B.249/2003 du 7 janvier 2004 consid. 5; Betschart, op. cit., n° 802).
En résumé, le créancier a l'obligation de rechercher d'abord la créance abstraite; toutefois, par convention expresse, le débiteur peut renoncer au bénéfice de discussion réelle.
5.1.6. Si le créancier introduit contre son débiteur une poursuite ordinaire, sans égard à l'ordre dans lequel la créance abstraite et la créance causale doivent être recherchées selon la convention de fiducie, le débiteur peut et doit former une opposition au commandement de payer (cf. les références doctrinales citées supra au consid. 5.1.3; cf. également: Foëx, op. cit., p. 16; Staehelin, in: Basler Kommentar ZGB, 4ème éd. 2011, n° 59 ad art. 842 CC), opposition qui n'a pas à être motivée (Staehelin, Betreibung, p. 1261).
L'art. 41 al. 1bis LP n'étant pas applicable pour les motifs exposés dans l'arrêt 5A_295/2012 (cf. supra consid. 5.1.3), le débiteur ne contestant d'ailleurs pas le mode de poursuite en tant que tel - puisque la créance causale est bien soumise à la poursuite ordinaire -, la plainte de l'art. 17 LP n'est pas ouverte. L'exception du bénéfice de discussion réelle doit être examinée par le juge dans le cadre de la procédure de mainlevée de l'opposition.
5.2. Il s'impose d'examiner maintenant si l'exception du bénéfice de discussion réelle peut être opposée dans la procédure de mainlevée définitive. La cour cantonale a considéré que l'examen de cette exception dans la procédure de mainlevée provisoire de l'opposition ne présente pas de difficultés, l'art. 82 al. 2 LP permettant au juge d'examiner tout moyen de libération du débiteur, mais qu'il ne peut en aller de même dans la procédure de mainlevée définitive: dans celle-ci, l'art. 81 al. 1 LP s'opposerait à l'examen de cette exception; celle-ci aurait dû être invoquée dans le procès civil qui a abouti au jugement définitif et exécutoire, sur lequel se fonde la poursuite et qui vaut titre de mainlevée définitive.
5.2.1. En vertu de l'art. 81 al. 1 LP, lorsque la poursuite est fondée sur un jugement exécutoire rendu par un tribunal, le juge ordonne la mainlevée définitive de l'opposition, à moins que l'opposant ne prouve par titre que la dette a été éteinte ou qu'il a obtenu un sursis postérieurement au jugement, ou qu'il ne se prévale de la prescription.
Cette disposition n'énumère pas exhaustivement les moyens de défense que le débiteur peut opposer à un jugement exécutoire ( STAEHELIN, in: Basler Kommentar, Bundesgesetz über Schuldbetreibung und Konkurs I, 2 ème éd. 2010, n° 2 ad art. 81 LP), même si ceux-ci sont limités, le juge de la mainlevée n'ayant ni à revoir ni à interpréter le titre de mainlevée qui est produit, ni à examiner les moyens de droit matériel que le débiteur pouvait faire valoir dans le procès qui a abouti au jugement exécutoire (<ref-ruling> consid. 3a).
5.2.2. Il faut donc examiner si le débiteur pouvait opposer l'exception du bénéfice de discussion réelle devant le juge civil, saisi de conclusions condamnatoires en paiement de la créance causale.
Comme on l'a vu ci-dessus (cf. supra consid. 5.1.5), lorsque le débiteur remet à son créancier une cédule hypothécaire au porteur à titre de garantie fiduciaire, il le fait pour que celui-ci puisse se faire payer sur le gage en cas de demeure de sa part; il découle ainsi de la nature de la convention de fiducie que les parties conviennent tacitement d'une clause de bénéfice de discussion réelle en ce sens que le créancier fiduciaire a l'obligation d'intenter d'abord la poursuite en réalisation de gage immobilier sur la base de la créance abstraite. Il en découle que, selon la volonté des parties à la convention de fiducie, l'exception du bénéfice de discussion réelle empêche seulement le créancier d'intenter la poursuite ordinaire avant d'avoir été renvoyé perdant dans la poursuite en réalisation de l'immeuble grevé de la cédule hypothécaire (cf. les références de l'arrêt 5A_295/2012, citées supra au consid. 5.1.3).
Il s'agit donc d'une exception liée exclusivement au recouvrement de la créance causale par la voie de l'exécution forcée, et non d'une exception de fond touchant à l'exigibilité de cette créance. Cette exception existe certes dès le début - et non seulement postérieurement au jugement -, puisqu'elle découle de la convention de fiducie, mais elle ne peut logiquement être invoquée que lorsque le créancier requiert la poursuite ordinaire. En effet, ce n'est qu'au moment où le créancier intente la poursuite ordinaire que se réalise la condition prévue par la clause de bénéfice de discussion réelle. Il doit en aller ainsi non seulement lorsque le créancier intente d'abord la poursuite ordinaire, mais aussi lorsque, après avoir entamé la poursuite en réalisation de gage immobilier, le créancier requiert parallèlement la poursuite ordinaire.
L'exception du bénéfice de discussion réelle ne peut donc pas être soulevée devant le juge civil, saisi de conclusions condamnatoires en paiement de la créance causale. Contrairement à ce qu'a retenu la cour cantonale, cette exception ne fait pas obstacle à l'exigibilité de la créance causale: en effet, dès lors que, sauf convention contraire, le créancier ne peut introduire la poursuite en réalisation de gage, fondée sur la créance abstraite, que si la créance causale est elle-même exigible et demeure inexécutée, la créance abstraite n'ayant qu'une fonction de garantie de la créance causale (Staehelin, Betreibung, p. 1265; Steinauer, Les nouvelles dispositions, p. 285/286; Foëx, op. cit., p. 16; Christian Denys, Cédule hypothécaire et mainlevée, in: JdT 2008 II 3 ss, p. 15), admettre l'inexigibilité de la créance causale priverait le créancier de toute voie d'exécution forcée.
5.2.3. En conséquence, saisi d'une requête de mainlevée définitive, le juge examine l'exception du bénéfice de discussion réelle que le débiteur déduit de la convention de fiducie. En lui-même, le jugement portant condamnation au paiement de la créance causale est exécutoire, et constitue un titre à la mainlevée définitive, mais le débiteur peut valablement s'opposer à la levée de son opposition dès lors que l'exception du bénéfice de discussion réelle lui permet de s'opposer à la poursuite sur ses autres biens tant que la poursuite en réalisation de gage immobilier n'est pas terminée, c'est-à-dire tant que le tableau de distribution n'est pas en force (art. 157 LP).
S'il admet que l'exception du bénéfice de discussion réelle est fondée, le juge ne peut que rejeter la requête de mainlevée formée par le créancier. Lorsque la poursuite en réalisation de gage immobilier sera ter-minée, le créancier pourra déposer à nouveau une requête de mainlevée, l'art. 88 al. 2 LP demeurant réservé.
5.2.4. En résumé, si le créancier introduit simultanément ou successivement la poursuite en réalisation de gage immobilier pour l'entier de la créance abstraite et la poursuite ordinaire pour l'intégralité de la créance causale, le débiteur peut former opposition au commandement de payer et le juge de la mainlevée - définitive ou provisoire - peut examiner ce moyen de défense et rejeter la mainlevée.
5.3. En l'espèce, les deux conventions de fiducie, relatives aux deux cédules hypothécaires au porteur remises en garantie, signées le 27 août 1990 par le débiteur, ne contiennent aucune clause de renonciation du débiteur au bénéfice de discussion réelle. Les conditions spéciales et les conditions générales de la banque auxquelles ces deux conventions renvoient ne prévoient rien à cet égard, contrairement à la clause évoquée dans l'arrêt 7B.249/2003 du 7 janvier 2004, qui excluait le bénéfice de discussion réelle. Il s'ensuit qu'il y a lieu d'admettre que les parties sont convenues tacitement de l'exception du bénéfice de discussion réelle.
Par jugement du 25 novembre 2009, statuant sur la demande reconventionnelle en paiement de la banque, la Cour civile a condamné le débiteur à payer les créances causales (compte courant et avance à terme fixe; ch. II et III du dispositif). Définitif et exécutoire, ce jugement est certes un titre à la mainlevée définitive au sens de l'art. 81 al. 1 LP pour ces deux créances. Le débiteur est toutefois en droit d'y opposer l'exception du bénéfice de discussion réelle, de sorte que la requête de mainlevée définitive de l'opposition déposée par la banque doit être rejetée.
6.
La banque poursuivante ayant pris des conclusions subsidiaires tendant à la mainlevée définitive partielle de l'opposition, il y a encore lieu d'examiner ce point.
6.1. La procédure de mainlevée est une pure procédure d'exécution forcée (<ref-ruling> consid. 6; 72 II 52 p. 54), un incident de la poursuite. Dans la procédure de mainlevée définitive, le juge se limite à examiner le jugement exécutoire ou les titres y assimilés, ainsi que les trois identités - l'identité entre le poursuivant et le créancier désigné dans ce titre, l'identité entre le poursuivi et le débiteur désigné et l'identité entre la prétention déduite en poursuite et la dette reconnue (arrêt 5P.239/2002 du 22 août 2002 consid. 3.1; Gilliéron, op. cit., n° 22 ad art. 80 LP) - et à statuer sur le droit du créancier de poursuivre le débiteur, c'est-à-dire à décider si l'opposition doit ou ne doit pas être maintenue (<ref-ruling> consid. 4.1.1).
Le prononcé en matière de mainlevée ne peut être entrepris que par la voie d'un recours au sens des art. 319 ss CPC (cf. art. 309 let. b ch. 3 CPC). Aussi, en vertu de l'art. 326 al. 1 CPC, les conclusions, les allégations de faits et les preuves nouvelles sont-elles irrecevables. En effet, en tant que voie de recours extraordinaire, le recours des art. 319 ss CPC a uniquement pour fonction de vérifier la conformité au droit de la décision, et non de continuer la procédure de première instance (arrêt 5A_405/2011 du 27 septembre 2011 consid. 4.5.3 non publié aux <ref-ruling>).
Le pouvoir d'examen du Tribunal fédéral, saisi d'un recours en matière civile contre la décision rendue sur recours en matière de mainlevée, n'est pas plus étendu.
6.2. Dans sa requête de mainlevée du 16 août 2011, la banque avait conclu à la mainlevée définitive des deux créances causales et de la créance de dépens selon jugement de la Cour civile du 25 novembre 2009, invoquant ce jugement comme titre exécutoire et le fait que la Présidente de la I e Cour de droit civil du Tribunal fédéral avait rejeté la requête d'effet suspensif par ordonnance du 15 juin 2011. Considérant - à tort, comme on vient de le voir - que l'art. 81 al. 1 LP interdisait au débiteur de faire valoir l'exception du bénéfice de discussion réelle, le juge de paix a prononcé la mainlevée définitive de l'opposition au commandement de payer, implicitement pour l'intégralité des montants figurant dans celui-ci.
Ce n'est que dans sa réponse, du 3 mai 2013, au recours cantonal interjeté par le débiteur que la banque a conclu, à titre subsidiaire, à la mainlevée définitive partielle pour les créances causales, à savoir sous déduction du montant de 8'715'000 fr. sans intérêts, et pour la créance de dépens de 92'423 fr. 25 avec intérêts à 5 % l'an dès le 10 août 2011, introduisant toute une série de faits nouveaux et de calculs des intérêts au sens de l'art. 818 al. 1 ch. 3 CC, pour en conclure à la déduction du montant précité, et ajoutant encore que l'exception dilatoire ne saurait s'appliquer à la créance de dépens.
Dans sa réponse au recours en matière civile, la banque conclut à la mainlevée définitive partielle à concurrence des créances causales, telles qu'allouées dans le jugement de la Cour civile précité, sous déduction non plus de 8'715'000 fr. sans intérêts, mais de la somme de 7'800'000 fr. avec intérêts à 10 % l'an dès le 21 juin 2011, et de la créance de dépens de 92'423 fr. 25 avec intérêts à 5 % l'an dès le 10 août 2011.
6.3.
6.3.1. En ce qui concerne le montant de 7'800'000 fr. à porter en déduction des créances causales, la banque soutient, dans une motivation presque identique à celle de sa réponse au recours cantonal, que la première cédule de 6'000'000 fr. garantit en capital et intérêts 8'715'000 fr., que la seconde cédule de 6'000'000 fr. ne garantit que les engagements du frère du débiteur et que la troisième cédule de 2'000'000 fr. garantit 2'905'000 fr. en tout, dont ses propres engagements à raison de la moité, à savoir 1'452'500 fr., qu'elle pourrait toutefois décider, au vu des conditions spéciales applicables, de ne pas exiger de garantie au titre de cette troisième cédule, et que, par conséquent, le montant de la garantie, auquel elle prétend et qui est fondé sur la première cédule, est certain et s'élève à 7'800'000 fr., y rajoutant en sus des intérêts à 10 % l'an dès le 21 juin 2011.
Bien que les conclusions nouvelles, prises pour la première fois devant l'autorité cantonale de recours, puis, sous une forme encore modifiée, devant le Tribunal fédéral soient des conclusions réduites, en elles-mêmes admissibles (arrêts 5A_8/2008 du 11 avril 2008 consid. 1.1; 4A_264/2008 du 23 septembre 2008 consid. 2.3 non publié aux <ref-ruling>; 5A_520/2011 du 13 décembre 2011 consid. 1.2 non publié aux <ref-ruling>), force est de constater qu'elles reposent sur des faits et moyens de preuve nouveaux, qui n'avaient pas été soumis au premier juge. Elles étaient donc irrecevables en instance de recours cantonale, de sorte qu'elles le sont également devant le Tribunal fédéral.
6.3.2. En revanche, la mainlevée définitive doit être accordée en ce qui concerne la créance de dépens de 92'423 fr. 25 avec intérêts à 5 % l'an dès le 10 août 2011. En effet, celle-ci a fait l'objet d'un chiffre distinct de la réquisition de poursuite et du commandement de payer, en relation avec le ch. XI du jugement de la Cour civile du 25 novembre 2009, ainsi que d'un chef de conclusions distinct de la requête de mainlevée, et ne repose sur aucun fait nouveau, qui n'aurait pas été soumis au premier juge, de sorte que le Tribunal cantonal aurait pu entrer en matière, s'il n'avait pas déjà admis - à tort, comme on l'a vu - la mainlevée dans son intégralité, et que le Tribunal fédéral peut s'en saisir.
7.
En conclusion, le recours doit être partiellement admis et l'arrêt attaqué réformé en ce sens que la mainlevée définitive de l'opposition n'est pas admise pour les créances causales, mais doit être admise pour la créance de dépens. L'intimée, qui concluait à la confirmation de la mainlevée définitive pour un montant supérieur à 8 millions de francs, n'obtient gain de cause que pour 92'423 fr., soit pour environ 1 %, de sorte qu'il se justifie de laisser à sa charge l'entier des frais judiciaires, la question litigieuse sur laquelle elle succombe ayant d'ailleurs occasionné l'essentiel des frais. L'intimée versera au recourant une indemnité de 15'000 fr. à titre de dépens réduits.

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est partiellement admis et l'arrêt attaqué est réformé en ce sens que la requête de mainlevée définitive de l'opposition au commandement de payer dans la poursuite ordinaire n° 8 notifié à A.X._ le 12 août 2011 sur réquisition de la Banque Z._ est partiellement admise et l'opposition définitivement levée à concurrence du montant de 92'423 fr. 25 avec intérêts à 5 % l'an dès le 10 août 2011.
2.
Les frais judiciaires, arrêtés à 15'000 fr., sont mis à la charge de la Banque Z._.
3.
La Banque Z._ versera à A.X._ une indemnité de 15'000 fr. à titre de dépens réduits.
4.
La cause est renvoyée à la cour cantonale pour nouvelle décision sur les frais et dépens des instances cantonales.
5.
Le présent arrêt est communiqué aux parties et à la Cour des poursuites et faillites du Tribunal cantonal vaudois.
Lausanne, le 31 janvier 2014
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président: von Werdt
La Greffière: Hildbrand