Faits :
A.
A.a. La société coopérative Z1._ - en français, Groupe Z._ - (ci-après: la société Z._), dont le siège est à..., qui a repris les actifs et passifs de la société Z1._ (à l'origine Z2._, puis Z3._, puis Z._), était propriétaire de la parcelle n° xxx du cadastre de la commune de U._ (ci-après: la parcelle).
En été 1956, elle a obtenu un permis de construire pour un dépôt de charbon, un dépôt de bois, un bâtiment administratif et d'habitation, un hall de manutention de mazout incluant une station de pompage et un poste de chargement de camions, ainsi que deux citernes aériennes à mazout de 500 m 3 chacune, puis en 1959, pour une station-service et deux citernes, en 1961, pour deux citernes à benzine souterraines de 80 m 3 chacune et, en 1965, une station de lavage avec dépôt d'huile.
En 1970, des mesures d'assainissement lui ont été imposées pour des motifs de protection des eaux contre la pollution par des combustibles et carburants ou autres produits liquides, notamment s'agissant du poste de dépotage de wagons-citernes comportant deux bouches pour l'huile et une bouche pour l'essence. A la suite de ces travaux, l'inspectorat cantonal des eaux a relevé que tous les travaux d'assainissement prescrits avaient été exécutés (p. 5).
La société Z._ a exercé jusqu'au 3 février 1988, soit pendant 30 ans, une activité de commerce de gros de combustibles et exploité une station de trains et de dépotage d'hydrocarbures depuis les trains stationnant sur les voies ferrées CFF jusqu'à ses deux citernes aériennes, a manutentionné du mazout, distribué du carburant, alimenté des citernes et exploité des citernes enterrées, un lavage de véhicules, un dépôt d'huile, un déshuileur et des dépoteurs. Il en est résulté des pollutions chimiques et physiques de la parcelle (p. 9).
A.b.
A.b.a. Par acte de vente à terme et avec droit d'emption du 20 octobre 1986, la société Z._ a vendu la parcelle à la société A._ SA, dont X._ était administrateur-président avec signature individuelle, ou à ses nommables pour le prix de 1'950'000 fr. A l'époque, la parcelle était grevée de trois cédules hypothécaires constituées en 1963 et 1974 pour un montant total de 9'798'000 fr. La parcelle était transférée dans son état actuel, dont l'acheteuse déclarait avoir une parfaite connaissance, sans aucune garantie quelconque, notamment quant à la nature du sol. L'acheteuse était autorisée, mais non obligée, à faire des sondages à ses frais et sous sa responsabilité moyennant remise en état des lieux et pour autant que cela n'entraîne aucune gêne pour le locataire actuel; il n'y était pas attaché de conséquences sur la garantie pour les défauts. Aucune clause ne se référait à la pollution (p. 5).
A.b.b. Par acte du 29 janvier 1988, A._ SA, qui n'est jamais devenue propriétaire de la parcelle, a désigné son nommable en la personne de X._. Celui-ci s'est vu céder les droits résultant de l'acte de vente du 20 octobre 1986 et en a repris les obligations. Il a été inscrit comme propriétaire au registre foncier le 3 février 1988.
En décembre 1998, la commune a invité le propriétaire à mettre la parcelle en ordre en ce qui concerne la loi sur la protection des eaux (débarrasser les déchets, évacuer les véhicules non immatriculés et accidentés, évacuer les bidons et estagnons d'huile de vidange, créer un bac de rétention pour les fûts d'huile et autres liquides polluants et évacuer deux citernes).
La parcelle a été inscrite au registre des sites pollués à fin 2003.
Avant 1999 et jusqu'au mois de janvier 2007, la parcelle a servi de brocante et de dépôt de climatiseurs, de même qu'elle a été utilisée pour la réparation, la carrosserie et la vente de véhicules d'occasion, ainsi que le stockage de véhicules, soit des activités susceptibles d'engendrer une pollution de moyenne intensité par des fuites et égouttures.
A.b.c. Dans l'intervalle, un plan de quartier a été adopté par le conseil communal le 3 décembre 1997.
Le 26 octobre 2006, l'architecte du propriétaire a déposé une demande de permis de construire pour un immeuble commercial (rez) et administratif (4 étages) avec parking de 256 places (sur trois niveaux de sous-sol) sur la parcelle. Le permis de construire a été délivré le 2 février 2007. Les matériaux pollués devaient être traités dans le respect de l'ordonnance sur le traitement des déchets (p. 8).
A.c. Le 20 février 2007, X._ a vendu son immeuble à B._ AG (ci-après: B._) pour le prix de 9'500'000 fr. A ce moment, l'immeuble ne comportait plus de bâtiment administratif, mais une place-jardin de 4'706 m2.
Le vendeur s'est engagé à prendre à sa charge tous les frais d'assainissement du sol, remettant à l'acheteur une garantie bancaire de 500'000 fr., et l'acheteur a été autorisé à " se retourner contre ses propres vendeurs " (p. 8 et p. 25).
Le permis de construire du 2 février 2007, obtenu par X._ a été cédé au nouveau propriétaire, qui a repris et réalisé le projet de construction de celui-ci (p. 9 et p. 25).
Les travaux d'assainissement du terrain pollué se sont déroulés entre les mois de mars et de septembre 2007. Sur un total de 37'756 m 3 de matériaux évacués de la parcelle, 21'859 m 3 étaient non pollués, 6'926 m 3 tolérés, 6'260 m 3 moyennement pollués et 2'711 m 3 fortement pollués (p. 10).
X._, qui avait dirigé les opérations avec les différentes entreprises et mandataires dans le cadre de l'obtention du permis de construire, a poursuivi sa collaboration après la vente, en aidant notamment l'entreprise chargée de la décontamination et de la dépollution de la parcelle, et ce jusqu'à la fin des terrassements.
A.d. Par courrier du 21 juin 2007, X._ a adressé un avis des défauts à la société Z._, qui est demeuré sans suite.
Le 31 août 2007, X._ a requis la poursuite de la société Z._ pour un montant de 3'000'000 fr. avec intérêts dès cette date (poursuite n°... de l'Office des poursuites de...).
Les 1 er octobre 2007 et 18 septembre 2008, X._ a versé à l'entreprise chargée des travaux d'assainissement les montants de 478'597 fr. 70 et 1'424'602 fr. 75, soit au total 1'903'200 fr. 45 (TVA comprise) (p. 11).
B.
Le 11 avril 2008, l'acheteur X._ a ouvert action contre la société Z._, son vendeur, par requête de conciliation adressée au juge de paix du district de Lausanne, et, après échec de la conciliation, a déposé sa demande par-devant la Cour civile du Tribunal cantonal du canton de Vaud le 26 septembre 2008. Initialement, le demandeur a conclu à la condamnation de la défenderesse à lui payer le montant de 1'903'200 fr. 45 avec intérêts à 5% l'an dès le 31 août 2007, qu'il a réduit dans sa réplique à 1'320'781 fr. 50 avec les mêmes intérêts et après expertise à 1'239'884 fr. 06, la mainlevée définitive de l'opposition au commandement de payer devant lui être accordée à concurrence de ce montant.
La Cour civile du tribunal cantonal a rejeté la demande, par jugement du 2 novembre 2015.
Statuant sur appel du demandeur le 15 septembre 2016, la Cour d'appel civile du Tribunal cantonal du canton de Vaud a rejeté son appel et a confirmé le jugement de première instance. La cour cantonale s'est limitée à traiter les trois griefs invoqués par l'appelant. Premièrement, elle a retenu que les premiers juges avaient estimé que l'expert avait fixé la valeur vénale de l'immeuble à 1'950'000 fr. en tenant compte de ce que le site était pollué, le demandeur appelant n'ayant pas critiqué par une motivation suffisante l'interprétation de la volonté réelle des parties selon laquelle celles-ci avaient tenu compte de la pollution ou du risque de pollution de la parcelle dans la fixation du prix de vente. Deuxièmement, la cour cantonale a considéré que le demandeur avait acquis la parcelle litigieuse alors qu'il connaissait son état potentiellement pollué et que le prix en tenait compte, de sorte qu'il ne pouvait plus agir en garantie sur la base de l'<ref-law>, quelle que soit la portée que l'on donne à la clause d'exclusion de la garantie liée à la nature du sol figurant dans le contrat de vente. Troisièmement, la cour cantonale a considéré que du fait de la revente de la parcelle à B._ et faute d'avoir conservé la maîtrise juridique sur les déchets, respectivement d'avoir établi que B._ dont il tirait sa maîtrise de fait remplissait également les conditions de l'action de l'<ref-law>, le demandeur n'était plus légitimé à agir contre sa venderesse.
C.
Contre cet arrêt, le demandeur a interjeté un recours en matière civile au Tribunal fédéral le 3 février 2017, concluant à sa réforme en ce sens que la défenderesse soit condamnée à lui payer le montant de 1'239'884 fr. 06 avec intérêts à 5% l'an dès le 31 août 2007 et que la mainlevée définitive de l'opposition au commandement de payer lui soit accordée à concurrence de ce montant; subsidiairement, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à la cour d'appel civile pour nouvelle décision dans le sens des considérants. En bref, il se plaint de constatation manifestement inexacte des faits (<ref-law> et 9 Cst.), contestant que l'expertise ait tenu compte des frais d'assainissement dans l'estimation de la valeur vénale de l'immeuble de 1'950'000 fr. lorsqu'il l'a acquis en 1988. Il reproche ensuite à la cour cantonale d'avoir considéré que sa connaissance de la pollution du terrain lors de l'acquisition de celui-ci en 1988 excluait l'application de l'<ref-law> (condition négative) et d'avoir nié sa qualité de détenteur des déchets excavés (maîtrise de fait), partant sa qualité pour agir.
L'intimée conclut au rejet du recours. La cour cantonale se réfère aux considérants de son arrêt.
Les parties ont encore déposé chacune de brèves observations.

Considérant en droit :
1.
Interjeté en temps utile (<ref-law>) par la partie demanderesse qui a succombé dans ses conclusions en paiement (<ref-law>) contre une décision finale (<ref-law>) rendue sur appel par le tribunal supérieur du canton de Vaud (<ref-law>) dans une affaire de responsabilité civile (<ref-law>), dont la valeur litigieuse est supérieure à 30'000 fr., le recours en matière civile est en principe recevable.
2.
Sous réserve de la violation des droits constitutionnels (<ref-law>), le Tribunal fédéral applique d'office le droit (<ref-law>) à l'état de fait constaté dans l'arrêt cantonal ou, cas échéant, à l'état de fait qu'il aura rectifié (art. 97 al. 1, 105 al. 2 LTF). Il n'est pas limité par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut donc admettre un recours pour d'autres motifs que ceux qui ont été articulés ou, à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.4 et l'arrêt cité).
3.
L'art. 32b bis al. 1 de la Loi fédérale sur la protection de l'environnement (LPE; RS 814.01), dont le titre marginal est " Financement de l'élimination de matériaux d'excavation de sites pollués " a la teneur suivante: " Si le détenteur d'un immeuble enlève des matériaux provenant d'un site pollué qui ne doivent pas être éliminés en vue d'un assainissement aux termes de l'<ref-law>, il peut en règle générale demander aux personnes à l'origine de la pollution et aux anciens détenteurs du site d'assumer deux tiers des coûts supplémentaires d'investigation et d'élimination desdits matériaux dans les cas suivants:
a. les personnes à l'origine de la pollution n'ont assuré aucun dédommagement pour la pollution ou les anciens détenteurs n'ont pas consenti de remise sur le prix en raison d'une pollution lors de la vente de l'immeuble;
b. l'élimination des matériaux est nécessaire pour la construction ou la transformation des bâtiments;
c. le détenteur a acquis l'immeuble entre le 1er juillet 1972 et le 1er juillet 1997. "
3.1. Cette règle a été introduite par une modification de la LPE du 16 décembre 2005 (en vigueur depuis le 1er novembre 2006; FF 2003 p. 4527 ss, 4562 ss). Précédemment, seuls les frais d'élimination des déchets de sites pollués qui devaient nécessairement être assainis (cf. art. 32c à 32e LPE) devaient être supportés par ceux qui les avaient causés; les frais d'élimination des déchets qui ne devaient pas nécessairement être assainis demeuraient à la charge de leurs propriétaires. Cette situation s'étant révélée insatisfaisante, le législateur a adopté l'<ref-law>, qui permet de mettre à la charge des perturbateurs les 2/3 des frais d'élimination (Isabelle Romy, in Loi sur la protection de l'environnement, 2010, n°s 1 à 7 ad <ref-law>). Le texte de la disposition finalement adopté par les Chambres fédérales diffère de celui du projet du Conseil fédéral (FF 2003 4559).
La LPE distingue ainsi entre les frais d'élimination des déchets des sites pollués qui doivent nécessairement être assainis (<ref-law>) et ceux des sites pollués qui ne doivent pas nécessairement être assainis (<ref-law>).
3.2. L'<ref-law> institue une responsabilité civile spéciale de droit privé, de la compétence des tribunaux civils (<ref-ruling> consid. 8.2.1), et non une responsabilité de droit public comme à l'<ref-law> (Romy, op. cit., n° 68 ad <ref-law>).
Les conditions de cette responsabilité sont cumulatives (<ref-ruling> consid. 6) : il faut (1) que l'on soit en présence d'un site pollué qui ne doit pas nécessairement être assaini (<ref-law>); (2) que le détenteur de l'immeuble doive enlever les matériaux pollués pour pouvoir construire ou transformer des bâtiments qui se trouvent sur l'immeuble (al. 1 let. b); (3) qu'il n'ait pas déjà été dédommagé à ce titre (al. 1 let. a); et (4) que l'immeuble ait été acquis entre le 1 er juillet 1972 et le 1 er juillet 1997 (al. 1 let. c).
A ces conditions, le détenteur de l'immeuble a la qualité pour agir en dommages-intérêts contre les personnes à l'origine de la pollution ou les anciens détenteurs de l'immeuble (qualité pour défendre) et peut leur réclamer une partie du surcoût lié à l'élimination de ces déchets, soit les deux tiers des coûts supplémentaires d'investigation et d'élimination de ces matériaux pollués (al. 1).
3.3. Le terme de " détenteur " est utilisé dans plusieurs dispositions de la LPE.
3.3.1. En général, en droit public fédéral, le détenteur des déchets (Inhaber der Abfälle, detentore dei rifiuti), par exemple au sens des art. 31c al. 1 et 32 al. 1 LPE, est celui qui en a la maîtrise de fait, c'est-à-dire qui peut exercer un pouvoir de disposition de fait sur ces déchets. Il s'agit de celui qui est responsable de l'exploitation, qui peut utiliser ces déchets, les modifier, les détruire, les conserver ou les remettre à des tiers et qui est en mesure de prendre les précautions nécessaires pour parer au danger qu'ils représentent. Le perturbateur est celui qui est à l'origine de la production des déchets. Les notions de droit privé (de propriété et de possession) ne sont pas déterminantes dans ce domaine (<ref-ruling> consid. 4b/cc; arrêts 1A.179/2002 du 15 octobre 2002 consid. 3.2; 1A.222/2005 du 12 avril 2006 consid. 5.1). Ainsi, le locataire d'un terrain ou d'un dépôt où se trouvent des déchets peut donc être leur détenteur, et être chargé de leur élimination en vertu de l'<ref-law>. Il en va a fortiori ainsi quand celui-ci récolte des déchets, s'occupe de leur stockage provisoire ou en assure le traitement d'une manière ou d'une autre (arrêt 1A.179/2002 précité consid. 3.2 et les références à PIERRE TSCHANNEN, Kommentar zum Umweltschutzgesetz, 2000, n° 13 ad <ref-law>; JEAN-BAPTISTE ZUFFEREY, Pollueur-payeur, perturbateur, détenteur et responsable, BR/DC 1999 p. 125).
3.3.2. La notion de détenteur utilisée à l'<ref-law> n'est pas celle de détenteur des déchets, mais celle de détenteur de l'immeuble. Cette différence ne devrait, en règle générale, pas porter à conséquence, parce que le détenteur de l'immeuble est également le détenteur des déchets, que c'est lui qui les enlève ou les fait enlever et qu'il peut donc exiger des perturbateurs par comportement qu'ils assument jusqu'aux deux tiers des frais d'enlèvement (SÉBASTIEN CHAULMONTET, Verursacherhaftungen im Schweizer Umweltrecht, 2009, n° 841).
La notion de détenteur de l'immeuble a été examinée dans l'<ref-ruling> consid. 6-8. Il y a été admis que le " détenteur de l'immeuble qui enlève des matériaux provenant d'un site pollué" est non seulement le propriétaire actuel de l'immeuble, mais aussi celui qui est au bénéfice d'un droit réel limité sur l'immeuble, lequel lui confère la faculté de construire, c'est-à-dire de disposer des matériaux à enlever. Dans cet arrêt, au vu des circonstances concrètes, la question de savoir si cette notion englobe le titulaire d'un droit personnel comme le propose Isabelle Romy a été laissée ouverte dans un premier temps.
Dans un second temps, la Cour de céans a toutefois précisé que l'<ref-law> reprend certes le principe de causalité énoncé à l'art. 74 al. 2 Cst. et à l'<ref-law>, mais qu'il s'agit-là d'une disposition d'exception, de caractère transitoire, qui subordonne la responsabilité de celui qui a causé la pollution à des conditions rigoureuses. La qualité pour agir ne saurait être déterminée sur la base des accords passés entre les propriétaires successifs de l'immeuble, en faisant abstraction du lien avec l'immeuble pollué (consid. 8.2). En effet, en imposant une période d'acquisition de l'immeuble très stricte - du 1er juillet 1972 au 1er juillet 1997 -, le législateur a voulu empêcher l'application de la disposition aux ventes récentes. Or, admettre que l'ancien propriétaire puisse agir alors que le nouveau propriétaire - qui a effectué l'enlèvement des matériaux et qui ne pourrait pas lui-même exercer l'action de l'<ref-law> puisqu'il a acquis le terrain après le 1er juillet 1997 - ne remplit pas les conditions de temps concernant l'acquisition de l'immeuble, reviendrait à détourner cette intention claire du législateur (consid. 8.2.2 et 8.2.3).
3.3.3. Le cercle des détenteurs ayant la qualité pour agir en responsabilité au sens de l'<ref-law> est donc restreint non seulement par la notion de " détenteur de l'immeuble ", mais également par la période d'acquisition de l'immeuble et par la condition que le détenteur enlève les matériaux pollués pour construire ou transformer ses bâtiments.
En effet, selon la volonté du législateur, seuls les cas de grave injustice (ungerechte Härtefälle; BO CN 2005 p. 1107) sont visés: seul le détenteur qui a acquis l'immeuble entre le 1er juillet 1972, date de l'entrée en vigueur de la deuxième loi fédérale sur la protection des eaux, et le 1er juillet 1997, date de l'entrée en vigueur des dispositions sur les sites pollués de la LPE, soit durant une période durant laquelle les dispositions sur l'assainissement des sites pollués de la LPE n'existaient pas, doit être indemnisé, puisqu'il n'avait pas de raison de se prémunir contre les conséquences financières d'une pollution, en demandant des renseignements et en obtenant des garanties contractuelles lors de la vente (Romy, op. cit., n° 34; Chaulmontet, op. cit., n°s 852 et 855 ss). Les détenteurs doivent encore impérativement ouvrir action en justice devant le tribunal civil (<ref-law>) d'ici au 1er novembre 2021 (<ref-law>) (cf. Romy, op. cit., n°s 8 ss et 31 ss).
En outre, pour éviter que les propriétaires ne soient incités à exécuter ou à faire exécuter, immédiatement après l'acquisition de l'immeuble, des travaux d'excavation qui ne sont en soi pas nécessaires pour la protection de l'environnement pour pouvoir en mettre les frais à la charge des perturbateurs, l'<ref-law> ne confère la qualité pour agir qu'au détenteur de l'immeuble qui enlève les matériaux pour effectuer une construction ou une transformation des bâtiments (<ref-ruling> consid. 6.1).
Il n'est ainsi pas possible de suivre Isabelle Romy lorsqu'elle professe que le locataire peut avoir la qualité de détenteur s'il exerce la maîtrise juridique ou de fait, dans la mesure où elle présuppose une dissociation entre la détention de l'immeuble et la détention des déchets (op. cit., n. 24 ad <ref-law>).
En conclusion, il faut admettre que la notion de détenteur n'est pas celle retenue en droit public fédéral, mais une notion de droit privé, laquelle exclut tout droit personnel, que ce soit sur l'immeuble ou sur les déchets.
3.4. En l'espèce, le demandeur n'est pas et n'était pas le détenteur de l'immeuble au jour de l'ouverture de l'action le 11 avril 2008, puisqu'il l'avait revendu à un tiers le 20 février 2007. Il n'est pas non plus resté au bénéfice d'un droit réel limité sur l'immeuble qui lui conférerait la faculté de construire, au sens où l'entend la jurisprudence.
Il n'est pas non plus le propriétaire qui a enlevé les matériaux pollués pour pouvoir construire, puisque c'est le nouvel acquéreur qui y a procédé. Le fait que, lorsqu'il était propriétaire, il ait entrepris les démarches ayant abouti à la délivrance du permis de construire, qu'il ait collaboré avec l'entreprise chargée de l'assainissement du terrain après la vente de celui-ci et que, par contrat, il doive assumer et ait assumé les frais d'élimination des matériaux pollués n'y change rien.
Comme on l'a vu, l'<ref-law> est, selon la volonté du législateur, une disposition d'exception, dont les conditions d'application sont strictes: les ventes récentes en sont exclues et les accords entre propriétaires qui reportent la prise en charge des frais d'élimination sur l'ancien propriétaire ne peuvent exercer aucune influence sur la qualité pour agir. Contrairement à ce que soutient le recourant, cette disposition ne reprend pas simplement le principe du pollueur-payeur, mais est une disposition transitoire, dont les conditions sont rigoureuses; il n'y est pas question d'une détention séparée des déchets malgré la revente de l'immeuble, mais bien de la détention de l'immeuble; la " légitimation active " n'appartient pas à celui qui supporte les coûts d'élimination indépendamment des conditions de sa relation à l'immeuble.
Le recourant n'allègue pas, ni ne démontre dans son recours (<ref-law>; <ref-ruling> consid. 2 p. 90; <ref-ruling> consid. 1.3.1 p. 18), avoir encouru des coûts d'investigation de la pollution du terrain durant la période pendant laquelle il a été propriétaire de l'immeuble, soit jusqu'au 20 février 2007, étant établi que les travaux d'enlèvement des matériaux ont été effectués entre les mois de mars et septembre 2007. Il n'y a donc pas lieu de renvoyer la cause à la cour cantonale pour complètement de l'état de fait et nouvelle décision sur ce point.
Il s'ensuit que le recours doit être rejeté, par substitution des motifs qui précèdent. Il est partant superflu d'examiner les griefs du recourant relatifs à la constatation manifestement inexacte des faits en ce qui concerne le rapport d'expertise et à son ignorance de la pollution lors de l'acquisition de l'immeuble.
4.
Au vu de ce qui précède, les frais judiciaires et les dépens doivent être mis à la charge du recourant qui succombe (art. 66 al. 1 et 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 15'000 fr., sont mis à la charge du recourant.
3.
Le recourant versera à l'intimée une indemnité de 17'000 fr. à titre de dépens.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Cour d'appel civile.
Lausanne, le 15 mars 2018
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente : Kiss
La Greffière : Schmidt