Faits:
A.
La société A._ AG, ayant son siège social à Berne, active dans le domaine du génie civil et de la maçonnerie, avait une filiale à Sion pour ses activités en Valais. Rencontrant d'importantes difficultés financières, elle a obtenu, le 18 mai 1995, un sursis concordataire en vue d'un concordat par abandon d'actifs. Dans ce contexte, elle a vendu certains actifs, par contrat du 9 juin 1995, à une société anonyme en formation, Y._ SA. L'opération était financée à hauteur de 1'200'000 fr. par des prêts octroyés par la Banque V._ (ci-après : V._). Cette banque a également accordé un crédit en compte courant de 3'000'000 fr. à la société en formation en vue d'assurer les liquidités de l'exploitation.
Le notaire X._, à Sion, s'est chargé des formalités de constitution de la nouvelle société. Il en a établi les statuts, qui lui assignent pour but l'exploitation d'une entreprise générale de construction et de travaux publics. Le siège social a été fixé à Sion. Le capital-actions, d'un montant de 500'000 fr., était divisé en 500 actions nominatives de 1'000 fr. chacune. Lors de l'assemblée constitutive, la société B._ SA a souscrit 498 actions, C._ et D._ une action chacun. Ces deux derniers ont été nommés administrateurs. La fiduciaire E._ a été désignée comme organe de révision. La société Y._ SA a été inscrite au registre du commerce le 27 juin 1995.
Par la suite, F._ et G._ ont rejoint le conseil d'administration.
Lors de l'assemblée générale extraordinaire du 24 juin 1996, les actionnaires ont évoqué le problème endémique du manque de liquidités dont souffrait la société. Des doutes ont également été émis quant à la légalité de la procédure de fondation. H._ et X._ ont été nommés en qualité d'administrateurs. Ce dernier n'a été inscrit au registre du commerce que le 14 juillet 1997.
Lors de l'assemblée générale du 21 octobre 1996, D._ a démissionné et l'assemblée a rappelé qu'elle avait élu X._ en qualité d'administrateur lors de l'assemblée générale extraordinaire du 24 juin 1996.
En septembre 1996, B._ SA a cédé les actions de Y._ SA à Compagnie générale I._ SA, société en mains de J._ SA.
Dans une lettre du 17 octobre 1996, dont copie a été envoyée à X._, le directeur de la société, K._, a soulevé le problème du manque de liquidités de Y._ SA.
Pour les comptes de l'exercice 1996, la société a dissous pour 1'048'000 fr. de réserves latentes, ce qui lui a permis de dégager un bénéfice comptable de 161 francs. L'organe de révision a relevé une baisse du bénéfice, qui a passé de 399'000 fr. à 179'000 fr., tout en soulevant à nouveau le problème du manque de liquidités.
En 1997, F._ et C._ ont démissionné du conseil d'administration dans lequel est entré N._. L'organe de révision a été remplacé par L._ SA.
A compter du printemps 1997, le directeur K._ a régulièrement rendu l'actionnaire majoritaire et le conseil d'administration attentifs à la situation financière qui devenait de plus en plus désespérée.
Par contrat du 18 juillet 1997, O._ SA, société de portage de la Banque W._, a acheté à R._ SA, alors propriétaire des actions de Compagnie générale I._ SA, laquelle détenait toutes les actions de Y._ SA. En été 1997, O._ SA a accordé à Y._ SA un prêt de 800'000 francs.
Lors de la réunion du conseil d'administration du 12 novembre 1997, les membres ont constaté que le chiffre d'affaires avait encore baissé de 25 % par rapport à 1996. Ils ont relevé que le portefeuille de commandes était extrêmement faible et que la situation financière était critique. Le paiement du treizième salaire et des indemnités de vacances pour le personnel était problématique. Ils ont décidé diverses mesures d'économie.
En automne 1997, la société a licencié l'ensemble de sa main- d'oeuvre, à l'exception des cadres.
L'exercice 1997 s'est soldé par une perte de 1'107'140 francs. Le directeur K._ a relevé que le chiffre d'affaires était en baisse, que la conjoncture était défavorable et que les perspectives étaient peu favorables. Il a conclu que la société se trouvait dans une crise financière aiguë.
Dans un rapport du 2 avril 1998, le réviseur L._ SA a avisé le conseil d'administration que le surendettement se chiffrait à 620'000 fr. au 31 décembre 1997. Par une lettre du même jour, la Banque V._ a averti Y._ SA qu'elle réduisait progressivement sa limite de crédit à compter du 1 er juillet 1998.
Au mois de juin 1998, les fournisseurs de décembre 1997 étaient encore impayés et le paiement des salaires de mai 1998 n'était pas assuré. Le conseil d'administration a discuté de la situation lors de ses séances du 9 juin 1998, puis du 18 août 1998.
Dans son rapport du 28 septembre 1998, relatif à l'exercice 1997, L._ SA a considéré que la société était surendettée, en précisant que les comptes intermédiaires non révisés au 30 juin 1998 faisaient déjà apparaître un surendettement. Le réviseur a attiré l'attention du conseil d'administration sur les dispositions de l'<ref-law>.
Le 12 octobre 1998, G._ a démissionné et a été remplacé par M._.
Le 30 octobre 1998, le conseil d'administration a demandé un bilan d'exploitation et un bilan de liquidation au 30 septembre 1998.
Lors de l'assemblée générale extraordinaire du 17 novembre 1998, N._ et L._ SA ont été révoqués.
Lors de l'assemblée générale du 10 décembre 1998, les actionnaires ont donné décharge au conseil d'administration et l'ont invité à chercher un repreneur et à reporter en conséquence l'avis de surendettement au juge. La Fiduciaire P._ SA a été désignée en qualité d'organe de révision.
Le 26 janvier 1999, la Banque V._ a bloqué les comptes de Y._ SA, de sorte que la société s'est trouvée dans l'impossibilité de poursuivre les chantiers, ce qui a mis un terme à ses affaires.
Le 29 janvier 1999, X._ a demandé au registre du commerce de le radier du conseil d'administration avec copie au président du conseil. Ce même jour, M._ a donné l'ordre au directeur K._ de licencier la totalité du personnel.
Le 15 février 1999, M._, qui était le dernier membre du conseil d'administration, a adressé au juge un avis de surendettement et la faillite de la société a été prononcée le 24 février 1999.
B.
Par exploit du 31 octobre 2000, la masse en faillite de Y._ SA a cité en conciliation notamment X._, lui réclamant la somme de 4'000'000 fr. avec intérêts à 5 % l'an dès le 24 février 1999. D'autres exploits identiques ont été déposés successivement les 5 septembre 2001, 26 août 2002 et 18 décembre 2006, étant précisé que dans le dernier exploit, la masse en faillite a réduit ses prétentions à 2'000'000 francs. Dans chaque cas, un acte de non-conciliation a été délivré.
Par demande du 25 novembre 2002, la masse en faillite de Y._ SA a ouvert action auprès du juge du district de Sion à l'encontre de X._, lui réclamant la somme de 2'000'000 fr. avec intérêts à 5 % dès le 5 septembre 2001. Le montant de la demande a été modifié à plusieurs reprises en cours de procédure.
X._ s'est opposé à la demande en totalité.
Par jugement du 6 septembre 2011, le juge IV du district de Sion a condamné X._ à verser à la masse en faillite de Y._ SA la somme de 503'030 fr. avec intérêts à 5 % dès le 24 février 1999, statuant par ailleurs sur les frais et dépens. En substance, le juge a considéré que X._, en sa qualité d'administrateur, aurait du déposer le bilan au plus tard le 1 er juillet 1998, compte tenu du déficit accusé par la société en 1996 et 1997, de la diminution du chiffre d'affaires, du manque chronique de liquidités, du licenciement en automne 1997 d'une partie du personnel, ainsi que de l'avis donné par l'organe de révision le 2 avril 1998 attirant expressément l'attention du conseil d'administration sur l'existence d'un surendettement. Se fondant sur le rapport de l'expert Q._, il a arrêté le préjudice découlant du retard dans le dépôt du bilan à 503'000 francs.
X._ a appelé de ce jugement, concluant au rejet de la demande. La masse en faillite de Y._ SA a formé un appel joint, demandant que la somme soit portée à 618'745 francs.
Par arrêt du 8 janvier 2013, la Cour civile I du Tribunal cantonal valaisan a rejeté les appels et confirmé le jugement attaqué, statuant par ailleurs sur les frais et dépens.
C.
X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal du 8 janvier 2013. Invoquant l'arbitraire dans l'appréciation des preuves et l'établissement des faits, une violation du droit d'être entendu, ainsi que la violation de diverses dispositions de droit fédéral et cantonal, il conclut à son annulation et au rejet de la demande avec suite de frais et dépens. Sa requête d'effet suspensif et de suspension de la procédure a été écartée par ordonnance présidentielle du 20 mars 2013. Le recourant a encore sollicité une restitution de délai en vue de produire un arrêt du 21 février 2013 de la Cour d'appel civile du Tribunal cantonal fribourgeois.
L'intimée conclut au rejet du recours dans la mesure de sa recevabilité avec suite de frais et dépens.
Le recourant a répliqué.

Considérant en droit:
1.
1.1. Interjeté par la partie qui a succombé dans ses conclusions libératoires et qui a donc qualité pour recourir (<ref-law>), dirigé contre un jugement final (<ref-law>), rendu en matière civile (<ref-law>) par un tribunal supérieur statuant sur recours en dernière instance cantonale (<ref-law>), dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 30'000 fr. (<ref-law>), le recours est recevable, puisqu'il a été déposé dans le délai (art. 48 al. 1 et 100 al. 1 LTF) et la forme (<ref-law>) prévus par la loi. La recevabilité des différents griefs dépend cependant de l'existence d'une motivation répondant aux exigences légales (art. 42 al. 1 et 2 et 106 al. 2 LTF).
1.2. Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Il peut donc être formé pour violation d'un droit constitutionnel (<ref-ruling> consid. 2.1 p. 247; <ref-ruling> consid. 2.4 p. 313), mais non pour violation du droit cantonal (<ref-ruling> consid. 1.3 p. 60; <ref-ruling> consid. 6.1 p. 580).
Le Tribunal fédéral applique d'office le droit dont il peut contrôler le respect (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.3 p. 336; <ref-ruling> consid. 4 p. 317 s.). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués. Il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.3 p. 584; <ref-ruling> consid. 2.2.1 p. 389; <ref-ruling> consid. 1.4).
Par exception à la règle selon laquelle il applique le droit d'office, le Tribunal fédéral ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (<ref-law>).
1.3. Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (<ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 5.1 p. 356) - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF <ref-ruling> consid. 5.1 p. 356; <ref-ruling> consid. 1.2 p. 187). La partie recourante qui invoque l'arbitraire dans l'appréciation des preuves et l'établissement des faits doit motiver son grief d'une manière qui réponde aux exigences de l'<ref-law> (<ref-ruling> consid. 4.1.2 p. 62). Une rectification de l'état de fait ne peut être demandée que si elle est de nature à influer sur le sort de la cause (<ref-law>). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
En l'espèce, le recourant a présenté son propre état de fait, mais, dès lors qu'il n'a pas invoqué de manière précise une exception prévue par l'<ref-law>, il n'y a pas lieu d'en tenir compte.
1.4. Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>).
1.5. En l'espèce, le recourant, invoquant l'<ref-law>, a demandé une restitution de délai. On ne voit cependant pas qu'il ait été empêché d'accomplir un acte procédural dans le délai prescrit, de sorte qu'il n'y a pas lieu à restitution au sens de l'<ref-law>. En réalité, le recourant voudrait introduire dans la procédure un fait postérieur à l'arrêt attaqué, à savoir une décision rendue par le Tribunal cantonal fribourgeois le 21 février 2013. Dès lors qu'il ne s'agit pas d'établir un fait dont la pertinence ne serait née qu'avec l'arrêt attaqué, sa requête se heurte à l'<ref-law>, qui interdit de présenter des faits ou des moyens de preuve nouveaux devant le Tribunal fédéral. Au demeurant, la cour fribourgeoise, dans l'arrêt produit, s'est bornée à constater que l'intimée n'avait pas d'intérêt pour demander la réinscription au registre du commerce de la société O._ SA tout en indiquant qu'il "appartiendra, cas échéant, à l'ancien liquidateur de la société radiée de requérir sa réinscription". On ne voit donc pas que cet arrêt puisse avoir une influence directe sur le sort de la présente cause (<ref-law>).
2.
2.1. L'action qui reste litigieuse devant le Tribunal fédéral est fondée sur la responsabilité du recourant en tant qu'administrateur de la société intimée.
Selon l'<ref-law>, les membres du conseil d'administration et toutes les personnes qui s'occupent de la gestion répondent, à l'égard de la société, de même qu'envers chaque actionnaire ou créancier social, du dommage qu'ils leur causent en manquant intentionnellement ou par négligence à leurs devoirs.
Il a été constaté en fait - d'une manière qui lie le Tribunal fédéral (<ref-law>) - que l'assemblée générale des actionnaires de l'intimée, le 21 octobre 1996, a nommé le recourant membre du conseil d'administration, que celui-ci a été inscrit en cette qualité au registre du commerce le 14 juillet 1997 qu'il a demandé lui-même sa radiation de ce registre le 29 janvier 1999, soit immédiatement avant la faillite prononcée le 24 février 1999. Il n'est donc pas douteux que le recourant avait la qualité de membre du conseil d'administration au moment du fait qui lui est reproché, à savoir ne pas avoir donné un avis de surendettement au juge le 30 juin 1998. Etant administrateur de la société au moment des faits qui lui sont reprochés, le recourant assume donc la responsabilité prévue par l'<ref-law>.
La responsabilité de l'administrateur envers la société est subordonnée à la réunion des quatre conditions générales suivantes : la violation d'un devoir, une faute (intentionnelle ou par négligence), un dommage et l'exigence d'un rapport de causalité (naturelle et adéquate) entre la violation du devoir et la survenance du dommage. Il appartient au demandeur à l'action en responsabilité de prouver la réalisation de ces quatre conditions, qui sont cumulatives (<ref-ruling> consid. 2.3 p. 149; <ref-ruling> consid. 4.2 p. 572).
Les membres du conseil d'administration exercent leurs attributions avec toute la diligence nécessaire et veillent fidèlement aux intérêts de la société (<ref-law>). En cas de surendettement de la société, les administrateurs doivent aviser le juge aux conditions fixées par l'<ref-law>. Si l'administrateur tarde fautivement à aviser le juge, il répond du dommage qui en découle (ATF <ref-ruling> consid. 5.1 p. 573). Déterminer l'état financier d'une société à un moment donné, savoir ce que les administrateurs connaissaient à ce moment et dire quelles étaient les données disponibles à cette époque pour saisir la situation sont des questions de fait, que le Tribunal fédéral ne pourrait revoir que sous l'angle restreint de l'arbitraire (<ref-ruling> consid. 2e p. 185). En l'espèce, la cour cantonale, procédant à une appréciation des preuves, est parvenue à la conviction que le recourant, qui a une formation juridique, avait reçu suffisamment de signaux alarmants pour se rendre compte, au plus tard au 30 juin 1998, qu'il devait donner l'avis au juge. Ainsi, la cour cantonale a admis une violation fautive du devoir de diligence.
Ayant requis plusieurs expertises, l'autorité cantonale est parvenue à la conviction que le retard dans l'avis au juge, imputable au recourant, avait causé un dommage à la société. La constatation de la causalité naturelle est une question de fait que le Tribunal fédéral ne pourrait revoir que sous l'angle de l'arbitraire (<ref-ruling> consid. 5.3 p. 601; 699 consid. 4.1 p. 402). La jurisprudence a admis que tout retard dans le dépôt du bilan est, selon le cours ordinaire des choses et l'expérience de la vie, de nature à causer un préjudice à la société (<ref-ruling> consid. 2.4 p. 20; <ref-ruling> consid. 6.3 p. 576 s.). Un rapport de causalité adéquate a donc été admis sans violer le droit fédéral.
Pour dire si le retard a causé un dommage à la société, il faut comparer son état de surendettement au moment où la faillite a été prononcée avec son état de surendettement au moment où elle aurait dû être prononcée (<ref-ruling> consid. 3.2 p. 325 s.; <ref-ruling> consid. 2.3.3 p. 348, 564 consid. 6.2 p. 575 s.). Pour trancher cette question, il faut se fonder exclusivement sur les valeurs de liquidation (<ref-ruling> consid. 3.2.1 p. 326). Lorsque le montant exact du dommage ne peut pas être établi, le juge le détermine équitablement en considération du cours ordinaire des choses et des mesures prises par la partie lésée (<ref-law>). Comme la détermination du dommage suppose une analyse comptable complexe, le juge a recouru à l'expertise et il a décidé de suivre les conclusions présentées par l'expert Q._, en s'assurant qu'il se fondait sur des valeurs de liquidation (arrêt attaqué p. 48). Il s'agit là d'une question d'appréciation des preuves, que le Tribunal fédéral ne peut revoir que sous l'angle restreint de l'arbitraire.
La société étant tombée en faillite, sa créance en réparation du dommage qui lui a été causé directement est devenue une créance de la communauté des créanciers (<ref-ruling> consid. 2.3 p. 149; <ref-ruling> consid. 3.2.2 p. 570), de sorte que le recourant ne peut lui opposer un consentement ou un vote de décharge de la part de l'assemblée générale (ATF <ref-ruling> consid. 4.1 p. 349).
Entre les différents organes responsables d'un même dommage, la solidarité est différenciée en ce sens que chacun d'eux peut faire valoir les facteurs d'atténuation qui lui sont propres, par exemple le fait qu'il n'a commis qu'une faute particulièrement légère (<ref-law>; ATF <ref-ruling> consid. 7 p. 577 s.).
L'action en responsabilité se prescrit par cinq ans à compter du jour où la partie lésée a eu connaissance des faits lui permettant de fonder son action et, dans tous les cas, par dix ans dès le jour où le fait dommageable s'est produit (<ref-law>).
En l'espèce, la cour cantonale a correctement rappelé ces principes juridiques et elle les a appliqués à l'état de fait qu'elle a retenu.
Le recourant ne le conteste pas vraiment et il ne soumet au Tribunal fédéral aucune question d'interprétation du droit fédéral qui appellerait l'intervention de la juridiction suprême du pays.
2.2. Dans un acte de recours prolixe et confus, mélangeant le fait et le droit, allant jusqu'à répéter deux fois la même argumentation (p. 16 et 45 du recours), le recourant, prenant le Tribunal fédéral pour une cour d'appel, semble vouloir lui soumettre à nouveau l'appréciation des preuves, en extrayant des passages choisis du dossier, dans l'espoir qu'une nouvelle appréciation des preuves conduira à un autre état de fait qui lui serait favorable. Il se trompe sur le rôle du recours en matière civile au Tribunal fédéral. Cette voie de recours doit permettre de contrôler la bonne application du droit fédéral sur la base d'un état de fait en principe arrêté définitivement par la cour cantonale. Elle ne permet pas de provoquer une nouvelle appréciation des preuves où chacun invoquerait les éléments qui lui paraissent favorables. Elle permet encore moins d'exiger des juges fédéraux qu'ils refassent les expertises en se substituant aux experts comptables. L'<ref-law> exige que le recourant expose succinctement en quoi l'arrêt attaqué viole le droit. Il ne suffit pas de parler d'arbitraire, de violation du droit d'être entendu, de violation du droit fédéral ou du droit cantonal; il faut au contraire invoquer une violation précise et exposer en quoi elle consiste. Les exigences de motivation sont encore plus sévères s'il s'agit d'un grief constitutionnel (<ref-law>), en particulier lorsqu'il est invoqué l'arbitraire dans l'appréciation des preuves et l'établissement des faits (cf. <ref-ruling> consid. 4.1.2 p. 62).
2.3. Il n'est donc possible d'entrer en matière que dans la mesure où l'on parvient à discerner un grief précis et clairement formulé.
2.3.1. Le recourant se plaint surtout de ne pas avoir pu consulter un document Excel remis par l'intimée à l'expert Q._.
Sur ce point, la cour cantonale a constaté que le recourant avait été informé, par une lettre du 16 octobre 2007 adressée à son avocat, que ce document avait été remis à l'expert. L'intimée le répète dans sa réponse et le recourant ne le conteste pas dans sa réplique. Quoi qu'il en soit, le recourant ne parle pas du tout du contenu de cette lettre du 16 octobre 2007, de sorte qu'il ne démontre pas que la cour cantonale aurait retenu arbitrairement qu'il avait eu connaissance, par cette lettre, de la remise du document à l'expert.
Invoquant une violation du droit d'être entendu, le recourant se plaint ensuite de n'avoir pas pu s'exprimer sur ce document Excel. Cependant, dès lors qu'il a été admis, sans que l'arbitraire ne soit démontré, que le recourant a été informé de la remise de ce document, il lui appartenait de demander à le consulter s'il y attachait de l'importance. Il ne prétend pas l'avoir fait. On en déduit qu'il s'est désintéressé d'un document à caractère comptable et il ne peut s'en prendre qu'à lui-même. On ne discerne donc ni violation du droit d'être entendu, ni violation de l'art. 6 CEDH.
Quant au droit cantonal de procédure, le recourant explique lui-même que le juge pouvait autoriser l'expert à exiger la production de titres et à interroger des tiers; il expose également que des faits révélés par l'expertise peuvent amener le juge à compléter les faits contenus dans les allégués. On ne parvient donc pas à discerner en quoi le droit cantonal aurait été appliqué arbitrairement et, de toute manière, l'arbitraire n'est pas invoqué à ce sujet, contrairement aux exigences de l'<ref-law>.
2.3.2. Invoquant à nouveau une violation du droit d'être entendu, le recourant se plaint de ce que la cour cantonale n'a pas ordonné l'apport de la procédure pénale dirigée contre l'expert Q._.
D'après ce que l'on comprend, le recourant a lui-même provoqué cette procédure pénale. Il n'expose pas qu'il n'y aurait pas accès. On en déduit donc qu'il pouvait extraire une pièce de cette procédure pour la produire en temps utile dans le procès civil s'il y avait un intérêt. Le refus d'ordonner l'apport de la procédure pénale n'a donc pas sérieusement entravé le recourant dans sa faculté d'apporter des preuves. Il n'y a dès lors eu ni violation du droit d'être entendu (art. 29 al. 2 Cst.), ni violation du droit à la preuve (<ref-law>).
2.3.3. De la même manière, le recourant se plaint de ce que la cour cantonale n'a pas ordonné l'apport du dossier relatif à la révision de l'état de collocation.
D'après ce que l'on comprend, il s'agit d'une procédure que le recourant a initiée lui-même. Il lui était donc en principe loisible de produire en temps utile dans le procès civil des pièces figurant maintenant dans ce dossier s'il y voyait un intérêt. Dans ce cas également, le refus d'ordonner l'apport de ce dossier ne viole ni le droit d'être entendu, ni le droit à la preuve. Les preuves pertinentes doivent en principe être apportées dans le procès civil selon les règles de procédure applicables. Le recourant ne peut pas, en engageant des procédures parallèles, faire rebondir sans fin l'administration des preuves et retarder le jugement de la cause civile.
Dans le même contexte, le recourant explique ensuite pourquoi il conteste l'une des créances admises à l'encontre de la société faillie. On ne voit cependant pas pourquoi les faits qu'il invoque à l'appui de sa démonstration n'auraient pas pu être allégués en temps utile lors de la procédure de première instance. En constatant que ces faits nouveaux n'étaient pas admissibles en appel, la cour cantonale n'a ni violé l'<ref-law>, ni n'a renversé le fardeau de la preuve. La créance ayant été admise par la masse en faillite et par l'expert, le juge pouvait, en l'absence d'éléments contraires, en retenir l'existence sans procéder à une appréciation arbitraire des preuves.
2.3.4. Le recourant soutient que la demande n'était pas suffisamment substantifiée.
La cour cantonale a examiné ce grief en fonction des allégués figurant dans la demande et l'a rejeté. L'argumentation présentée devant le Tribunal fédéral par le recourant est impropre à démontrer que le raisonnement de la cour cantonale violerait le droit fédéral. Le recourant ne montre pas que le droit de procédure cantonale interdisait au juge de prendre en considération des faits révélés par l'expertise.
2.3.5. Invoquant l'arbitraire dans l'appréciation des preuves et l'établissement des faits, le recourant soutient que l'arrêt cantonal contiendrait des chiffres procédant d'une erreur de lecture. Il n'explique cependant pas en quoi ces chiffres influeraient sur le sort de la cause (<ref-law>) et pourquoi ils rendraient la décision attaquée insoutenable dans son résultat (sur la notion d'arbitraire : cf. <ref-ruling> consid. 7.1 p. 51, 305 consid. 4.4 p. 319; <ref-ruling> consid. 6.1 p. 379 s.).
Il soutient aussi que la cour cantonale a arbitrairement retenu que O._ SA avait consenti à la société un prêt de 800'000 fr. en été 1997. Il ne démontre cependant pas en quoi cette constatation serait arbitraire. En effet, il se borne à dire que la somme a été versée en deux tranches, ce qui ne remet pas en cause la constatation selon laquelle le prêt a été consenti en été 1997.
Le recourant conteste longuement qu'il ait pris ses fonctions d'administrateur, dans les faits, avant le moment de son inscription au registre du commerce. Il n'attaque cependant pas la motivation alternative de la cour cantonale selon laquelle l'issue du litige ne serait pas modifiée si l'on admettait qu'il n'est entré en fonction qu'à la date de son inscription au registre du commerce (sur l'exigence posée par la jurisprudence en matière de motivation alternative: cf. <ref-ruling> consid. 6.3 p. 120 s.). Ainsi, il n'y a plus d'intérêt à discuter la question soulevée par le recourant.
Le recourant soutient que la cour cantonale a admis arbitrairement qu'il avait eu connaissance de la lettre du réviseur du 2 avril 1998 qui constatait le surendettement de la société. Sur ce point, la cour cantonale a constaté - sans que l'arbitraire ne soit démontré à ce propos - que le procès-verbal de la séance suivante du conseil d'administration, à laquelle le recourant assistait, est structuré exactement de la même manière que la lettre du réviseur. Elle en a déduit que le conseil d'administration a bien discuté du contenu de cette lettre, de sorte que les administrateurs en avaient nécessairement connaissance. Cette appréciation des preuves ne peut être qualifiée d'arbitraire.
Savoir si le recourant a eu connaissance de la lettre de la banque du même jour est une question de fait qui n'a eu aucune influence sur le sort de la cause (<ref-law>).
2.3.6. Le recourant s'en prend ensuite aux rapports qui ont été rendus par l'expert Q._.
Il fonde cependant sa critique principalement sur des faits qui ne sont pas constatés dans l'arrêt attaqué, ce qui n'est pas admissible (<ref-law>). Ce grief, purement appellatoire, n'est pas recevable (cf. supra consid. 2.2).
2.4. Invoquant une violation de l'<ref-law>, le recourant conteste avoir violé fautivement son devoir d'administrateur.
Son argumentation repose cependant sur des faits qui ne sont pas constatés dans l'arrêt attaqué, ce qui n'est pas admissible (<ref-law>). Ses explications sont purement appellatoires. Il ressort au contraire clairement des faits retenus - qui lient le Tribunal fédéral (<ref-law>) - que le recourant a violé fautivement son devoir de diligence en ne donnant pas l'avis de surendettement au juge au plus tard le 30 juin 1998. Il n'y a à cet égard aucune trace d'une violation du droit fédéral.
En contestant l'existence du dommage, le recourant procède exactement de la même manière. Il se réfère à des faits non constatés et présente une critique purement appellatoire. Sur la base des faits constatés dans l'arrêt attaqué, on ne voit pas que la cour cantonale ait méconnu la notion juridique de dommage ou qu'elle ait apprécié les preuves d'une manière arbitraire.
2.5. Le recourant se plaint d'une violation de l'<ref-law> et reproche à la cour cantonale d'avoir commis un déni de justice formel en n'examinant pas cette question.
L'<ref-law> détermine les conditions dans lesquelles un organe peut être tenu pour responsable lorsqu'il a délégué l'exercice d'une attribution. En l'espèce, il est reproché au recourant d'avoir tardé à donner l'avis de surendettement au juge (<ref-law>). Or, il s'agit d'une compétence inaliénable des administrateurs (<ref-law>). Le recourant ne pouvait donc pas déléguer cette attribution au directeur et ne l'a d'ailleurs pas fait. L'argument fondé sur l'<ref-law> n'a aucune pertinence et la cour cantonale n'a pas commis de déni de justice, ni de violation du droit d'être entendu, en ne traitant pas une question qui ne se posait pas.
Le recourant invoque une violation des <ref-law>, ainsi que des art. 43 et 44 CO.
Contrairement à ce que semble soutenir le recourant, la cour cantonale n'a pas refusé d'appliquer les règles de la solidarité différenciée (<ref-law>), mais elle a simplement constaté que le recourant ne pouvait faire valoir aucun motif individuel de réduction de l'indemnité. Le recourant n'indique d'ailleurs pas quel motif de réduction serait réalisé et on ne saurait dire, sur la base des faits retenus, que le recourant n'a commis qu'une faute légère. En conséquence, il n'y a pas eu non plus de violation des art. 43 et 44 CO. Dans la mesure où le recourant semble parfois se référer à la notion de causalité adéquate, il faut relever que l'état de fait qui lie le Tribunal fédéral (<ref-law>) ne contient pas d'éléments qui pourraient conduire à admettre une interruption du rapport de causalité adéquate.
2.6. Le recourant invoque des créances compensatoires et se plaint d'une violation de l'<ref-law>.
La compensation n'a effet extinctif que si le débiteur fait connaître au créancier son intention de l'invoquer (<ref-law>). Dire si une telle déclaration est intervenue ou non est une question de fait. Le recourant ne conteste pas qu'il n'a fait aucune déclaration de compensation durant la procédure de première instance. En appel, la cour cantonale a constaté qu'il introduisait dans la procédure un fait nouveau qu'il aurait pu invoquer précédemment, ce qui n'est pas admissible (<ref-law>). Une telle conclusion ne viole pas le droit fédéral (cf. arrêt 4A_583/2012 du 19 décembre 2012 consid. 3.2).
Le recourant soutient enfin que l'intimée a laissé prescrire sa créance en intérêts moratoires pour la période comprise entre le 24 février 1999 et le 5 septembre 2001.
Il est reproché au recourant de ne pas avoir donné au juge l'avis de surendettement au plus tard le 30 juin 1998. Selon les constatations cantonales - au sujet desquelles l'arbitraire n'est pas invoqué -, l'intimée a déposé une requête de conciliation - qui est interruptive de la prescription (<ref-law>) - le 31 octobre 2000 en réclamant un intérêt moratoire dès le 24 février 1999. Cette citation a été répétée les 5 septembre 2001, 26 août 2002 et 18 décembre 2006. Le recourant admet que les conclusions en procédure du 8 mars 2010 mentionnaient la date du 24 février 1999 comme point de départ de la prescription. Sachant qu'un nouveau délai de prescription commence à courir dès chaque interruption (<ref-law>), on ne voit pas comment le délai quinquennal de l'<ref-law> pourrait être atteint. Le grief est donc dépourvu de tout fondement.
Le recours doit donc être rejeté dans la mesure où il est recevable.
3.
Les frais judiciaires et les dépens sont mis à la charge du recourant qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 8'000 fr., sont mis à la charge du recourant.
3.
Le recourant versera à l'intimée une indemnité de 9'000 fr. à titre de dépens.
4.
Le présent arrêt est communiqué aux mandataires des parties et au Tribunal cantonal du canton du Valais, Cour civile I.
Lausanne, le 7 août 2013
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Piaget