Faits :
A.
En mai 2013, A._ AG a déposé une demande de permis de construire trois immeubles d'habitation, deux bâtiments de service et un garage souterrain sur la parcelle n° 452 de la commune d'Avenches dans un secteur archéologique sensible, mais non répertorié au sens de la législation cantonale.
Le 28 novembre 2013, le Service Immeubles, Patrimoine et Logistique du canton de Vaud (SIPAL) a accordé l'autorisation spéciale au sens de l'art. 67 de la loi vaudoise sur la protection de la nature, des monuments et des sites (LPNMS; RSV 450.11) sous diverses conditions, dont l'exécution de sondages préalables avant tous travaux d'excavation visant à déterminer l'existence éventuelle de vestiges archéologiques, étant précisé que de tels sondages seront à la charge du propriétaire.
Par décision du 28 janvier 2015, la Municipalité d'Avenches a délivré l'autorisation de construire sollicitée. Le même jour, elle a octroyé à la constructrice un permis de fouilles en rappelant que des sondages préliminaires étaient requis préalablement à l'ouverture du chantier afin de vérifier la présence de vestiges et de définir, le cas échéant, les mesures à prendre.
Les sondages effectués en septembre 2016 ont démontré la nécessité de mener des fouilles sur pratiquement l'ensemble de la parcelle.
B.
B.a. Par décision du 27 juin 2017, le Département des finances et des relations extérieures du canton de Vaud (DFIRE) a considéré que des fouilles de sauvetage devaient impérativement être réalisées avant toute construction ou tous travaux de terrassement et que leur prise en charge incombait à A._ AG conformément aux art. 67 LPNMS et 38 al. 4 du règlement du 22 mars 1989 d'application de la LPNMS (RLPNMS; RSV 450.11.1).
Statuant le 28 mai 2018 sur recours de A._ AG, la Cour de droit administratif et public du Tribunal cantonal (CDAP) a annulé cette décision et a renvoyé la cause au département pour nouvelle décision dans le sens du considérant 3d de son arrêt. Celui-ci retenait qu'il paraissait équitable qu'une répartition par moitié entre l'Etat et la constructrice des frais de fouilles proprement dite (à savoir comprenant les frais de machines de chantier et d'infrastructures en relation avec l'excavation) semblerait adéquate. La participation financière de la constructrice aux frais de fouilles devait encore être chiffrée par l'Etat sur la base d'un devis de frais de fouilles détaillé et actualisé et en tenant compte du montant de la subvention au sens de l'art. 56 LPNMS que l'État serait prêt à verser.
Le 28 juin 2018, le Tribunal fédéral a déclaré irrecevable le recours formé par la constructrice contre cet arrêt (cause 1C_307/2018).
B.b. Le 1er octobre 2018, le DFIRE a rendu une décision de répartition de coûts à teneur de laquelle les montants pris en charge par le canton s'élèveraient à 50 % des frais de fouilles, à la totalité des frais "post-fouilles" et d'analyse et à 20 % des frais de terrassement, étant précisé que la participation maximale serait de 542'800 francs (soit les proportions exposées ci-dessus calculées sur la base des devis présentés en juillet 2018) et "qu'aucune subvention supplémentaire ne sera[it] versée".
Par arrêt du 5 novembre 2019 rendu sur recours de la constructrice, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud a annulé cette décision au sens des considérants. Elle en confirmait la teneur s'agissant de la participation de l'Etat aux frais de fouilles à raison de 50 %, précisant que celui-ci ne pourra pas limiter sa participation financière à un montant maximum. S'agissant des frais de terrassement, elle donnait instruction au département de statuer à nouveau, la répartition des coûts devant être définie sur la base d'une comparaison de devis d'une même entreprise pour des travaux de terrassement sans fouilles archéologique et pour des travaux avec fouilles archéologiques, la différence devant être prise en charge à raison de 50 %-50 % par la constructrice et par l'État.
C.
Agissant par la voie du recours en matière de droit public et du recours constitutionnel subsidiaire, A._ AG demande au Tribunal fédéral de réformer cet arrêt en ce sens que la décision du Département du 1er octobre 2018 est modifiée, les frais des fouilles archéologiques, de même que tout autre frais lié à ces fouilles, étant à la charge exclusive de l'État de Vaud, qu'ordre est donné à l'État de Vaud de procéder aux fouilles archéologiques au plus tard trois mois après l'entrée en force du jugement rendu par le Tribunal cantonal et qu'elle soit d'ores et déjà autorisée à entreprendre tous travaux de construction sur la parcelle n° 452 si les fouilles archéologiques ne sont pas entreprises dans ce délai. Elle conclut subsidiairement à l'annulation de l'arrêt attaqué et au renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants.
La cour cantonale renonce à se déterminer sur le recours et se réfère aux considérants de son arrêt. La Commune d'Avenches renonce également à déposer une réponse. Le DFIRE se détermine et conclut à l'irrecevabilité du recours, subsidiairement à son rejet. La Direction générale des immeubles et du patrimoine du canton de Vaud (DGIP) renonce à se déterminer en se référant intégralement à l'écriture du DFIRE.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office la recevabilité des recours qui lui sont soumis.
1.1. Le recours est dirigé contre une décision prise en dernière instance cantonale dans une cause de droit public au sens de l'<ref-law>, sans qu'aucune des exceptions prévues à l'<ref-law> ne soit réalisée, de sorte que la voie du recours en matière de droit public selon les <ref-law> est ouverte.
La recourante a pris part à la procédure de recours devant le Tribunal cantonal (<ref-law>) et elle est particulièrement touchée par l'arrêt attaqué, qui confirme la mise à sa charge d'une partie des frais de fouilles archéologiques dans le cadre du chantier de construction qu'elle entend entreprendre (<ref-law>).
1.2.
1.2.1. Le recours en matière de droit public est recevable contre les décisions qui mettent fin à la procédure (<ref-law>), qui statuent sur un objet dont le sort est indépendant de celui qui reste en cause (<ref-law>) ou qui mettent fin à la procédure à l'égard d'une partie des consorts (<ref-law>). Il l'est également contre certaines décisions préjudicielles et incidentes. Il en va ainsi de celles qui concernent la compétence et les demandes de récusation (<ref-law>). Quant aux autres décisions préjudicielles et incidentes notifiées séparément, elles peuvent faire l'objet d'un recours si elles peuvent causer un préjudice irréparable (<ref-law>) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (<ref-law>).
1.2.2. En l'espèce, la cour cantonale a admis le recours et "annulé", selon le dispositif de son arrêt, la décision du département, sans lui retourner le dossier. Les considérants de l'arrêt attaqué sont résumés comme suit en fin du consid. 5: "La règle de principe sur la répartition des coûts fixée par la Cour de céans [...] est la suivante: hormis les frais de post-fouilles et d'analyse qui seront entièrement supportés par l'État, tous les autres surcoûts résultant des opérations archéologiques doivent être partagés par moitié entre l'État et la recourante, étant précisé que le coût des travaux de terrassement qui auraient dû être entrepris de toute manière par la recourante (indépendamment de la présence des vestiges archéologiques) est à la charge exclusive de celle-ci" (arrêt attaqué du 5 novembre 2019, consid. 5 p. 14). S'agissant des montants chiffrés qui découleront de cette règle de répartition, l'arrêt attaqué mentionne de façon équivoque à la fois la possibilité pour la recourante de "demander une offre à une entreprise de son choix" à "soumettre pour approbation à la DGIP" (qui n'est pas l'autorité qui a pris la décision querellée), et le choix d'une entreprise "d'un commun accord entre les parties" (arrêt attaqué du 5 novembre 2019, consid. 5. p. 13). On comprend ainsi que la cour cantonale réforme la règle de répartition des coûts sur son principe et renvoie aux devis, voire factures, ultérieurs pour ce qui est des montants eux-mêmes.
Il apparaît ainsi que la décision revêt un caractère final ou, si tel devait ne pas être le cas et qu'il faille considérer qu'il y a renvoi à une décision ultérieure (dont il est peu aisé de dire si elle devrait émaner du DFIRE ou de la DGIP), que la décision peut être tenue pour finale dès lors que le renvoi a lieu uniquement en vue de son exécution par l'autorité inférieure sans que celle-ci ne dispose encore d'une liberté d'appréciation notable (<ref-ruling> consid. 4.2 p. 286).
En effet, la cour cantonale a, dans sa première décision, arrêté le détail des opérations de fouilles qu'il est question de faire supporter en partie à la recourante (frais de machines de chantier et d'infrastructures en relation avec l'excavation à l'exclusion des coûts "post-fouilles" et des frais d'analyse) auxquels ont été ajoutés les frais de terrassement dans la seconde décision. Elle a statué sur l'impossibilité pour le canton de plafonner sa participation et a avalisé la décision de non-octroi de subvention au sens de l'art. 56 LPNMS. Dans son second arrêt, elle a défini la répartition des frais de terrassement, dont seul le montant demeure incertain. Il résulte en outre de la décision prise par le département cantonal le 27 juin 2017 qu'il incombe à la constructrice de procéder à ses frais aux fouilles prescrites par l'Archéologue cantonale, ce que l'arrêt du 28 mai 2018 réformant cette décision ne semble pas remettre en cause. Il résulte ensuite de la décision du 1er octobre 2018 que l'entreprise de terrassement sera mandatée par la recourante, ce que l'arrêt du 5 novembre 2018 confirme. Cette décision fixe en outre les modalités de paiement en ce sens que les frais de fouilles seront avancés par l'État de Vaud, une facture étant adressée semestriellement à la constructrice. Cet aspect n'est pas discuté par l'arrêt du 5 novembre 2019 qui, comme on l'a vu ci-dessus, indique qu'il n'apparaît ainsi pas qu'une autorité cantonale soit amenée à rendre de nouvelle (s) décision (s) au sens formel, dite autorité étant uniquement appelée à exécuter la prise en charge des coûts de fouilles et de terrassement liés à ces fouilles.
Au contraire par exemple de la répartition des frais de décontamination de sites pollués (arrêts 1C_130/2016 du 30 mars 2016 consid. 2.3; 1C_397/2013 du 21 avril 2015 consid. 1.3 in DEP 2015 p. 529; 1C_126/2009 du 20 août 2009 consid. 4.4.2 in DEP 2010 p. 103), quand bien même le coût chiffré de l'opération demeure encore inconnu en l'état, la nature des mesures à prendre et à mettre à la charge de la recourante - fouilles et terrassement - est ainsi précisément fixée en l'espèce. Dans ces circonstances très particulières, il se justifie d'entrer en matière sur le recours en dépit d'un éventuel renvoi - peu explicite - à des devis ou factures ultérieurs.
1.3. La recourante conclut, outre à la modification de la décision du département en ce sens qu'aucun frais lié aux fouilles n'est mis à sa charge, à ce qu'ordre soit donné à l'État de Vaud de procéder aux fouilles archéologiques au plus tard trois mois après l'entrée en force du jugement rendu par le Tribunal cantonal et qu'elle soit d'ores et déjà autorisée à entreprendre tous travaux de construction sur la parcelle n° 452 si les fouilles archéologiques ne sont pas entreprises dans ce délai. Ces conclusions, exorbitantes à l'objet du litige, sont irrecevables, ce d'autant plus que la recourante ne fait valoir aucune violation de son droit d'être entendue du fait que la cour cantonale aurait omis de statuer sur cette question.
1.4. Les autres conditions formelles de recevabilité sont réunies, si bien qu'il y a lieu d'entrer en matière sur le recours.
1.5. Le recours est également recevable dans la mesure où il est dirigé contre l'arrêt du 28 mai 2018, qui, en tant qu'arrêt de renvoi, présente un caractère incident au sens de l'<ref-law> et influe sur l'arrêt du 5 novembre 2019.
1.6. Le recours en matière de droit public étant recevable, le recours constitutionnel subsidiaire est irrecevable.
2.
Dans deux griefs séparés que l'on peut traiter comme un seul moyen, la recourante fait valoir que les frais liés aux fouilles archéologiques ne peuvent être mis à sa charge. Elle se prévaut à cet égard d'une violation du principe de la légalité, ainsi que d'une violation de la protection contre l'arbitraire et du principe de la bonne foi.
2.1.
2.1.1. Une décision est arbitraire lorsqu'elle viole gravement une norme ou un principe juridique clair et indiscuté, ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice et de l'équité. Le Tribunal fédéral n'a pas à déterminer quelle est l'interprétation correcte que l'autorité cantonale aurait dû donner des dispositions applicables; il doit uniquement examiner si l'interprétation qui a été faite est défendable. Par conséquent, si celle-ci ne se révèle pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation cantonale en cause, elle sera confirmée, même si une autre solution paraît également concevable, voire préférable. De plus, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que cette dernière soit arbitraire dans son résultat (<ref-ruling> consid. 5.4 p. 327; <ref-ruling> consid. 4.1 p. 566; <ref-ruling> consid. 4.3 p. 319).
Le principe de la légalité consacré à l'art. 5 al. 1 Cst. exige de façon générale que l'ensemble de l'activité étatique se fonde sur la loi et repose ainsi sur une base légale. L'exigence de la base légale signifie que les actes étatiques doivent trouver leur fondement dans une loi au sens matériel, qui soit suffisamment précise et déterminée et qui émane de l'autorité constitutionnellement compétente (<ref-ruling> consid. 3.1 p. 171; <ref-ruling> consid. 6.5.1 p. 29; <ref-ruling> consid. 3c p. 121). L'exigence de précision de la norme (ou de densité normative) est relative et varie selon les domaines. Elle dépend notamment de la gravité des atteintes qu'elle comporte aux droits fondamentaux (<ref-ruling> consid. 4.2.2 p. 692; <ref-ruling> consid. 4.4 p. 386; <ref-ruling> consid. 6.5.1 p. 29 s.).
Le principe de la légalité est une maxime fondamentale de l'État de droit. La pratique reconnaît dans certains cas particuliers que le consentement de l'administré à la relation juridique peut pallier l'absence d'une base légale (ISABELLE HÄNER, Die Einwilligung der betroffenen Person als Surrogat der gesetzlichen Grundlage bei individuell-konkreten Staatshandlungen, in ZBl 2002 p. 57 s.; MOOR/ FLÜCKIGER/ MARTENET, Droit administratif, vol. I - Les fondements, 3e éd. 2012, p. 729), notamment dans un cadre contractuel (cf. <ref-ruling> consid. 2.4 p. 164) ou lorsqu'il est question de l'utilisation d'installations d'infrastructures publiques, l'engagement volontaire dans la relation avec l'administration étant déterminant (HÄNER, op. cit., p. 60). La prévisibilité du droit doit être assurée par le consentement, qui assume les fonctions constitutionnelles du principe de la légalité auquel il se substitue. Dans un tel cas de figure, l'État doit d'office faire connaître, au moyen d'une formulation claire - comme on l'exigerait d'une base légale -, quelles seront les conséquences du comportement ou des actions de l'administré, et non l'inverse. Ainsi, le consentement de l'administré ne peut en principe assouplir l'exigence de la sécurité du droit et se substituer à la loi que si, au moment de ce consentement, son objet est déterminé à l'avance ou du moins suffisamment prévisible de bonne foi, compte tenu de l'ensemble des circonstances ( ibidem, p. 63 s.). Il faut en outre que l'administré ait connaissance du caractère volontaire de son accord, faute de quoi il n'agit pas avec un consentement éclairé. En d'autres termes, celui-ci doit avoir conscience qu'il s'engage sans y être obligé par la loi et que l'autorité ne pourrait l'y contraindre par une action souveraine unilatérale. Le devoir d'information de l'autorité sera à cet égard plus important si le consentement porte sur un rapport juridique établi par voie décisionnelle que si la relation est purement contractuelle ( ibidem, p. 67). La présomption d'un consentement ne doit ainsi être reconnue qu'avec une extrême retenue ( ibidem, p. 68).
Les particuliers sont en outre liés par le principe de la bonne foi dans leurs rapports avec les autorités (art. 5 al. 3 Cst.; <ref-ruling> consid. 4.3 p. 69; <ref-ruling> consid. 3.4.2 p. 406; <ref-ruling> consid. 7.1 p. 403). Ce principe est essentiellement appliqué afin d'éviter la protection de l'abus manifeste d'un droit (<ref-ruling> consid. 2.2 p. 52; <ref-ruling> consid. 6.1 p. 177; arrêts 1C_478/2011 du 9 février 2012 consid. 2.5; 9C_999/2009 du 7 juin 2010 consid. 6.2), ce même en l'absence de comportement dolosif (<ref-ruling> consid. 5.5.1 p. 359; <ref-ruling> consid. 2 p. 237; <ref-ruling> consid. 4a p. 241). L'une des conséquences de ce principe est l'interdiction des comportements contradictoires. Cette interdiction opposée à un administré équivaut en principe à une péjoration de la situation juridique de celui-ci, de sorte qu'elle doit être appliquée avec retenue - surtout si elle découle d'un comportement passif (<ref-ruling> consid. 4.3 p. 69; <ref-ruling> consid. 7.1 p. 403; arrêt 1C_478/2011 du 9 février 2012 consid. 2.5).
2.1.2. A teneur de l'art. 46 LPNMS, sont protégés conformément à cette loi tous les monuments de la préhistoire, de l'histoire, de l'art et de l'architecture et les antiquités immobilières situés dans le canton, qui présentent un intérêt archéologique, historique, artistique, scientifique ou éducatif (al. 1); sont également protégés les terrains contenant ces objets et leurs abords (al. 2); aucune atteinte ne peut leur être portée qui en altère le caractère (al. 3). Lorsqu'un danger imminent menace un tel objet, le département en charge des monuments, sites et archéologie prend les mesures nécessaires à sa sauvegarde (art. 47 al. 1 LPNMS). Il détermine en outre les régions archéologiques dans lesquelles tous travaux dans le sol ou sous les eaux doivent faire l'objet d'une autorisation (art. 67 LPNMS). L'art. 72 LPNMS prévoit qu'aucune fouille archéologique ne peut être entreprise sans l'autorisation du département en charge des monuments, sites et archéologie. Enfin, selon l'art. 73 LPNMS, le propriétaire d'un fonds dans lequel se trouvent des curiosités naturelles ou des antiquités offrant un intérêt scientifique est tenu de permettre les fouilles nécessaires (al. 1); de telles fouilles peuvent donner droit à une indemnité au sens de l'article 724 al. 2 CC (al. 2).
En application de ces dispositions, l'art. 38 al. 1 RLPNMS prévoit que le département compétent tient à jour la liste des régions archéologiques. Celui-ci délivre l'autorisation spéciale pour les travaux et arrête les conditions nécessaires pour assurer la protection du site archéologique; pour apprécier l'atteinte que le projet est susceptible de porter au site archéologique et pour définir les mesures à prendre, il peut entreprendre ou requérir l'exécution de sondages préalables; l'analyse archéologique des sondages incombe au département (art. 38 al. 3 RLPNMS). L'autorisation spéciale précise les délais nécessaires, les modalités de l'intervention de sauvetage ou les mesures à prendre pour ménager les vestiges archéologiques lors de l'exécution du projet (art. 38 al. 3 RLPNMS).
L'<ref-law> prévoit par ailleurs que le propriétaire dans le fonds duquel sont trouvées des curiosités naturelles et des antiquités qui offrent un intérêt scientifique est obligé de permettre les fouilles nécessaires, moyennant qu'il soit indemnisé du préjudice causé par ces travaux.
2.2. En l'espèce, la cour cantonale a constaté qu'il n'existait pas de base légale permettant de mettre à la charge de la recourante des frais de fouilles dans un terrain situé comme en l'espèce hors zone archéologique (arrêt du 28 mai 2018 consid. 3b). En revanche, la cour cantonale a considéré que la recourante avait "en quelque sorte accepté de se soumettre aux conditions fixées par le SIPAL quant à une éventuelle participation financière à des frais de fouilles de sauvetage". Cela ressortait du fait qu'il ne s'agissait pas de trouvailles fortuites au sens de l'art. 39 RLPNMS (dont la jurisprudence a clairement dit qu'il ne constituait pas une base légale suffisante pour mettre les frais de fouille à la charge du propriétaire et maître de l'ouvrage), de l'autorisation spéciale délivrée par le SIPAL - partie intégrante du permis de construire, du permis de fouilles délivré en même temps que le permis de construire, ainsi que de l'obligation de procéder à des sondages et de les prendre à sa charge à laquelle la recourante s'était soumise. Aussi, une interprétation desdits permis conforme au principe de la bonne foi devait conduire à ce que la recourante prenne à sa charge une partie des frais de fouilles.
Par une argumentation difficile à suivre, le DFIRE affirme de son côté que la décision du 27 juin 2017 répartissant la prise en charge des frais de fouilles est fondée sur les art. 67 LPNMS et 38 al. 4 RLPNMS. Cette autorité ne discute toutefois pas le raisonnement de la cour cantonale qui a considéré qu'une base légale faisait défaut, de sorte qu'il n'y a pas lieu de revenir sur cette appréciation.
Il se pose alors la question de savoir si l'autorité cantonale pouvait prendre une décision en défaveur de la recourante sans base légale, en se fondant sur le seul rapport de confiance établi avec celle-ci.
En l'occurrence, la recourante a obtenu un permis de construire assorti d'un permis de fouilles à teneur desquels il lui incombait de procéder à des sondages préalables avant les travaux. Ces permis précisaient expressément que de tels sondages étaient à la charge de la propriétaire. A ce stade d'avancement du projet, la seule mention de la suite des opérations figure dans l'autorisation spéciale délivrée par le SIPAL avec le permis de construire, qui indique qu'"en cas de mise au jour de vestiges lors [des sondages], les modalités des fouilles de sauvetage qui s'avéreraient nécessaires [...] seront mises au point entre l'archéologie cantonale, la Fondation pro Aventico et le maître d'ouvrage" et qu'"en fonction des découvertes, d'éventuelles mesures visant à protéger ces vestiges seront définies et confirmées". Il n'est pas possible de déduire de ces éléments que ces mesures seront mises en partie à la charge de la constructrice. Au contraire, l'indication expresse, quelques lignes plus haut dans la même décision, que "les sondages [préalables] seront à la charge du propriétaire en ce qui concerne l'excavation" peut laisser penser qu'a contrario aucune participation financière supplémentaire ne sera imposée sans qu'il en soit fait mention. Pour le surplus, ni le permis de construire, ni le permis de fouilles ne mentionne les fouilles subséquentes aux sondages, moins encore la prise en charge de leurs coûts. Aussi, que la constructrice se soit abstenue de recourir contre ces décisions ne saurait équivaloir à un consentement de sa part de participer au frais de fouilles. On ne saurait déduire aucun accord tacite en ce sens par la constructrice du fait qu'elle n'ait pas contesté l'autorisation spéciale du SIPAL, autorisation qu'elle n'avait pas requise et dont la cour cantonale a constaté qu'elle avait été prise sans que les circonstances - une parcelle sise en une région archéologique dûment recensée au sens de la loi - permettent à cette autorité de statuer. En tout état, de telles décisions, muettes non seulement sur la prise en charge des frais d'opérations ultérieures, mais également sur les opérations ultérieures elles-mêmes, ne peuvent fonder la base d'un accord clair qui permettrait de se passer de base légale pour mettre à la charge de la constructrice des frais de fouilles imposés par la suite seulement. Ceci est d'autant plus vrai que, comme la doctrine précitée le relève, le rapport initial entre la constructrice et l'administration est ici un rapport de puissance publique, soit la requête d'une autorisation de construire, et non un rapport contractuel.
Il serait ensuite paradoxal de justifier le consentement tacite par le fait que le cas d'espèce n'est pas couvert par une disposition légale (art. 39 RLPNMS) - pour laquelle l'exclusion de toute participation aux frais a été expressément confirmée par la jurisprudence cantonale. En effet, l'art. 38 RLPNMS, disposition tenue pour suffisante par la jurisprudence cantonale (ce qui est douteux vu sa teneur et son rang législatif) pour mettre à charge d'un administré les frais de fouilles en certaines situations, a précisément été jugée également inapplicable en l'espèce. Le caractère inapplicable de l'art. 39 RPLNMS n'apporte ainsi pas d'indice dans le sens d'un éventuel consentement de la constructrice à une mise à sa charge des frais.
Enfin, à tout ceci s'ajoute que la teneur de l'<ref-law>, quand bien même elle ne limiterait pas les cantons dans leurs compétences de droit public (<ref-ruling> consid. 7.1 p. 419), si elle devait guider l'interprétation d'une situation peu claire, ne favoriserait pas l'hypothèse du consentement tacite d'un constructeur à une prise en charge de frais de fouilles, le propriétaire devant en principe être indemnisé pour le préjudice causé par d'éventuels travaux de fouilles qu'il se voit obligé de tolérer.
En définitive, il n'était ni clair ni prévisible que les opérations subséquentes aux sondages préalables seraient mises à la charge de la constructrice. Aussi, en ne s'opposant pas aux conditions d'octroi du permis de construire, la recourante n'a pas accepté tacitement quelque prise en charge de frais de fouilles que ce soit, les seuls frais régis par cette décision étant les frais de sondages préalables.
Il résulte de ce qui précède que, sauf à violer les art. 5 et 9 Cst., la cour cantonale ne pouvait constater l'absence de base légale tout en confirmant l'imputation de frais à la recourante sur la base du principe de la bonne foi, respectivement de l'interdiction des comportements contradictoires.
3.
Le recours doit par conséquent être admis. Les arrêts cantonaux doivent être réformés en ce sens que le canton de Vaud doit assumer tous les surcoûts occasionnés par les fouilles archéologiques. Il va de soi que tous les frais (terrassement ou autres) que la constructrice aurait dû assumer en l'absence de fouilles doivent rester à sa charge. Aussi, si certaines opérations, déjà effectuées dans le cadre des fouilles, profitent également au chantier de construction, elles ne sauraient être prises en charge par le canton uniquement. En d'autres termes, à l'instar de la solution retenue par la cour cantonale dans l'arrêt attaqué du 5 novembre 2019, il y aura lieu de comparer les coûts de chantier avec et sans travaux de fouilles, seule la différence entre ces deux montants devant être assumée par la collectivité.
La recourante, qui obtient gain de cause avec l'aide d'un avocat, a droit à des dépens, à la charge du canton de Vaud (<ref-law>). Le présent arrêt est rendu sans frais (<ref-law>).
La cause sera en outre renvoyée à l'instance précédente pour nouvelle décision sur les frais et dépens de la procédure cantonale.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours constitutionnel subsidiaire est irrecevable.
2.
Le recours de droit public est admis. L'arrêt attaqué est réformé en ce sens que les surcoûts occasionnés par les fouilles archéologiques sont pris en charge par le canton de Vaud. La cause est renvoyée au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, pour nouvelle décision sur les frais et dépens de la procédure cantonale.
3.
Il n'est pas perçu de frais judiciaires.
4.
Une indemnité de dépens de 3'000 francs est accordée à la recourante, à la charge du canton de Vaud, pour la procédure devant le Tribunal fédéral.
5.
Le présent arrêt est communiqué aux mandataires de la recourante et du Département des finances et des relations extérieures du canton de Vaud, à la Direction générale des immeubles et du patrimoine du canton de Vaud, à la Municipalité d'Avenches et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 18 septembre 2020
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Chaix
La Greffière : Sidi-Ali