Faits :
A.
La A._ SA, est une société de droit français dont le siège se trouve en France. Elle dispose d'une succursale à Zurich, inscrite au registre du commerce de ce canton. La société et sa succursale réalisent notamment des opérations d'arbitrage sur indice par le biais du marché des futures (" reverse cash and carry ").
Durant les années 2009 et 2010, fondée sur les dispositions du droit interne suisse, la société, agissant par l'entremise de sa succursale à Zurich, a demandé à l'Administration fédérale des contributions (ci-après: l'Administration fédérale) le remboursement (à titre définitif) de l'impôt anticipé (à hauteur de 35%) perçu sur des rendements d'actions suisses échus en 2008 et 2009. L'Administration fédérale, par décision du 1 er avril 2011, a rejeté dans une très large mesure les demandes de remboursement, considérant en particulier que les rendements pour lesquels le remboursement était demandé ne faisaient pas partie de la fortune d'exploitation de la succursale. Elle a confirmé ce prononcé par une décision sur réclamation du 7 novembre 2012. Dans un arrêt du 3 juin 2014, le Tribunal administratif fédéral a rejeté le recours formé le 10 décembre 2012 par la société. Cet arrêt a été confirmé par le Tribunal fédéral le 22 novembre 2015 (arrêt 2C_642/2014).
B.
Par deux demandes datées du 19 février 2016, reçues par l'Administration fédérale le 29 mars 2016, la A._ SA, se fondant sur la convention du 9 septembre 1966 entre la Suisse et la France en vue d'éliminer les doubles impositions en matière d'impôts sur le revenu et sur la fortune et de prévenir la fraude et l'évasion fiscales (RS 0.672.934.91; ci-après: CDI CH-FR), a demandé le remboursement partiel de l'impôt anticipé perçu sur les rendements échus en 2008 et 2009 (part excédant le 15% du montant brut des dividendes). En raison de la tardiveté du dépôt de ces demandes, l'Administration fédérale les a rejetées par décision du 25 avril 2017. Saisi le 24 mai 2017 par la A._ SA, le Tribunal administratif fédéral, par arrêt du 1 er mai 2019, a rejeté le recours de cette société et confirmé la décision de l'Administration fédérale du 25 avril 2017.
C.
Agissant par la voie du recours en matière de droit public, la A._ SA demande en substance au Tribunal fédéral, sous suite de frais et dépens, de réformer l'arrêt du Tribunal administratif fédéral du 1 er mai 2019 et de lui rembourser le montant total de 36'364'015 fr. 45 d'impôt anticipé (18'918'333 fr. 46 pour 2008 et 17'445'681 fr. 99 pour 2009); subsidiairement d'annuler l'arrêt du Tribunal administratif fédéral du 1 er mai 2019 et de renvoyer la cause à cette autorité pour nouvel arrêt dans le sens des considérants; plus subsidiairement d'annuler l'arrêt précité et de renvoyer la cause à l'Administration fédérale pour nouvelle décision dans le sens des considérants.
Le Tribunal administratif fédéral renonce à se déterminer. L'Administration fédérale conclut au rejet du recours. Dans des observations finales, la A._ SA persiste dans ses conclusions.
Considérant en droit :
1.
Le présent recours en matière de droit public est dirigé contre une décision finale (art. 90 LTF) rendue dans une cause de droit public (art. 82 let. a LTF) par le Tribunal administratif fédéral (art. 86 al. 1 let. a LTF) en matière d'impôt anticipé, soit un domaine qui ne tombe sous aucun des cas d'exceptions mentionnés à l'art. 83 LTF. La voie du recours en matière de droit public est donc en principe ouverte. Il a en outre été déposé en temps utile (art. 100 al. 1 LTF) et dans les formes prescrites (art. 42 LTF). La recourante, partie à la procédure précédente, est particulièrement touchée par la décision attaquée qui lui refuse le remboursement de l'impôt anticipé auquel elle prétend et a ainsi un intérêt digne de protection à son annulation ou à sa modification. La qualité pour recourir doit partant lui être reconnue (art. 89 al. 1 LTF) et il convient donc d'entrer en matière.
2.
Dans un premier grief, citant en particulier l'art. 97 LTF, la recourante se plaint d'un établissement manifestement inexact des faits et d'une appréciation arbitraire des preuves.
2.1. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF (ATF 142 I 155 consid. 4.4.3 p. 156). Le recourant ne peut critiquer les constatations de fait ressortant de la décision attaquée que si celles-ci ont été effectuées en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte, c'est-à-dire arbitraire, et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF; ATF 142 II 355 consid. 6 p. 358). Conformément à l'art. 106 al. 2 LTF, le recourant doit expliquer de manière circonstanciée en quoi ces conditions seraient réalisées. Le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (ATF 141 IV 369 consid. 6.3 p. 375). Par ailleurs, aucun fait nouveau ni preuve nouvelle ne peut en principe être présenté devant le Tribunal fédéral (art. 99 al. 1 LTF).
2.2. La recourante conteste les faits sur deux points. Tout d'abord, elle estime que le Tribunal administratif fédéral n'a, à tort, pas retenu que l'Administration fédérale avait elle-même reconnu l'existence d'un silence qualifié dans la CDI CH-FR en relation avec l'absence de délai de péremption. Ensuite, elle est d'avis que l'autorité précédente a arbitrairement apprécié les pièces qu'elle a produites, afin de démontrer l'existence du silence qualifié précité. Elle explique que ces deux éléments auraient dû conduire le Tribunal administratif fédéral à admettre l'existence d'un silence qualifié et, par conséquent, à retenir la volonté des Etats contractants de la CDI CH-FR d'écarter l'application de l'art. 32 al. 1 de la loi du 13 octobre 1965 sur l'impôt anticipé (LIA; RS 642.21), relatif à la péremption du droit au remboursement.
En l'occurrence, le point de savoir s'il existe un silence qualifié dans la CDI CH-FR en relation avec l'absence de délai de péremption, ce que la recourante aimerait démontrer, est une question de droit et pas une question de fait. Par conséquent, le grief d'établissement inexact des faits ne peut qu'être écarté et le Tribunal fédéral examinera la correcte application du droit sur la seule base des faits retenus par le Tribunal administratif fédéral.
3.
Dans l'arrêt entrepris, le Tribunal administratif fédéral a jugé que le droit au remboursement de l'impôt perçu sur les dividendes échus en 2008 et 2009, demandé par la recourante, était éteint lorsque celle-ci s'est adressée à l'Administration fédérale en février 2016. En l'absence de disposition conventionnelle topique, l'autorité précédente a appliqué par analogie aux causes internationales soumises à la CDI CH-FR, l'art. 32 al. 1 LIA, qui prévoit un délai de trois ans pour requérir le remboursement de l'impôt. Pour le surplus, cette autorité a considéré que les demandes formées en 2009 et 2010 par la recourante avaient été définitivement rejetées et ne pouvaient être corrigées. Le Tribunal administratif fédéral a ainsi jugé qu'il n'était pas possible pour la recourante de faire valoir que les demandes déposées en 2016 s'inscrivaient dans le prolongement des procédures initiales introduites en 2009 et 2010.
Pour sa part, la recourante explique que l'absence de disposition relative à un délai dans lequel devrait être demandé le remboursement de l'impôt dans la CDI CH-FR constitue un silence qualifié que le juge ne saurait combler. Elle exclut donc toute application par analogie de l'art. 32 al. 1 LIA. En outre, même à admettre une application de cette disposition, la recourante ajoute que sa créance se réfère à des dividendes payés en 2008 et 2009, si bien qu'il n'existe qu'une seule créance en remboursement et que les demandes formées en 2009 et 2010 sauvegardent de toute façon le délai.
Le litige porte ainsi uniquement sur le point de savoir si le délai pour demander le remboursement de l'impôt anticipé prélevé sur les dividendes payés à la recourante en 2008 et 2009 est échu.
4.
4.1. La Confédération perçoit un impôt anticipé sur les revenus de capitaux mobiliers (art. 132 al. 2 Cst.; art. 1 al. 1 LIA). D'après l'art. 4 al. 1 let. b LIA, l'impôt a notamment pour objet les participations aux bénéfices et tous autres rendements des actions, dont font partie les dividendes et actions gratuites (cf. art. 20 al. 1 de l'ordonnance du 19 décembre 1966 sur l'impôt anticipé [OIA; RS 642.211]). L'art. 21 al. 1 let. a LIA précise que l'ayant droit au sens des art. 22 à 28 peut demander le remboursement de l'impôt anticipé retenu à sa charge par le débiteur pour l'impôt sur les revenus de capitaux mobiliers s'il avait au moment de l'échéance de la prestation imposable le droit de jouissance sur les valeurs qui ont produit le rendement soumis à l'impôt. L'impôt anticipé s'élève à 35% de la prestation imposable pour les revenus de capitaux mobiliers (art. 13 al. 1 let. a LIA).
L'impôt anticipé poursuit des buts différents selon que le destinataire de la prestation imposable est, ou non, domicilié (ou y a, ou non, son siège) en Suisse. Dans le premier cas, l'impôt anticipé est remboursé aux contribuables qui déclarent les rendements soumis à l'impôt ordinaire; il a alors un but de garantie parce qu'il tend à décourager le contribuable de soustraire à l'impôt ordinaire les montants frappés par l'impôt anticipé. Dans le deuxième cas, il poursuit un but fiscal, puisque les bénéficiaires de prestations imposables qui résident à l'étranger sont privés du droit au remboursement de l'impôt, sous réserve de l'application d'une convention de double imposition (cf. ATF 141 II 447 consid. 2.2 p. 450 et les références).
4.2. La Confédération suisse et la République française sont liées par la CDI CH-FR. Selon l'art. 11 par. 1 CDI CH-FR, les dividendes provenant d'un Etat contractant et payés à un résident de l'autre Etat contractant sont imposables dans cet autre Etat. L'art. 11 par. 2 let. a CDI CH-FR dispose quant à lui que ces dividendes sont aussi imposables dans l'Etat contractant d'où ils proviennent, et selon la législation de cet Etat, mais si le bénéficiaire effectif des dividendes est un résident de l'autre Etat contractant, l'impôt ainsi établi ne peut excéder 15% du montant brut des dividendes.
4.3. A teneur de l'art. 31 par. 1 CDI CH-FR, les autorités compétentes des Etats contractants déterminent les modalités d'application de la CDI CH-FR. Elles s'entendent en particulier sur la procédure de dégrèvement prévue à l'art. 11 CDI CH-FR. Toutefois, comme l'a déjà relevé le Tribunal fédéral dans un arrêt récent (cf. arrêt 2C_249/2018 du 25 juin 2019 consid. 3.4), le Conseil fédéral n'a jusqu'à ce jour pas prévu de disposition relative aux modalités de remboursement de l'impôt anticipé dans le cadre de la CDI CH-FR. Cela n'exclut néanmoins pas d'emblée l'application de tout délai de prescription, respectivement l'application par analogie du délai de trois ans prévu par l'art. 32 al. 1 LIA.
4.4. A ce propos, on relèvera que, dans l'arrêt 2C_249/2018 du 25 juin 2019, le Tribunal fédéral s'est déjà penché sur le point de savoir dans quel délai la demande de remboursement de l'impôt anticipé doit être effectuée lorsque s'applique la CDI CH-FR. A cette occasion, il est arrivé à la conclusion que l'absence de réglementation conventionnelle en matière de remboursement de l'impôt anticipé pour les personnes résidant en France constituait une lacune proprement dite qu'il convenait de combler en appliquant le droit national, en l'occurrence l'art. 32 al. 1 LIA (arrêt 2C_249/2018 du 25 juin 2019 consid. 3.4). On ne saurait cependant suivre cette jurisprudence, ni l'avis de la recourante qui estime également qu'il est nécessaire de combler une lacune, dans la mesure où il n'appartient pas au juge de remédier par voie d'interprétation à une éventuelle lacune d'un traité international, en étendant l'application de celui-ci au-delà de son texte (ATF 135 V 339 consid. 5.3 p. 349 et les références). C'est bien plus en procédant à une interprétation de la convention conforme aux règles d'interprétation des traités internationaux qu'il convient de procéder.
4.5. Selon la jurisprudence (ATF 143 II 202 consid. 6.3.1 p. 207 s. et les références), les règles de la Convention de Vienne du 23 mai 1969 sur le droit des traités (RS 0.111; ci-après: CV) doivent être appliquées pour interpréter les conventions de double imposition. L'art. 26 CV prévoit que tout traité en vigueur lie les parties et doit être exécuté par elles de bonne foi. Selon l'art. 31 par. 1 CV, un traité doit être interprété de bonne foi suivant le sens ordinaire à attribuer aux termes du traité dans leur contexte et à la lumière de son objet et de son but. En plus du contexte (cf. art. 31 par. 2 CV), il est tenu compte, notamment, de tout accord ultérieur intervenu entre les parties au sujet de l'interprétation du traité ou de l'application de ses dispositions (art. 31 par. 3 let. a CV) et de toute pratique ultérieurement suivie dans l'application du traité par laquelle est établi l'accord des parties à l'égard de l'interprétation du traité (art. 31 par. 3 let. b CV). Les travaux préparatoires et les circonstances dans lesquelles le traité a été conclu constituent des moyens complémentaires d'interprétation lorsque l'interprétation donnée conformément à l'art. 31 CV laisse le sens ambigu ou obscur ou conduit à un résultat qui est manifestement absurde ou déraisonnable (cf. art. 32 CV). L'art. 31 par. 1 CV fixe un ordre de prise en compte des éléments de l'interprétation, sans toutefois établir une hiérarchie juridique obligatoire entre eux. Le sens ordinaire du texte du traité constitue toutefois le point de départ de l'interprétation. Ce sens ordinaire des termes doit être dégagé de bonne foi, en tenant compte de leur contexte et à la lumière de l'objet et du but du traité. Le principe de la bonne foi implique notamment de la loyauté de la part de l'Etat contractant dans l'exécution de ses engagements. Un Etat contractant doit partant proscrire tout comportement ou toute interprétation qui aboutirait à éluder ses engagements internationaux ou à détourner le traité de son sens et de son but (pour tout ce qui précède, ATF 143 II 202 consid. 6.3.1 p. 207 s. et les références).
4.6. En l'occurrence, comme on l'a vu précédemment (cf. consid. 4.3 ci-dessus), l'art. 31 par. 1 CDI CH-FR dispose que les autorités compétentes des Etats contractants déterminent les modalités d'application de la convention en s'entendant en particulier sur la procédure de dégrèvement prévue aux art. 11 à 14 CDI CH-FR. Or, si formellement les autorités précitées n'ont rien arrêté quant aux délais dans lesquels doit être demandé le remboursement de l'impôt anticipé, elles ont en revanche chacune présenté la pratique de l'autre Etat signataire. Ainsi, le Secrétariat d'Etat aux questions financières internationales de la Confédération suisse a publié un aperçu de la CDI CH-FR, dans lequel il attire l'attention des citoyens helvétiques qui désireraient demander le remboursement de dividendes perçus en France que leur demande doit parvenir aux autorités compétentes françaises au plus tard le 31 décembre de la deuxième année qui suit celle de l'encaissement des revenus, sous peine de forclusion (ch. 4; cf. <www.estv.admin.ch> sous Droit fiscal international/Impôt à la source étrangers par pays/France). Pour sa part, la Direction générale des finances publique de la République française en fait de même dans un Bulletin Officiel des Finances Publiques-Impôts. Celle-ci explique à ses ressortissants que leurs demandes de remboursement de l'impôt anticipé perçu en Suisse doivent parvenir à l'Administration fédérale des Contributions dans les trois ans qui suivent l'expiration de l'année civile au cours de laquelle les revenus ont été imposés en Suisse (ch. 220; cf. <www.bofip.impots.gouv.fr> sous Recherche par le plan de classement/INT - Fiscalité internationale/Convention bilatérales/Suisse/Chapitre 1 : Convention en vue d'éliminer les doubles impositions en matière d'impôts sur le revenu et la fortune/ Section 2 : Règles d'imposition des différentes catégories de revenus/ Sous-section 3 : Revenus de capitaux mobiliers). On constate en outre que le document édité par les autorités fiscales françaises contient un exemple des formulaires suisses, sur lesquels il est expressément mentionné que l'exemplaire du formulaire est à transmettre à l'Administration fédérale des contributions au plus tard avant l'expiration de la troisième année civile suivant celle où sont échus les dividendes ou les intérêts (ch. 17 du formulaire figurant à la page 18 du document précité). Cette présentation parallèle des pratiques de l'un et l'autre Etat, pratique ultérieure à la signature de la convention, reflète ce que les parties ont voulu. Il s'agit d'une réintroduction de la volonté concordante et commune des parties (cf. JEAN-MARC SOREL, in Les conventions de Vienne sur le droit des traités, 2006, n. 42 ad art. 31 CV). On ajoutera que l'art. 31 par. 1 CDI CH-FR ne prévoit pas sous quelle forme les Etats contractants doivent s'entendre. Or, la pratique développée et présentée ici démontre à tout le moins que ceux-ci se sont entendus par actes concluants, ce qui n'est aucunement exclu par la convention. Par conséquent, la volonté des parties est d'appliquer chacune un délai de péremption propre de deux, respectivement trois ans. Le délai applicable pour le remboursement de l'impôt anticipé perçu en Suisse lorsque s'applique la CDI CH-FR étant de trois ans, tel que cela existe en droit interne (art. 32 al. 1 LIA), il convient donc de confirmer l'arrêt 2C_249/2018 du 25 juin 2019 dans son résultat.
4.7. Compte tenu de ce qui précède, les explications de la recourante tendant à démontrer l'inapplication de l'art. 32 al. 1 LIA dans les causes soumises à la CDI CH-FR, certes produites avant la publication de l'arrêt 2C_249/2018 du 25 juin 2019, ne lui sont d'aucun secours. En retenant qu'il convenait d'appliquer l'art. 32 al. 1 LIA (par analogie) aux causes précitées, le Tribunal administratif fédéral n'a pas violé le droit. Dans la mesure où l'autorité précédente a retenu dans l'arrêt entrepris que les demandes de remboursement de l'impôt ont été formées par la recourante le 19 février 2016, celles-ci sont intervenues plus de trois ans après l'expiration des années civiles au cours desquelles les prestations étaient échues (en l'occurrence 2008 et 2009), c'est-à-dire postérieurement au 31 décembre 2011, respectivement au 31 décembre 2012. Fondée sur un délai analogue à celui de l'art. 32 al. 1 LIA, la recourante n'a donc en principe pas droit au remboursement de l'impôt.
5.
Se pose cependant encore la question de savoir si les demandes de remboursement formées en 2009 (pour l'année 2008), respectivement 2010 (pour l'année 2009), c'est-à-dire dans le délai de trois ans, ont sauvegardé le délai. C'est en particulier le point de savoir si ces demandes initiales concernent les mêmes objets que celles, tardives, formées en 2016, qu'il convient d'examiner.
5.1. Dans l'arrêt 2C_642/2014 du 22 novembre 2015 (publié in ATF 142 II 9) relatif aux demandes formées par la recourante en 2009 et 2010, le Tribunal fédéral a considéré que la demande de remboursement de l'impôt anticipé, selon qu'elle se fonde sur l'art. 24 al. 3 LIA ou sur la CDI CH-FR, repose sur un contexte complètement différent. Elle implique pour la première, l'existence d'un établissement stable en Suisse tenu de payer des impôts cantonaux ou communaux et le remboursement ne porte que sur des rendements en lien direct avec celui-ci, alors que, sous l'angle de la Convention internationale, la société étrangère peut réclamer le remboursement partiel en lien avec des dividendes qui sont imposables en France et qui ont été frappés de l'impôt anticipé en Suisse (ATF 142 II 9 consid. 7.2 p. 19). Le Tribunal fédéral a continué en relevant que les demandes en remboursement de l'impôt anticipé ont un contenu matériel différent, selon qu'elles se fondent sur l'art. 24 al. 3 LIA ou sur l'art. 11 par. 2 CDI CH-FR. Il a conclu en jugeant que le remboursement de l'impôt anticipé selon l'art. 24 al. 3 LIA n'a pas le même objet qu'un remboursement de l'impôt anticipé fondé sur l'art. 11 par. 2 CDI CH-FR et est soumis à des conditions différentes. Il ne s'agit ainsi pas d'une même prétention issue du même contexte de fait dont seul le fondement juridique différerait (ATF 142 II 9 consid. 7.2 p. 19). Il a d'ailleurs expliqué à la recourante que si elle estimait avoir droit à un remboursement partiel sur la base de la CDI CH-FR, il lui appartenait de s'adresser dans les formes requises aux autorités compétentes.
Partant de ce qui précède, dans la mesure où les demandes de remboursement que la recourante a fait valoir le 19 février 2016 n'ont pas le même objet et ne concernent pas les mêmes prétentions que celles formées en 2009 et 2010, ces dernières ne sauraient sauvegarder le délai de péremption de trois ans.
5.2. La recourante estime que ce système instaure un véritable "piège fiscal", en ce que le contribuable a le choix de formuler ses prétentions en remboursement de l'impôt anticipé en se fondant soit sur le droit interne, soit sur le droit international et qu'en cas de choix erroné, le délai de péremption empêche toute demande de remboursement postérieure.
Certes, lorsque le Tribunal fédéral a rendu son arrêt 2C_642/2014 le 22 novembre 2015, le délai de péremption de trois ans de l'art. 32 al. 1 LIA, applicable par analogie, pour demander le remboursement des dividendes perçus en 2008 et 2009 était déjà échu. Toutefois, la recourante, lorsqu'elle a fait ses demandes en 2009 et 2010 fondées sur la LIA, aurait également pu requérir le remboursement de l'impôt en se fondant sur la CDI CH-FR, en indiquant dans chacun des cas déposer simultanément les deux demandes. Elle aurait également pu faire une demande fondée sur la convention de double imposition directement après réception de la décision de l'Administration fédérale du 1 er avril 2011, tout en requérant la suspension de la procédure jusqu'à droit connu sur la demande initiale, fondée sur la LIA. Surtout, le délai de péremption de l'art. 32 al. 1 LIA, s'il n'est pas prolongeable, peut être restitué aux conditions posées par l'art. 24 al. 1 PA, c'est-à-dire lorsque le contribuable dépose une demande de restitution dans les 30 jours à compter de celui où l'empêchement a cessé (cf. arrêt 2C_249/2018 du 25 juin 2019 consid. 4.4 et les références, qui, au même titre que MICHAEL BEUSCH in Bundesgesetz über die Verrechnungssteuer, Zweifel et al. [éd.], 2 e éd. 2012, n. 11 et 12 ad art. 32 LIA, fait à tort mention d'un délai de 10 jours, tel qu'il était prévu dans l'ancienne version de l'art. 24 al. 1 PA, en vigueur jusqu'au 31 décembre 2006 [RO 1969 757]). Or, la recourante n'a aucunement réagi dans les 30 jours qui ont suivi la notification de l'arrêt du Tribunal fédéral lui refusant le remboursement de l'impôt anticipé fondé sur le droit interne, puisqu'elle n'a adressé une nouvelle demande que le 19 février 2016. Il n'y a par conséquent pas à examiner plus avant si les conditions posées à une restitution de délai sont réunies en l'espèce.
6.
Compte tenu de ce qui précède, le recours doit être rejeté. Succombant, la recourante doit supporter les frais judiciaires (art. 66 al. 1 LTF). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 80'000 fr., sont mis à la charge de la recourante.
3.
Le présent arrêt est communiqué à la représentante de la recourante, à l'Administration fédérale des contributions et à la Cour I du Tribunal administratif fédéral.
Lausanne, le 16 janvier 2020
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : Tissot-Daguette