Faits: A. Inscrite depuis le 20 février 1990 au registre du commerce du canton de Vaud, X._ SA a pour but de fournir des services informatiques dans le domaine de la finance, notamment l'installation de systèmes et la location d'espaces informatiques, services de bureau, conseils, gestion de projets, support et assistance, formation des utilisateurs. L'entier du capital-actions de X._ SA est détenu par A._, qui est par ailleurs son administrateur président, et par B._, administratrice et secrétaire. Tous deux disposent d'un droit de signature individuel. En mars 1991, Z._ SA, dont le siège est à Bucarest, a été constituée. A._ fait partie du conseil d'administration de cette société, dont il détient 99 % du capital-actions. A la même époque, la société liechtensteinoise Y._ AG a aussi été fondée. Son capital-actions est entièrement détenu par l'Etablissement C._ à D._, dont A._ est le propriétaire économique. B. En juillet 2003, le Chef du département fédéral des finances a ordonné à la division d'enquêtes fiscales spéciales de l'Administration fédérale des contributions (ci-après AFC) de mener une enquête sur A._, B._ et X._ SA, en raison de soupçons fondés de graves infractions fiscales. Le rapport d'enquête rendu le 21 septembre 2006 concluait à des soustractions d'impôts réalisées par le biais de trois procédés. Le premier consistait à intercaler entre X._ SA et ses clients une société-écran, en l'occurrence Y._ AG, afin de traiter les affaires commerciales en dehors du territoire suisse, alors que l'activité effective de cette dernière ne se déployait pas au Liechtenstein, mais était effectuée en Suisse par X._ SA. Le deuxième procédé était lié à des frais de sous-traitance facturés par Z._ SA à X._ SA, alors que les montants facturés n'ont jamais été encaissés par la société roumaine. Le troisième procédé était lié à l'utilisation d'un avion dont les frais étaient facturés à X._ SA, alors que la plupart de ces frais relevaient d'un usage privé. C. Le 20 novembre 2006, l'AFC a adressé à X._ SA un décompte de rappel d'impôt anticipé pour les années 2000 à 2002 pour un montant total de 2'396'399 fr. 60 représentant le 35 % de 6'846'856 fr. Elle a estimé que les deux-tiers des frais de sous-traitance payés à Z._ SA reposaient sur de fausses factures et avaient été versés à l'actionnaire sans que celui-ci n'offre une contre-prestation à la société, constituant ainsi des prestations appréciables en argent. Il en allait de même d'affaires conclues avec des clients domiciliés hors de Suisse dont le traitement avait prétendument été confié à Y._ AG, alors qu'en réalité les prestations et services offerts par cette dernière société étaient concrètement fournis par X._ SA. Enfin, le 80 % des frais d'avion pris en charge par X._ SA étaient des frais privés non justifiés par l'usage commercial soumis à l'impôt anticipé. X._ SA n'ayant pas donné suite au rappel d'impôt, l'AFC a requis sa poursuite. La société s'est opposée au commandement de payer n° 3129779 du 14 mars 2007 notifié par l'Office des poursuites de F._, qui portait sur le paiement de 2'396'399 fr. 60 plus intérêts à 5 % dès le 1er mars 2007 et 577'592 fr. 90 (intérêts au 28 février 2007), ainsi que les frais. Par décision du 11 décembre 2007, l'AFC a constaté que X._ SA lui devait 2'396'399 fr. 60 à titre d'impôt anticipé plus un intérêt moratoire de 5 % dès l'échéance dudit impôt et les frais de poursuite. Elle a également levé l'opposition formée par cette société au commandement de payer du 14 mars 2007. Cette décision a été confirmée et la réclamation de X._ SA rejetée le 5 décembre 2008. L'AFC a fixé les dates du début de l'intérêt moratoire de 5 % l'an au 30 novembre 2000 pour le montant de 328'221 fr., au 1er février 2001 pour le montant de 1'048'025 fr. et au 1er février 2002 pour le montant de 1'020'153 fr. Elle n'a rien précisé s'agissant de la levée de l'opposition au commandement de payer. Par arrêt du 29 août 2011, le Tribunal administratif fédéral a rejeté, dans la mesure de sa recevabilité, le recours formé par X._ SA à l'encontre de la décision sur réclamation du 5 décembre 2008. Afin d'éviter tout malentendu, il a toutefois complété ladite décision en déclarant lever l'opposition au commandement de payer de l'office des poursuites de F._ n° 3129779 pour la totalité des montants réclamés dans la poursuite. D. A l'encontre de l'arrêt du 29 août 2011, X._ SA forme un recours en matière de droit public au Tribunal fédéral. Elle conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité inférieure pour nouvelle décision. Le Tribunal administratif fédéral a renoncé à prendre position. Dans le délai prolongé imparti à cet effet, l'AFC conclut au rejet du recours dans la mesure où il serait recevable. E. Parallèlement à la procédure concernant l'impôt anticipé, X._ SA a également contesté des décisions de rappels d'impôts assorties d'amendes prononcées par l'administration cantonale des impôts du canton de Vaud après la découverte des trois procédés mis en évidence dans le rapport d'enquête de l'AFC de septembre 2006. Le litige opposant X._ SA aux autorités fiscales vaudoises s'est soldé par un arrêt du Tribunal fédéral du 27 juillet 2011 (causes jointes 2C_724/2010 et 2C_796/2010). Sous réserve de la prescription atteinte pour la période fiscale 1995 en matière d'IFD, le Tribunal fédéral a rejeté le recours formé par X._ SA et confirmé l'appréciation du Tribunal cantonal constatant l'existence de prestations appréciables en argent en relation avec les trois procédés en cause. La taxation de X._ SA en matière d'impôt cantonal et communal (ICC) et d'impôt fédéral direct (IFD) pouvait donc intégrer ces prestations dans le calcul du bénéfice imposable pour les périodes 2000 à 2002. La société a en outre été condamnée à des amendes pour soustraction et tentative de soustraction fiscale.