Faits:
A. A.a La société anonyme X._ SA est une filiale à 100 % de la société Y._, elle-même détenue à 100 % par la Société C._. Elle a été inscrite au registre du commerce de Genève en 1980. Selon ses statuts du 1er décembre 1995, son but social était libellé comme suit: "opérations de financement et de placements, requises pour la gestion de la trésorerie et le financement de sociétés du groupe C._ ou de sociétés tierces." Par modification des statuts inscrite le 15 juin 2001, son but social a pris la teneur suivante: "opérations de financement et de placements, en son nom propre, sous n'importe quelle forme, principalement sous forme de placements, de dépôts, de crédits, de placements et de prêts fiduciaires, toutes opérations cambiaires."
Pendant de nombreuses années et jusqu'en octobre 1998, X._ SA a eu pour activité principale le financement à long terme et la gestion de la trésorerie internationale du groupe C._. Dès le 1er novembre 1998, l'activité de gestion de la trésorerie internationale a été transférée à d'autres sociétés du groupe et seule la gestion des prêts à long terme est demeurée. Quant à cette dernière activité, elle a cessé également à la fin de l'année 2001.
Selon inscription au registre du commerce de Genève, X._ SA a été dissoute par décision de l'assemblée générale du 13 mars 2002. Z._, avocat, a été inscrit en qualité de liquidateur. A la suite de son décès, le mandat de liquidateur a été confié à B._, inscrit au registre du commerce en 2004.
A._ a occupé la fonction de directeur de X._ SA d'octobre 1987 jusqu'au 9 juin 1999 où il a été inscrit au registre du commerce comme administrateur-président. Le 20 mars 2002, son inscription en qualité d'organe de X._ SA a été radiée.
A.b Du 4 au 8 mars 2002, ainsi que les 2 et 3 juillet 2002, l'Administration fédérale des contributions (ci-après l'AFC) a procédé à un contrôle fiscal des comptes de X._ SA portant sur les exercices 1997 à 2001. Lors de ce contrôle, l'AFC a constaté que des fonds d'un montant total de CHF 420'725'672.- avaient été versés sur des comptes bancaires ouverts au nom de X._ SA auprès de la Banque D._, Luxembourg, et de la Banque E._, Grand Cayman, puis transférés le même jour ou le lendemain sur des comptes bancaires chiffrés ne permettant pas l'identification des bénéficiaires. Dans le cadre du même contrôle, l'AFC a également relevé que les activités de X._ SA avaient été reprises dès le 1er décembre 1998 par la société Y._, actionnaire unique, et qu'aucune indemnité n'avait été comptabilisée pour cette reprise dans les comptes de X._ SA.
A la requête de l'AFC, X._ SA a transmis l'identité des donneurs d'ordre des versements litigieux, à savoir la Société C._ et F._ SA. X._ SA a en outre confirmé à l'AFC ne pas connaître l'identité des bénéficiaires de ces paiements. S'agissant du transfert d'activité à son actionnaire, X._ SA a par ailleurs contesté l'appréciation de l'AFC.
Par courrier du 5 septembre 2002, l'AFC a informé X._ SA qu'elle considérait que les montants que cette dernière avait reçus sans justification sur ses comptes bancaires constituaient des revenus appartenant à la société et qu'en les transférant, elle avait effectué des prestations appréciables en argent sans contre-prestations équivalentes à des inconnus considérés comme des proches de la société ou des actionnaires. En conséquence, l'AFC réclamait une somme de CHF 147'253'985.- au titre de l'impôt anticipé pour les périodes fiscales de 1997 à 2001. Par courrier du même jour, l'AFC a en outre informé X._ SA qu'elle considérait que le transfert à titre gratuit de l'ensemble de son activité sans contre-prestation à son actionnaire entre le 1er décembre 1998 et le 21 décembre 2000 représentait une liquidation de fait de la société. Elle réclamait à ce titre une somme de CHF 22'750'000.- correspondant à 35 % de la valeur d'exploitation de la société au 31 décembre 2000.
B. Par décision formelle du 2 décembre 2003, l'AFC a reconnu X._ SA débitrice du montant de CHF 170'852'601.65, plus intérêt moratoire à 5 % l'an, à titre d'impôt anticipé, à raison de CHF 147'253'985.- au titre des versements non justifiés, CHF 22'750'000.- sur la cession gratuite des affaires et CHF 848'616.65 au titre de l'excédent de liquidation. Elle a en outre déclaré Z._, liquidateur, et A._, administrateur-président, solidairement responsables avec X._ SA à concurrence du produit de liquidation.
Par réclamations du 16 janvier 2004, X._ SA, Z._ et A._ ont contesté cette décision.
Le 27 août 2007, l'AFC a rendu la décision sur réclamation suivante:
"1. La réclamation du 16 janvier 2004 de X._ est rejetée.
2. Partant, la société X._ SA en liquidation doit payer CHF 147'253'985.- (CHF 420'725'672.- x 35 %), au titre d'impôt anticipé échu sur des prestations appréciables en argent concédées aux actionnaires et/ou à des personnes proches des actionnaires.
3. La société X._ SA en liquidation doit en outre payer CHF 23'598'616.65 (CHF 67'424'619.- x 35 %) au titre d'impôt anticipé sur l'excédent de liquidation résultant de sa liquidation de fait.
4. A._ répond solidairement avec la société, jusqu'à concurrence du produit de la liquidation par CHF 67'424'619.-, du paiement de l'impôt anticipé, des frais et des intérêts qui ont pris naissance pendant sa gestion.
5. La procédure fiscale à l'encontre Z._ devient sans objet, suite à son décès le 1er mai 2004, et, par conséquent, est annulée.
6. Un intérêt moratoire de 5 % l'an est dû dès l'échéance des montants d'impôt anticipé mentionnés aux chiffres 2, 3 et 4 du dispositif de la présente décision sur réclamation."
X._ SA et A._ ont recouru contre cette décision au Tribunal administratif fédéral le 27 septembre 2007.
L'AFC a conclu au rejet du recours.
Le Tribunal administratif fédéral a procédé à un second échange d'écritures, avisé A._ qu'il envisageait une reformatio in pejus et lui a donné l'occasion de se déterminer à ce sujet.
Le Tribunal administratif fédéral a rendu son arrêt le 4 avril 2011, dont le dispositif a la teneur suivante:
"1. Le recours est rejeté au sens des considérants.
2. Les ch. 1 à 3, 5 et 6 du dispositif de la décision entreprise sont confirmés.
3. Le ch. 4 du dispositif de la décision entreprise est modifié en ce sens que A._ répond solidairement avec la société, jusqu'à concurrence du produit de la liquidation par CHF 82'373'014.-, du paiement de l'impôt anticipé, des frais et des intérêts qui ont pris naissance pendant sa gestion.
4. (...)".
Le Tribunal administratif fédéral a, en substance, considéré que les recourants n'avaient pas apporté la preuve de l'existence de relations de compte courant avec la Société C._ et F._ SA, de sorte que l'AFC était admise à considérer que les montants encaissés appartenaient à X._ SA. Partant, les versements ultérieurs de ces montants, réalisés sans contrepartie équivalente, l'ont appauvrie de sorte que c'est à bon droit que l'AFC a qualifié les opérations litigieuses de prestations appréciables en argent soumises à un impôt anticipé fixé à CHF 147'253'985.-.
Le Tribunal administratif fédéral a par ailleurs considéré que X._ SA avait été liquidée de fait avant que la décision de dissolution ne soit formellement adoptée, soit entre le 1er décembre 1998 et le 31 décembre 2001. En sus de l'impôt anticipé sur les prestations appréciables en argent fournies à des actionnaires entre 1997 et 2001, X._ SA était donc débitrice de CHF 22'750'000.- à titre d'impôt anticipé sur la cessation à titre gratuit des activités de la société à des actionnaires intervenue entre fin 1998 et fin 2001, montant auquel il fallait ajouter CHF 848'616.65 à titre d'impôt anticipé sur l'excédent de liquidation au 31 décembre 2001.
Concernant la responsabilité solidaire de A._, le Tribunal administratif fédéral a relevé que l'intéressé avait continué d'assister la société dans le cadre de sa liquidation en dépit de sa radiation formelle au registre du commerce. En outre, dès lors que les éléments sur lesquels l'AFC entendait se fonder pour percevoir l'impôt anticipé étaient clairs à l'issue de la révision des comptes qui avait eu lieu entre le 4 et le 8 mars 2002, le Tribunal administratif fédéral a estimé que la responsabilité solidaire de A._ découlait également de sa qualité de liquidateur de fait de X._ SA à cette date.
Enfin, le Tribunal administratif fédéral a exposé que le calcul du produit de liquidation devait se fonder sur le dernier bilan établi avant le début des activités de liquidation, soit celui au 31 décembre 2000, et non celui au 31 décembre 2001 que l'AFC avait pris comme base pour son calcul. Le Tribunal administratif fédéral en a conclu que la responsabilité solidaire de A._ n'était pas limitée à CHF 67'424'619.- mais à CHF 82'373'014.-.
C. X._ SA et A._ interjettent un recours en matière de droit public contre l'arrêt du Tribunal administratif fédéral du 4 avril 2011. Ils concluent, sous suite de frais et dépens, à l'annulation de l'arrêt précité et des décisions rendues par l'AFC les 2 décembre 2003 et 27 août 2007. Ils demandent en outre que l'effet suspensif soit accordé à leur recours.
L'AFC conclut au rejet du recours.
Les recourants ont déposé une ultime détermination le 7 octobre 2011.

Considérant en droit:
1. Le présent recours en matière de droit public est dirigé contre une décision finale (<ref-law>) rendue dans une cause de droit public (<ref-law>) par le Tribunal administratif fédéral (<ref-law>). Déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi par deux parties directement touchées par l'arrêt attaqué et qui ont un intérêt digne de protection à son annulation ou à sa modification (<ref-law>; art. 15 al. 3 de la loi fédérale du 13 octobre 1965 sur l'impôt anticipé [LIA; RS 642.21] s'agissant du recourant 2), et ne tombant sous aucun des cas d'exceptions mentionnés à l'<ref-law>, il est recevable.
En revanche, dans la mesure où les recourants contestent les décisions rendues par l'AFC les 2 décembre 2003 et 27 août 2007, leur recours n'est pas recevable en raison de l'effet dévolutif complet du recours déposé auprès du Tribunal administratif fédéral dont la décision peut seule être attaquée devant le Tribunal fédéral (cf. arrêt 2C_382/2007 du 23 novembre 2007 consid. 1).
2. 2.1 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>), à savoir arbitrairement (<ref-ruling> consid. 1.2.2 p. 252). La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées; à défaut, il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (<ref-ruling> consid. 3 p. 104 s.).
Les recourants méconnaissent à l'évidence ces principes. Les éléments de fait invoqués à l'appui de leur argumentation ne ressortent pas de l'état de fait retenu par l'instance précédente et les recourants n'exposent pas en quoi l'arrêt attaqué aurait omis de retenir ces éléments de façon manifestement inexacte ou arbitraire. Ils ne peuvent donc être pris en considération.
Le juge n'a par ailleurs pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à l'examen des questions décisives pour l'issue du litige (<ref-ruling> consid. 4.1 p. 88). Au demeurant, la jurisprudence admet que le droit d'être entendu n'empêche pas l'autorité de mettre un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 5.3 p. 148).
Tel était le cas en l'espèce. En réalité, les recourants critiquent non pas l'établissement des faits par l'autorité précédente, mais lui reprochent de ne pas avoir fondé sa décision sur certains éléments ressortant de son dossier. Ils s'en prennent dès lors à l'appréciation juridique des pièces en possession de cette autorité et soulèvent ainsi une question de droit que le Tribunal fédéral revoit d'office et librement. Partant, l'Autorité de céans se limitera à examiner si le droit fédéral a été correctement appliqué par le Tribunal administratif fédéral sur la base des faits ressortant de l'arrêt entrepris.
2.2 Les recourants reprochent également au Tribunal administratif fédéral de n'avoir pas procédé à l'établissement d'un état de fait complet, obligeant le lecteur à rechercher les faits pertinents du litige dans les considérants en droit. Ils estiment que l'arrêt attaqué ne correspond pas aux exigences de motivation l'<ref-law>, en particulier en ce qui concerne les motifs déterminants de fait.
Selon l'<ref-law>, les décisions qui peuvent faire l'objet d'un recours au Tribunal fédéral doivent indiquer par écrit "les motifs déterminants de fait et de droit" sur lesquels l'autorité s'est fondée. Si la décision attaquée ne satisfait pas à ces exigences, le Tribunal fédéral peut soit la renvoyer à l'autorité précédente en invitant celle-ci à la parfaire, soit l'annuler (<ref-law>). L'<ref-law> n'exige pas que les faits et le droit soient distingués dans la décision comme deux chapitres distincts (cf. BERNARD CORBOZ, in Commentaire de la LTF, 2009, n° 25 ad <ref-law>). Mais il faut que l'on y trouve tous les faits pertinents et que l'on sache quels sont les faits admis et quels sont les faits écartés. L'autorité devra aussi livrer son appréciation des preuves et dire pourquoi elle retient une version des faits ou un moyen de preuve plutôt qu'un autre ou pourquoi elle considère un point comme non prouvé (cf. CORBOZ, op. cit., n° 26 ad <ref-law>).
En l'espèce, dans sa partie "en fait", le Tribunal administratif fédéral est resté très succinct et s'est borné à résumer le contenu de son dossier en citant les prises de position successives des parties. On trouve en revanche l'appréciation des preuves et les faits retenus dans la partie "en droit", accompagnés de considérations juridiques. Dans ces conditions, il est inutile de renvoyer le dossier au Tribunal administratif fédéral (cf. arrêt 4A_231/2010 du 10 août 2010 consid. 2.2). En effet, le Tribunal administratif fédéral a discuté les allégués des recourants relatifs à la qualification des transferts de fonds litigieux (consid. 7 de l'arrêt attaqué). Il s'est en outre penché sur leurs arguments relatifs à la cessation des activités de gestion de la recourante 1 et à leur transfert à son actionnaire (consid. 8 et 9 de l'arrêt attaqué). Enfin, il a examiné la position et les activités du recourant 2 en relation avec la liquidation de la recourante 1 (consid. 10 de l'arrêt attaqué). Pour chacun de ces points, le Tribunal administratif fédéral a exposé en outre quels étaient les faits qu'il retenait pour en tirer les conséquences sur le plan du droit.
Les constatations de fait figurant dans l'arrêt attaqué sont donc suffisantes pour que le Tribunal fédéral puisse contrôler de quelle manière le droit fédéral a été appliqué. Le grief des recourants relatif à la violation de l'<ref-law> doit par conséquent être rejeté.
3. 3.1 Les recourants reprochent au Tribunal administratif fédéral de ne pas avoir appliqué correctement le droit fédéral, en particulier le principe de déterminance de l'<ref-law> (RS 642.11), les art. 12, 15 et 39 LIA, l'art. 20 de l'ordonnance du 19 décembre 1966 sur l'impôt anticipé (OIA; RS 642.211), l'art. 8 Cst. et l'<ref-law>.
3.2 Selon l'arrêt attaqué, la créance litigieuse se compose de trois éléments:
CHF 147'253'985.- au titre de l'impôt anticipé sur des prestations appréciables en argent découlant de versements d'un montant total de CHF 420'725'672.- auxquels la recourante 1 a procédé entre 1997 et 2001 par débit de ses comptes au Luxembourg et à Grand Cayman;
CHF 22'750'000.- au titre de l'impôt anticipé réclamé en raison de la liquidation de fait de l'activité de la recourante 1, calculé sur le transfert à titre gratuit de ses activités à une autre société du groupe entre 1998 et 2001, la valeur du transfert ayant été fixée à CHF 65'000'000.-;
CHF 848'616.65 au titre de l'impôt anticipé sur l'excédent de liquidation de la recourante 1 de CHF 2'424'619.- subsistant au 31 décembre 2001, date retenue pour la fin de la liquidation de fait.
Les trois créances d'impôt anticipé étant contestées, il convient d'examiner successivement si les bonifications sur des comptes de la recourante 1 au Luxembourg et à Grand Cayman ont bénéficié à celle-ci et si leur versement successif à des tiers constitue une prestation appréciable en argent en faveur d'un actionnaire soumise à l'impôt anticipé, si le transfert des activités de la recourante 1 à une autre société du groupe équivaut à une liquidation de fait partielle donnant lieu à la perception de l'impôt anticipé et, le cas échéant, pour quel montant, et enfin, si la liquidation définitive de la recourante 1 a donné lieu à un excédent de liquidation imposable au titre de l'impôt anticipé. Dans un second temps, si tout ou partie de ces opérations sont sou-mises à l'impôt anticipé, il faudra vérifier si la responsabilité solidaire du recourant 2 peut être engagée et à concurrence de quel montant.
4. 4.1 Le litige porte en premier lieu sur des bonifications d'un montant total de CHF 420'725'672.- reçues sur des comptes bancaires ouverts au nom de la recourante 1 auprès de deux établissements bancaires au Luxembourg et à Grand Cayman, puis transférées le même jour ou le lendemain sur des comptes bancaires chiffrés ne permettant pas l'identification des bénéficiaires. Les recourants allèguent que les transferts de fonds litigieux relèvent d'une relation de compte courant que la recourante 1 entretenait avec la Société C._ et F._ SA. A l'appui de leurs conclusions, ils font valoir que les versements litigieux ont été exécutés au nom de la recourante 1, mais pour le compte de la Société C._ et de F._ SA et dûment comptabilisés dans les comptes de résultat de ces deux sociétés. Ils ajoutent que la recourante 1 n'a subi aucun appauvrissement du fait de ces opérations qui n'ont en outre jamais affecté ses comptes. Ils relèvent enfin que les sociétés d'audit des trois sociétés attestaient cet état de fait. Selon le principe de déterminance, et dès lors que les comptes des trois sociétés concernées ont été correctement établis, le Tribunal administratif fédéral ne pouvait s'en écarter sans tomber dans l'arbitraire.
4.2 La Confédération perçoit un impôt anticipé de 35 % (<ref-law>) sur les revenus de capitaux mobiliers (<ref-law>). D'après l'<ref-law>, l'impôt a notamment pour objet les participations aux bénéfices et tous autres rendements des actions. Aux termes de l'<ref-law>, est un rendement imposable d'actions toute prestation appréciable en argent faite par la société aux possesseurs de droits de participation, ou à des tiers les touchant de près, qui ne se présente pas comme remboursement des parts au capital social versé existant au moment où la prestation est effectuée (dividendes, bonis, actions gratuites, bons de participation gratuits, excédents de liquidation, etc.). L'<ref-law> est conforme à la loi (<ref-ruling> consid. 9a p. 279).
La notion de prestation appréciable en argent développée en relation avec l'impôt fédéral direct se recoupe en principe avec celle applicable en matière d'impôt anticipé (cf. <ref-ruling> consid. 3a p. 329 s.; OBERSON, Droit fiscal suisse, 3e éd. 2007, § 14 n° 21; MARCO DUSS/JULIA VON AH, in MARTIN ZWEIFEL/PETER ATHANAS/MAJA BAUER-BALMELLI, Kommentar zum Schweizerischen Steuerrecht II/2, 2005, n° 32 ad <ref-law>, qui réservent toutefois des situations propres à la LIA). Selon la jurisprudence constante, est ainsi une prestation appréciable en argent toute attribution faite par la société, sans contre-prestation équivalente, à ses actionnaires ou à toute personne la ou les touchant de près et qu'elle n'aurait pas faite dans les mêmes circonstances à des tiers non participants; encore faut-il que le caractère insolite de cette prestation soit reconnaissable par les organes de la société. Par ailleurs, la société anonyme demeure en principe libre de conclure des contrats civils ou commerciaux avec ses actionnaires, comme elle le ferait avec n'importe quel tiers non participant. Les prestations qu'elle effectue en exécution de ces conventions ne sont donc pas soumises à l'impôt anticipé lorsqu'elles n'ont pas leur cause dans un rapport de participation (cf. <ref-ruling> consid. 2b p. 435). Dans la mesure où de telles prestations n'auraient pas été accordées à des tiers dans les mêmes circonstances, l'impôt anticipé est en règle générale dû (cf. arrêt 2C_557/2010 du 4 novembre 2010 consid. 2.2 et les arrêts cités).
Le droit fiscal suisse ne connaît pas de régime spécial pour les groupes de sociétés, sauf dispositions légales expresses. Les rapports juridiques entre les sociétés d'un groupe doivent subir le même sort que s'ils avaient été noués avec des tiers extérieurs à celui-ci. Les transactions de la société avec d'autres sociétés du même groupe doivent ainsi être conclues aux conditions du marché. A défaut, l'opération est traitée comme une prestation appréciable en argent (cf. <ref-ruling> consid. 2 p. 119; arrêts 2C_788/2010 du 18 mai 2011 consid. 4.1; 2A.355/2004 du 20 juin 2005 consid. 2.2).
Il est présumé que les opérations effectuées en nom propre sont conclues pour le compte de la personne qui agit. Les autorités fiscales sont donc autorisées à imputer une opération à la personne qui l'a effectuée. L'allégation selon laquelle une opération a été effectuée en nom propre mais pour le compte d'un tiers ne saurait être prise en considération lorsqu'elle n'est pas prouvée (cf. arrêt 2C_387/2007 du 4 mars 2008 consid. 4.2). Selon la notice "Rapports fiduciaires" de l'Administration fédérale des contributions d'octobre 1967 (cf. www.estv.admin.ch, rubrique Impôt anticipé/ Documentation/ Publications/ Notices, consulté le 6 décembre 2011), un rapport fiduciaire ne peut être admis que lorsque, notamment, un contrat écrit a été conclu, qui décrit les biens sous mandat fiduciaire, prévoit que le fiduciaire n'encourt aucun risque et fixe sa rémunération. Selon la jurisprudence, ces conditions ne doivent cependant pas impérativement être remplies, mais une preuve évidente doit en tous les cas être apportée (cf. arrêt 2A.72/2006 du 9 juin 2006 consid. 2.2 et les arrêts cités). L'absence de contrat écrit ne saurait ainsi, pour elle-même, être déterminante, à condition que d'autres éléments prouvent que la personne a agi pour le compte d'un tiers (cf. <ref-ruling> consid. 5.1.1). A défaut d'une telle preuve, on ne peut reprocher à l'autorité de conclure que toute somme d'argent reçue par la société en son nom propre l'a enrichie (cf. arrêt 2C_387/2007 du 4 mars 2008 consid. 4.7).
4.3 En vertu de l'<ref-law>, la société contribuable a l'obligation de renseigner l'autorité fiscale sur tous les faits qui peuvent avoir de l'importance pour déterminer l'assujettissement ou les bases de calcul de l'impôt; le contribuable doit en particulier produire toutes les pièces justificatives et autres documents requis. Certes, les autorités fiscales ne doivent pas substituer leur propre appréciation à celle de la direction commerciale de la société contribuable. Néanmoins, le contribuable doit prouver que les prestations en question sont justifiées par l'usage commercial, afin que les autorités fiscales puissent s'assurer que seules des raisons commerciales, et non les étroites relations personnelles et économiques entre la société et le bénéficiaire de la prestation, ont conduit à la prestation insolite. La société suisse qui soutient que des montants encaissés par elle ne la concernent pas, doit être en mesure de prouver son allégation en produisant pièces et documents justificatifs (cf. <ref-ruling> consid. 2c p. 435; arrêt 2C_557/2010 du 4 novembre 2010 consid. 2.3).
Il en va de même des paiements effectués. Ainsi, une société qui verse des montants qui ne sont pas justifiés par des documents idoines court le risque de les voir qualifiés de prestations appréciables en argent (cf. <ref-ruling> consid. 2c p. 435 ; arrêt 2C_557/2010 du 4 novembre 2010 consid. 2.3). Il convient de se montrer strict lorsque des relations juridiques internationales sont en cause. Dans ce cas en effet, les liens avec le bénéficiaire étranger de la prestation échappent au contrôle des autorités locales, ce qui justifie que des exigences sévères soient posées pour admettre que la preuve alléguée a été apportée (cf. arrêts 2A.523/1997 du 29 janvier 1999 consid. 3c, publié in RDAF 1999 II 449; 2C_377/2009 du 9 septembre 2009 consid. 2.3). On peut également se trouver en présence d'une prestation appréciable en argent donnant lieu à la perception de l'impôt anticipé lorsque la conclusion que la prestation a bénéficié aux actionnaires s'impose d'elle-même et qu'aucune autre explication n'est donnée (cf. <ref-ruling> consid. 9b p. 279; arrêt 2C_199/2009 du 14 septembre 2009 consid. 3.2). Cependant, lorsque la société contribuable entreprend tout ce qui est en son pouvoir pour apporter les preuves sollicitées et produit tous les documents requis (cf. <ref-law>), l'autorité doit en tenir compte (cf. arrêt 2C_377/2009 du 9 septembre 2009 consid. 3).
4.4 Le bilan commercial est en principe déterminant également en droit fiscal; les comptes établis conformément aux règles du droit commercial lient les autorités fiscales, sous réserve de règles correctrices spécifiques de droit fiscal (principe de déterminance Massgeblichkeitsprinzip; cf. <ref-ruling> consid. 2.2 p. 177 s.; arrêt 2C_895/2008 du 9 juin 2009 consid. 2.1). Le droit comptable et le droit fiscal poursuivent en effet des objectifs différents, le premier étant orienté avant tout sur la protection des créanciers et le second recherchant une présentation qui fasse ressortir au mieux le résultat effectif et la réelle capacité contributive de l'entreprise (cf. PIERRE-MARIE GLAUSER, Apports et impôt sur le bénéfice, 2005, p. 96). L'autorité fiscale peut s'écarter du bilan remis par le contribuable si le droit comptable n'est pas respecté ou si une base légale fiscale le prévoit (cf. arrêt 2C_741/2011 du 19 janvier 2012 consid. 2.3; GLAUSER, op. cit., p. 125). Tous les prélèvements opérés sur le résultat commercial qui ne servent pas à couvrir des dépenses justifiées par l'usage commercial sont ainsi réintégrés dans le bénéfice imposable, notamment les distributions dissimulées de bénéfices et les avantages sous forme de prestations appréciables en argent qu'une société accorde à un actionnaire ou à une personne proche, alors qu'elle ne les aurait pas consentis à des tiers (cf. arrêt 2C_895/2008 du 9 juin 2009 consid. 2.2; XAVIER OBERSON, op. cit., § 10 n° 6; GLAUSER, op. cit., p. 105 ss).
Le fait qu'un transfert d'argent ne soit pas comptabilisé dans le compte de résultat peut être un indice de ce que l'opération n'a pas eu d'effet sur le résultat de l'entreprise et que le montant n'a fait que transiter, ladite société n'étant qu'un intermédiaire. Il est toutefois aussi concevable que la société ait encaissé un montant qui l'a enrichie, puis qu'elle ait procédé à une prestation appréciable en argent d'un montant équivalent. Il appartient ainsi à la société d'apporter des éléments permettant de déterminer de quel type d'opération il s'agit (cf. <ref-law>). En l'occurrence, on est en présence d'une société qui, d'une part, encaisse en son propre nom une somme en refusant d'en dévoiler la cause, et qui, d'autre part, opère un versement d'un montant équivalent en faveur de tiers dont elle refuse d'indiquer l'identité. Dans un tel contexte, l'autorité est en droit d'admettre que les montants reçus sur les propres comptes de la société l'ont enrichie et de qualifier de prestations appréciables en argent les versements opérés à l'étranger, dont aucun élément n'indique qu'ils auraient servi à couvrir des dépenses justifiées par l'usage commercial.
4.5 Ainsi que le Tribunal administratif fédéral l'a relevé à juste titre, les documents produits par les recourants ne permettent pas d'appréhender clairement les circonstances des opérations au cours desquelles la recourante 1 a successivement reçu et effectué des transferts d'un montant total de CHF 420'725'672.- entre 1997 et 2001. L'analyse à laquelle les recourants procèdent et dont ils aimeraient voir déduire la conclusion que les transactions analysées, présentées comme exemplaires, constituent des opérations sans effet sur le compte de résultat de la recourante 1, ne permet cependant pas d'aboutir à cette conclusion. En effet, si les transactions en cause démontrent que des fonds ont transité d'un compte bancaire de la recourante 1 vers un autre de ses comptes bancaires avant d'être transférés à d'autres établissements bancaires en vertu d'instructions émises - semble-t-il - par la Société C._ et F._ SA, rien ne permet d'en tirer des conclusions sur l'origine première des fonds ni sur la cause de ces versements. La recourante 1 a reçu ces montants en son nom et sur ses propres comptes, de sorte qu'en l'absence de preuve contraire, les autorités pouvaient admettre qu'elle en était la bénéficiaire et qu'ils l'avaient enrichie. Le fait qu'elle n'ait pas comptabilisé ces montants dans son compte de résultat ne change rien à leur réalité et à l'absence d'explication plausible sur leur origine et leur justification.
Il faut relever par ailleurs que les avis de crédit établis en relation avec les versements litigieux ne mentionnent pas les destinataires des montants en cause. Les opérations ne sont ainsi pas suffisamment documentées pour établir leur nature exacte, les circonstances dans lesquelles elles ont eu lieu, les motifs qui pourraient les expliquer et la part que la recourante 1 a pris dans leur exécution. Cette dernière a été interrogée à plusieurs reprises par l'AFC, mais n'a jamais donné d'information ni produit aucune pièce propre à expliquer ces transactions. Elle explique à cet égard ne pas disposer de ces renseignements. Ainsi que cela a été relevé ci-dessus, elle doit se voir imputer cette absence d'information. En effet, l'identité des bénéficiaires économiques et les motifs commerciaux des transferts constituent des éléments importants qui auraient permis d'appréhender clairement les opérations litigieuses. A défaut de tels documents et données, les autorités étaient en droit de considérer qu'il s'agissait de prestations appréciables en argent destinées aux actionnaires ou à des personnes qui leur sont proches.
La société d'audit atteste certes que les comptes de la recourante 1 ont été établis en conformité avec la loi et n'ont pas été affectés par les opérations litigieuses, lesquelles ont été effectuées pour le compte de la Société C._ et F._ SA. Mais elle ne donne guère plus de précisions qui permettraient de mieux saisir les mécanismes et la légitimité des opérations en cause. Les attestations de la société d'audit ne pallient pas l'absence d'informations et de pièces justificatives, telles que des contrats écrits dans l'exécution desquels les opérations litigieuses s'inscriraient clairement ou des avis bancaires établissant l'identité des personnes ou sociétés dont elles provenaient ainsi que leurs bénéficiaires et les motifs des paiements.
Les contrats conclus entre la recourante 1 et la Société C._, d'une part, et F._ SA, d'autre part, ne sont également pas suffisants. Le premier institue une ligne de crédit en faveur de la Société C._, mais ne prévoit aucune relation de compte courant entre les parties ni ne définit les modalités des transferts de fonds qui auraient lieu sur cette base. Il ne saurait donc servir à justifier les opérations litigieuses. Le second a pour objet le placement de montants en devises par F._ SA auprès de la recourante 1, leur rémunération ainsi que la mise à disposition, par cette dernière, de lignes de crédit occasionnelles. Là encore, le contrat ne prévoit pas de relation de compte courant ni de modalités de transferts de fonds. Par ailleurs, même si les pièces du dossier démontraient avec certitude l'existence d'une relation de compte courant entre la recourante 1, la Société C._ et F._ SA, cela ne suffirait pas à établir que les transferts de fonds litigieux ont bien été effectués en lien et en exécution d'une telle relation contractuelle. Aucun de ces documents ne permet par conséquent d'expliquer les transactions litigieuses.
Enfin, les différents jugements des autorités judiciaires pénales françaises dont se prévalent les recourants ne sont pas pertinents non plus. Ils ne s'agit en effet que d'extraits incomplets qui ne permettent pas de se faire une opinion exhaustive sur les faits retenus. En outre, et pour autant qu'il soit possible d'en juger, ces jugements se réfèrent à quelques transferts effectués entre 1989 et 1993, donc sans lien avec la présente affaire et ne permettant pas de conclusions déterminantes sur la période litigieuse en l'espèce, à savoir les années 1997 à 2001.
Non seulement il n'a ainsi pas été démontré que la recourante 1 ne s'est pas trouvée enrichie des versements litigieux en contre-partie d'une contre-prestation qu'elle aurait effectuée, mais il est encore moins établi que ces transferts n'ont pas bénéficié aux actionnaires de la recourante 1 ou à des personnes qui leur sont proches. Les recourants, qui ont toujours refusé de communiquer à l'AFC l'identité des bénéficiaires économiques ainsi que les motifs commerciaux des transactions en cause, ont pris le risque de se voir opposer la présomption que ceux-ci ont bénéficié à l'actionnaire ou à des personnes ou sociétés qui lui sont proches. C'est dès lors à bon droit que le Tribunal administratif fédéral a considéré que la recourante 1 avait agi pour son propre compte, que les montants encaissés lui appartenaient et, surtout, que les versements ultérieurs lui étaient imputables et devaient être considérés comme des prestations appréciables en argent effectuées en faveur de ses actionnaires ou de personnes proches, les recourants n'ayant pas apporté la preuve du contraire.
Compte tenu de ce qui précède, l'arrêt attaqué doit être confirmé en tant qu'il déclare la recourante 1 débitrice de la somme de CHF 147'253'985.- au titre de l'impôt anticipé sur des prestations appréciables en argent, calculé sur les versements d'un montant total de CHF 420'725'672.- auxquels elle a procédé entre 1997 et 2001 par débit de ses comptes au Luxembourg et à Grand Cayman.
5. 5.1 Selon l'état de fait non contesté sur ce point retenu par le Tribunal administratif fédéral, la recourante 1 a eu pour activité principale le financement et la gestion de la trésorerie internationale du groupe C._, dont elle a fait partie, jusqu'en octobre 1998. Dès le 1er novembre 1998, l'activité de gestion de la trésorerie internationale a été transférée à d'autres sociétés du groupe et seule la gestion des prêts à long terme est demeurée. Cette dernière activité a cessé également à la fin de l'année 2001. Dans ce contexte, le Tribunal administratif fédéral a retenu que le transfert des activités de la recourante 1 à une autre société du groupe équivalait à une liquidation de fait. Le goodwill d'un montant de CHF 65'000'000.- transféré à titre gratuit était ainsi soumis à l'impôt anticipé. Les recourants soutiennent que la recourante 1 n'avait, de par son rôle de société financière d'un groupe, développé ni goodwill ni savoir-faire propre. Ses activités n'ayant par conséquent aucune valeur marchande, leur transfert à une autre société du groupe ne pouvait donner lieu à la perception d'un impôt anticipé.
5.2 L'excédent de liquidation versé aux actionnaires constitue une prestation appréciable en argent au sens de l'<ref-law> (cf. <ref-law>). Ce terme recouvre toutes les prestations faites aux actionnaires ou à leurs proches dans le cadre de la procédure ordinaire de liquidation, pour autant qu'il ne s'agisse pas du remboursement du capital nominal (cf. arrêt 2C_813/2010 du 10 mai 2011 consid. 3.1; OBERSON, op. cit., § 14 n° 30).
Selon une pratique constante, l'impôt anticipé sur l'excédent de liquidation n'est pas seulement dû lorsque la société est formellement dissoute, mais également lorsqu'elle est liquidée de fait en raison de l'abandon de ses actifs (cf. <ref-ruling> consid. 9b p. 279 s. avec renvois). Il en va ainsi lorsqu'une société cède ses actifs principaux sans réinvestir les fonds obtenus en contrepartie (cf. arrêt 2C_566/2010 du 5 janvier 2011 consid. 2.1; OBERSON, op. cit., § 14 n° 31). Dans ce contexte, il n'est pas nécessaire que tous les actifs soient soustraits à la société. Celle-ci peut également être liquidée de fait lorsqu'il lui reste des actifs, mais que sa substance économique lui est retirée (cf. <ref-ruling> consid. 10a p. 280; arrêt 2C_868/2010 du 19 avril 2011 consid. 4.1). On est en présence d'une liquidation assujettie à l'impôt également lorsque la société procède à des actes juridiques dont la conséquence économique correspond, dans son résultat, à une liquidation partielle (cf. arrêt 2C_502/2008 du 18 décembre 2008 consid. 3.1; ROBERT PFUND, Die Eidgenössische Verrechnungssteuer, 1971, n° 3.44 ad <ref-law>). Une décision ou la volonté des organes de liquider la société n'est pas nécessaire pour considérer qu'une liquidation a eu lieu lorsque le résultat revient à constater que tel est le cas (cf. <ref-ruling> consid. 10c p. 281). La loi sur l'impôt anticipé comprend de la sorte tous les actes de disposition au moyen desquels une partie de la fortune de la société est remise aux actionnaires (cf. DUSS/VON AH, op. cit., n° 154 ad <ref-law>).
La créance fiscale prend naissance au moment où échoit la prestation imposable (<ref-law>). S'il n'est pas possible de déterminer ce moment, elle prendra alors naissance au moment où la décision de verser un montant déterminé aux actionnaires a été prise ou, à défaut, au moment où le versement est intervenu (cf. MICHAEL BEUSCH, in MARTIN ZWEIFEL/PETER ATHANAS/MAJA BAUER-BALMELLI, Kommentar zum Schweizerischen Steuerrecht II/2, 2005, n° 38 ad <ref-law>).
5.3 Lorsque, dans le cadre d'une liquidation, une société cède son activité, cette cession peut, le cas échéant, également comprendre un goodwill (cf. arrêt 2C_335/2008 du 13 octobre 2008 consid. 3.2). Celui-ci est la valeur immatérielle d'un commerce; il dépend, notamment, des relations, de la renommée, de la clientèle, de l'emplacement ainsi que de la bonne organisation technique et commerciale de la société (cf. arrêt 2P.55/1999 du 3 septembre 1999 consid. 4c; SALOMÉ KIENAST, Die steuerliche Behandlung des Goodwills, 1995, p. 5 ss). Ainsi que cela a été relevé (cf. supra consid. 4.2), le droit fiscal suisse ne connaît pas de régime spécial pour les groupes de sociétés, sauf dispositions légales expresses. Les rapports juridiques entre les sociétés d'un groupe doivent subir le même sort que s'ils avaient été noués avec des tiers extérieurs à celui-ci. Rien ne s'oppose par conséquent à ce que l'on confère des conséquences fiscales à la redistribution d'une activité commerciale à l'intérieur d'un même groupe de sociétés (cf. arrêt 2C_335/2008 du 13 octobre 2008 consid. 3.2). Ainsi, lorsque la cession d'une activité constitue une liquidation de fait partielle ou totale et qu'elle a lieu à titre gratuit en faveur de l'actionnaire ou de personnes qui lui sont proches, un impôt anticipé est dû sur la valeur commerciale de ces activités comme si elles avaient été cédées à des tiers et cette valeur commerciale peut comprendre un goodwill (cf. <ref-law> et 20 al. 1 OIA).
5.4 Les activités de gestion de la trésorerie internationale et des prêts à long terme exercées par la recourante 1 ont été transférées à son actionnaire ou à des sociétés appartenant au même groupe entre 1998 et 2001. Conformément à la jurisprudence, ce transfert d'activités constitue une liquidation partielle. Reste à examiner si, ainsi que le Tribunal administratif fédéral l'a admis, ces activités économiques, en particulier la cliente et le savoir-faire développé dans ce cadre, avaient une valeur commerciale dont le transfert à titre gratuit donnait lieu à la perception de l'impôt anticipé.
Force est de constater que tel est bien le cas. En effet, s'agissant d'une activité consistant à gérer la trésorerie internationale et à effectuer des prêts à long terme au bénéfice de sociétés d'un groupe, le goodwill comprend en particulier l'organisation technique et commerciale de l'activité, mais surtout la clientèle. Celle-ci était certes limitée aux sociétés du groupe qui entraient en relation d'affaires avec la recourante 1 non pas de leur propre chef, mais sur instruction de la direction du groupe souhaitant que les activités de financement ainsi que de gestion de trésorerie pour l'ensemble du groupe soient effectuées par la recourante 1. Il n'en demeure pas moins que cette clientèle et l'activité qui en découlait ne sont pas sans valeur. Du reste, si la recourante 1 avait dû transférer cette activité non pas à son actionnaire ou à des sociétés proches, mais à un tiers, force est de constater que tout établissement bancaire, par exemple, aurait été prêt à en payer le prix pour la reprendre.
5.5 Pour calculer la valeur d'une entreprise, l'AFC applique en règle générale la méthode des praticiens. Elle se fonde sur la valeur de rendement des deux derniers exercices et la valeur substantielle de l'entreprise (cf. arrêt 2P.55/1999 du 3 septembre 1999 consid. 5b; Évaluation de la valeur de l'entreprise et fixation d'un prix, in www.kmu.admin.ch, rubrique Thèmes PME/Cycle de l'entreprise/Achat et vente d'une entreprise, consulté le 7 février 2012). La même méthode est appliquée pour calculer la valeur d'un goodwill en cas de cessation d'une activité (cf. KIENAST, op. cit., p. 26 s.).
Lorsqu'il est établi qu'on est en présence d'une prestation assujettie à l'impôt anticipé, mais que le contribuable ne fournit pas d'indications fiables sur son étendue, l'AFC est en droit de procéder à une estimation (cf. arrêt 2C_502/2008 du 18 décembre 2008 consid. 4.2; BEUSCH, op. cit., n° 9 ad <ref-law>; PFUND, op. cit., n° 3.3 ad <ref-law>). Dans ce contexte, les autorités fiscales doivent se fonder sur le cours ordinaire des choses et le comportement du contribuable. La taxation par estimation doit se rapprocher au mieux de l'état de fait réel. En cas de doute, les autorités fiscales ne sont pas tenues de retenir l'état de fait le plus favorable au contribuable. Le Tribunal fédéral est lié par une taxation par estimation si elle se fonde sur un état de fait établi de manière correcte et complète. Il ne contrôle de telles estimations qu'avec une grande retenue dans le but de mettre au jour des erreurs manifestes. Il appartient au contribuable de prouver l'irrégularité de l'estimation (cf. arrêt 2C_502/2008 du 18 décembre 2008 consid. 4.2 et les arrêts cités).
5.6 En l'espèce, le Tribunal administratif fédéral s'est fondé sur le calcul effectué par l'AFC et a retenu que le goodwill transféré avait une valeur de CHF 65'000'000.-. De leur côté, les recourants allèguent certes que cette valeur est purement théorique et ne correspond à aucun prix de marché, mais ils concentrent l'essentiel de leur argumentation sur l'absence d'un goodwill transférable, sans s'attarder sur le calcul retenu par l'AFC et repris par le Tribunal administratif fédéral.
L'estimation effectuée par l'AFC tient compte d'un bénéfice net moyen de CHF 4'597'667.- pour les années 1998 à 2000, capitalisé au taux de 8 %, et d'une valeur substantielle au 31 décembre 2000, de CHF 82'373'000.-, qui tient compte en particulier d'une réserve spéciale de la société, comptabilisée parmi les fonds propres, mais non d'une provision sur débiteurs, alors que celle-ci constituait également une réserve. En procédant de la sorte, l'AFC a appliqué la méthode des praticiens telle que décrite et les recourants n'apportent aucun élément susceptible de prouver l'irrégularité de cette estimation. On ne saurait ainsi faire grief au Tribunal administratif fédéral de s'être basé sur ce calcul et d'avoir conclu à une prétention d'impôt anticipé de CHF 22'750'000.-, correspondant à 35 % de CHF 82'373'000.-.
Au vu de ce qui précède, l'arrêt attaqué doit être confirmé en tant qu'il déclare la recourante 1 débitrice de la somme de CHF 22'750'000.- au titre de l'impôt anticipé sur le transfert à titre gratuit de ses affaires à une autre société du groupe entre 1998 et 2001.
6. 6.1 Il reste à examiner si, après le transfert du goodwill, il subsistait un excédent de liquidation soumis à l'impôt anticipé et, le cas échéant, quel en était le montant. La recourante 1 a été formellement dissoute par décision de son assemblée générale du 13 mars 2002. Le Tribunal administratif fédéral a cependant considéré que la liquidation définitive de la recourante 1 avait eu lieu à la fin de l'année 2001 déjà. Il a constaté qu'elle avait donné lieu à un excédent de liquidation de CHF 2'424'619.- imposable au titre de l'impôt anticipé. Les recourants, de leur côté, allèguent que la mise en liquidation définitive ayant eu lieu par décision de l'assemblée générale du 13 mars 2002 et non à une date antérieure et le solde des fonds propres n'ayant pas encore été distribué, aucun impôt anticipé ne serait dû à ce titre en l'état.
6.2 Ainsi que le Tribunal administratif fédéral l'a relevé à juste titre, la recourante 1 a réduit son activité de manière notable lorsqu'elle a transféré son activité de gestion de la trésorerie internationale à son actionnaire, mais sans pour autant mettre à néant le champ d'activité de la société qui avait conservé le secteur de la gestion des prêts à long terme. Cette réduction de l'activité est constitutive d'une liquidation partielle, mais non encore de la liquidation totale de l'activité de la recourante 1. En ce qui concerne le transfert de l'activité de prêts à long terme, il a conduit à la liquidation totale de la recourante 1. Selon les constatations du Tribunal administratif fédéral, qui lient la Cour de céans, l'évolution des actifs circulants et immobilisés de la recourante 1 entre fin 2000 et fin 2001, telle qu'elle ressort de ses comptes annuels au 31 décembre 2001, indique que les activités de gestion ont été définitivement remises à l'actionnaire de la société au plus tard le 31 décembre 2001. On ne peut dès lors lui reprocher d'avoir retenu cette date comme déterminante, soit avant que la décision de dissolution ne soit formellement adoptée.
En ce qui concerne le calcul de l'excédent de liquidation au 31 décembre 2001, la liquidation fait apparaître un excédent de CHF 202'424'619.- dont à déduire le dividende de CHF 200'000'000.- versé à l'actionnaire. L'impôt anticipé dû sur ce dividende ne faisant pas l'objet de la présente procédure, il subsiste un excédent de liquidation assujetti à l'impôt anticipé de CHF 2'424'619.-. C'est par conséquent bien un impôt de CHF 848'616.65 qui est dû à ce titre et l'arrêt querellé doit être confirmé sur ce point.
7. 7.1 La recourante 1 étant débitrice d'un montant total de CHF 170'852'601.65, soit CHF 147'253'985.- au titre de l'impôt anticipé sur des prestations appréciables en argent, calculé sur les versements auxquels elle a procédé entre 1997 et 2001 par débit de ses comptes au Luxembourg et à Grand Cayman (cf. supra consid. 4.5), CHF 22'750'000.- au titre de l'impôt anticipé sur le transfert à titre gratuit de ses affaires à une autre société du groupe entre 1998 et 2001 (cf. supra consid. 5.6), et CHF 848'616.65 au titre de l'impôt anticipé sur l'excédent de liquidation (cf. supra consid. 6.2), il convient d'examiner si, comme le Tribunal administratif fédéral l'a admis, la responsabilité solidaire du recourant 2 est engagée et à concurrence de quel montant. Le recourant 2 conteste cette responsabilité solidaire. Il allègue que, bien qu'ayant occupé la fonction de président du conseil d'administration jusqu'au 20 mars 2002, il n'a jamais assumé celle de liquidateur officiel de la société. Il relève en outre que l'AFC a formulé pour la première fois ses prétentions au paiement de l'impôt anticipé par courrier du 5 septembre 2002 pour l'impôt dû sur les prestations aux actionnaires et par décision du 2 décembre 2003 pour celui dû sur l'excédent de liquidation, soit postérieurement à la radiation du recourant 2 au registre du commerce et donc trop tardivement pour engager sa responsabilité solidaire.
7.2 Aux termes de l'<ref-law>, pour l'impôt anticipé dû par une personne morale en liquidation, les personnes chargées de la liquidation sont responsables solidairement avec le contribuable jusqu'à concurrence du produit de la liquidation. La responsabilité solidaire du liquidateur résulte directement de la loi. Il s'agit d'une responsabilité de garantie, indépendante de toute faute (cf. arrêt 2C_551/2009 du 13 avril 2010 consid. 4.1; PFUND, op. cit., n° 16 ad <ref-law>). Le régime de la responsabilité solidaire concerne toutes les "personnes chargées de la liquidation". La loi ne vise ainsi pas un organe social en tant que tel, mais toute personne ayant joué individuellement un rôle dans la liquidation, peu importe que cette personne soit ou non inscrite au registre du commerce en qualité de liquidateur (cf. arrêts 2C_502/2008 du 18 décembre 2008 consid. 5.1; A.335/1976 du 17 février 1978 consid. 10; THOMAS MEISTER, in MARTIN ZWEIFEL/PETER ATHANAS/MAJA BAUER-BALMELLI, Kommentar zum Schweizerischen Steuerrecht II/2, 2005, n° 15 ad <ref-law>; ROBERT DANON, La responsabilité fiscale solidaire des organes en cas de liquidation d'une société de capitaux, in FRANÇOIS BOHNET, Quelques actions en responsabilité, 2008, p. 199 ss, p. 205). La période de gestion déterminante sera aisée à identifier lorsque les liquidateurs sont désignés par l'assemblée générale. En revanche, la question est plus délicate en présence d'une liquidation de fait. Il s'agira dans ce cas de distinguer entre transaction commerciale ordinaire et acte de disposition vidant économiquement la société de sa substance (cf. arrêt 2C_695/2009 du 3 février 2010 consid. 2.2; DANON, op. cit., p. 212). Les organes de la société, en particulier les administrateurs, doivent en règle générale être considérés comme liquidateurs au sens de l'<ref-law>, dès lors que ce sont eux qui ont effectué les actes de disposition entraînant le prélèvement de l'impôt anticipé, notamment en cas de liquidation de fait de la société. L'ordre légal part de l'idée que la personne solidairement responsable exerce, seule ou avec d'autres personnes jouant un rôle dans la liquidation, un pouvoir de disposition de droit ou de fait sur la fortune de la société qui doit servir à payer les impôts, les intérêts et les frais (cf. <ref-ruling> consid. 14c p. 283 s.; arrêt 2C_812/2010 du 23 mars 2011 consid. 6.1).
7.3 La responsabilité ne s'étend pas seulement à l'impôt anticipé qui a pris naissance à la suite d'opérations de liquidation. Elle touche aussi les créances antérieures, à condition qu'elles échoient ou que l'autorité les fasse valoir durant la période de liquidation (<ref-law>; cf. JACQUES BÉGUELIN, La responsabilité fiscale des liquidateurs de sociétés anonymes, sociétés à responsabilité limitée et sociétés coopératives, in Mélanges Henri Zwahlen, 1977, p. 546; MEISTER, op. cit., n° 21 ad <ref-law>). Il suffit que l'un des trois états de fait soit rempli.
Pour les revenus de capitaux mobiliers, la créance fiscale prend naissance au moment où échoit la prestation imposable (<ref-law>). Il s'agit d'une obligatio ex lege qui est causée par la réalisation de l'état de fait, indépendamment de la taxation (cf. MEISTER, op. cit., n° 1 ad <ref-law>). En ce qui concerne les actes de disposition qui ont pour objet une prestation assujettie à l'impôt anticipé, l'impôt prend naissance dès que l'acte de disposition a été réalisé (cf. PFUND, op. cit., n° 2.3 ad <ref-law>). L'impôt anticipé est par ailleurs échu trente jours après la naissance de la créance fiscale (art. 16 al. 1 let. d LIA) et le débiteur se trouve en demeure sans qu'un rappel ne soit nécessaire à cet effet (cf. MEISTER, op. cit., n° 22 ad <ref-law>). En ce qui concerne enfin la manière dont l'autorité doit faire valoir sa créance au sens de l'<ref-law>, la loi n'exige aucune forme particulière. Il faut néanmoins que le contribuable puisse se rendre compte que l'autorité estime qu'un impôt est ou pourrait selon toute vraisemblance être dû.
Le liquidateur est tenu d'entreprendre tout ce qu'on peut attendre de lui pour garantir le paiement de la créance fiscale (cf. MEISTER, op. cit., n° 21 ad <ref-law>). Il lui appartient donc de s'assurer que les impôts ont été ou seront payés et il doit éviter de procéder au versement d'un dividende ou au partage de l'excédent de liquidation avant d'avoir acquitté la créance fiscale de la société, ce qui justifie également sa responsabilité solidaire (cf. MEISTER, op. cit., n° 2 ad <ref-law>). Aucune responsabilité du liquidateur n'est en revanche donnée pour les créances fiscales qui ont pris naissance ou sont échues avant la période de gestion de la personne concernée, et que l'autorité n'a pas fait valoir pendant cette période (cf. PFUND, op. cit., n° 19 ad <ref-law>; MEISTER, op. cit., n° 25 ad <ref-law>).
7.4 En l'espèce, le recourant 2 a exercé la fonction de directeur d'octobre 1987 jusqu'au 9 juin 1999 où il a été inscrit comme administrateur-président. Le 20 mars 2002, son inscription en qualité d'organe de le la société a été radiée. En sa qualité de directeur puis d'administrateur-président, le recourant était une personne chargée de la liquidation au sens de l'<ref-law>. Il avait, dans le cadre de ses fonctions au sein de la société, un pouvoir de disposition sur les avoirs de la société qui permettaient de régler la créance fiscale. Il répondra donc de toutes les créances d'impôt qui ont pris naissance, sont échues ou que l'AFC a fait valoir pendant les périodes de liquidation de fait, soit dès le 1er novembre 1998 pour le transfert de l'activité de gestion de la trésorerie internationale, le 31 décembre 2001 pour le transfert de l'activité de prêts à long terme, ainsi que de fin 2001 au 20 mars 2002 pour les créances issues de la liquidation définitive de fait. Enfin, en ce qui concerne les créances qui ont pris naissance avant et hors de toute liquidation, le recourant 2 en répondra dans la mesure où l'AFC les aura fait valoir pendant la liquidation définitive de fait, soit entre fin 2001 et le 20 mars 2002.
La créance de CHF 147'253'985.- au titre de l'impôt anticipé calculé sur les versements auxquels la recourante 1 a procédé entre 1997 et 2001 par débit de ses comptes au Luxembourg et à Grand Cayman a pris naissance et était échue longtemps avant le début de la liquidation de fait, au plus tard au moment où les versements litigieux sont intervenus. Il s'agit par conséquent d'examiner si l'AFC a fait valoir cette créance d'une manière suffisamment claire durant la période pertinente, entre la fin de l'année 2001 et le 20 mars 2002, étant précisé que l'AFC n'a adressé le décompte formel relatif à l'impôt anticipé en cause à la recourante 1 qu'en date du 5 septembre 2002. Il se trouve cependant que, entre le 4 et le 8 mars 2002, elle a, par sa division principale de l'impôt fédéral direct, de l'impôt anticipé et des droits de timbre, procédé à la révision des comptes de la société. A l'issue de ce contrôle et par courrier du 13 mars 2002, elle a établi une liste des transferts litigieux et demandé à la recourante 1 d'en indiquer les bénéficiaires et les contre-prestations fournies par ceux-ci. Par ce courrier, l'AFC a signalé à la société que si elle ne fournissait pas les renseignements requis, elle devrait payer un impôt anticipé sur les montants transférés. On peut ainsi considérer que, par le courrier du 13 mars 2002, l'autorité a fait valoir sa créance au sens de l'<ref-law>. Dans ces conditions, la responsabilité solidaire du recourant 2, qui était alors administrateur-président de la recourante 1, porte sur cette créance d'impôt anticipé, car il se devait de refuser le transfert de l'excédent de liquidation tant que la question de l'impôt anticipé n'était pas clarifiée.
La créance de CHF 22'750'000.- au titre de l'impôt anticipé sur le transfert à titre gratuit des affaires de la recourante 1 à une autre société du groupe a pris naissance au moment des transferts des affaires, soit le 1er novembre 1998 pour le transfert de l'activité de gestion de la trésorerie internationale et le 31 décembre 2001 pour le transfert de l'activité de prêts à long terme, à des périodes où le recourant 2 était administrateur-président de la société et, à ce titre, liquidateur de fait. Sa responsabilité solidaire s'étend donc à cette créance.
En ce qui concerne enfin la créance de CHF 848'616.65 au titre de l'impôt anticipé dû sur l'excédent de liquidation de la recourante 1, la responsabilité solidaire du recourant 2 est manifeste. En effet, cette créance a pris naissance au moment de la liquidation de fait définitive, soit le 31 décembre 2001, à une date où le recourant 2 était administrateur-président de la société et, à ce titre, chargé de la liquidation au sens de l'<ref-law>. Sa responsabilité solidaire s'étend donc aussi à cette créance.
Au vu de ce qui précède, la question de savoir dans quelle mesure le recourant 2 devrait encore être considéré comme liquidateur de fait solidairement responsable du paiement de l'impôt pour les créances d'impôt que l'autorité aurait fait valoir postérieurement à sa radiation au registre du commerce, comme admis par le Tribunal administratif fédéral, peut être laissée ouverte.
7.5 Reste à examiner si le recourant 2 peut bénéficier de la clause libératoire de l'<ref-law>. Selon cette disposition, la responsabilité des personnes chargées de la liquidation s'éteint si elles établissent qu'elles ont fait tout ce qu'on pouvait attendre d'elles pour déterminer et exécuter la créance fiscale. Selon la jurisprudence, il ne suffit pas que le liquidateur prenne toutes les mesures courantes, il doit avoir rempli ses devoirs consciencieusement et avoir fait tout ce qu'on peut raisonnablement exiger de lui pour la garantie et le paiement de la créance fiscale (cf. <ref-ruling> consid. 14d p. 284 s.; arrêt 2C_551/2009 du 13 avril 2010 consid. 4.1). La mesure de ce qu'on peut raisonnablement exiger du liquidateur se détermine en fonction des circonstances concrètes et de la situation personnelle du liquidateur (cf. <ref-ruling> consid. 4a p. 394 s.; arrêt 2C_868/2010 du 19 avril 2011 consid. 5.1). Cette preuve libératoire est plus sévère que celle offerte en application des art. 55 et 56 al. 1 CO (cf. <ref-ruling> consid. 2/b/bb p. 379 s.; ROLAND MÜLLER/LORENZ LIPP/ ADRIAN PLÜSS, Der Verwaltungsrat, 3è éd. 2009, p. 318; PETER BÖCKLI, Schweizer Aktienrecht, 4e éd. 2009, § 13 n° 573 p. 1768 s. et § 17 n° 69 p. 2350). Elle ne pourra quasiment plus être apportée dès que le liquidateur a disposé du produit de la liquidation de la société, ou qu'il s'en est laissé dessaisir, avant que l'impôt anticipé n'ait été acquitté (cf. BÉGUELIN, op. cit., p. 550; PETER BÖCKLI, Haftung des Verwaltungsrates für Steuern, in Steuer Revue 1985, p. 524).
Dans ce contexte, le Tribunal administratif fédéral a retenu, de manière à lier le Tribunal fédéral, que le recourant 2 n'a pas entrepris tout ce qui était en son pouvoir pour déterminer et exécuter la créance fiscale. Il a relevé en particulier que le recourant 2 n'avait ni exigé que l'actionnaire de la recourante 1 fournisse des garanties, ni provisionné les montants nécessaires pour assurer le paiement de l'impôt, et ce alors qu'il ne pouvait ignorer les devoirs fiscaux qui lui incombaient en tant qu'administrateur et liquidateur de fait, de même que les conséquences en cas de manquement. Dans ces conditions, le recourant 2 ne peut pas se prévaloir de la clause libératoire prévue à l'<ref-law> et c'est à juste titre que le Tribunal administratif fédéral a considéré qu'il devait répondre solidairement, avec la recourante 1, du paiement de l'impôt anticipé. L'arrêt attaqué doit par conséquent être confirmé sur ce point.
7.6 Il convient enfin de déterminer le montant à concurrence duquel le recourant 2 est tenu de répondre du paiement de l'impôt anticipé. La responsabilité solidaire du liquidateur est en effet limitée à concurrence du produit de la liquidation (<ref-law>). Le produit de la liquidation représente la différence entre le montant provenant de l'aliénation des actifs et le montant des dettes de la société (cf. BÉGUELIN, op. cit. , p. 547; MEISTER, op. cit., n° 20 ad <ref-law>), ce qui correspondra en règle générale au total des fonds propres. Si l'actionnaire reprend lui-même les biens de la société en nature, dans le cadre de la liquidation, pour calculer le produit on se fondera non pas nécessairement sur le prix d'attribution, mais sur la valeur réelle - le prix de vente que paieraient des tiers - du bien cédé (cf. BÉGUELIN, op. cit., p. 547; PFUND, op. cit., n° 7 ad <ref-law>). En ce qui concerne les actifs, on retiendra leur valeur au moment de la survenance du fait déclencheur de la liquidation. Le remboursement de parts de capital fait également partie du produit de liquidation à prendre en compte pour déterminer le seuil de responsabilité du liquidateur (cf. PFUND, op. cit., n° 7 ad <ref-law>). Lorsque la seule créance d'impôt anticipé provient de la distribution de l'excédent de liquidation, le liquidateur sera ainsi responsable pour la totalité de l'impôt. En revanche, si des créances d'impôt anticipé antérieures à la liquidation n'ont pas encore été acquittées, elles sont ajoutées à celle qui résulte de la distribution de l'excédent de liquidation dans la mesure où elles peuvent être imputées au liquidateur. En aucun cas cependant, le liquidateur ne peut être tenu pour responsable d'un montant supérieur au produit de la liquidation. Tel est le cas même si le liquidateur était l'administrateur de la société au moment où l'impôt échu aurait dû être payé (cf. BÉGUELIN, op. cit., p. 547).
Compte tenu de ce qui vient d'être exposé, c'est à juste titre que le Tribunal administratif fédéral a considéré comme déterminant le bilan au 31 décembre 2000 et non celui au 31 décembre 2001. En effet, à cette dernière date, la liquidation de fait était déjà terminée puisque la recourante 1 avait transféré l'ensemble de ses activités à d'autres sociétés du groupe avant cette date. Elle avait donc déjà eu des effets sur le bilan. Le dernier bilan qui n'est pas altéré par les effets de la liquidation et qui permet d'établir la valeur de la société au moment du fait déclencheur de la liquidation, est donc bien celui au 31 décembre 2000. A cette date, la société présentait des fonds propres de CHF 82'373'014.-. C'est donc à juste titre que le Tribunal administratif fédéral a fixé la responsabilité solidaire du recourant 2 à cette somme et l'arrêt attaqué doit être confirmé sur ce point également.
8. 8.1 Les recourants se prévalent de l'art. 7 al. 1 de la Convention du 9 septembre 1966 entre la Suisse et la France en vue d'éliminer les doubles impositions en matière d'impôts sur le revenu et sur la fortune et de prévenir la fraude et l'évasion fiscale (CDI-F; RS 0.672.934.91). Selon cette disposition, les bénéfices d'une entreprise d'un État contractant ne sont imposables que dans cet État, à moins que l'entre-prise n'exerce son activité dans l'autre État contractant par l'intermédiaire d'un établissement stable qui y est situé. Les recourants allèguent que, dès lors que les transferts litigieux ont été comptabilisés par la Société C._ en France, et en l'absence d'établissement stable de cette société en Suisse, ce pays ne pourrait l'imposer sous quelque forme que ce soit, y compris au moyen de l'impôt anticipé. Or, en touchant des opérations imputables à la société française, c'est exactement ce que ferait l'arrêt querellé, frappant ainsi les transactions litigieuses d'une double imposition puisqu'elles ont été dûment comptabilisées et imposées en France.
Ce raisonnement ne saurait être suivi. En effet, il a été retenu (cf. supra consid. 4.5) que la recourante 1 a agi pour son propre compte, que les montants encaissés lui appartenaient et, surtout, que les versements ultérieurs lui étaient imputables et devaient être considérés comme des prestations appréciables en argent effectués en faveur de ses actionnaires. Toute argumentation basée sur une autre interprétation des faits ne saurait par conséquent être entendue. Le sujet fiscal étant par conséquent la recourante 1, on n'est pas en présence d'un état de fait relevant de la double imposition internationale et la CDI-F ne saurait trouver application.
8.2 Les recourants invoquent également l'art. 11 CDI-F. Cette disposition prévoit que les dividendes provenant d'un État contractant et payés à un résident de l'autre État contractant sont imposables dans cet autre État (al. 1), le terme de "dividendes" étant précisé à l'alinéa 5. Les recourants allèguent qu'avant la modification du 22 juillet 1997 de cette disposition, la définition des dividendes contenue dans la CDI-F ne comprenait pas les distributions cachées de dividendes, celles-ci n'étant par conséquent imposables qu'en France.
Dans ce contexte, il convient de relever que si le raisonnement des recourants devait s'avérer exact, ce qu'il n'est pas besoin d'examiner pour les raisons qu'on va voir, il ne pourrait se rapporter qu'aux prestations appréciables en argent versées à l'actionnaire avant l'entrée en vigueur de la teneur actuelle de l'art. 11 CDI-F le 1er août 1998. Or, les recourants n'ont jamais renseigné l'AFC sur le destinataire final exact de ces versements. Bien que l'actionnaire direct de la recourante 1 soit une société domiciliée en France, les versements ont pu intervenir en faveur d'autres sociétés du groupe, proches de l'actionnaire, mais domiciliées dans d'autres États. Il n'est donc pas possible de déduire de la conclusion que les versements ont été effectués en faveur de l'actionnaire ou de personnes qui lui sont proches, que ces versements ont bénéficié à une société domiciliée en France A défaut d'un état de fait relevant de manière claire de la double imposition internationale avec la France, la CDI-F ne saurait ainsi trouver application.
9. Au vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable.
Succombant sur l'ensemble de leurs conclusions, les recourants doivent supporter les frais judiciaires (art. 66 aI. 1 LTF), solidairement entre eux (<ref-law>), et n'ont pas droit à des dépens (<ref-law>).
L'AFC ne peut prétendre à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à CHF 100'000.-, sont mis à la charge des recourants, solidairement entre eux.
3. Le présent arrêt est communiqué aux mandataires des recourants, à l'Administration fédérale des contributions, Division principale de l'impôt fédéral direct, et au Tribunal administratif fédéral, Cour I.
Lausanne, le 9 juillet 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Beti