Faits:
A. A.a A.X._, associé avec son père B.X._ de la société en nom collectif C.X._, de siège social à Y._, a fait l'objet d'une procédure d'assujettissement à la prestation en raison de violations de l'ancienne loi fédérale du 1er octobre 1925 sur les douanes (LD [RO 42 p. 307], ultérieurement modifiée à plusieurs reprises et actuellement remplacée par la loi fédérale du 18 mars 2005 sur les douanes [RS 631.0]), en l'occurrence des importations irrégulières de tomates en Suisse du 30 juin au 21 août 1995.
Par décision d'assujettissement à la prestation du 30 août 1996, la Direction du IIIe arrondissement des douanes a, en application notamment de l'ancienne LD et de l'ancienne ordonnance du 22 juin 1994 régissant la taxe sur la valeur ajoutée (OTVA [RO 1994 II p. 1464], ultérieurement modifiée à plusieurs reprises et actuellement remplacée par la loi fédérale du 12 juin 2009 régissant la taxe sur la valeur ajoutée [RS 641.20]), assujetti A.X._, B.X._ et la société en nom collectif C.X._, solidairement entre eux, au paiement d'un montant total de xxxx fr. au titre de redevances d'entrée non perçues (droits de douane, droits de statistique, taxe phytosanitaire, taxe sur la valeur ajoutée). Par décision du 19 août 1997, la Direction générale des douanes a partiellement admis le recours déposé par les assujettis, en ce sens que les droits d'entrée éludés ont été ramenés à xxxx francs. Statuant sur recours le 29 janvier 1999, la Commission fédérale de recours en matière de douanes a confirmé la décision attaquée et mis les frais de procédure par xxxx fr. à la charge des assujettis. Le 14 juin 1999, le Tribunal fédéral a rejeté le recours de droit administratif formé par ceux-ci (arrêt 2A.95/1999). En substance, il a jugé que le fait d'importer des marchandises passibles de droits (art. 7 et 8 de l'ancienne ordonnance du 17 mai 1995 sur l'importation de légumes, de fruits frais et de fleurs coupées [RO 1995 p. 2017], ultérieurement modifiée et actuellement remplacée par l'ordonnance du 7 décembre 1998 sur l'importation et l'exportation de légumes, de fruits et de plantes horticoles [RS 916.121.10]) sans les annoncer (art. 74 ch. 3 aLD), respectivement les déclarer inexactement (art. 74 ch. 6 aLD), constituait objectivement des infractions à la législation douanière, si bien que les redevances qui n'avaient pas pu être perçues au moment desdites importations illégales pouvaient être réclamées après coup, en vertu de l'art. 12 al. 1 de la loi fédérale du 22 mars 1974 sur le droit pénal administratif (DPA; RS 313.0). Par ailleurs, la Commission fédérale de recours avait, à bon droit, admis que A.X._ et les autres débiteurs étaient, en vertu de l'art. 13 al. 1 2ème phr. aLD, solidairement responsables du paiement de la totalité des redevances d'entrée éludées.
A.b Par mandat de répression du 3 avril 2000, la Direction du 3ème arrondissement des douanes/Office d'enquête de Sion a, pour ces mêmes faits, condamné pénalement A.X._ au paiement d'une amende de xxxx fr. et d'un émolument de décision de xxxx francs. Statuant sur opposition, la Direction générale des douanes a, par décision du 19 avril 2002, condamné le prévenu au paiement d'une amende de xxxx fr., pour contraventions à l'ancienne LD et à l'ancienne OTVA, et des frais de procédure administrative de xxxx fr., en application de l'<ref-law>. Le 30 avril 2002, A.X._ a demandé à être jugé par un tribunal, en application de l'<ref-law>. La cause a alors été transmise aux autorités pénales du canton du Valais. Par jugement du 29 octobre 2003, le Juge II du district de Monthey a condamné A.X._ à une amende de xxxx francs. Par jugement du 22 novembre 2004, le Tribunal cantonal valaisan a condamné A.X._ au paiement d'une amende de xxxx fr. et des frais de la procédure administrative, à hauteur de xxxx fr., jugement que le Tribunal fédéral a confirmé le 9 mars 2005 (arrêt 6P.184/2004).
B. B.a Le 8 août 2005, l'Administration fédérale des douanes (ci-après: AFD) et A.X._ ont conclu un accord de paiement par acomptes de l'amende de xxxx fr. Celle-ci a été entièrement payée, selon les déclarations de l'AFD, le 12 juin 2008 au plus tard.
B.b Par courrier du 12 juin 2008, l'AFD a requis de A.X._ d'"établir un nouveau plan de paiement dans lequel il sera tenu compte du délai de prescription des redevances qui est le 15 juillet 2012". Par courrier recommandé du 5 janvier 2009, l'AFD a constaté que A.X._ n'avait pas donné suite à son courrier du 12 juin 2008. Elle a dressé un décompte, dont il ressort qu'elle réclamait le paiement des frais de la procédure pénale administrative, par xxxx fr., et des redevances d'entrée éludées, par xxxx fr., dont elle a déduit le montant de xxxx fr., versé par la société C.X._, le solde étant donc de xxxx francs. Elle a précisé que cette somme était à verser sur son compte postal dans le délai de 30 jours dès réception de courrier et qu'en cas de non-paiement dans le délai imparti, elle procéderait au recouvrement de sa créance par la voie de la poursuite pour dettes. Le 14 août 2009, l'AFD a réitéré sa proposition d'établir un plan de paiement des redevances, tout en précisant dans son décompte que, au vu du montant de xxxx fr. versé par les "co-assujettis", le solde de la créance était de xxxx francs. Elle a précisé que, sans nouvelles de A.X._ dans le délai de 15 jours, elle procéderait au recouvrement de la créance par la voie de la poursuite pour dettes. Par courrier du 3 septembre 2009, elle a encore affirmé que la décision de perception subséquente du 19 août 1997 n'était pas prescrite. Faisant suite à ces courriers le 9 décembre 2009, A.X._ a précisé que sa présente réponse ne valait ni acte interruptif de prescription, ni reconnaissance de dette, puisqu'il se réservait le droit d'étudier la question de la prescription. Par courrier du 9 mars 2010, il a interpellé une nouvelle fois l'administration sur la question de savoir si la créance était prescrite et a sollicité son avis sur ce sujet. Par courrier du 8 avril 2010, l'AFD a répondu en substance que la créance issue de la décision d'assujettissement du 30 août 1996 n'était pas prescrite, en vertu de l'<ref-law> applicable à la cause, la prescription de la peine étant de 7 1⁄2 ans, compte tenu des actes interruptifs auxquels elle avait procédé, et qu'elle lui accordait un délai de 30 jours pour verser le montant de xxxx francs.
C. C.a Le 11 mars 2011, la Confédération suisse, représentée par l'AFD, a fait notifier à A.X._ un commandement de payer le montant de xxxx fr. dans la poursuite n° xxxx de l'office des poursuites du district de Martigny, auquel le poursuivi a fait opposition totale. Comme titre de la créance, la poursuivante a indiqué "Amende selon jugement du Tribunal cantonal du 22.11.2004 Fr. xxxx.-. Frais de procédure Fr. xxxx. Décision de perception subséquente du 19.08.1997 (co-assujetti) Fr. xxxx. Paiement partiels effectués: 1. par C.X._ SA (co-assujetti) Fr. xxxx. 2. par B.X._ (co-assujetti) Fr. xxxx. 3. par A.X._ Fr. xxxx".
C.b Par décision du 9 mai 2011, le juge des districts de Martigny et St-Maurice a prononcé la mainlevée définitive de l'opposition à concurrence de xxxx francs.
D. D.a Admettant la requête en restitution de délai déposée par A.X._, le juge des districts de Martigny et St-Maurice a annulé la décision précédente et a rendu, le 2 novembre 2011, une nouvelle décision par laquelle il a prononcé la mainlevée définitive de l'opposition à hauteur de xxxx francs.
D.b Le 1er décembre 2011, A.X._ a recouru contre cette décision auprès du Tribunal cantonal valaisan, Juge de la Chambre civile, concluant en substance à ce que celle-ci soit annulée et qu'il soit constaté que la créance, objet de la poursuite n° xxxx, est prescrite, voire périmée. Par décision du 10 janvier 2012, l'autorité cantonale a rejeté le recours.
E. Par acte posté le 13 février 2012, A.X._ exerce un recours en matière civile au Tribunal fédéral contre cette décision. Il conclut principalement à ce qu'il soit reconnu que la prétention de l'AFD, réclamant paiement de xxxx fr., est prescrite et qu'il soit libéré de toute prétention de la part de cette dernière. Subsidiairement, il conclut à ce que, en application du principe de célérité (art. 6 CEDH), de celui d''atténuation de la peine (art. 64 aCP) et de celui de proportionnalité, il soit libéré de toute prétention de la part de l'AFD. A titre plus subsidiaire, il conclut à ce que, en application de mêmes principes, il soit condamné au versement de xxxx fr. de redevances douanières et libéré au surplus.
Invitées à déposer leurs observations, l'intimée a conclu au rejet du recours alors que l'autorité cantonale a renoncé à se prononcer sur ce dernier.
F. Par ordonnance du 7 mars 2012, la requête d'effet suspensif déposée par le recourant a été rejetée.

Considérant en droit:
1. La décision prononçant la mainlevée définitive de l'opposition est une décision finale au sens de l'<ref-law> puisqu'elle met fin à l'instance (<ref-ruling> consid. 1.1; <ref-ruling> consid. 1.2). Elle peut faire l'objet du recours en matière civile (<ref-law>) lorsque la valeur litigieuse atteint, comme en l'espèce, le seuil minimal de 30'000 fr. (<ref-law>). Interjeté en temps utile (<ref-law>) et dans la forme prévue par la loi (<ref-law>), par la partie qui a succombé en instance cantonale (<ref-law>), à l'encontre d'une telle décision prise sur recours en dernière instance cantonale (art. 75 al. 1 et 2 LTF), le présent recours en matière civile est en principe recevable.
2. 2.1 Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.4). Néanmoins, compte tenu de l'exigence de motivation de l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.4; <ref-ruling> consid. 2.2.1).
2.2 Le Tribunal fédéral statue par ailleurs sur la base des faits établis par l'autorité précédente (<ref-law>).
3. 3.1 A chaque instance de la procédure cantonale, le recourant a invoqué la prescription de la créance, en application des art. 11 et 12 DPA et des règles du Code pénal suisse du 21 décembre 1937 (CP; RS 311.0) auxquelles cette loi renvoie. Examinant ce grief, l'autorité cantonale a tout d'abord constaté que le premier juge avait considéré, en vertu du principe de la lex mitior, qu'il convenait d'appliquer à la cause l'art. 333 al. 6 let. e CP (dans sa version en vigueur au 1er janvier 2007), en lien avec l'<ref-law>, de sorte que le délai de prescription était de 7 1⁄2 ans et qu'il avait commencé à courir le 9 mars 2005. Les créances d'amende, de prestations douanières et de frais de procédure pénale n'étaient donc pas prescrites. Relevant ensuite que le recourant objectait seulement que l'ancien droit pénal lui était plus favorable, l'autorité cantonale a vérifié si tel était le cas. Elle a alors tout d'abord jugé qu'en vertu de l'<ref-law>, les peines se prescrivaient par 5 ans en matière de contraventions, mais que ce délai pouvait être interrompu par toute formalité effectuée en vue de son encaissement, en vertu de l'art. 75 ch. 2 al. 1 aCP. Toutefois, en vertu de l'art. 75 ch. 2 al. 2 aCP, la peine était en tout cas prescrite lorsque le délai ordinaire était dépassé de moité, soit après 71⁄2 ans. La prescription de l'amende de xxxx fr. avait donc commencé à courir le 30 novembre 2004, date à laquelle le jugement de dernière instance cantonale du 22 novembre 2004 avait été notifié aux parties (art. 74 aCP, 194 aCPP/VS), le recours déposé par le poursuivi devant le Tribunal fédéral ne suspendant pas le caractère exécutoire de cette décision (art. 272 al. 7 aPPF). Ensuite, elle a retenu que l'intimée avait démontré avoir interrompu plusieurs fois la prescription, entre 2005 et 2010, par des sommations de payer. Elle a conclu que la prescription de la peine n'était en l'occurrence pas acquise, de sorte qu'en vertu de l'<ref-law>, celle de l'assujettissement de la prétention douanière ne l'était pas non plus. Rejetant au surplus les griefs du recourant sur la violation des principes de célérité et d'opportunité, au motif qu'ils sortaient du cadre de la procédure, elle a rejeté le recours.
3.2 Le recourant soutient que le droit pénal en vigueur avant la révision du CP du 1er janvier 2007 doit trouver application, de sorte que le délai de prescription de sa dette est de 5 ans. Il prétend que l'intimée n'a pas interrompu la prescription à temps, une simple mise en demeure étant insuffisante à cet égard. Il conclut que la prescription de la peine, et en conséquence celle de la créance fiscale, est acquise depuis le 22 novembre 2009. Invoquant au surplus les principes de célérité et de proportionnalité ainsi que l'atténuation de la peine (art. 64 aCP), il prétend que, si la prescription ne devait pas être acquise, il devrait être libéré de toute dette envers l'intimée, subsidiairement, que cette dette devrait être ramenée au montant de xxxx francs. En substance, il estime que l'intimée a fait preuve d'une lenteur exagérée dans le recouvrement de sa créance, de sorte qu'elle est tenue d'y renoncer en vertu de l'art. 6 CEDH. Par ailleurs, le versement du montant très élevé de cette créance aurait des effets extrêmement dommageables sur sa situation financière et ses activités professionnelles, ainsi que sur l'agriculture en Valais central au vu de la position qu'il y occupe.
3.3 Pour sa part, l'intimée soutient que les mesures qu'elle a prises avant l'introduction de la procédure d'exécution forcée revêtent la qualité d'actes interruptifs de la prescription et oppose au recourant qu'il a reconnu sa dette, en vertu de l'<ref-law>, en payant des acomptes. Se fondant sur l'<ref-law>, elle prétend en outre que tout acte influençant la prescription de la peine, notamment l'interruption de celle-ci, influence simultanément celle de la créance de droit administratif. Par ailleurs, elle explique que, de manière générale, elle donne au débiteur le choix de l'ordre dans lequel il entend éteindre ses dettes lorsque celles-ci sont composées à la fois d'une amende et d'un impôt. Pour ne pas risquer de voir sa sanction pécuniaire convertie en peine privative de liberté, le débiteur opte prioritairement pour l'extinction de son amende et elle en fait de même lorsque le débiteur renonce à choisir. Selon elle, refuser d'admettre que le renvoi de l'<ref-law> est global conduirait à un durcissement des conditions de recouvrement des créances et de la situation du débiteur, ce dernier, contraint d'exécuter simultanément tant la créance fiscale que la peine, s'exposant à une conversion de son amende. Ainsi, même si l'amende est éteinte, et avec elle la prescription de la peine, elle doit encore pouvoir poursuivre l'exécution de l'impôt: la prescription de la peine continue donc à courir comme si la créance portant sur l'amende était encore ouverte. Enfin, l'intimée prétend que le principe de la lex mitior ne s'applique pas à la prescription des créances fiscales, faute de dispositions transitoires à cet égard.
4. Il est établi que le recourant s'est entièrement acquitté de l'amende et que la créance douanière est de xxxx fr., au vu des versements déjà opérés.
Il s'agit d'examiner si le droit de percevoir la créance douanière établie par jugement est prescrit.
4.1 En vertu de l'<ref-law>, lorsque la poursuite est fondée sur un jugement exécutoire rendu par un tribunal ou une autorité administrative suisse, le juge ordonne la mainlevée définitive de l'opposition, à moins, notamment, que l'opposant ne se prévale de la prescription. Cette norme ne vise que la prescription acquise depuis le jugement, et non celle que le poursuivi aurait pu soulever dans le procès au fond (<ref-ruling> consid. 5b/cc; arrêt 5P.309/1997 du 18 septembre 1997 consid. 3a et les références). Le poursuivi n'a pas à prouver par titre la prescription; il suffit qu'il s'en prévale (KURT AMONN/FRIDOLIN WALTHER, Grundriss des Schuldbetreibungs- und Konkursrechts, 8ème éd., 2008, § 19 n° 54; DANIEL STAEHELIN, in Basler Kommentar, Bundesgesetz über Schuldbetreibung und Konkurs I, art. 1-158 LP, 2ème éd., 2010, n° 20 ad <ref-law>; DOMINIK VOCK, Kurzkommentar, SchKG, 2009, n° 6 ad <ref-law>; HANS ULRICH WALDER/THOMAS M. KULL/MARTIN KOTTMANN, Bundesgesetz über Schuldbetreibung und Konkurs, tome I, art. 1-158 LP, 4ème éd., 1997, n° 9 ad <ref-law>). La preuve de l'interruption de la prescription incombe au poursuivant (WALDER/KULL/KOTTMANN, op. cit., n° 9 ad <ref-law>).
4.2 Les droits de douane relèvent de la compétence de la Confédération (art. 133 Cst.). La loi fédérale sur les douanes du 1er octobre 1925 a été abrogée et remplacée par la loi fédérale sur les douanes du 18 mars 2005, entrée en vigueur le 1er mai 2007. Selon l'art. 132 al. 1 LD, les procédures douanières en suspens lors de l'entrée en vigueur de cette loi sont liquidées selon l'ancien droit dans le délai imparti par celui-ci.
En l'espèce, les importations irrégulières ont eu lieu du 30 juin au 21 août 1995 et la procédure de taxation a débuté en 1996 au plus tard, de sorte que l'ancienne loi sur les douanes s'applique (arrêt 2C_355/2007 du 19 novembre 2007 consid. 1.2). Les parties ne contestent pas que cette ancienne loi régit également la perception des autres taxes en cause.
En l'espèce, les importations irrégulières ont eu lieu du 30 juin au 21 août 1995 et la procédure de taxation a débuté en 1996 au plus tard, de sorte que l'ancienne loi sur les douanes s'applique (arrêt 2C_355/2007 du 19 novembre 2007 consid. 1.2). Les parties ne contestent pas que cette ancienne loi régit également la perception des autres taxes en cause.
4.3 4.3.1 De manière générale, le droit fiscal distingue la taxation de la perception de la créance fiscale. A la suite de cette distinction, il existe deux systèmes de prescription. Le premier consacre une double prescription, en ce sens qu'il prévoit un délai pour procéder à la taxation et un délai pour percevoir l'impôt. Celui-ci peut être, à son tour, aménagé en un délai relatif et un délai absolu (cf. art. 120 s. LIFD [RS 642.11]; art. 42, 48 et 91 LTVA [RS 641.20]). Le second consacre un délai de prescription unique qui s'applique aussi bien au droit de procéder à la taxation qu'au droit de percevoir l'impôt (art. 30 LT [RS 641.10]; 23 LTab [RS 641.31]; 23 LIB [RS 641.411]; 20 Limpauto [RS 641.51]; 25 Limpmin [RS 641.61]; 17 LIA [RS 642.21]; au sujet de l'ancien art. 128 AIFD [RO 56 2021], cf. arrêt 2C_267/2010 du 8 avril 2011 consid. 4.2 et les références, publié in RF (66) 2011 p. 613). Certaines lois adoptant ce système ne prévoient qu'un délai relatif, alors que d'autres prévoient également un délai absolu. En général, le délai (relatif) unique peut être régulièrement interrompu par tout acte tendant au recouvrement de la créance fiscale, notamment une décision, et un nouveau délai de même durée commence à courir (arrêt 2C_267/2010 du 8 avril 2011 consid. 4.2 et les références, publié in RF (66) 2011 p. 613). Dès lors, si elle rend une décision de taxation, l'administration fiscale interrompt la prescription et dispose ensuite d'un nouveau délai de même durée que celui interrompu pour percevoir la contribution sur laquelle elle a statué, nouveau délai qui est lui-même susceptible d'interruption.
4.3.2 Comme la plupart des impôts fédéraux indirects qui sont soumis au principe de l'auto-taxation (arrêt 2A.566/2003 du 9 juin 2004 consid. 2.4 et les références, publié in ASA 74 p. 246) - en ce sens que l'assujettissement du contribuable, l'existence et le montant de la créance d'impôt ne nécessitent aucune décision de l'administration (arrêt 2C_518/2008 du 15 octobre 2008 consid. 2.2, résumé in RF (649) 2009 p. 325) -, la loi sur les douanes consacre, tant dans sa version de 1925 (art. 64; cf. infra consid. 4.5) que dans celle de 2005 (art. 75), le système du délai unique de prescription, susceptible d'être interrompu et suspendu, qui s'applique aussi bien à la taxation qu'à la perception de la créance douanière. L'alinéa 4 1ère phr. de l'art. 75 LD 2005 consacre en outre un délai absolu de prescription, en prévoyant que la dette douanière se prescrit dans tous les cas par quinze ans à compter de la fin de l'année civile durant laquelle elle a pris naissance.
4.4 S'ils divergent sur la question de savoir si la prescription est acquise ou non en vertu des règles du Code pénal auquel l'<ref-law> renvoie, l'autorité cantonale et le recourant soutiennent que le délai de prescription de la peine prévu à l'<ref-law> s'applique seul à la cause pour déterminer le délai dans lequel l'autorité fiscale doit percevoir la créance douanière établie par jugement.
4.4.1 L'assujettissement subséquent à un impôt suite à une infraction à la législation administrative fédérale est régi par la DPA. L'art. 80 al. 1 aLD déclare applicable aux infractions douanières le titre deuxième de cette loi, dont font partie les art. 11 et 12. L'<ref-law> prévoit que, tant que l'action pénale et l'exécution de la peine ne sont pas prescrites, l'assujettissement à la prestation ou à la restitution ne se prescrit pas. L'<ref-law> prévoit que les peines se prescrivent par cinq ans pour les contraventions. Pour les infractions constitutives de délit ou de crime, les délais du droit pénal s'appliquent, étant donné que la DPA ne prévoit pas de délai de prescription (cf. <ref-law>; <ref-ruling> consid. 2).
4.4.2 Le Tribunal fédéral a, en vertu de l'<ref-law>, recouru aux délais instaurés par la DPA uniquement pour déterminer le délai de prescription du droit de taxer. Il n'a pas eu à se prononcer sur la question de savoir s'il en va de même pour le délai de prescription du droit de percevoir la créance douanière.
4.4.3 Pour les raisons qui suivent, la prescription du droit de percevoir la créance douanière ne peut pas être régie par les délais que le droit pénal instaure pour la prescription des peines.
Tout d'abord, alors que les textes allemand et italien parlent de manière générale de "Leistungspflicht" et de "obbligo di pagamento", le texte français de l'<ref-law> ne fait précisément dépendre de la prescription pénale que la prescription de l'assujettissement à la prestation - soit le droit de l'administration de procéder à la taxation - et non celle de la perception de la prestation.
Ensuite, le devoir de prester consacré à l'<ref-law> n'a aucun caractère pénal, en ce sens que l'assujettissement ne dépend ni de l'existence d'une faute ni, à plus forte raison, d'une poursuite pénale (<ref-ruling> consid. 3.2; <ref-ruling> consid. 2c). Il s'agit uniquement d'une prétention de droit public en faveur du fisc, qui fait suite à une taxation (ANDREAS EICKER/FRIEDRICH FRANK/JONAS ACKERMANN, Verwaltungsstrafrecht und Verwaltungsstrafverfahrensrecht, 2012, p. 91; KURT HAURI, Verwaltungsstrafrecht, VStrR, Bundesgesetz vom 22. März 1974 über das Verwaltungsstrafrecht, Motive - Doktrin - Rechtsprechung, 1998, p. 35 ad <ref-law>). Il arrive donc que l'administration fiscale statue sur la perception subséquente de la créance douanière, au sens de l'<ref-law>, indépendamment de toute procédure pénale. La logique du système de la DPA suppose même que le volet administratif de la soustraction d'impôt soit définitivement tranché avant le volet pénal. C'est pourquoi, il convient d'attendre pour renvoyer l'affaire devant le tribunal pénal, aussi longtemps qu'une procédure relative à une décision d'assujettissement qui pourrait avoir des effets sur la procédure pénale contre des participants est pendante; la prescription de l'action pénale cesse d'ailleurs de courir pendant cette période (<ref-ruling> consid. 3.3). Or, contrairement à la durée de la prescription de l'action pénale qui se détermine de manière abstraite, en fonction de la peine maximale prévue pour une infraction (GILBERT KOLLY, in Commentaire romand, Code pénal I, 2009, n° 50 ad <ref-law>), celle de la peine se détermine de manière concrète, en fonction de la sanction effectivement prononcée à l'encontre du condamné (IDEM, op. cit., n° 16 ad <ref-law>). Si aucune décision pénale prononçant une sanction n'était rendue par la suite, il ne serait pas possible de déterminer la durée de la prescription de la peine. En outre, il se peut que la peine pénale soit exécutée - la question de la prescription de celle-ci devenant alors sans objet - avant que la créance douanière ne soit payée. Pour ces motifs, il est donc contraire à la logique du système de la DPA de recourir aux seuls délais de prescription des peines pour déterminer la durée du délai de prescription du droit de percevoir la créance douanière. La durée de ce délai doit pouvoir être déterminée indépendamment de celle du délai prévu pour les peines.
Enfin, en droit privé, seul le délai de prescription plus long de l'action pénale se substitue au délai de prescription de l'action civile (cf. <ref-law>; not. <ref-ruling> consid. 2.6; FRANZ WERRO, in Commentaire romand, Code des obligations I, 2003, n° 32 ad <ref-law>). S'agissant du droit d'encaisser la créance fondée sur un jugement, le délai de dix ans de l'<ref-law> est applicable. En effet, en prévoyant l'application de la prescription de l'action pénale si elle est de plus longue durée que celle prévue en droit privé, le législateur a voulu éviter que le créancier ne puisse plus agir contre son débiteur à un moment où celui-ci pourrait encore faire l'objet d'une procédure pénale dont les conséquences sont en principe plus lourdes pour lui (<ref-ruling> consid. 2.3 et les références). Cette justification vaut aussi en droit administratif.
4.4.4 Au vu de ce qui précède, l'amende étant au demeurant payée en l'espèce, il faut admettre que la DPA ne règle pas la prescription du droit de percevoir la créance douanière.
4.5 Il y a donc lieu désormais d'examiner si les règles douanières prévoient un délai de prescription.
4.5.1 L'ancienne LD, applicable en l'espèce (cf. supra consid. 4.2), traite de la prescription à l'art. 64. Cette norme prévoit que les droits de douane et autres redevances se prescrivent par un an à compter de l'acceptation formelle de la déclaration en douane, la prescription étant interrompue par toute action exercée contre le redevable pour le contraindre à s'acquitter de ses obligations et suspendue aussi longtemps que courent les délais accordés pour le paiement.
L'art. 64 aLD ne règle toutefois que la prescription des créances douanières dont la perception a été omise à la suite d'une erreur des douanes et ne porte dès lors que sur les droits définis à l'art. 126 aLD, soit en substance les suppléments de droits qui n'ont pas été perçus ou remboursés à la suite d'une erreur de la douane (<ref-ruling> consid. 3a; arrêts 2C_112/2010 du 30 septembre 2010 consid. 2.1; 2A.457/2000 du 7 février 2011 consid. 2a, publié in ASA 70 p. 330; 2A.379/1991 du 24 juillet 1992 consid. 4a).
4.5.2 L'art. 64 aLD n'est donc pas applicable à la présente cause, la créance douanière étant recherchée suite à une infraction à la législation douanière.
4.6 Ni l'<ref-law>, ni l'art. 64 aLD ne s'appliquant à la cause, il reste à examiner s'il y a une lacune de l'ancienne LD (cf. infra consid. 4.6.1) puis, dans l'affirmative, comment cette lacune doit être comblée (cf. infra consid. 4.6.2) et comment le délai de prescription retenu peut, le cas échéant, être interrompu (cf. infra consid. 4.6.3).
4.6.1
4.6.1.1 Une lacune proprement dite suppose que le législateur se soit abstenu de régler un point qu'il aurait dû régler et qu'aucune solution ne se dégage du texte ou de l'interprétation de la loi. Une telle lacune peut être occulte. Tel est le cas lorsque le législateur a omis d'adjoindre, à une règle conçue de façon générale, la restriction ou la précision que le sens et le but de la règle considérée ou d'une autre règle légale imposent dans certains cas (<ref-ruling> consid. 2.4.2). En d'autres termes, il y a lacune occulte lorsque le silence de la loi est contraire à son économie (<ref-ruling> consid. 6a et la référence). En revanche, si le législateur a renoncé volontairement à codifier une situation qui n'appelait pas nécessairement une intervention de sa part, son inaction équivaut à un silence qualifié. Quant à la lacune improprement dite, elle se caractérise par le fait que la loi offre certes une réponse, mais que celle-ci est insatisfaisante (<ref-ruling> consid. 4.1; <ref-ruling> consid. 3b; <ref-ruling> consid. 3a; <ref-ruling> consid. 2a et les références).
Seule l'existence d'une lacune proprement dite (apparente ou occulte) appelle l'intervention du juge, tandis qu'il lui est en principe interdit, selon la conception traditionnelle qui découle notamment du principe de la séparation des pouvoirs, de corriger les lacunes improprement dites, à moins que le fait d'invoquer le sens réputé déterminant de la norme ne constitue un abus de droit ou ne viole la Constitution. Les mêmes principes valent en droit fiscal: seules les lacunes proprement dites peuvent être comblées, sous réserve des cas d'abus de droit (<ref-ruling> consid. 3.5; arrêt 2C_818/2009 du 9 juillet 2010 consid. 4.2).
En droit public, la prescription est une institution générale du droit qui s'applique à toutes les prétentions de droit public, même en l'absence de disposition expresse (<ref-ruling> consid. 5). Par ailleurs, comme il a été exposé ci-dessus, les lois fiscales fédérales prévoient généralement un délai de prescription du droit de percevoir les créances, que ce soit selon un système de prescription unique ou selon un système de délai de prescription double (cf. supra consid. 4.3.1). Dans sa nouvelle version, l'art. 75 LD, qui consacre un système de prescription unique, a d'ailleurs étendu le champ d'application de la prescription qu'il instaure à tous les cas dans lesquels la créance douanière n'a pas été perçue, y compris ceux dans lesquels la déclaration en douane a été omise (cf. art. 69 LD).
4.6.1.2 L'ancienne LD ne prévoyant aucun délai de prescription, hormis celui de l'art. 64 aLD inapplicable en l'espèce (cf. supra consid. 4.5.1), il faut admettre que cette loi présente une lacune.
4.6.2 Il s'agit désormais d'examiner comment il faut combler cette lacune s'agissant du délai de prescription du droit de percevoir une créance douanière indûment soustraite.
4.6.2.1 Selon la jurisprudence, lorsque les dispositions applicables à une matière relevant du droit public ne contiennent aucune règle relative à la durée du délai de prescription, le juge procède par analogie, en s'inspirant en premier lieu des règles que le législateur a instaurées en droit public pour des domaines analogues. Si de telles règles font défaut, il s'inspire des principes généraux du droit civil sur la prescription; le juge reste toutefois libre de s'en écarter si la transposition ne semble pas souhaitable (<ref-ruling> consid. 2a; <ref-ruling> consid. 5; arrêt 2P.299/2002 du 3 novembre 2003 consid. 2.2 et les références, in RDAF 2004 II p. 384 et 190; cf. aussi PIERRE MOOR/ETIENNE POLTIER, Droit administratif, Volume II: Les actes administratifs et leur contrôle, 3ème éd., 2011, p. 98 s.).
4.6.2.2 Actuellement, les lois fiscales fédérales qui consacrent le système du délai unique de prescription prévoient généralement des délais relatifs de cinq ans (art. 30 al. 1 LT, 23 al. 1 LTab, 23 al. 1 LIB, 17 LIA) ou de dix ans (<ref-law>, 25 al. 1 Limpmin).
Dans une affaire relevant de l'AVS, la jurisprudence a recouru à la prescription du droit civil et a admis que le délai de dix ans consacré à l'<ref-law> s'applique à l'exécution des créances en réparation du dommage fondées sur la responsabilité de l'employeur (cf. au sujet de l'<ref-law>: <ref-ruling> consid. 3; question laissée ouverte au sujet des indemnités d'assurance-chômage indûment perçues: arrêt 5P.456/2004 du 15 juin 2005 consid. 3.3).
4.6.2.3 Force est de constater que les règles des lois fiscales sur la durée du délai de prescription des créances fiscales sont diverses et ne donnent donc pas de solution claire pour le délai litigieux en l'espèce. Il se justifie donc d'appliquer par analogie le délai de dix ans prévu à l'<ref-law>. Ce délai a commencé à courir le 14 juin 1999, le recours de droit administratif portant sur la condamnation d'une somme d'argent ayant effet suspensif de plein droit selon l'art. 111 al. 1 aOJ.
4.6.3 Il reste à examiner si ce délai de dix ans, qui demeure régi par le droit public, en particulier en ce qui concerne l'interruption, a été interrompu avant le 14 juin 2009.
4.6.3.1 En droit administratif, toutes les mesures des autorités fiscales portées à la connaissance du contribuable et tendant à recouvrer la créance fiscale, de même que de simples lettres ou injonctions interrompent le délai de prescription (<ref-ruling> consid. 3.4.3; <ref-ruling> consid. 2c; arrêt 2P.4/2007 du 23 août 2007 consid. 5.3 et les autres références).
L'acte interruptif de prescription fait courir un nouveau délai de même durée que celui qui a été interrompu (cf. not. en application de l'ancien AIFD: arrêt 2C_267/2010 du 8 avril 2011 consid. 4.2 et les références, publié in RF (66) 2011 p. 613; MICHAEL BEUSCH, Der Untergang der Steuerforderung, thèse, 2012, p. 297 s.; MOOR/POLTIER, op. cit., p. 100).
4.6.3.2 En l'espèce, il ressort du dossier que l'intimée a, en tout cas, interrompu la prescription par son courrier du 5 janvier 2009, par lequel elle a calculé le solde encore dû, imparti un délai de 30 jours au recourant pour le payer et averti celui-ci qu'en cas d'inexécution, elle engagerait des poursuites. Or, à cette date, le droit de percevoir la créance fiscale n'était pas prescrit et un nouveau délai de dix ans a recommencé à courir, lequel a été à nouveau interrompu, notamment le 11 mars 2011 par la réquisition de poursuite n° xxxx.
Il sied en outre de relever qu'au vu de l'enchaînement des événements, le recourant n'a jamais pu raisonnablement penser que l'intimée avait renoncé à sa créance. En effet, une fois le volet administratif de la cause clos en 1999, le volet pénal a été immédiatement traité. Une fois l'arrêt du Tribunal fédéral rendu sur la condamnation pénale, en 2005, l'AFD a exigé le paiement de l'amende, qui a eu lieu en 2008. Une fois ce paiement effectué, elle a alors rapidement et régulièrement pris contact avec le recourant au sujet de la créance fiscale, que ce soit pour lui demander de faire des propositions de paiement ou pour le mettre en demeure de s'exécuter.
Partant, le droit de percevoir la créance douanière n'est pas prescrit à ce jour et le grief du recourant doit être rejeté.
5. Les autres griefs du recourant (cf. supra consid. 3.2) sont irrecevables en procédure de mainlevée: ils ont tous trait au déroulement de l'action pénale et à la fixation de la peine.
6. En conclusion, le recours en matière civile est rejeté. Les frais judiciaires, arrêtés à 6'000 fr., sont mis à la charge du recourant qui succombe (<ref-law>). Il n'y a pas lieu d'attribuer d'indemnité à la Confédération, qui a agit dans l'exercice de ses fonctions (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 6'000 fr., sont mis à charge du recourant.
3. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Juge de la Chambre civile.
Lausanne, le 19 décembre 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Achtari