Faits:
A. X._, né en 1966, et Dame X._, née en 1963, se sont mariés en 2003. Deux enfants sont issus de cette union: A._, né en 2002 et B._, né en 2005.
B. Par jugement du 27 décembre 2010, le Tribunal civil de la Veveyse (ci-après: le Tribunal civil) a prononcé le divorce des époux, confié à la mère l'autorité parentale et la garde des enfants, astreint l'ex-mari à contribuer à l'entretien de son ex-épouse par le versement d'une pension mensuelle de 2'500 fr. jusqu'en février 2016, puis de 1'400 fr. jusqu'en février 2021, ainsi qu'à celui de ses fils, à hauteur de 1'200 fr. jusqu'à l'âge de 6 ans, de 1'300 fr. jusqu'à l'âge de 12 ans et de 1'400 fr. jusqu'à leur majorité, l'art. 277 al. 2 CC étant réservé.
Le 7 février 2011, l'ex-mari a interjeté un appel contre ce jugement, tendant à la suppression de la contribution d'entretien en faveur de l'ex-épouse et à la réduction des pensions mensuelles de ses fils, en ce sens qu'elles se montent à 1'000 fr. jusqu'à l'âge de 6 ans, 1'100 fr. jusqu'à l'âge de 12 ans et 1'200 fr. ensuite. L'ex-épouse a conclu au rejet de l'appel le 25 mars 2011.
B.a La Juge déléguée de la Ie Cour d'appel civil du Tribunal cantonal du canton de Fribourg (ci-après: la Juge déléguée) a rejeté, par arrêt du 14 avril 2011, une requête de l'ex-mari tendant à la suppression puis à la forte réduction de la contribution d'entretien de 3'250 fr. due à l'ex-épouse à titre provisoire, ainsi qu'une requête reconventionnelle de celle-ci. La Juge déléguée a encore rejeté, le 19 mai 2011, une requête de mesures provisionnelles complémentaires déposée par l'ex-épouse, ayant pour objet le prononcé d'un avis aux débiteurs de son ex-mari.
Par arrêt du 8 septembre 2011, le Président de la Cour d'appel civil du Tribunal cantonal du canton de Fribourg a partiellement admis une nouvelle requête de l'ex-mari tendant à la réduction de la contribution d'entretien provisoire en faveur de l'ex-épouse et a fixé cette pension à 2'000 fr. par mois, dès le 1er juillet 2011.
B.b Statuant le 28 novembre 2011, la Cour d'appel civil du Tribunal cantonal du canton de Fribourg (ci-après: la Cour d'appel) a partiellement admis l'appel de l'ex-mari. Elle a ainsi réformé le jugement de première instance en ce sens que la contribution d'entretien mensuelle en faveur de chacun des fils se monte à 1'220 fr. jusqu'à l'âge de 12 ans révolus, puis à 1'400 fr. jusqu'à la majorité, l'art. 277 al. 2 CC étant réservé; celle due à l'ex-épouse s'élève à 2'450 fr., dès l'entrée en vigueur du jugement jusqu'en février 2016 et à 1'400 fr. jusqu'au mois de février 2021 compris.
C. Par acte du 1er février 2012, l'ex-mari (ci-après: le recourant) exerce un recours en matière civile au Tribunal fédéral. Il conclut à la réforme de l'arrêt attaqué en ce sens que l'époux contribuera à l'entretien de chacun de ses enfants par le versement d'une pension mensuelle de 1'100 fr. jusqu'à l'âge de 12 ans révolus, puis de 1'200 fr. jusqu'à la majorité, l'art. 277 al. 2 CC étant réservé, et à l'entretien de son ex-épouse par le versement d'une contribution d'entretien mensuelle de 850 fr. jusque et y compris le mois de février 2021. A l'appui de ses conclusions, il invoque l'arbitraire dans l'établissement des faits, ainsi que la violation des art. 125 et 285 CC.
Invitées à se déterminer, l'intimée a conclu au rejet du recours et l'autorité précédente a déclaré ne pas avoir d'observations à formuler.

Considérant en droit:
1. Le recours a été interjeté en temps utile (art. 100 al. 1 LTF) - compte tenu de la suspension des délais selon l'art. 46 al. 1 let. c LTF - et en la forme prévue par la loi (art. 42 LTF), contre une décision finale (art. 90 LTF), rendue en matière de divorce (art. 72 al. 1 LTF) et prise sur recours par une autorité statuant en dernière instance cantonale (art. 75 al. 1 LTF). Comme le litige porte sur les contributions d'entretien en faveur de l'ex-épouse et des enfants, le recours a pour objet une affaire pécuniaire, dont la valeur litigieuse atteint 30'000 fr. (art. 51 al. 1 let. a et al. 4, 74 al. 1 let. b LTF). Le recourant a par ailleurs pris part à la procédure devant l'autorité précédente et a un intérêt à l'annulation ou à la modification de l'arrêt entrepris (art. 76 al. 1 LTF). Le recours en matière civile est en principe recevable de ce chef.
2. 2.1 Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Cela étant, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), il n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une autorité de première instance, toutes les questions juridiques pouvant se poser, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.4 p. 400; <ref-ruling> consid. 1.1 p. 104). En outre, le Tribunal fédéral ne connaît de la violation de droits fondamentaux que si un tel grief a été invoqué et motivé par le recourant (art. 106 al. 2 LTF; <ref-ruling> consid. 3.3 p. 310 s.; <ref-ruling> consid. 3.2 p. 88). Si le recourant se plaint de la violation de ces droits, il doit satisfaire au principe d'allégation (Rügeprinzip); le Tribunal fédéral n'examine la violation des droits constitutionnels que s'ils ont été invoqués et motivés, c'est-à-dire s'ils ont été expressément soulevés et exposés de façon claire et détaillée (<ref-ruling> consid. 1.2 p. 234; <ref-ruling> consid. 1.4.2 p. 254); il n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 3.1 p. 399 in fine).
2.2 Le Tribunal fédéral conduit son raisonnement sur la base des faits établis par la juridiction précédente (art. 105 al. 1 LTF); il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Le recourant qui soutient que les faits ont été constatés d'une manière manifestement inexacte (art. 97 al. 1 LTF), c'est-à-dire arbitraire au sens de l'art. 9 Cst. (ATF <ref-ruling> consid. 1.2.2 p. 252), doit satisfaire au principe d'allégation susmentionné (cf. supra consid. 2.1).
3. Le recourant s'en prend aux contributions d'entretien mises à sa charge en faveur de ses fils et de son ex-épouse et soulève, dans cette optique, les griefs d'établissement inexact des faits (art. 97 al. 1 LTF) et d'arbitraire, ainsi que la violation des art. 125 et 285 CC.
3.1 S'agissant des contributions d'entretien en faveur des fils, les juges cantonaux se sont basés sur les tabelles zurichoises au 1er janvier 2011. Ils ont d'abord relevé que le coût de référence de chaque enfant, âgés respectivement de 9 ans et de 7 ans lors de l'entrée en force de l'arrêt à rendre, était de 1'700 fr. Ils ont déduit des coûts précités 400 fr. pour les soins et l'éducation fournis en nature par la mère, considérant que celle-ci travaille à un taux de 40 %, et dispose du temps nécessaire pour s'occuper des enfants lorsqu'ils ne sont pas à l'école et, ainsi, fournir en nature sa contribution à leur entretien. Ensuite, les juges cantonaux ont adapté les données des tabelles au cas d'espèce. Dans un premier temps, ils ont estimé que, en dépit du fait que le recourant se trouve au chômage depuis le mois de février 2011, les parents bénéficiaient de revenus cumulés confortables (9'500 fr.), supérieurs à la moyenne et dépassant nettement les ressources prises en compte pour établir les tabelles zurichoises, justifiant une augmentation du coût de base des enfants (1'300 fr.). L'autorité précédente a cependant considéré que le coût d'entretien des enfants devait simultanément être réduit dans une proportion similaire, s'agissant d'une famille domiciliée dans le canton de Fribourg. Le recourant ne contestait au demeurant pas l'augmentation et la diminution du coût de base dans son appel. Dans un second temps, l'autorité précédente a procédé à une nouvelle augmentation du coût d'entretien de base d'un enfant, portant ce coût à 1'450 fr. pour chacun d'eux, au motif qu'une augmentation de 150 fr. des coûts déterminés sur la base des tabelles, à savoir une majoration de 11,5 %, paraissait raisonnable et judicieuse vu la situation financière des parents, lesquels devaient désormais pouvoir réaliser un revenu global de 12'000 fr., le chômage du recourant n'étant pas considéré comme durable et celui-ci étant en mesure de réaliser à nouveau un revenu mensuel net d'au moins 10'000 fr. Après prise en considération des allocations familiales de 230 fr. par mois et par enfant, versées en sus de la contribution d'entretien, l'autorité précédente est en définitive parvenue à la conclusion que le coût résiduel par enfant, que le recourant doit couvrir en argent, se monte à 1'220 fr. par mois. La cour cantonale a fixé la contribution d'entretien due dès l'âge de 12 ans révolus jusqu'à la majorité, sous réserve de l'art. 277 al. 2 CC, à 1'400 fr. par mois, tenant compte d'un coût supplémentaire de 180 fr. par mois selon les tabelles zurichoises.
3.2 S'agissant de la contribution d'entretien due à l'ex-épouse, l'autorité précédente a relevé que le déficit mensuel de 1'434 fr. de celle-ci n'était pas remis en cause. L'autorité cantonale a relevé que le recourant disposait d'un solde positif après paiement des contributions d'entretien des enfants (2x 1'220 fr.) de 4'396 fr. par mois avant sa période de chômage. Depuis lors, son revenu mensuel s'élève à 7'660 fr. et il ne perçoit plus la somme de 600 fr. par mois à titre de revenu locatif puisqu'il vit dans son bien immobilier. La cour cantonale a toutefois constaté que le recourant est âgé de 45 ans, qu'il a une formation de monteur en chauffage, mais qu'il a travaillé les 13 dernières années comme vendeur puis directeur commercial dans plusieurs entreprises, la dernière dans le domaine du chauffage, qu'il n'a pas allégué avoir de problèmes de santé et que le marché de l'emploi n'était pas particulièrement tendu à ce moment-là. Elle a admis que le recourant devait donc être en mesure de retrouver un emploi similaire à ses derniers postes dans l'année suivant son licenciement et être en mesure de gagner à tout le moins 10'000 fr. nets par mois. L'autorité précédente a refusé de tenir compte du "business plan" produit par le recourant attestant que celui-ci envisageait de devenir indépendant dès l'été 2012, tablant sur des revenus de l'ordre de 4'000 à 6'000 fr., dès lors que la pièce a été établie sur demande du recourant et que celui-ci a admis n'avoir entrepris aucune démarche dans cette optique. A titre de charge supplémentaire, le recourant faisait valoir qu'il devait dorénavant assumer des frais de véhicule de 1'322 fr. 15 par mois, dont 999 fr. 85 pour un leasing, ne disposant plus d'un véhicule professionnel. Estimant qu'il n'était pas possible de déterminer en l'état si le recourant devra assumer des frais de déplacement lorsqu'il aura à nouveau un emploi, la cour cantonale a refusé de tenir compte d'un montant à ce titre parmi les charges assumées par le recourant, précisant que celui-ci conservait la faculté de requérir une modification du jugement de divorce. L'autorité précédente a encore refusé de revoir le montant pris en compte dans les charges du recourant à titre d'impôt, ce montant ayant été déterminé sur la base d'un revenu hypothétique de 10'000 fr. La cour cantonale a en définitive modifié le solde disponible du recourant et l'a fixé à 3'481 fr. 95 par mois, charge fiscale comprise, après avoir réduit de 1'100 fr. le revenu et admis des charges supérieures de 185 fr. 95, en raison de la hausse de ses frais de logement à la suite de son emménagement dans son propre immeuble.
Vu ce qui précède, l'autorité cantonale a fixé la contribution d'entretien due à l'ex-épouse jusqu'au 29 février 2016 à 2'450 fr. par mois, correspondant à la couverture de son déficit (1'434 fr.) et à la moitié du solde disponible des époux (3'481 fr. 95 - 1'434 fr. = 2'047 fr. 95, divisé par 2 = 1'023 fr. 95). Pour la période du 1er mars 2016 jusqu'au 28 février 2021, la contribution d'entretien pourrait être fixée à 2'980 fr. par mois. La contribution d'entretien de 1'400 fr. par mois fixée par le premier juge et l'échéance à fin février 2021 n'ont toutefois pas été critiquées en appel par l'épouse, en sorte que l'autorité précédente n'a pas revu ces questions.
3.3 En conclusion, la cour cantonale a partiellement admis l'appel du recourant et modifié le montant des contributions d'entretien dues aux enfants et à l'ex-épouse.
4. Le recourant se plaint tout d'abord de la violation de l'art. 125 CC en tant que l'autorité précédente a pris en considération un revenu hypothétique dans l'établissement de sa situation financière, à titre de revenu déterminant pour fixer les contributions d'entretien. Il soutient que l'arrêt attaqué ne retient pas qu'il aurait fait preuve de mauvaise volonté ou de manque de bonne volonté, élément indispensable pour tenir compte d'un tel revenu. Il estime qu'aux termes de la jurisprudence (arrêts 5A_724/2009 et 5A_352/2010), il doit être considéré comme ayant fourni les efforts que l'on pouvait raisonnablement exiger d'un débirentier au chômage.
4.1 Pour fixer la contribution d'entretien, le juge doit en principe tenir compte du revenu effectif du débirentier. Il peut toutefois lui imputer un revenu hypothétique supérieur. Il s'agit d'inciter la personne à réaliser le revenu qu'elle est en mesure de se procurer et dont on peut raisonnablement exiger qu'elle l'obtienne afin de remplir ses obligations. Le fait qu'un débirentier bénéficie d'indemnités de chômage ne dispense pas les autorités judiciaires civiles d'examiner si l'on peut lui imputer un revenu hypothétique. Les critères qui permettent de retenir un revenu hypothétique sont différents en droit de la famille et en droit social; ceux valables en matière d'assurance-chômage ne peuvent pas être repris sans autre considération en droit de la famille, lorsque l'entretien d'un enfant mineur est en jeu (<ref-ruling> consid. 3.1 p. 121).
4.1.1 Le débirentier qui décide de changer d'orientation professionnelle ou projette de créer sa propre entreprise en qualité d'indépendant, alors qu'il sait, ou doit savoir, qu'il doit assumer des obligations d'entretien, peut raisonnablement se voir imputer un revenu hypothétique, ce avec effet rétroactif au jour de la diminution (<ref-ruling> consid. 3.1 p. 121), si le changement professionnel envisagé par le débirentier implique une diminution significative de son revenu par rapport à celui qu'il pouvait réaliser grâce à son précédent emploi, d'une part, et s'il ne démontre pas avoir entrepris des démarches sérieuses afin de concrétiser sa réorientation professionnelle, d'autre part.
4.1.2 Lorsque le juge entend tenir compte d'un revenu hypothétique, il doit examiner successivement deux conditions. Tout d'abord, il doit juger si l'on peut raisonnablement exiger de cette personne qu'elle exerce une activité lucrative ou augmente celle-ci, eu égard, notamment, à sa formation, à son âge et à son état de santé; il s'agit d'une question de droit (arrêts précités 5A_99/2011 consid. 7.4.1; 5A_18/2011 consid. 3.1.1 et 5A_290/2010 consid. 3.1). Lorsqu'il tranche celle-ci, le juge ne peut pas se contenter de dire, de manière toute générale, que la personne en cause pourrait obtenir des revenus supérieurs en travaillant; il doit préciser le type d'activité professionnelle que cette personne peut raisonnablement devoir accomplir. Ensuite, il doit examiner si la personne a la possibilité effective d'exercer l'activité ainsi déterminée et quel revenu elle peut en obtenir, compte tenu des circonstances subjectives susmentionnées, ainsi que du marché du travail; il s'agit là d'une question de fait (<ref-ruling> consid. 4.2.2.2 p. 108; <ref-ruling> consid. 4c/bb p. 7 s.).
4.2 En l'occurrence, le recourant, au chômage depuis le mois de février 2011, a allégué avoir l'intention de se mettre à son compte dans le domaine du chauffage au cours de l'été 2012 et a produit à cet effet un "business plan" duquel il ressort qu'il escompte un revenu compris dans une fourchette entre 4'000 et 6'000 fr. par mois, à savoir environ 5'000 fr. inférieur au salaire qu'il tirait de son précédent emploi. En outre, il apparaît que le recourant n'a pas exposé les raisons pour lesquelles il entendait débuter son activité indépendante en été 2012 seulement, alors qu'il a présenté son projet à l'autorité précédente avant qu'elle rende son arrêt du 28 novembre 2011. De surcroît, au cours de l'instruction de la cause, le recourant a admis n'avoir entrepris aucune démarche pour mettre en ?uvre son projet d'activité lucrative indépendante (cf. supra consid. 3.2). Contrairement à ce qu'il soutient dorénavant, il faut donc s'en tenir aux constatations de l'arrêt entrepris, selon lesquelles le recourant n'a concrètement rien entrepris pour reprendre une activité professionnelle. Dans ces circonstances, il doit être admis que le recourant n'a pas effectué les démarches sérieuses que l'on pouvait raisonnablement exiger d'un débiteur d'aliments souhaitant se réorienter professionnellement. Le recourant n'ayant pas démontré avoir tout entrepris pour se mettre à son compte, d'une part, et pour se procurer un revenu équivalent à celui qu'il pourrait percevoir d'un emploi similaire à celui qu'il occupait précédemment, d'autre part, il est raisonnable de lui imputer un revenu hypothétique. A cet égard, l'autorité cantonale a suivi la jurisprudence en la matière (cf. supra consid. 4.1.2), ne violant ainsi pas le droit fédéral. Elle a, dans un premier temps, examiné en droit si l'on peut raisonnablement exiger de l'intimé qu'il exerce une activité lucrative, vu son âge, ses qualifications et son expérience professionnelles, ainsi que son état de santé. Le recourant ne conteste pas l'appréciation faite par la cour cantonale selon laquelle l'on peut raisonnablement exiger de lui qu'il exerce une activité lucrative, affirmant lui-même dans le contexte de la présente cause être en mesure de travailler et vouloir le faire en qualité d'indépendant. Dans un second temps, s'agissant notamment du montant du revenu que le recourant est capable de réaliser, la cour cantonale a écarté le "business plan" que le recourant a présenté, estimant son projet trop incertain, eu égard aux déclarations du recourant et à ses constatations de fait. L'autorité précédente a finalement constaté, en fait, que le recourant devait être capable de réaliser un revenu de 10'000 fr. considérant que, jusqu'au mois d'août 2010, il avait occupé un emploi salarié dans le domaine du chauffage rémunéré 11'050 fr. nets par mois, qu'il devait être en mesure de retrouver un emploi similaire à ses derniers postes après une période de chômage d'environ un an et également compte tenu du marché de l'emploi "pas particulièrement tendu" dans son domaine de compétence. Le recourant n'a au demeurant pas remis en cause ces constatations de fait, qui lient donc la cour de céans (art. 105 al. 1 LTF; cf. supra consid. 2.2). Vu ce qui précède, il peut être attendu du recourant, de manière raisonnable, qu'il retrouve une activité lucrative salariée afin de réaliser un revenu mensuel net de 10'000 fr. Le raisonnement des juges cantonaux est en conséquence conforme à la jurisprudence et le revenu hypothétique retenu pour le recourant ne viole pas le droit fédéral. Le premier grief soulevé par le débirentier est ainsi mal fondé.
5. Le recourant se plaint en deuxième lieu de l'établissement inexact des faits (art. 97 al. 1 LTF) et d'arbitraire s'agissant de la détermination de ses charges. Vu la situation financière familiale favorable, il affirme que la cour cantonale devait tenir compte des frais de véhicule allégués à concurrence de 1'322 fr. 15, en dépit du fait qu'il se trouve actuellement au chômage, partant, que l'on ignore si ses frais de déplacement seront à la charge de l'employeur, comme précédemment ou s'il devra les supporter. Le recourant rappelle à cet égard que, en règle générale, l'employé doit prendre à sa charge ses frais de véhicule et précise que ce poste de charge est effectif, en raison de l'exercice de son droit de visite. A titre subsidiaire, le recourant estime qu'un montant de 500 fr. devrait à tout le moins être retenu dans le calcul de ses charges, ainsi que cela avait été fait dans le cadre des mesures provisionnelles et que l'admet la partie adverse.
5.1 La règle selon laquelle les frais de véhicule ne peuvent être pris en considération que si celui-ci est indispensable au débiteur personnellement ou nécessaire à l'exercice de la profession ne vaut que lorsqu'on s'en tient au minimum d'existence LP (arrêt 5A_46/2009 du 22 mai 2009 consid. 6.3). En outre, même lorsqu'une voiture n'est pas indispensable à l'acquisition du revenu du débirentier, ce constat n'a pas pour conséquence d'exclure nécessairement la prise en considération de frais de déplacement pour les activités ménagères, de loisirs ou pour l'exercice du droit de visite (arrêts 5A_703/2011 du 7 mars 2012 consid. 4.2 et 5A_608/2011 du 13 décembre 2011 consid. 6.2.4).
5.2 Dans le cas d'espèce, la situation des parties étant suffisamment favorable pour couvrir les charges supplémentaires liées à l'existence de deux ménages, les dépenses nécessaires correspondant au minimum vital élargi peuvent être prises en compte, partant, un poste relatif aux frais de véhicule peut être ajouté dans les charges des parties. Le recourant soutient qu'un montant de 1'322 fr. 15, comprenant les frais de leasing, d'assurance et l'impôt sur le véhicule, devrait être retenu, subsidiairement un forfait de 500 fr. Or, les frais de déplacement qui peuvent être retenus dans les charges sont les coûts effectifs d'entretien et d'utilisation uniquement. En l'occurrence, l'arrêt querellé ne contient cependant aucune indication des montants effectifs constituant ce poste de charges, dès lors que l'autorité précédente n'en a pas tenu compte, estimant que l'on ignorait si le recourant devrait assumer lui-même ses frais de déplacement dans le cadre de son nouvel emploi. Singulièrement, le point de savoir si le coût de leasing du véhicule doit être pris en considération, autrement dit si cette dépense est justifiée, ne fait l'objet d'aucune constatation dans la décision entreprise et doit donc être examiné à l'aune des règles relatives au minimum vital du droit des poursuites. Il s'ensuit que le grief du recourant doit être admis sur le principe et la cause renvoyée à l'autorité précédente pour complément d'instruction en ce qui concerne le montant effectif des frais de déplacement du recourant, puis nouvelle décision dans le sens des considérants, la cour de céans ne disposant pas des éléments nécessaires pour recalculer le montant de la contribution d'entretien due à l'ex-épouse en tenant compte du nouveau solde disponible du débirentier.
6. Troisièmement, le recourant se plaint de la violation de l'art. 285 CC en relation avec la contribution d'entretien en faveur de chacun de ses enfants. Il ne conteste ni le coût de base de l'entretien d'un enfant calculé selon les tabelles zurichoises, ni les déductions de 400 fr. et 230 fr. apportées à ce montant, respectivement pour les soins et l'éducation en nature apportés par la mère et pour les allocations familiales, mais reproche aux juges précédents de ne pas avoir réduit de 25 % le montant résiduel pour tenir compte du niveau de vie du canton de Fribourg, plus bas que celui de la ville de Zurich. A l'appui de son reproche, il cite un arrêt du Tribunal fédéral (arrêt 5A_507/2007) et soutient que les tabelles zurichoises ne peuvent être reprises sans modification que lorsque les revenus cumulés des parents dépassent de 20 % leur minimum vital élargi. En définitive, le recourant soutient que le coût d'un enfant, après déduction des allocations familiales, est de 745 fr. jusqu'à l'âge de 12 ans révolus, puis de 973 fr. 75 dès lors et jusqu'à sa majorité. Il précise cependant reprendre ses conclusions d'appel, à savoir que l'entretien de chaque enfant se monte, pour les périodes respectives, à 1'100 fr. et 1'200 fr.
6.1 A teneur de l'art. 285 al. 1 CC, la contribution d'entretien doit correspondre aux besoins de l'enfant ainsi qu'à la situation et aux ressources des père et mère. Les enfants ont le droit de recevoir une éducation et de bénéficier d'un niveau de vie qui corresponde à la situation des parents; leurs besoins doivent également être calculés de manière plus large lorsque les parents bénéficient d'un niveau de vie plus élevé (<ref-ruling> consid. 3a/cc p. 289 s.; arrêts 5A_234/2011 du 21 novembre 2011 consid. 4.4.1 et 5A_220/2010 du 20 août 2010 consid. 2.1). La loi ne prescrit pas toutefois de méthode de calcul particulière pour arrêter la contribution d'entretien (ATF <ref-ruling>11 consid. 3.2.2 p. 414 s.); sa fixation relève de l'appréciation du juge, qui jouit d'un large pouvoir d'appréciation (<ref-ruling> consid. 3a p. 141; <ref-ruling> consid. 3b/bb p. 291; arrêt 5A_507/2007 du 23 avril 2008 consid. 5.1) et applique les règles du droit et de l'équité (art. 4 CC; <ref-ruling> consid. 3a p. 141). Il n'y a violation du droit fédéral que si le juge a abusé de son pouvoir d'appréciation en se référant à des critères dénués de pertinence, ou en ne tenant pas compte d'éléments essentiels, ou encore si, d'après l'expérience de la vie, le montant fixé apparaît manifestement inéquitable (<ref-ruling> consid. 5.1 p. 183; <ref-ruling> consid. 4.3 p. 576; <ref-ruling> consid. 2c/aa p. 162).
Les besoins d'entretien statistiques moyens retenus dans les «Recommandations pour la fixation des contributions d'entretien des enfants» éditées par l'Office de la jeunesse du canton de Zurich peuvent servir de point de départ pour la détermination des besoins d'un enfant dans un cas concret. Il y a toutefois lieu de les affiner en tenant compte, conformément à l'art. 285 al. 1 CC, des besoins concrets particuliers de l'enfant, ainsi que du niveau de vie et de la capacité contributive des parents (<ref-ruling> consid. 3a p. 112; arrêts 5A_507/2007 du 23 avril 2008 consid. 5.1, publié in FamPra.ch 2008 992, 5A_234/2011 du 21 novembre 2011 consid. 4.4.3).
6.2 En l'occurrence le recourant part de la prémisse erronée que les juges précédents ont uniquement augmenté le coût de base d'un enfant par rapport à celui retenu dans les tabelles zurichoises. Ainsi qu'il a été exposé (cf. supra consid. 3.1), les juges cantonaux ont procédé en deux étapes: ils ont d'abord en définitive augmenté le coût de base d'entretien, vu les revenus cumulés actuels confortables des parents, mais réduit simultanément ce coût, eu égard à la situation d'espèce, autrement dit au fait que la famille vit dans le canton de Fribourg. Ensuite, ils ont à nouveau augmenté le coût de base d'entretien d'un enfant, au motif que le recourant est désormais capable de réaliser un revenu de l'ordre de 10'000 fr., portant la capacité de gains globale des parents à 12'000 fr. Par ailleurs, l'adaptation des tabelles zurichoises à chaque cas d'espèce n'implique pas, sans autres considérations, une réduction systématique forfaitaire de 25 % du coût d'entretien, pour un enfant vivant dans une famille au revenu moyen, dans le canton de Fribourg (dans ce sens: arrêt 5A_690/2010 du 21 avril 2011 consid. 2.3). Le coût d'entretien déterminé par les tabelles, en dépit de leur dénomination, ne correspond pas au coût d'entretien effectif d'un enfant résidant dans la région zurichoise, mais correspond à une moyenne suisse. Il s'ensuit que le montant indicatif d'entretien d'un enfant, tel qu'il est déterminé par les tabelles, doit être adapté concrètement aux circonstances du lieu de résidence de l'enfant, aux besoins de l'enfant et aux moyens financiers de la famille (cf. supra consid. 6.1). Le débirentier est donc tenu d'alléguer que les frais de logement ainsi que les autres postes de l'entretien des enfants (nourriture et habillement notamment) seraient effectivement inférieurs dans le cas d'espèce par rapport à ceux retenus comme moyenne nationale pour établir les tabelles zurichoises. L'ajustement des besoins d'entretien d'un enfant ne saurait donc subir une réduction forfaitaire abstraite. En définitive, le raisonnement de la cour cantonale, qui a adapté le montant de référence des tables zurichoises aux circonstances concrètes de l'espèce, en particulier au train de vie mené par les parents auquel les enfants ont le droit de participer, n'apparaît pas contraire au droit. Sa critique est donc mal fondée.
7. Vu ce qui précède, le recours est partiellement admis, le recourant obtenant gain de cause sur la question de l'établissement de ses charges déterminantes pour le calcul de la contribution d'entretien en faveur de son ex-épouse, les autres griefs étant au surplus écartés. L'arrêt attaqué est par conséquent annulé et la cause est renvoyée à l'autorité cantonale pour nouvelle instruction et décision dans le sens des considérants.
Au vu du sort du litige, au terme duquel le recourant n'obtient que partiellement gain de cause sur l'une de ses deux conclusions au fond, il n'y a pas lieu de modifier la répartition des frais et dépens des instances cantonales et il convient de répartir les frais judiciaires de l'instance fédérale, arrêtés à 3'000 fr., à raison de 2'250 fr. à charge du recourant et de 750 fr. à charge de l'intimée (art. 66 al. 1 LTF). Une indemnité de 2'500 fr., à payer à titre de dépens à l'intimée, est mise à la charge du recourant (art. 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité précédente pour nouvelle décision au sens des considérants.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont répartis entre les parties à raison de 2'250 fr. à charge du recourant et de 750 fr. à charge de l'intimée.
3. Une indemnité de 2'500 fr., à payer à titre de dépens à l'intimée, est mise à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Ie Cour d'appel civil du Tribunal cantonal de l'Etat de Fribourg.
Lausanne, le 30 août 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Carlin