Faits:
A. A._, né en 1962, et dame A._, née en 1963, tous deux de nationalité suisse, se sont mariés le 11 novembre 1988 à Genève.
Deux enfants majeurs B._, né en 1989, et C._, née en 1993, sont issus de cette union.
Les époux A._ vivent séparés depuis le 11 septembre 2010, l'épouse et les enfants étant demeurés au domicile conjugal.
B. B.a Le 17 mars 2011, l'épouse a formé une requête de mesures protectrices de l'union conjugale auprès du Tribunal de première instance du canton de Genève. Par jugement du 7 juillet 2011, le tribunal a notamment autorisé les conjoints à vivre séparés, attribué à l'épouse la jouissance exclusive du domicile conjugal, donné acte à l'époux de ce qu'il prenait en charge l'intégralité des assurances-maladie de la famille, dont celle de l'épouse, condamné ce dernier à payer les intérêts de la dette hypothécaire du domicile conjugal et à contribuer à l'entretien de sa femme par le versement d'une somme mensuelle de 3'500 fr. dès le 1er octobre 2010, sous déduction des montants déjà versés à ce titre.
B.b Statuant sur appels de chacun des époux, la Cour de justice du canton de Genève a partiellement réformé ce jugement, par arrêt du 4 novembre 2011, notamment en arrêtant la contribution due par le mari en faveur de l'épouse à 5'000 fr.
C. Le 12 décembre 2011, A._ exerce un recours en matière civile au Tribunal fédéral contre cet arrêt, concluant à sa réforme en ce sens que la contribution due en faveur de son épouse soit ramenée à 3'000 fr. et due qu'une fois le jugement définitif et exécutoire. Il requiert préalablement l'octroi de l'effet suspensif. À l'appui de ses conclusions, il se plaint d'arbitraire dans la constatation des faits ainsi que dans l'application des art. 135 al. 2, 163, 176 al. 1 ch. 1 et 746 al. 1 CC et de l'art. 165 al. 1 CO.
Suite à la détermination de l'intimée, qui a conclu au rejet de la requête d'effet suspensif, l'effet suspensif a été attribué au recours par ordonnance du 13 janvier 2012 en ce qui concerne les aliments encore dus jusqu'au 30 novembre 2011.
Invitée à se déterminer sur le recours, l'intimée a conclu à son rejet. La cour cantonale s'est référée aux considérants de son arrêt.

Considérant en droit:
1. 1.1 La décision de mesures protectrices de l'union conjugale (art. 172 ss CC) est une décision en matière civile au sens de l'art. 72 al. 1 LTF. Elle est finale selon l'art. 90 LTF (<ref-ruling> consid. 4 et les références citées). Le recours a pour objet une décision rendue dans une affaire pécuniaire, dont la valeur litigieuse atteint 30'000 fr. (art. 51 al. 1 let. a et al. 4, 74 al. 1 let. b LTF). Il a par ailleurs été déposé en temps utile (art. 100 al. 1 LTF), contre une décision prise en dernière instance cantonale par le tribunal supérieur du canton de Genève (art. 75 LTF) et par une partie qui a pris part à la procédure devant l'autorité précédente et a un intérêt à la modification de l'arrêt attaqué (art. 76 al. 1 LTF). Le recours en matière civile est donc en principe recevable.
1.2 Comme l'arrêt attaqué porte sur des mesures provisionnelles au sens de l'art. 98 LTF (<ref-ruling> consid. 5, 585 consid. 3.3), la partie recourante ne peut dénoncer que la violation de droits constitutionnels. Le Tribunal fédéral n'examine de tels griefs que s'ils ont été invoqués et motivés (art. 106 al. 2 LTF), à savoir expressément soulevés et exposés de manière claire et détaillée (<ref-ruling> consid. 1.4). Il n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 2). Le recourant qui se plaint d'arbitraire ne saurait, dès lors, se borner à critiquer la décision attaquée comme il le ferait en instance d'appel, où l'autorité de recours jouit d'une libre cognition; il ne peut, en particulier, se contenter d'opposer sa thèse à celle de la juridiction cantonale, mais doit démontrer, par une argumentation précise, que cette décision repose sur une application de la loi manifestement insoutenable (<ref-ruling> consid. 3 et les références citées). L'arbitraire prohibé par l'art. 9 Cst. ne résulte pas du seul fait qu'une autre solution serait concevable, voire préférable; le Tribunal fédéral ne s'écarte de la décision attaquée que lorsque celle-ci est manifestement insoutenable, viole gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice ou de l'équité. Il ne suffit pas que la motivation de cette décision soit insoutenable; encore faut-il qu'elle se révèle arbitraire dans son résultat (<ref-ruling> consid. 3.1; <ref-ruling>).
1.3 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Dans l'hypothèse d'un recours soumis à l'art. 98 LTF, le recourant ne peut obtenir la rectification ou le complètement des constatations de fait de l'arrêt cantonal que s'il démontre la violation de droits constitutionnels par l'autorité cantonale (<ref-ruling> consid. 4.1). Les faits et moyens de preuve nouveaux sont prohibés, à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
Dans le domaine de l'appréciation des preuves et de la constatation des faits, le Tribunal fédéral se montre réservé, vu le large pouvoir qu'il reconnaît en la matière à l'autorité cantonale (<ref-ruling> consid. 4b; <ref-ruling> consid. 1b et les références citées). Il n'intervient, du chef de l'art. 9 Cst., que si le juge du fait n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans motifs objectifs de tenir compte de preuves pertinentes ou a opéré, sur la base des éléments recueillis, des déductions insoutenables (<ref-ruling> consid. 2.1); encore faut-il que la correction du vice soit susceptible d'influer sur le sort de la cause. Cette retenue est d'autant plus grande lorsque le juge n'examine la cause que d'une manière sommaire et provisoire (<ref-ruling> consid. 3.3 et les références citées). Ainsi en va-t-il dans le domaine des mesures protectrices de l'union conjugale, qui sont ordonnées à la suite d'une procédure sommaire, avec administration restreinte des moyens de preuve et limitation du degré de la preuve à la simple vraisemblance (<ref-ruling> consid. 2b/bb et les références citées; sous l'empire du CPC: cf. arrêt 5A_661/2011 du 10 février 2012 consid. 2.3).
2. Le recourant se plaint tout d'abord de la constatation des faits, en particulier de la manière dont les charges des parties ont été établies, et invoque l'arbitraire.
2.1 S'agissant de ses charges mensuelles de logement, il fait valoir que la cour cantonale a retenu à tort que les mensualités liées au crédit conclu avec la banque S._ s'élevaient à 424 fr. 45 alors qu'il ressortirait de la pièce produite que c'est un montant mensuel de 1'442 fr. 70 qui est dû.
La capacité contributive doit être appréciée en fonction des charges effectives du débirentier, étant précisé que seuls les montants réellement acquittés peuvent être pris en compte (<ref-ruling> consid. 3a; arrêt 5A_277/2009 du 6 juillet 2009 consid. 4.4.2). Or, en l'espèce, la pièce produite en instance cantonale n'établit pas formellement le montant dont le recourant s'acquitte mensuellement en relation avec le crédit en cause. La critique du recourant, qui prétend qu'il doit s'acquitter d'une échéance trimestrielle de 3'504 euros 50, ne permet en tous les cas pas de qualifier d'insoutenable l'appréciation de la cour cantonale, selon laquelle cette pièce atteste des intérêts et de primes assurances obligatoires pour 127'328 fr. 69 sur 300 mois. En effet, ces deux interprétations de la pièce en cause sont défendables. Par ailleurs, même si la cour cantonale a retenu, par erreur, 94'478 fr. 06 au lieu de 97'478 fr. 06 pour les intérêts, cette différence ne représente qu'un montant de 10 fr. mensuel (3'000 fr. / 300) et n'est dès lors pas susceptible d'influer sur l'issue du litige. Cela l'est d'autant moins que le recourant allègue dans son recours au Tribunal fédéral des charges mensuelles de chauffage inférieures de 10 fr. au montant retenu par la cour cantonale. Enfin, en tant que le recourant avance que l'intimée aurait admis des charges de logement pour 1'500 fr. le concernant, il perd de vue que la maxime inquisitoire est applicable (art. 272 CPC). Ce grief est donc infondé.
2.2 Le recourant se plaint également de ce que la cour cantonale aurait arbitrairement arrêté les frais mensuels de chauffage de l'épouse à 507 fr. au lieu des 193 fr. 60 allégués par celle-ci. Il indique à cet égard que le montant annuel de 6'086 fr. 20 correspond à la facture pour l'ensemble des résidences et que le montant concernant le domicile conjugal est de 2'323 fr. 20, renvoyant à un débit de son compte bancaire du 20 avril 2011. La charge de chauffage alléguée par le recourant est admise par l'intimée dans sa réponse du 16 avril 2012, c'est donc ce montant qu'il faut retenir. Cette dernière estime cependant qu'une différence de charges mensuelles de 300 fr. n'est pas propre à modifier la décision cantonale dans son résultat, la capacité contributive du recourant n'étant pas atteinte. Cette question sera examinée ultérieurement (cf. infra consid. 5.3).
3. S'agissant de ses revenus, le recourant reproche à l'autorité précédente d'avoir écarté le salaire qu'il a réalisé en 2008 et préconise de tenir compte uniquement de son salaire de 2011, à savoir 21'965 fr. 70. Quant aux revenus immobiliers, il fait valoir que ceux-ci reviennent à ses parents qui en sont usufruitiers, précisant que la constitution d'un usufruit sur des créances n'est pas soumise à la forme authentique.
3.1 La cour cantonale a arrêté le montant du salaire mensuel net réalisé en 2009 à 29'883 fr. et en 2010 à 24'686 fr. puis a évalué celui de 2011 à 22'868 fr., en tenant compte de la déclaration de l'employeur quant au salaire brut (25'756 fr.) auquel elle a retranché des charges sociales et des primes du deuxième pilier dans une proportion identique à 2009 (11,21 %). Elle y a ajouté les revenus de la fortune du recourant, en particulier les revenus mobiliers par 591 fr. 50 et immobiliers par 2'732 fr. (hormis ceux issus de l'appartement sis à la rue Gallatin, à Genève, dès lors que la mère du recourant en est l'usufruitière). Elle n'a en revanche pas tenu compte de l'usufruit en faveur des parents du recourant frappant les autres revenus immobiliers dès lors qu'il n'a pas été justifié par acte authentique.
Procédant à une moyenne sur les trois dernières années, la juridiction a établi les revenus mensuels du recourant à 29'000 fr. (arrondi). Elle n'a pas tenu compte des revenus de 2008 dès lors que, durant cette année, le recourant avait en partie travaillé aux Etats-unis et qu'elle a jugé peu vraisemblable qu'ils ne s'élevaient qu'à 17'027 fr. mensuellement.
3.2 De jurisprudence constante (arrêts 5A_687/2011 du 17 avril 2012 consid. 5.1.1; 5A_246/2009 du 22 mars 2010 consid. 3.1 publié in Fampra.ch 2010, p. 678 et les références citées), pour obtenir un résultat fiable en cas de revenus fluctuants, il convient de tenir compte du revenu net moyen réalisé durant plusieurs années. C'est donc sans arbitraire que la cour cantonale a procédé à une moyenne sur les trois dernières années. Par ailleurs, le fait qu'elle n'ait pas tenu compte de l'année 2008 pour le motif que les revenus allégués paraissaient trop bas (17'027 fr.) et que le recourant travaillait à l'étranger, ne peut pas non plus être qualifié d'insoutenable puisque celui-ci ne tente même pas de démontrer en quoi on ne saurait considérer comme peu crédible que son salaire ait été à ce point inférieur aux autres années, en particulier à celui de 2006 (31'406 fr.), dont l'autorité cantonale n'a d'ailleurs pas non plus tenu compte.
3.3 S'agissant des revenus immobiliers, la forme dans laquelle la convention a été passée importe peu pour l'issue du litige dès lors que ce n'est pas tant la validité formelle de la constitution de l'usufruit qui a été niée par les deux instances cantonales mais bien la valeur probante de la pièce produite quant à la cession des revenus immobiliers aux parents du recourant. Si la Cour de justice se contente d'indiquer que l'usufruit n'est pas justifié par acte authentique, le premier juge a quant à lui ajouté que la convention en cause n'était pas datée et que, contrairement à l'ensemble des autres actes, elle n'était pas passée sous la forme d'un acte authentique. Cette appréciation ne prête pas le flanc à la critique. Il n'est nullement insoutenable de considérer que cet acte n'est pas apte à justifier la cession des revenus immobiliers aux parents du recourant. En effet, soi-disant destinée à ne pas léser les autres héritiers réservataires de ces derniers à la suite d'une donation de 400'000 fr. pour l'acquisition de biens immobiliers, cette convention non datée a été passée sous seing privé alors que la donation de 400'000 fr. a, quant à elle, été stipulée non rapportable et passée en la forme authentique. Mal fondé, le grief du recourant doit ainsi être rejeté.
4. Le recourant invoque ensuite que la situation professionnelle de l'intimée a été mal évaluée et qu'il y avait lieu de comptabiliser un revenu hypothétique mensuel de 3'900 fr.
4. Le recourant invoque ensuite que la situation professionnelle de l'intimée a été mal évaluée et qu'il y avait lieu de comptabiliser un revenu hypothétique mensuel de 3'900 fr.
4.1 4.1.1 Même lorsqu'on ne peut plus sérieusement compter sur la reprise de la vie commune, ce que le juge du fait doit constater, l'art. 163 CC demeure la cause de l'obligation d'entretien réciproque des époux en mesures protectrices de l'union conjugale, comme il l'est aussi en mesures provisionnelles prononcées pour la durée de la procédure de divorce (<ref-ruling> consid. 3.2). Pour fixer la contribution d'entretien, selon l'art. 176 al. 1 ch. 1 CC, le juge doit partir de la convention, expresse ou tacite, que les époux ont conclue au sujet de la répartition des tâches et des ressources entre eux. Le juge doit ensuite prendre en considération qu'en cas de suspension de la vie commune (art. 175 s. CC), le but de l'art. 163 CC, soit l'entretien convenable de la famille, impose à chacun des époux le devoir de participer, selon ses facultés, notamment par la reprise ou l'augmentation de son activité lucrative, aux frais supplémentaires qu'engendre la vie séparée. Si la situation financière des époux le permet encore, le standard de vie antérieur, choisi d'un commun accord, doit être maintenu pour les deux parties. Quand il n'est pas possible de conserver ce niveau de vie, les époux ont droit à un train de vie semblable (<ref-ruling> consid. 4b/aa; arrêt 5A_710/2009 du 22 février 2010 consid. 4.1 non publié aux <ref-ruling>). Le juge peut donc devoir modifier la convention conclue pour la vie commune, pour l'adapter à la nouvelle situation. En revanche, le juge des mesures protectrices de l'union conjugale ne doit pas trancher, même sous l'angle de la vraisemblance, les questions de fond, objet du procès en divorce, en particulier celle de savoir si le mariage a influencé concrètement la situation financière du conjoint (<ref-ruling> consid. 3.1, précisant l'<ref-ruling>; sur l'application de ces derniers critères en procédure de divorce, cf. <ref-ruling> consid. 4).
4.1.2 Lors de la fixation de la contribution à l'entretien, le juge doit en principe tenir compte des revenus effectifs. Il peut toutefois imputer à un époux un revenu hypothétique supérieur à celui obtenu effectivement. Pour ce faire, il doit examiner successivement les deux conditions suivantes: Tout d'abord, il doit décider si l'on peut raisonnablement exiger de cette personne qu'elle exerce une activité lucrative ou augmente celle-ci, eu égard, notamment, à sa formation, à son âge et à son état de santé; il s'agit d'une question de droit. Lorsqu'il tranche celle-ci, le juge ne peut pas se contenter de dire, de manière toute générale, que la personne en cause pourrait obtenir des revenus supérieurs en travaillant; il doit préciser le type d'activité professionnelle que cette personne peut raisonnablement devoir accomplir. Ensuite, il doit examiner si la personne a la possibilité effective d'exercer l'activité ainsi déterminée et quel revenu elle peut en obtenir, compte tenu des circonstances subjectives susmentionnées, ainsi que du marché du travail; il s'agit-là d'une question de fait (<ref-ruling> consid. 4c/bb; <ref-ruling> consid. 2b). Pour arrêter le montant du salaire, le juge peut éventuellement se baser sur l'enquête suisse sur la structure des salaires, réalisée par l'Office fédéral de la statistique, ou sur d'autres sources (<ref-ruling> consid. 3.2; arrêt 5A_99/2011 du 26 septembre 2011 consid. 7.4.1 non publié aux <ref-ruling>; arrêt 5A_894/2010 du 15 avril 2011 consid. 3.1).
4.2 La cour cantonale a tout d'abord constaté que l'intimée, âgée de 48 ans, s'était occupée de la tenue du ménage et de l'éducation des enfants durant les 18 premières années de mariage et que ce n'est qu'en 2007 qu'elle avait repris une activité. Elle a relevé, à cet égard, que, après avoir exercé un emploi à 100 %, puis à 80 % auprès d'un autre employeur, l'intimée avait perçu des indemnités de chômage, épuisant son droit aux prestations, et subi une atteinte à sa santé de sept mois pour finalement reprendre une activité de vendeuse auxiliaire en octobre 2010 à raison de 20 heures hebdomadaires. L'autorité précédente a également retenu que celle-ci avait été licenciée pour le 30 juin 2011 et se trouvait en arrêt-maladie pour cause de dépression. La juridiction a ainsi jugé que ce parcours chaotique et instable dénotait que l'intimée n'avait pas été en mesure de travailler de façon régulière au-delà de sept mois consécutifs, voire d'une année en 2007. En outre, elle a jugé que, en l'état, elle se trouvait en incapacité de travail pour cause de dépression de sorte qu'il n'était pas possible qu'elle pourvoie même partiellement à son entretien.
4.3 Le recourant reproche à la cour cantonale d'avoir arbitrairement établi la situation professionnelle de l'intimée en tant qu'il a été retenu que celle-ci n'avait quasiment pas exercé d'activité lucrative durant le mariage et s'était occupée de la tenue du ménage et de l'éducation des enfants alors qu'en janvier 2005, elle avait déjà repris une activité à 100 % puis avait exercé un emploi de façon constante durant plus de 6 ans jusqu'au 30 juin 2011. Sur ce point, il se plaint de ce qu'il n'a pas été tenu compte des revenus réalisés jusqu'à cette date lors de la fixation de la contribution depuis le 1er octobre 2010. Concernant l'incapacité de travail invoquée par l'intimée, il en met en doute les raisons et précise qu'il n'a pas été démontré que celle-ci serait suivie par un psychiatre ni qu'elle ne percevrait pas d'indemnités pour perte de gain. En outre, le recourant fait valoir que l'intimée, âgée de 48 ans, dont les enfants sont majeurs et qui a travaillé régulièrement de 2005 à 2011 en qualité de vendeuse, peut exercer une activité à 100 %. Il préconise ainsi la prise en compte d'un revenu hypothétique correspondant au minimum de la convention collective cadre dans le domaine de la vente, à savoir 3'900 fr.
4.4 En l'occurrence, la question de savoir s'il peut être ou non exigé de l'intimée qu'elle exerce une activité peut demeurer indécise puisque la cour cantonale a considéré qu'en raison de son incapacité de travail, il n'était pas possible qu'elle pourvoie à son entretien. Cet élément suffit à lui seul à empêcher l'imputation d'un revenu hypothétique à l'intimée dès lors que, par cette constatation, la juridiction a nié la possibilité effective pour celle-ci de réaliser un revenu. Cette question relève du fait (cf. supra consid. 4.1.2). Or, les critiques du recourant sur ce point, qui se contente de mettre en doute les raisons de l'incapacité de travail de l'intimée, ne démontrent pas en quoi l'appréciation qu'a faite la cour cantonale du certificat médical régulièrement renouvelé serait insoutenable. Elles ne suffisent en tous les cas pas à établir que celui-ci ne serait pas probant quant à l'incapacité de l'épouse à travailler depuis le mois d'avril 2011. En tant que le recourant laisse entendre que celle-ci pourrait percevoir des indemnités pour perte de gain, ce grief est invoqué pour la première fois devant le Tribunal fédéral; il est donc nouveau, partant irrecevable dans un recours fondé sur l'art. 98 LTF (<ref-ruling> consid. 2; arrêt 5A_261/2009 du 1er septembre 2009 consid. 1.3, non publié sur aux <ref-ruling>). Enfin, les critiques du recourant relatives à la situation professionnelle de l'intimée en 2005 et 2006 sont sans incidence sur l'issue du litige dès lors qu'elles visent à démontrer qu'il peut être exigé de celle-ci qu'elle travaille. En définitive, on ne saisit pas en quoi il est arbitraire de considérer que l'épouse, dont l'incapacité de travail est prouvée par certificat médical, ne peut pourvoir même partiellement à son entretien dès le 1er juillet 2011, ce d'autant plus que les revenus du recourant permettent de maintenir le niveau de vie antérieur des époux. Mal fondées pour autant que recevables, les critiques du recourant doivent être rejetées.
4.5 En revanche, la cour cantonale est tombée dans l'arbitraire en ne tenant pas compte des revenus réalisés par l'épouse entre octobre 2010 et juin 2011. En effet, même si elle a valablement constaté que l'intimée a travaillé pour X._ SA et réalisé un revenu mensuel moyen d'environ 1'875 fr. durant cette période, elle n'a pas arrêté de manière différenciée la contribution due par le mari par rapport à la période consécutive à la perte d'emploi et à l'incapacité de travail de l'épouse. Le recours est dès lors fondé sur ce point; une réforme de l'arrêt ne se justifie cependant que dans la mesure où la contribution est due rétroactivement, question que conteste le recourant et qui sera examinée plus loin (cf. infra consid. 6).
5. Le recourant remet en cause la méthode de calcul retenue par la cour cantonale; il préconise l'application de celle du minimum vital avec répartition de l'excédent et procède à un nouveau calcul.
5.1 En cas de situation économique favorable, dans laquelle les frais supplémentaires liés à l'existence de deux ménages séparés sont couverts, l'époux créancier peut prétendre à ce que la pension soit fixée de façon telle que son train de vie antérieur, qui constitue la limite supérieure du droit à l'entretien, soit maintenu (<ref-ruling> consid. 3b; arrêts 5A_475/2011 du 12 décembre 2011 consid. 4.2; 5A_205/2010 du 12 juillet 2010 consid. 4.2.3). La comparaison des revenus et des minima vitaux est alors inopportune; il faut se fonder sur les dépenses nécessaires au maintien du train de vie (<ref-ruling> consid. 2 p. 425 s.), méthode qui implique un calcul concret (arrêt 5A_661/2011 du 10 février 2012 consid. 4.2.1; arrêt 5A_732/2007 du 4 avril 2008 consid. 2.2). Cela étant, lorsqu'il est établi que les époux ne réalisaient pas d'économies durant le mariage, ou que l'époux débiteur ne démontre pas qu'ils ont réellement fait des économies, ou encore qu'en raison des frais supplémentaires liés à l'existence de deux ménages séparés et de nouvelles charges, le revenu est entièrement absorbé par l'entretien courant, il est admissible de s'écarter d'un calcul selon les dépenses effectives des époux durant la vie commune. En effet, dans de tels cas, la méthode du minimum vital élargi avec répartition, en fonction des circonstances concrètes, de l'excédent entre les époux permet de tenir compte adéquatement du niveau de vie antérieur et des restrictions à celui-ci qui peuvent être imposées au conjoint créancier (cf. pour une contribution après divorce : <ref-ruling> consid. 4.2.1.1).
5.2 La cour cantonale a tout d'abord constaté qu'avant la désunion du couple, les charges de la famille s'élevaient environ à 20'000 fr. par mois et a retenu que les revenus de l'époux présentaient un excédent de 9'000 fr. une fois celles-ci acquittées. Elle a ensuite relevé que les charges supplémentaires dues à la séparation se montaient à 805 fr. de sorte que l'excédent n'était plus que d'environ 8'200 fr., montant qu'il y avait lieu de répartir de manière égale entre les quatre membres de la famille. La juridiction a ainsi jugé que l'épouse avait droit à sa part à l'excédent par 2'050 fr. ainsi qu'à un montant de 2'553 fr. lui permettant de couvrir ses propres charges, à savoir 507 fr. pour les frais de chauffage (recte 193 fr. 60 [cf. supra consid. 2.2]), 63 fr. pour l'entretien de la piscine, 633 fr. pour les frais de véhicule et 1'350 fr. représentant la base d'entretien mensuelle. Elle a encore inclus les impôts, estimés à 220 fr. mensuellement, et arrondi le montant de la contribution à 5'000 fr. (2'050 fr. + 2'553 fr. + 220 fr. = 4'823 fr.) compte tenu de l'important disponible réservé aux enfants. À cette pension en espèces s'ajoute une contribution en nature d'environ 1'360 fr. dès lors que le recourant se charge des intérêts hypothécaires de la villa de D._ (2'698 fr. / 3 personnes) et de la prime d'assurance-maladie (457 fr.).
5.3 S'agissant de la méthode retenue, en comptabilisant dans un premier temps l'ensemble des charges des parties, y compris celles consécutives à la séparation puis en répartissant le solde entre les différents membres de la famille, la cour cantonale a en réalité appliqué la méthode du minimum vital avec répartition de l'excédent, ce que le recourant ne critique pas puisque c'est celle qu'il préconise. Le résultat différent auquel celui-ci parvient est dû uniquement au fait que les chiffres allégués diffèrent pour de nombreux postes de ceux retenus par la cour cantonale, en particulier en ce qui concerne les frais de logement de l'appartement de E._. Or, sur ce point, il n'est pas parvenu à démontrer qu'ils auraient été arrêtés de manière arbitraire (cf. supra consid. 2.1). En tant que le recourant conteste la prise en compte des frais de véhicule de l'intimée et les frais d'entretien de la piscine, il perd de vue que celle-ci a droit au maintien de son train de vie antérieur et que des frais de véhicule du même ordre ont été retenus pour lui. Il s'abstient en outre de toute critique quant à l'entretien des enfants et allègue des montants qui ne ressortent pas de l'arrêt cantonal. Enfin, même si c'est un montant de 193 fr. 60 qu'il y a lieu de retenir pour les frais de chauffage de l'épouse au lieu des 507 fr. pris en compte par la cour cantonale (cf. supra consid. 2.2), le résultat auquel est parvenue la cour cantonale n'est pas arbitraire: le recourant ne prétend pas, ni ne démontre que la contribution d'entretien à laquelle s'ajoute ainsi un montant de 313 fr. 40, permettrait à l'épouse de mener un train de vie supérieur à celui que les époux menaient durant la vie commune, lequel ne résulte pas des constatations de fait, étant précisé que chacun des époux a droit à une part égale des moyens devenus disponibles après que les enfants - auxquels la cour cantonale a réservé un quart du disponible - ne sont plus à leur charge (<ref-ruling> consid. 8; arrêt 5A_340/2011 du 7 septembre 2011 consid. 4.3). Il s'ensuit que, pour autant que recevables, les critiques du recourant relatives à la méthode et au calcul de la contribution d'entretien doivent être rejetées.
6. Invoquant les art. 9 Cst. et 135 al. 2 CC, le recourant se plaint, dans un dernier grief, de ce que la cour cantonale a fixé le point de départ de la contribution d'entretien au 1er octobre 2010. À cet égard, il lui reproche de ne pas avoir tenu compte du fait qu'il avait contribué à l'entretien des siens à hauteur de 5'533 fr. en moyenne par mois. Il fait en outre valoir que, dans le cadre d'une poursuite, le juge de la mainlevée ne serait pas compétent pour calculer la part des versements afférente aux pensions alimentaires. Il requiert donc que la contribution ne soit due qu'à l'entrée en force de l'arrêt.
6.1 En l'espèce, on ne saisit pas en quoi l'autorité cantonale aurait arbitrairement appliqué l'art. 135 al. 2 CC - qui a été abrogé et qui ne traitait du reste pas de la question - en fixant le début de l'obligation d'entretien au moment de la séparation effective des parties, étant rappelé que les contributions pécuniaires fixées par le juge dans le cadre des mesures protectrices de l'union conjugale peuvent être réclamées pour l'avenir et pour l'année qui précède l'introduction de la requête (art. 173 al. 3 CC, applicable dans le cadre de l'organisation de la vie séparée selon l'art. 176 CC; <ref-ruling> ss). Le grief du recourant doit dès lors être rejeté dans la mesure où il est recevable.
6.2 Dès lors que le principe de la rétroactivité de la contribution a été confirmé (cf. supra consid. 6.1), il convient de calculer le montant de celle-ci pour la période durant laquelle la recourante a réalisé un revenu, à savoir d'octobre 2010 à juin 2011 (cf. supra consid. 4.5). Pour ce faire, il faut ajouter le montant du revenu mensuel de l'intimée par 1'875 fr. à l'excédent de 8'500 fr., après le paiement des charges du couple (8'200 fr. + 300 fr. pour tenir compte des frais de chauffage corrigés), pour un total de 10'375 fr., à savoir 2'594 fr. par personne. L'intimée a ainsi droit à 2'594 fr., augmenté de 2'459 fr. 60 pour le paiement de ses charges (à savoir 193 fr. 60 pour les frais de chauffage, 63 fr. pour l'entretien de la piscine, 633 fr. pour les frais de véhicule, 1'350 fr. représentant la base d'entretien mensuelle et 220 fr. pour les impôts), soit 5'053 fr. 60 qu'il y a lieu d'arrondir à 5'100 fr. La contribution du recourant s'élève ainsi à 3'225 fr. (5'100 fr. - 1'875 fr.) mensuellement du 1er octobre 2000 au 30 juin 2011.
6.3 En tant qu'il avance que la cour n'a pas tenu compte du fait qu'il avait contribué à l'entretien des siens à hauteur de 5'533 fr. en moyenne par mois et invoque que le juge de la mainlevée ne serait pas compétent pour calculer la part des versements afférente aux pensions alimentaires, le recourant prétend en réalité s'être acquitté de l'ensemble des contributions d'entretien dues jusqu'au jour du recours.
En l'occurrence, la cour cantonale a condamné le mari à verser à l'épouse une contribution mensuelle de 5'000 fr., sous déduction des montants déjà versés. Dans les considérants de l'arrêt, elle a constaté que celui-ci avait versé une pension mensuelle de 2'400 fr. et a prévu qu'il y avait lieu de déduire de la contribution de 5'000 fr. les charges concernant l'intimée dont le recourant s'est acquitté, hormis les intérêts hypothécaires relatifs au domicile conjugal de D._ et la prime d'assurance-maladie de l'intimée. Elle a cependant indiqué que les pièces versées en vrac par le recourant ne permettaient pas de procéder à ce calcul dans cette procédure. Or, selon la jurisprudence, si les prestations d'entretien déjà versées sont simplement réservées dans le dispositif, la somme constatée dans celui-ci ne correspond pas au montant mensuel qui doit être payé pour les contributions d'entretien rétroactives et, de plus, si celui-ci ne peut pas non plus être déduit de la motivation du jugement de mesures protectrices de l'union conjugale, la mainlevée définitive ne peut être prononcée sur la base de ce jugement, faute d'une obligation de payer claire (<ref-ruling> consid. 2). Il s'ensuit qu'il appartenait bien à l'autorité précédente, saisie de la question, de déterminer précisément dans quelle mesure le recourant avait d'ores et déjà contribué à l'entretien de son épouse jusqu'au prononcé de son arrêt. Il y a donc lieu de renvoyer la cause à la cour cantonale pour que, si faire se peut, elle arrête, au moyen de pièces produites par le recourant, le montant qu'il convient de déduire, de ce fait, des sommes dues par celui-ci pour la période du 1er octobre 2010 au 31 octobre 2011.
7. En définitive, le recours doit être partiellement admis et l'arrêt attaqué réformé en ce sens que A._ est condamné à verser à dame A._ une contribution mensuelle de 5'000 fr. dès le 1er novembre 2011. La cause est en outre renvoyée à la cour cantonale pour qu'elle détermine, si faire se peut, le montant qu'il y a lieu de déduire des sommes dues par le recourant pour la période du 1er octobre 2010 au 31 octobre 2011, à savoir une contribution mensuelle de 3'225 fr. du 1er octobre 2010 au 30 juin 2011 puis de 5'000 fr. du 1er juillet au 31 octobre 2011. Le recours est rejeté pour le surplus. Les frais judiciaires sont répartis à raison de 1'000 fr. à charge de l'intimée et de 2'000 fr. à charge du recourant qui succombe dans la plupart de ses chefs de conclusions (art. 66 al. 1 LTF). Le recourant versera à l'intimée une indemnité de dépens réduite à hauteur de 1'000 fr. (art. 68 al. 1 LTF). Il appartiendra à l'autorité cantonale de statuer à nouveau sur les frais et dépens de la procédure cantonale (art. 68 al. 5 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis et l'arrêt cantonal est réformé en ce sens que A._ est condamné à verser à dame A._ une contribution mensuelle de 5'000 fr. dès le 1er novembre 2011.
2. La cause est renvoyée à la cour cantonale pour nouvelle décision, au sens des considérants, sur le montant de l'arriéré dû pour la période du 1er octobre 2010 au 31 octobre 2011.
3. Le recours est rejeté pour le surplus.
4. Les frais judiciaires, arrêtés à 3'000 fr., sont mis pour 2'000 fr. à la charge du recourant et pour 1'000 fr. à la charge de l'intimée.
5. Une indemnité de 1'000 fr., à payer à l'intimée à titre de dépens, est mise à la charge du recourant.
6. Le présent arrêt est communiqué aux parties et à la Chambre civile de la Cour de justice du canton de Genève.
Lausanne, le 11 juin 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
Le Greffier: Richard