Faits:
A. X._, né en 1927, et dame X._, née en 1924, se sont mariés en 1949 et ont toujours vécu depuis lors à Y._ (Genève).
B. Le 12 août 2003, les époux ont conclu un pacte successoral par-devant un notaire à Soleure et en présence de deux témoins, exposant vouloir définir leurs relations successorales à la mort du conjoint survivant ou dans l'éventualité de leur décès simultané (par. 1 al. 1 et par. 2). Ils ont d'abord rappelé avoir réglé séparément le cas du conjoint survivant, en ce sens que celui-ci recevait l'intégralité des biens des époux (par. 1 al. 2), et précisé ne pas avoir d'héritier réservataire (par. 3). Ensuite, les époux ont exprimé leurs souhaits au sujet de leurs biens meubles et immobiliers (par. 4, 8 et 9), ont institué héritiers par parts égales les neveux de l'épouse, D._ et C._, ainsi que deux avocats et notaires soleurois, A._ et B.Z._ (par. 5), ont attribué un legs de 100'000 fr., sous condition, à leur employée de maison (par. 7), et ont désigné A._ et B.Z._ en qualité d'exécuteurs testamentaires (par. 11).
C. Aux dires de dame X._, son époux serait tombé gravement malade dans le courant de l'année 2003. X._ est décédé le 23 mai 2007.
C.a Le 26 juin 2007, B.Z._ a adressé à la Justice de paix une copie certifiée conforme du pacte successoral du 12 août 2003 et du testament olographe du défunt daté du 29 janvier 1996, instituant son épouse unique héritière. Les par. 3 à 9 du pacte successoral remis à la Justice de paix étaient censurés, avec la mention apposée par A.Z._ qu'ils ne concernaient pas la succession du conjoint prédécédé. Une copie de ces documents a été envoyée à la veuve trois jours plus tard. Celle-ci a expliqué avoir été intriguée par les "démarches curieuses" de la famille Z._ et réclamé à B.Z._ une copie complète du pacte successoral du 12 août 2007. Celui-ci a déféré à sa requête le 25 mai 2009.
C.b Par courrier du 8 mars 2010, la veuve a fait savoir à D._, C._, A.Z._ et B.Z._ que le contenu du pacte successoral ne correspondait pas à sa volonté ni à celle de son époux et qu'ils avaient été victimes d'une erreur essentielle, voulant uniquement s'instituer héritier l'un l'autre. Considérant le par. 5 du pacte successoral comme une disposition testamentaire unilatérale, elle entendait le modifier en application de l'<ref-law> et invalider formellement le pacte successoral. Mis en demeure par la veuve un mois plus tard d'accepter la révocation, respectivement l'invalidation des dispositions du pacte successoral, seuls D._ et l'employée de maison ont accepté.
Dans l'intervalle, par testament olographe du 23 mars 2010, la veuve a institué D._, son employée de maison et deux paroisses en qualité d'héritiers.
C.c Le 7 juillet 2010, la veuve a ouvert action contre A.Z._, B.Z._ et C._ devant le Tribunal de première instance du canton de Genève aux fins de faire constater que les dispositions testamentaires du pacte successoral, en particulier le par. 5, avaient été librement révoquées, subsidiairement de "dire et juger" que ces dispositions avaient été valablement invalidées et étaient de nul effet. Les défendeurs ont excipé de l'incompétence ratione loci du tribunal saisi.
Par jugement du 15 mars 2011, le Tribunal de première instance a rejeté l'exception d'incompétence.
Sur appel de A.Z._, B.Z._ et C._, la Chambre civile de la Cour de justice du canton de Genève (ci-après: la Cour de justice) a confirmé, par arrêt du 9 décembre 2011, la décision querellée.
D. Par acte du 30 janvier 2012, A.Z._, B.Z._ et C._ interjettent un recours en matière civile au Tribunal fédéral. Ils concluent à la réforme de l'arrêt attaqué en ce sens qu'il est constaté que les juridictions du canton de Genève ne sont pas compétentes pour connaître de l'action en constatation de droit introduite le 7 juillet 2010. A l'appui de leur conclusion, ils invoquent les art. 3 et 18 aLFors, 10 et 28 CPC et 166 CC.

Considérant en droit:
1. Le présent recours interjeté contre une décision incidente notifiée séparément et portant sur la compétence à raison du lieu (<ref-law>; arrêts 5A_87/2011 du 23 septembre 2011 consid. 1; 4A_293/2010 du 31 août 2010 consid. 1), rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (art. 75 al. 1 et 2 LTF), dans une affaire concernant la révocation, subsidiairement l'annulation de dispositions à cause de mort (<ref-law>) dont on peut raisonnablement présumer, vu la substance de la succession, que la valeur litigieuse minimale de 30'000 fr. est atteinte (<ref-law>), est en principe recevable. Il a en outre été déposé en temps utile (<ref-law>) et dans la forme prévue par la loi (<ref-law>), par des parties ayant succombé devant l'autorité précédente et ayant un intérêt à l'annulation ou à la modification de l'arrêt entrepris (<ref-law>). Le recours en matière civile est donc recevable de ce chef.
2. 2.1 Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours en se fondant sur d'autres arguments que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (<ref-ruling> consid. 2.2 p. 550). Compte tenu toutefois de l'exigence de motivation posée, sous peine d'irrecevabilité (<ref-law>), à l'<ref-law>, il n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une autorité de première instance, toutes les questions juridiques qui peuvent se poser, lorsqu'elles ne sont plus discutées devant lui (<ref-ruling> consid. 1.4).
2.2 Sans être contredite par les parties, la Cour de justice a jugé l'exception d'incompétence soulevée, tant à la lumière des dispositions de la loi fédérale sur les fors en matière civile du 24 mars 2000 (ci-après: aLFors), qui a été abrogée par le Code de procédure civile du 19 décembre 2008 (ci-après: CPC), entré en vigueur le 1er janvier 2011 (ch. I. de l'annexe 1 à laquelle renvoie l'<ref-law>), qu'au regard de cette dernière loi. Elle a en effet relevé qu'il n'existe aucun problème de droit transitoire en l'espèce, car l'art. 18 al. 1 aLFors consacre essentiellement les mêmes principes à propos du for successoral que l'<ref-law>.
En l'espèce, l'action a été introduite le 7 juillet 2010, avant l'entrée en vigueur du CPC, mais la décision de première instance écartant l'exception d'incompétence et l'arrêt de la Cour de justice ont été rendus en 2011, alors que le nouveau droit était déjà applicable. C'est à juste titre que l'autorité précédente a retenu que les règles de fors sont équivalentes dans ces deux lois. En effet, il est exact que les art. 9 à 46 CPC reprennent telles quelles, sous réserve de modifications ponctuelles, les règles de compétence locale qui figuraient dans l'aLFors (arrêt 4A_145/2011 du 20 juin 2011 consid. 2; Message du Conseil fédéral du 28 juin 2006, FF 2006 6841 ch. 5.2.2 p. 6878, les art. 8 à 44 du projet étant devenus les art. 9 à 46 CPC; HOHL, Procédure civile, tome II, 2ème éd., 2010, n° 146).
3. Saisie d'un appel des défendeurs visant à faire reconnaître l'incompétence ratione loci des autorités genevoises, la Cour de justice a considéré qu'elle pouvait se dispenser de trancher le point de savoir si le for devait être examiné sous l'angle de l'action en annulation d'un pacte successoral pour cause d'erreur ou de dol, ou de l'action en constatation de la nature testamentaire de dispositions contenues dans un pacte successoral. L'autorité précédente a en effet relevé que l'époux cocontractant, dont les dispositions à cause de mort seraient viciées et dont l'annulation est requise, était décédé, partant, que l'action a été ouverte au for approprié, à savoir celui prévu par l'<ref-law>. Quant aux conclusions prises à titre personnel par la veuve, elles ont, selon les juges cantonaux, un lien de connexité manifeste au sens des art. 15 al. 2 et 90 CPC, de sorte que l'ensemble des conclusions aurait valablement été soumis au tribunal compétent quant au lieu pour en connaître.
A titre subsidiaire, la Cour de justice a considéré que, si la question du for de l'action en annulation d'un pacte successoral vicié ou en constatation de la nature testamentaire de dispositions à cause de mort demeurait pertinente, un lien de proximité suffisant existe dans le canton de Genève, au niveau des faits de la cause et de l'administration des preuves. L'autorité précédente a ainsi confirmé le jugement de première instance.
4. Le for successoral, initialement prévu par l'art. 538 al. 2 aCC, repris en substance par l'art. 18 aLFors (Message du Conseil fédéral du 18 novembre 1998, FF 1999 2591, p. 2616 art. 19 du projet), puis par l'<ref-law> (cf. supra consid. 2.2; Message du Conseil fédéral du 28 juin 2006, FF 2006 6841 ch. 5.2.2 p. 6878, spécialement p. 6881 art. 27 du projet), est prévu pour les actions en rapport étroit avec la succession, sauf convention contraire des parties (<ref-ruling> consid. 2a p. 28).
La doctrine et la jurisprudence s'accordaient à considérer que le for fixé à l'art. 538 al. 2 aCC s'appliquait, outre aux actions en annulation et en réduction énumérées de manière non exhaustive à cet article, aux actions en rapport, en constatation de droit sur des questions successorales, en annulation d'un contrat de partage, en annulation d'une répudiation, en exécution d'une charge, ou encore à la sanction de la réserve par l'<ref-law>, voire à une demande dirigée contre l'exécuteur testamentaire, l'administrateur ou le liquidateur officiels (<ref-ruling> consid. 2a p. 28; 72 I 175; PIOTET, Traité de droit privé suisse IV, Droit successoral, 2ème éd., 1988, par. 71 p. 491). L'adoption successive des art. 18 aLFors et 28 CPC n'a ni modifié, ni restreint le champ d'application du for au lieu du dernier domicile du défunt tel qu'il était prévu à l'art. 538 al. 2 aCC (Rapport relatif à l'avant-projet aLFors de la Commission d'experts créée au sein de la Fédération suisse des avocats (FSA), en collab. avec l'Office fédéral de la justice, n° V. 1. p. 5 et art. 19 p. 16, DONZALLAZ, Commentaire de la loi fédérale sur les fors en matière civile, 2001, n° 2 ad art. 18 aLFors p. 420; GRÜNINGER, Kommentar zum Bundesgesetz über den Gerichtsstand in Zivilsachen, 1ère éd., 2001, nos 1 et 16-24 ad art. 18 aLFors, p. 399 ss; HOHL, Les fors spéciaux de la loi fédérale sur les fors, in La loi sur les fors, 2011, p. 57 s.; VON WERDT, Kommentar zum Bundesgesetz über den Gerichtsstand in Zivilsachen, 2ème éd., 2005, nos 1 et 3-29 ad art. 18 aLFors, p. 220 ss; HALDY, Code de procédure civile commenté, 2011, nos 2 et 3 ad <ref-law>, p. 60). Sans contenir d'énumération des actions qui précèdent, le texte des art. 18 aLFors et 28 CPC fait directement référence aux "actions successorales", ainsi qu'aux "actions en liquidation du régime matrimonial faisant suite au décès de l'un des conjoints" (RO 2000 2355 p. 2359 art. 18 aLFors; RO 2010 1739 p. 1745 <ref-law>, RS 272). Pour toutes les actions qui doivent être ouvertes au for du droit des successions, il est nécessaire qu'il y ait un titre successoral.
Il convient donc d'examiner si tel est le cas en l'espèce.
5. 5.1 Les recourants se plaignent de la violation des règles de compétence au sens des art. 3 et 18 aLFors, ainsi que des art. 10 et 28 CPC. Ils exposent que la veuve ne pouvait pas ouvrir action au for successoral, soutenant, à l'instar d'une partie de la doctrine, que l'art. 18 aLFors ne concerne pas le cas d'une action en annulation d'un pacte successoral intentée par le de cujus de son vivant. Une telle action devrait être introduite au domicile du défendeur solvable, en raison de l'absence de succession ouverte. Les recourants soutiennent également que le for successoral prévu par les art. 18 aLFors et 28 CPC est inapplicable parce que l'intimée a ouvert une action en constatation de droit alors que "il n'y avait aucun de cujus et il n'y en a toujours pas". S'agissant de la motivation subsidiaire de la cour cantonale, les recourants exposent que les règles de compétence ne tiennent pas compte de la proximité des tribunaux avec le litige et que l'autorité cantonale reprend à mauvais escient une jurisprudence rendue en matière d'action négatoire examinée sous l'angle de la Convention de Lugano et offrant un for alternatif.
5.2 La veuve a ouvert une action en constatation de droit tendant à faire reconnaître la validité de la révocation de ses dispositions à cause de mort (<ref-law>), subsidiairement une action en annulation. La question de savoir si les dispositions litigieuses sont de nature testamentaire unilatérale, contractuelle relevant du pacte successoral ou si l'acte passé devant notaire le 12 août 2003 constitue un testament conjonctif prohibé, nul de plein droit (<ref-ruling> consid. 4 p. 285 avec les références) n'a pas à être tranchée. Vu l'incident soulevé par les recourants, il y a uniquement lieu d'examiner si le for successoral est donné simultanément pour ces deux actions, ce qui implique de déterminer au préalable si celles-ci sont de nature successorale, c'est-à-dire, à cause de mort.
5.2.1 Le for successoral (art. 18 aLFors et 28 CPC) s'applique à l'action en constatation de droit lorsque celle-ci concerne un titre successoral et soulève une question en relation étroite avec une succession ouverte. L'objet du litige est déterminé par les conclusions de la demande et par les faits invoqués à l'appui de celle-ci, à savoir par le complexe de faits sur lequel les conclusions se fondent (<ref-ruling> consid. 4.3.1 p. 126; <ref-ruling> consid. 2 p. 743; <ref-ruling> consid. 2a in fine p. 28; <ref-ruling> consid. 2 p. 270). En l'occurrence, il résulte des conclusions tendant à la constatation "que les dispositions testamentaires contenues dans le pacte successoral, en particulier le par. 5, [ont] été librement révoquées par [le] testament subséquent du 23 mars 2010" que l'action se fonde sur l'<ref-law> (constatation de la révocation). L'action intentée tend ainsi à la constatation du fait que le pacte successoral, en particulier le par. 5, constituait une disposition testamentaire aux yeux de chacun des époux, dont l'un est décédé, en sorte que l'action est en rapport direct avec une succession ouverte. L'action a donc pour objet un titre successoral, dont découle le statut d'héritier des défendeurs à l'action, à l'égard du survivant des époux X._. En effet, les recourants ont, en vertu des clauses querellées, notamment du par. 5 du pacte successoral, la qualité d'héritiers institués du défunt ou de l'intimée selon l'ordre des décès. Cette dernière a, d'une part, la qualité de cocontractante et d'héritière légale du défunt, d'autre part, celle de disposante par rapport aux recourants. L'action en constatation ouverte par la veuve soulève une question en rapport étroit avec la succession de son défunt époux, tant par son objet que par la qualité des parties. En conséquence, les autorités du for successoral au sens des art. 18 aLFors et 28 CPC sont compétentes ratione loci pour connaître de l'action en constatation de la révocation de dispositions à cause de mort.
5.2.2 S'agissant de l'action en annulation, les recourants fondent leur raisonnement sur le postulat que l'action dont le for est litigieux consiste en une action en annulation du vivant du de cujus. Selon les constatations des juges précédents, que les recourants ne critiquent pas, l'action en annulation du pacte successoral a été ouverte après la mort de l'un des cocontractants. Les dispositions litigieuses, notamment celle instituant héritiers les recourants, ont été convenues par les époux X._ dans l'hypothèse de leur décès simultané ou pour régler leurs relations successorales à la mort du conjoint survivant, de sorte qu'ils se sont mutuellement engagés à cause de mort. Les conclusions tendent par ailleurs à ce que "les mêmes dispositions [que celles visées par l'action en constatation], notamment le par. 5, [soient] valablement invalidées et [soient] de nul effet, car elles ne correspondaient pas à sa volonté ni à celle de son mari décédé". Dans l'hypothèse où la cause devra être tranchée à la lumière des dispositions de l'action en annulation, il importe peu de distinguer, à l'instar de l'autorité précédente, si l'intimée a agi pour son propre compte, pour celui de son défunt époux ou encore pour les deux. L'action en annulation entre vifs suppose en effet que tous les cocontractants soient vivants au jour de l'ouverture de l'action. Or, tel n'est pas le cas en l'espèce, l'époux cocontractant étant prédécédé à l'ouverture de l'action. Il en résulte que l'argumentation des recourants, fondée sur l'action en annulation de dispositions à cause de mort du vivant du disposant, tombe à faux, l'un au moins des cocontractants dont la volonté était viciée étant décédé au jour de l'ouverture de l'action. L'action en annulation des dispositions à cause de mort du pacte successoral du 12 août 2003 ouverte par la veuve est donc bien une action de nature successorale. En se basant sur l'<ref-law>, l'intimée requiert l'annulation des volontés exprimées de manière bilatérale dans le pacte successoral, alléguant un vice de la volonté du défunt affectant les dispositions litigieuses (<ref-law>) et en se prévalant de sa qualité d'héritière légale du défunt (<ref-law>). S'agissant d'une action en annulation des dispositions à cause de mort sur une succession ouverte (<ref-law>), le tribunal du dernier domicile du défunt est compétent au sens des art. 18 aLFors et 28 CPC (cf. supra consid. 4).
6. L'arrêt cantonal devant être confirmé dans son résultat, il n'y a pas lieu d'examiner la motivation subsidiaire de la Cour de justice (cf. supra consid. 3) à la lumière du second grief soulevé par les recourants fondé sur l'impossibilité pour la veuve de représenter son époux en vertu de l'<ref-law>.
7. En définitive, le recours doit être rejeté. Les frais judiciaires sont mis à la charge des recourants qui succombent (<ref-law>). Il n'y a pas lieu d'octroyer une indemnité de dépens à l'intimée qui n'a pas été invitée à déposer des observations.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis solidairement à la charge des recourants.
3. Le présent arrêt est communiqué aux parties et à la Chambre civile de la Cour de justice du canton de Genève.
Lausanne, le 4 mai 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Carlin