Faits:
A. A._ et B.X._, tous deux ressortissants libanais, se sont mariés en 1973 au Liban, comme l'atteste le certificat de mariage établi à cette date par l'archevêché orthodoxe d'Akkar et dépendances.
En 1999, les époux X._ se sont installés à Genève.
Le 22 mars 2001, B.X._ a fait devant notaire un testament public soumettant sa succession au droit suisse et instituant son épouse pour seule et universelle héritière. Au décès de celle-ci, le solde de la succession devait revenir à sa s?ur, C._ née X._.
B.X._ est décédé le 5 avril 2004 à Genève.
La déclaration de succession, datée du 26 juillet 2005, mentionnait que les époux avaient été mariés sous le régime de la séparation de biens.
Le 23 octobre 2006, l'Administration fiscale cantonale du canton de Genève a notifié à l'administrateur d'office de la succession le bordereau relatif à cette dernière. Calculé sur la base d'un avoir imposable de 23'756'725 fr., l'impôt successoral se montait à 2'773'397 fr. 60. La déclaration de succession avait été corrigée sur plusieurs points, dont le régime matrimonial ; l'Administration fiscale cantonale avait en effet considéré que les époux X._ étaient soumis au régime suisse ordinaire de la participation aux acquêts.
B. Les réclamations interjetées à l'encontre de ce bordereau par l'administrateur d'office de la succession et par A.X._ ont été partiellement admises par décision du 16 novembre 2007. L'impôt successoral a été ramené à 2'413'461 fr. 50, une dette de 5'077'542 $ étant prise en considération, à raison de 50%, comme passif matrimonial.
A l'encontre de cette décision, A.X._ a recouru à la Commission cantonale de recours en matière d'impôts (intégrée le 1er janvier 2009 dans la Commission cantonale de recours en matière administrative [ci-après: la Commission cantonale de recours], dont les compétences ont été reprises dès le 1er janvier 2011 par le Tribunal administratif de première instance du canton de Genève). Le recours portait sur la question du régime matrimonial applicable aux fins de déterminer l'avoir imposable. Selon la recourante, ce régime était celui de la séparation de biens, et non de la participation aux acquêts. A l'appui de son argumentation, elle a produit entre autres pièces un "certificat de coutume", établi à Beyrouth le 9 septembre 2008.
Par décision du 1er février 2010, la Commission cantonale de recours a rejeté le recours.
A.X._ a déféré ce prononcé au Tribunal administratif du canton de Genève - devenu entre-temps la chambre administrative de la Cour de justice du canton de Genève. Par arrêt du 26 juillet 2011, cette autorité a rejeté le recours.
C. Agissant par la voie du recours en matière de droit public, A.X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 26 juillet 2011, de dire que son défunt mari et elle étaient soumis au régime de la séparation de biens et d'inviter l'Administration fiscale cantonale à calculer l'impôt successoral dû en conséquence. A titre préalable, elle requiert que son recours emporte effet suspensif. Elle se plaint de violation des art. 55 al. 2 et 56 de la loi fédérale du 18 décembre 1987 sur le droit international privé (LDIP; RS 291).
L'Administration fiscale cantonale conclut au rejet du recours. L'autorité précédente s'en remet à justice quant à sa recevabilité et persiste au surplus dans les considérants et le dispositif de son arrêt. L'Administration fédérale des contributions renonce à se déterminer.
Par ordonnance présidentielle du 23 septembre 2011, la requête d'effet suspensif a été rejetée.

Considérant en droit:
1. 1.1 Le recours est dirigé contre un arrêt final (cf. <ref-law>) rendu dans une cause de droit public (cf. <ref-law>) par une autorité judiciaire supérieure ayant statué en dernière instance cantonale (cf. art. 86 al. 1 let. d et al. 2 LTF), sans qu'aucune des exceptions prévues à l'<ref-law> ne soit réalisée, de sorte que la voie du recours en matière de droit public est ouverte. En outre, le recours a été déposé en temps utile (cf. <ref-law>) et dans les formes prescrites (cf. <ref-law>) par la contribuable destinataire de la décision attaquée et qui a un intérêt digne de protection à son annulation ou sa modification (cf. <ref-law>). Il convient donc d'entrer en matière.
1.2 Le présent litige porte sur le calcul de l'impôt successoral dû par la recourante, en vertu de la loi genevoise sur les droits de succession du 26 novembre 1960 (RS/GE D 3 25), à la suite du décès de son mari. La Cour de céans étant compétente pour statuer sur cette question, elle l'est aussi pour trancher, à titre préjudiciel, le point de savoir quel était le régime matrimonial des époux X._ (cf. <ref-law>).
2. 2.1 Le droit applicable au régime matrimonial se détermine conformément aux <ref-law>, qui distinguent selon que les époux ont procédé à une élection de droit (art. 52 s.) ou non (art. 54 s.). L'<ref-law> régit pour sa part la forme du contrat de mariage.
L'<ref-law> pose le principe selon lequel le régime matrimonial est régi par le droit choisi par les époux.
Selon l'<ref-law>, l'élection de droit doit faire l'objet d'une convention écrite ou ressortir d'une façon certaine des dispositions du contrat de mariage; elle est, en outre, régie par le droit choisi.
A défaut d'élection de droit, l'<ref-law> pose le principe selon lequel le régime matrimonial est régi par le droit de l'Etat dans lequel les deux époux sont domiciliés en même temps (let. a) ou ont été domiciliés en même temps en dernier lieu (let. b).
Intitulé "Mutabilité et rétroactivité lors de changement de domicile", l'<ref-law> dispose qu'en cas de transfert du domicile des époux d'un Etat dans un autre, le droit du nouveau domicile est applicable et rétroagit au jour du mariage; les époux peuvent convenir par écrit d'exclure la rétroactivité (al. 1). Le changement de domicile n'a pas d'effet sur le droit applicable lorsque les époux sont convenus par écrit de maintenir le droit antérieur ou lorsqu'ils sont liés par un contrat de mariage (al. 2).
Sous le titre "Forme du contrat de mariage", l'<ref-law> prévoit que le contrat de mariage est valable quant à la forme s'il satisfait aux conditions du droit applicable au fond ou du droit du lieu où l'acte a été passé.
2.2 Si la forme du contrat de mariage est régie par l'<ref-law>, l'admissibilité, la validité et le contenu d'un tel contrat relèvent de la loi régissant le régime matrimonial, laquelle se détermine conformément aux art. 52 à 55 LDIP (Andreas Bucher, in Commentaire romand, Loi sur le droit international privé/Convention de Lugano, 2011, no 1 ad art. 56; Maurice Courvoisier, in Basler Kommentar, Internationales Privatrecht, 2e éd., 2007, nos 2 s. ad art. 56; Bernard Dutoit, Commentaire de la loi fédérale du 18 décembre 1987, 4e éd., 2005, no 1 ad art. 56 ; Anton Heini, in Zürcher Kommentar zum IPRG, 2e éd., 2004, no 1 ad art. 56).
Un contrat de mariage au sens de l'<ref-law> est un acte juridique bilatéral par lequel les époux règlent leur régime matrimonial, pour l'essentiel en se soumettant à un régime particulier d'un ordre juridique déterminé (Courvoisier, op. cit., no 5 ad art. 56 et les références).
3. 3.1 L'autorité précédente a considéré que les époux X._ n'avaient pas conclu de contrat de mariage. Le certificat de mariage du 11 mars 1973, en particulier, ne constituait pas un tel contrat. En l'absence d'élection de droit, leur régime matrimonial était régi par le droit suisse, en vertu de l'<ref-law>, puisqu'ils avaient transféré leur domicile à Genève en 1999. Selon la même disposition et à défaut de convention contraire, le droit suisse rétroagissait au jour du mariage. Par conséquent, à la date du décès, les époux X._ étaient soumis au régime ordinaire de la participation aux acquêts (<ref-law>).
3.2 En se référant au certificat du 9 septembre 2008, la recourante soutient que l'acte de mariage du 11 mars 1973 vaut contrat de mariage par lequel son défunt mari et elle se sont soumis au régime de la séparation de biens. En niant l'existence d'un tel contrat, l'autorité précédente aurait violé l'<ref-law>. En outre, dès lors qu'ils étaient liés par un contrat de mariage, le transfert de leur domicile du Liban à Genève était, en vertu de l'<ref-law>, sans effet sur le droit applicable. Les époux étaient donc restés soumis au régime de la séparation de biens prévu par le droit libanais. En jugeant qu'en vertu de l'<ref-law> le droit suisse était applicable, l'autorité précédente aurait violé l'al. 2 de cette disposition.
4. 4.1 La résolution du présent litige dépend du point de savoir si, comme le prétend la recourante, l'"acte de mariage" des époux X._ du 11 mars 1973 vaut contrat de mariage au sens des art. 55 al. 2 et 56 LDIP. En effet, si tel est le cas, le fait que ceux-ci ont transféré leur domicile en Suisse n'a pas entraîné de changement de leur statut matrimonial (cf. <ref-law>).
4.2 Selon sa traduction certifiée conforme par un traducteur-juré du canton de Genève, le document du 11 mars 1973 porte l'entête et le sceau de l'archevêché orthodoxe d'Akkar et dépendances et est intitulé "Certificat de mariage". Il mentionne les noms des époux, le chef spirituel qui a autorisé le mariage - dont il porte également la signature -, ainsi que le prêtre célébrant.
Le "certificat de coutume" établi à Beyrouth le 9 septembre 2008 a la teneur suivante:
"Je soussigné Me Y._ Professeur de droit de la famille à la faculté de droit de l'Université St Joseph et la Sagesse Beyrouth - Liban certifie ce qui suit :
En droit libanais régi par les lois communautaires Chrétiennes Catholiques (article 39) et Orthodoxes (articles 28-29), le régime légal qui régit les rapports matrimoniaux entre époux est celui de la séparation de biens.
Si les époux entendent soumettre les rapports matrimoniaux à un autre régime matrimonial, ils doivent le faire par écrit avant ou après le mariage.
L'acte de mariage auquel il n'est pas apporté de modification constitue ainsi un contrat de mariage valable à la forme et impliquant le choix du régime de la séparation de biens".
La recourante a en outre produit deux "certificats de coutume" établis respectivement le 19 novembre 1987 et le 1er décembre 2003 par le Département de la législation et des consultations du Ministère de la justice de la République libanaise, d'où il ressort que le régime légal des rapports patrimoniaux entre époux est, au Liban, celui de la séparation des biens.
4.3 Le certificat de mariage du 11 mars 1973 ne constitue pas en lui-même un acte juridique bilatéral par lequel les époux X._ auraient réglé leur régime matrimonial en se soumettant à un régime particulier, faute déjà d'avoir été établi par ces derniers. On ne saurait non plus y voir une attestation de la conclusion d'un tel acte par les époux X._, puisqu'il ne contient aucune indication relative à leur régime matrimonial, son seul objet étant la célébration du mariage par l'autorité religieuse.
Selon le "certificat de coutume" du 9 septembre 2008, le simple fait que les époux ne prévoient rien concernant le régime matrimonial, en "n'apportant pas de modification" à l'"acte de mariage", vaudrait contrat de mariage par lequel ceux-ci se soumettraient au régime légal de la séparation de biens, en renonçant du même coup à opter pour un autre régime matrimonial. Ce point de vue ne saurait être suivi, car cela reviendrait à assimiler la renonciation même (en l'occurrence par acte concluant) à conclure un contrat de mariage à un tel contrat. Dans un tel système, il ne pourrait y avoir de mariage sans contrat de mariage, soit que les époux concluent (expressément) une telle convention, soit qu'ils y renoncent (de manière expresse ou par acte concluant), ce qui serait également qualifié de contrat de mariage. Cela ne saurait correspondre à la notion de contrat de mariage telle que définie plus haut.
En l'absence d'un contrat de mariage au sens des art. 55 al. 2 et 56 LDIP, l'<ref-law> trouve application en l'espèce. Il en découle que le droit suisse est applicable et - en l'absence de convention contraire - rétroagit au jour du mariage. En vertu de l'<ref-law>, les époux X._ étaient ainsi soumis au régime ordinaire de la participation aux acquêts. Partant, la décision attaquée n'est pas contraire au droit fédéral.
5. Vu ce qui précède, le recours doit être rejeté.
Succombant, la recourante doit supporter un émolument judiciaire (cf. <ref-law>). Il n'y a pas lieu d'allouer des dépens (cf. <ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Des frais judiciaires de 6'000 fr. sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué au mandataire de la recourante, à l'Administration fiscale cantonale, à la Cour de justice du canton de Genève, chambre administrative, 2ème section, ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 29 février 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Vianin