Sachverhalt:
A. Die Sparkasse Y._, in B._, Deutschland, betrieb mit Zahlungsbefehl vom 5. März 2008 (Betreibung Nr. xxxx des Betreibungsamts A._) X._ mit Wohnsitz in A._ über den Betrag von Fr. 3'161'400.-- nebst 5 % Zins seit 3. März 2008. Die Sparkasse stützte ihre Forderung auf einen vom Betriebenen als Selbstschuldner unterzeichneten Bürgschaftsvertrag vom 9./10. November 2006 über EUR 2'000'000.--, mit welchem Forderungen der Sparkasse gegen die W._ GmbH aus einem Rahmenvertrag für Fremdwährungsdarlehen gesichert worden sein sollen. Der Betriebene erhob Rechtsvorschlag.
Auf Gesuch um provisorische Rechtsöffnung vom 28. Mai 2008 hin erteilte der Amtsgerichtspräsident III von Luzern-Land mit Entscheid vom 2. September 2009 der Sparkasse Z._, (ebenfalls mit Sitz in B._), welche die Sparkasse Y._ in der Zwischenzeit übernommen hatte, die provisorische Rechtsöffnung für den Betrag von Fr. 3'161'400.-- nebst 5 % Zins seit 4. März 2008.
B. Gegen diesen Rechtsöffnungsentscheid erhob X._ am 10. September 2009 Rekurs an das Obergericht des Kantons Luzern und beantragte, den angefochtenen Entscheid aufzuheben und auf das Rechtsöffnungsgesuch mangels örtlicher Zuständigkeit nicht einzutreten, eventualiter dieses abzuweisen.
Mit Entscheid vom 24. November 2009 erteilte das Obergericht die provisorische Rechtsöffnung für den Betrag von Fr. 3'124'812.45 nebst 5 % Zins seit 27. Januar 2009.
C. Am 13. Januar 2010 hat X._ (fortan: Beschwerdeführer) Beschwerde in Zivilsachen erhoben. Er beantragt, den Entscheid des Obergerichts vom 24. November 2009 aufzuheben und auf das Rechtsöffnungsgesuch mangels örtlicher Zuständigkeit nicht einzutreten. Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Zudem ersucht er um aufschiebende Wirkung.
Nachdem das Obergericht gegen die Anordnung aufschiebender Wirkung keine Einwände angebracht und sich die Sparkasse Z._ (fortan: Beschwerdegegnerin) ablehnend geäussert hat, ist das Gesuch um aufschiebende Wirkung mit Präsidialverfügung vom 1. Februar 2010 abgewiesen worden.
In der Sache schliesst die Beschwerdegegnerin auf Abweisung; ebenso das Obergericht, soweit auf die Beschwerde eingetreten werden könne.

Erwägungen:
1. Angefochten ist binnen Frist (Art. 46 Abs. 1 lit. c, Art. 100 Abs. 1 BGG) ein kantonal letztinstanzlicher Endentscheid (Art. 75 Abs. 1, Art. 90 BGG) über eine provisorische Rechtsöffnung. Somit liegt eine Zwangsvollstreckungssache (<ref-law>) vermögensrechtlicher Natur vor. Der erforderliche Streitwert ist bei weitem überschritten (<ref-law>), so dass auf die Beschwerde einzutreten ist.
2. Umstritten ist vor Bundesgericht einzig die internationale Zuständigkeit der Schweizer Gerichte zur Erteilung der provisorischen Rechtsöffnung. Der Beschwerdeführer bestreitet hingegen nicht mehr, dass die vorgelegten Urkunden als Rechtsöffnungstitel im Sinne von <ref-law> taugen.
2.1 Wie bereits vor den Vorinstanzen beruft sich der Beschwerdeführer auf die zwischen den Parteien geschlossene Gerichtsstandsvereinbarung. Ziffer 9 (unter der Überschrift "Gerichtsstand") des Bürgschaftsvertrags vom 9./10. November 2006 lautet wie folgt:
"Soweit sich die Zuständigkeit des allgemeinen Gerichtsstandes der Sparkasse nicht bereits aus <ref-law> ergibt, kann die Sparkasse ihre Ansprüche im Klageweg an ihrem allgemeinen Gerichtsstand verfolgen, wenn der im Klageweg in Anspruch zu nehmende Bürge Kaufmann oder eine juristische Person im Sinne der Nr. 6 AGB ist oder bei Übernahme der Bürgschaft keinen allgemeinen Gerichtsstand im Inland hat oder später seinen Wohnsitz oder gewöhnlichen Aufenthaltsort aus der Bundesrepublik Deutschland verlegt oder sein Wohnsitz oder gewöhnlicher Aufenthaltsort im Zeitpunkt der Klageerhebung nicht bekannt ist."
Unter Ziff. 13 ("Besondere Vereinbarungen") ist maschinenschriftlich Folgendes eingefügt worden:
"Es gilt das Recht der Bundesrepublik Deutschland. Erfüllungsort und Gerichtsstand ist B._, soweit rechtlich zulässig."
2.2 Die Vorinstanz hat die zitierte Gerichtsstandsklausel ausgelegt und ist dabei zum Schluss gekommen, dass sie sich einzig auf den Klageweg, nicht aber auf das Verfahren auf provisorische Rechtsöffnung beziehe. Das Obergericht hat folglich die schweizerische Zuständigkeit für die provisorische Rechtsöffnung bejaht und offen gelassen, ob dieses Verfahren unter <ref-law> (SR 0.275.11) fällt oder nicht.
2.3 Die Tragweite der Gerichtsstandsklausel braucht vorliegend nicht geklärt zu werden. Ebenso kann die von der Vorinstanz nicht behandelte Frage offen bleiben, nach welchem Recht die Vereinbarung überhaupt auszulegen wäre. Aus den nachfolgenden Erwägungen ergibt sich nämlich, dass der Gerichtsstand der provisorischen Rechtsöffnung gar nicht vertraglich ausgeschlossen werden kann.
3. 3.1 Die provisorische Rechtsöffnung fällt in den Anwendungsbereich des Lugano-Übereinkommens (<ref-ruling> E. 5.2 S. 291). Insbesondere stellt sie keine Ausnahme gemäss <ref-law> dar. Ob im Verfahren der provisorischen Rechtsöffnung der Gerichtsstand gemäss <ref-law> oder sonst ein Erkenntnisgerichtsstand des Lugano-Übereinkommens eingehalten werden muss oder ob das Verfahren unter <ref-law> fällt, hat das Bundesgericht bisher offen gelassen (<ref-ruling> E. 5.2 S. 291).
Der allgemeine Wohnsitz- (<ref-law>) und der Zwangsvollstreckungsgerichtsstand (<ref-law> i.V.m. Art. 84 Abs. 1 und Art. 46 Abs. 1 SchKG) sind vorliegend identisch. Zu prüfen ist aber, ob die provisorische Rechtsöffnung Gegenstand einer Gerichtsstandsvereinbarung (<ref-law>) bilden kann. Dabei geht es von vornherein nicht um die Prorogation eines ausländischen Gerichtsstandes, da im Ausland die spezifisch schweizerische Besonderheit des Rechtsöffnungsverfahrens nicht bekannt ist, sondern einzig um die Derogation der schweizerischen Rechtsöffnungszuständigkeit.
3.2 Einer Gerichtsstandsvereinbarung kommt gemäss <ref-law> keine rechtliche Wirkung zu, wenn die Gerichte, deren Zuständigkeit abbedungen wird, aufgrund von <ref-law> ausschliesslich und damit auch zwingend (GERHARD WALTER, Internationales Zivilprozessrecht der Schweiz, 3. Aufl. 2002, S. 218) zuständig sind. Ob die provisorische Rechtsöffnung unter <ref-law> fällt, ist in der Lehre umstritten. Während sich ein Teil der Doktrin dafür ausspricht (namentlich PAUL Volken, Rechtsprechung zum Lugano-Übereinkommen [1993], SZIER 1994, S. 398 ff., 408 ff.; ders., Rechtsprechung zum Lugano-Übereinkommen [1995], SZIER 1996, S. 96 f.; Pierre-Robert Gilliéron, Commentaire de la loi fédérale sur la poursuite pour dettes et la faillite, 1999, N. 93 zu <ref-law>; Spühler/ Infanger, Anwendung des LugÜ, insbesondere von <ref-law>, auf SchKG-Klagen, in: Spühler [Hrsg.], Aktuelle Probleme des nationalen und internationalen Zivilprozessrechts, 2000, S. 121 ff.; Myriam A. Gehri, Wirtschaftsrechtliche Zuständigkeiten im internationalen Zivilprozessrecht der Schweiz, 2002, S. 164; André Schmidt, in: Commentaire romand, Poursuite et faillite, 2005, N. 4 zu <ref-law>, der zudem den Anwendungsbereich des LugÜ nicht für eröffnet hält), vertreten zahlreiche Autoren die gegenteilige Ansicht (insbesondere ALEXANDER R. MARKUS, Lugano-Übereinkommen und SchKG-Zuständigkeiten, 2. Aufl. 1997, S. 66 ff., 176 f.; DERS., in: Dasser/Oberhammer [Hrsg.], Kommentar zum Lugano-Übereinkommen [LugÜ], 2008, N. 20 ff. zu Art. 16 Nr. 5 LugÜ; YVES DONZALLAZ, La Convention de Lugano, Bd. III, 1998, N. 6383; MATTHIAS STAEHELIN, in: Kommentar zum Bundesgesetz über Schuldbetreibung und Konkurs, 1998, N. 20 zu <ref-law>; DANIEL STAEHELIN, in: Kommentar zum Bundesgesetz über Schuldbetreibung und Konkurs, 1998, N. 24 zu <ref-law>; WALTER, a.a.O., S. 234, bzw. 4. Aufl. 2007 [zu Art. 22 Ziff. 5 des revidierten LugÜ], S. 248). Auch die kantonale Rechtsprechung zeichnet kein einheitliches Bild (für die Unterstellung unter <ref-law> etwa: Urteil des Kantonsgerichts Wallis vom 15. März 1995, in: SJZ 92/1996, S. 32 f. und SZIER 1996, S. 94 ff.; Urteil des Kantonsgerichts Wallis vom 28. Oktober 1997, in: Zeitschrift für Walliser Rechtsprechung [ZWR] 1998, S. 140 ff.; Urteil des Obergerichts des Kantons Luzern vom 30. Mai 1996, in: Luzerner Gerichts- und Verwaltungsentscheide [LGVE] 1996 I Nr. 45 und SJZ 94/1998, S. 368 f. Gegen die Unterstellung z.B.: Urteile der Cour de justice civile de Genève vom 17. August 1993, in: SZIER 1994, S. 395 ff., 405 ff.; Urteil des Obergerichts des Kantons Zürich vom 2. September 2002, in: Blätter für Zürcherische Rechtsprechung [ZR] 102/2003 Nr. 1). Für die Anwendung von <ref-law> auf die Rechtsöffnung spricht sich schliesslich auch die bundesrätliche Botschaft zum Lugano-Übereinkommen aus, welche allerdings definitive und provisorische Rechtsöffnung nicht unterscheidet (Botschaft vom 21. Februar 1990 betreffend das Lugano-Übereinkommen, BBl 1990 II 308 f. Ziff. 226.6).
3.3 Die Auffassung, wonach die provisorische Rechtsöffnung nicht unter <ref-law> falle, wird im Wesentlichen damit begründet, dass es sich bei ihr im System des Lugano-Übereinkommens nicht um ein Zwangsvollstreckungs-, sondern um ein Erkenntnisverfahren, also um ein materiellrechtliches Verfahren, handle. Das Bundesgericht hat allerdings stets an der rein betreibungsrechtlichen Natur des Verfahrens auf provisorische Rechtsöffnung festgehalten. Der Rechtsöffnungsrichter befindet nicht über den Bestand der in Betreibung gesetzten Forderung, sondern einzig über deren Vollstreckbarkeit (<ref-ruling> E. 1.5 S. 400). In diesem Abschnitt des Betreibungsverfahrens entscheidet das Gericht, ob die Zwangsvollstreckung weitergeführt werden kann, d.h. der erhobene Rechtsvorschlag aufzuheben ist, oder ob die Betreibung eingestellt bleibt (<ref-law>) und der Gläubiger somit zur Durchsetzung seines Anspruchs auf den ordentlichen Prozessweg verwiesen wird. Ziel des Verfahrens auf provisorische Rechtsöffnung ist also nicht, über die Existenz der in Betreibung gesetzten Forderung, sondern über die Existenz eines Vollstreckungstitels zu befinden, und als Vollstreckungstitel dient einzig eine Schuldanerkennung im Sinne von <ref-law> (zum Ganzen <ref-ruling> E. 6c S. 85; <ref-ruling> E. 4.1.1 S. 141 f. mit Hinweisen; Urteil 4A_119/2009 vom 9. Juni 2009 E. 2.1, in: SJ 2010 I S. 58). Dass im Rahmen des Rechtsöffnungsverfahrens vorfrageweise auch gewisse materiellrechtliche Punkte zu berücksichtigen sind, ändert an der Rechtsnatur desselben nichts (<ref-ruling> E. 1.5 S. 400). Der materielle Forderungsprozess folgt erst nach dem Rechtsöffnungsentscheid und auch nur dann, wenn die Parteien die Initiative hiezu ergreifen. Tun sie es nicht, bleibt je nach Ausgang des Rechtsöffnungsverfahrens die Zwangsvollstreckung entweder eingestellt oder sie kann ihren Fortgang nehmen, ohne dass die Begründetheit der Forderung je geprüft worden wäre. Der allfällige Forderungsprozess wird zudem inhaltlich durch das vorangegangene Rechtsöffnungsverfahren nicht präjudiziert. Dem Urteil im Rechtsöffnungsprozess kommt aufgrund des anders gelagerten Streitgegenstands keine Rechtskraftwirkung für den späteren Forderungsprozess zu (Urteil 4A_119/2009 vom 9. Juni 2009 E. 2.1, in: SJ 2010 I S. 58; statt vieler PETER STÜCHELI, Die Rechtsöffnung, 2000, S. 160). Der Ausgang des Rechtsöffnungsverfahrens beeinflusst lediglich die Parteirollenverteilung für den materiellen Prozess: Nach Erteilung der provisorischen Rechtsöffnung muss der Betriebene Aberkennungsklage erheben (<ref-law>), wenn er den Fortgang der Betreibung verhindern will. Die Aberkennungsklage als materiellrechtliche Klage untersteht den Zuständigkeitsregeln von <ref-law>, wenn die Voraussetzungen für dessen Anwendbarkeit gegeben sind (<ref-ruling> E. 3.2 S. 288 f.). Der Schuldner kann den materiellen Bestand der Forderung auch in späteren Stadien der Zwangsvollstreckung bzw. nach Abschluss derselben noch überprüfen lassen (vgl. Art. 85a und Art. 86 SchKG). Wird die provisorische Rechtsöffnung hingegen nicht erteilt, liegt es am Gläubiger, mit der sogenannten Anerkennungsklage (<ref-law>) den Bestand der behaupteten Forderung gerichtlich klären zu lassen. Die vom Schuldbetreibungsrecht vorgesehene Abfolge von provisorischer Rechtsöffnung und Forderungsprozess zeigt, dass es sich beim vorausgehenden Rechtsöffnungsverfahren nicht um ein Erkenntnisverfahren handeln kann. Die Aneinanderreihung zweier materiellrechtlicher Verfahren erschiene kaum sinnvoll.
Die Eigenart des Verfahrens auf provisorische Rechtsöffnung muss bei der Einordnung in das Lugano-Übereinkommen berücksichtigt werden. Unter <ref-law> fallen Verfahren, die unmittelbar die Zwangsvollstreckung zum Gegenstand haben (vgl. GEIMER/SCHÜTZE, Europäisches Zivilverfahrensrecht, 3. Aufl., München 2010, N. 272 zu Art. 22 EuGVVO). Der Bezug der provisorischen Rechtsöffnung zur Zwangsvollstreckung ist nach dem Gesagten dermassen eng, dass dieses Verfahren unter <ref-law> zu subsumieren ist. Der Gerichtsstand der provisorischen Rechtsöffnung steht somit nicht zur Disposition der Parteien und kann demgemäss in einer Gerichtsstandsklausel nicht derogiert werden (vgl. LAURENT KILLIAS, Die Gerichtsstandsvereinbarungen nach dem Lugano-Übereinkommen, 1993, S. 138 f.). Die Beschwerdegegnerin hat somit zurecht vor einem Schweizer Gericht um provisorische Rechtsöffnung ersucht. Die Beschwerde ist folglich abzuweisen.
4. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (<ref-law>). Zudem hat er der Beschwerdegegnerin eine angemessene Parteientschädigung zu entrichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 12'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat der Beschwerdegegnerin eine Parteientschädigung von Fr. 18'000.-- zu entrichten.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Luzern, Schuldbetreibungs- und Konkurskommission, schriftlich mitgeteilt.
Lausanne, 7. Oktober 2010
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Zingg