Sachverhalt:
A. Mit Zahlungsbefehl Nr. ... des Betreibungsamtes der Stadt A._ vom 8. April 2009 leitete die Bank Y._ (nachfolgend Bank) gegen die X._ AG (nachfolgend Schuldnerin) für Fr. 2'400'000.-- und Fr. 74'616.65 nebst Zins die Betreibung ein.
B. Nachdem die Schuldnerin Rechtsvorschlag erhoben hatte, verlangte die Bank mit Gesuch vom 29. Oktober 2009 provisorische Rechtsöffnung.
Mit Entscheid vom 4. Februar 2010 wies das Kreisgericht Rorschach das Rechtsöffnungsgesuch ab. Es erwog, dass der Kreditvertrag vom 4. Mai 2004, den die Bank ursprünglich als Rechtsöffnungstitel angerufen hatte, mangels gültiger Unterzeichnung nicht zustande gekommen sei, was schliesslich auch die Bank anerkannt habe. Einen weiteren Vertrag vom 29. März 2005, auf den sich die Bank ebenfalls berufen habe, sei nie eingereicht worden, weil die Bank ihn nicht mehr habe auffinden können. Es bleibe mithin der Rahmenvertrag vom 21. Dezember 2005, mit welchem der Schuldnerin ein Rahmenkredit über Fr. 20 Mio. eingeräumt worden sei. Dieser Vertrag vermöge aber den Anforderungen an eine Schuldanerkennung im Sinn von <ref-law> nicht gerecht zu werden, weshalb das Rechtsöffnungsgesuch abzuweisen sei.
Demgegenüber erteilte das Kantonsgericht St. Gallen mit Entscheid vom 12. April 2010 die provisorische Rechtsöffnung für Fr. 2'400'000.-- nebst Zins zu 8,5% seit 4. April 2009 und Fr. 454.-- Betreibungskosten. Es erwog, es könne davon ausgegangen werden, dass die Schuldnerin drei Kreditverträge unterzeichnet habe. Sodann habe sie weder auf die Bestätigung des festen Vorschusses seitens der Bank noch auf die Fälligkeitserinnerungen und Kündigungsschreiben reagiert, weshalb sie jetzt nicht einfach die Auszahlung der Summe von Fr. 2'400'000.-- bestreiten könne. Vielmehr sei die Zurverfügungstellung dieses Betrages als erwiesen zu erachten, auch wenn die Bank hierfür keinen Auszahlungsbeleg vorlegen könne, und es sei davon auszugehen, dass die Auszahlung im Sinn einer Teilsumme der im Rahmenkreditvertrag anerkannten Gesamtsumme von Fr. 20 Mio. erfolgt sei.
C. Gegen den Entscheid des Kantonsgerichts hat die Schuldnerin am 14. Mai 2010 Beschwerde in Zivilsachen eingereicht mit den Begehren um dessen Aufhebung und um Abweisung des Rechtsöffnungsbegehrens. Mit Präsidialverfügung vom 7. Juni 2009 wurde der Beschwerde die aufschiebende Wirkung erteilt. Mit Vernehmlassung vom 1. Juli 2010 verlangt die Bank die Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Kantonsgericht hat auf eine Vernehmlassung verzichtet.

Erwägungen:
1. Der angefochtene Rechtsöffnungsentscheid ist ein kantonal letztinstanzlicher Endentscheid mit Fr. 30'000.-- übersteigendem Streitwert, gegen den grundsätzlich die Beschwerde in Zivilsachen ergriffen werden kann (Art. 72 Abs. 2 lit. a, Art. 74 Abs. 1 lit. b, Art. 75 Abs. 1 und Art. 90 BGG).
Der Rechtsöffnungsentscheid ist keine vorsorgliche Massnahme im Sinne von <ref-law>, weshalb alle Rügen gemäss Art. 95 f. BGG zulässig sind und das Bundesgericht behauptete Rechtsverletzungen mit freier Kognition prüft (<ref-ruling> E. 1.5 S. 400).
2. Eine Schuldanerkennung im Sinn von <ref-law> liegt vor, wenn daraus der vorbehalts- und bedingungslose Wille des Betriebenen hervorgeht, dem Betreibenden eine bestimmte oder leicht bestimmbare Geldsumme zu zahlen. Dabei kann sich die Schuldanerkennung auch aus einer Gesamtheit von Urkunden ergeben, sofern die notwendigen Elemente daraus hervorgehen. Dies bedeutet, dass die unterzeichnete Urkunde auf die Schriftstücke, welche die Schuld betragsmässig ausweisen, klar und unmittelbar Bezug nehmen bzw. verweisen muss (<ref-ruling> E. 4.1 S. 481).
Ein Darlehensvertrag über eine bestimmte Summe taugt grundsätzlich als Rechtsöffnungstitel für die Rückzahlung des Darlehens, solange der Schuldner die Auszahlung nicht bestreitet (<ref-ruling> E. 4.2 S. 481). Tut er dies, so hat der Gläubiger überdies die Auszahlung nachzuweisen (STAEHELIN, in: Basler Kommentar, N. 119, 120 und 122 zu <ref-law>; STÜCHELI, Die Rechtsöffnung, Diss. Zürich 2000, S. 371), denn der Darlehensvertrag begründet zunächst eine Verpflichtung zur Hingabe der Darlehensvaluta und die Rückzahlungspflicht der Gegenseite kann sich selbstredend erst dann aktualisieren, wenn der Hingabepflicht nachgelebt wurde (und überdies das Darlehen zur Rückzahlung fällig ist).
Im Unterschied zum Darlehensvertrag anerkennt der Schuldner beim Kontokorrentvertrag mit der darin genannten Limite keinen festen oder doch wenigstens leicht bestimmbaren Betrag, weil mit dem Kontokorrent lediglich ein gegenseitiges Abrechnungsverhältnis mit schwankendem Saldo begründet wird (<ref-ruling> E. 4.2 S. 481). Bei einem Rahmenkreditvertrag verhält es sich insofern ähnlich, als auch hier nicht die verbindliche Hingabe einer bestimmten oder leicht bestimmbaren Summe vereinbart wird, sondern ein Höchstbetrag (Limite), bis zu welchem der Bankkunde innerhalb der vereinbarten Modalitäten nach seinen Wünschen Kredit beanspruchen kann. So wurde vorliegend in Ziff. 2 des Rahmenkreditvertrages vereinbart, dass der Rahmenkredit in Form von festen Vorschüssen und Rollover-Darlehen, von variablen Darlehen und Fest-Darlehen, von Margenlimiten (Devisentermingeschäften) oder Kautionslimiten sowie in laufender Rechnung (Kontokorrentkredit) in Schweizer Franken oder frei konvertierbaren Fremdwährungen beansprucht werden könne.
Soweit gestützt auf den Rahmenkreditvertrag fixe Darlehenssummen beansprucht werden, kann Rechtsöffnung selbstredend aufgrund des gegengezeichneten betreffenden Darlehensvertrages erteilt werden. Wird ein Darlehen direkt gestützt auf den Rahmenvertrag, d.h. ohne Abschluss eines separaten schriftlichen Darlehensvertrages gewährt, kann der Rahmenkreditvertrag allenfalls dann selbständig als Rechtsöffnungstitel in Betracht kommen, wenn der Gläubiger die darauf beruhende Auszahlung der Darlehenssumme (und damit die betreffende Ausschöpfung der Kreditlimite) zweifelsfrei nachzuweisen vermag.
3. Wie das Kantonsgericht richtig erfasst hat, ist Angelpunkt für die Rechtsöffnung der am 21. Dezember 2005 abgeschlossene und in den Akten liegende Rahmenkreditvertrag über Fr. 20 Mio. Sinngemäss hat das Kantonsgericht auch anerkannt, dass dieser für sich genommen kein genügender Rechtsöffnungstitel ist, sondern dass es weiterer geeigneter Dokumente bedarf.
3.1 Das Kantonsgericht hat zunächst erwogen, die Schuldnerin habe den Betrag von Fr. 2,4 Mio. in dem auf die betreffende Summe lautenden Kreditvertrag vom 4. Mai 2005 anerkannt.
Wie die Schuldnerin mit rechtsgenüglich begründeten Ausführungen dartut, ist die betreffende Sachverhaltsfeststellung offensichtlich unrichtig und damit willkürlich (Botschaft, BBl 2001 IV 4338; <ref-ruling> E. 1.2.2 S. 252; <ref-ruling> E. 7.1 S. 398): Wie aus dem bereits im erstinstanzlichen Verfahren eingereichten und bei den Akten liegenden Handelsregisterauszug ersichtlich und vom erstinstanzlichen Richter zutreffend festgestellt worden ist, war Z._, welcher den betreffenden Vertrag für die Schuldnerin in Eigenregie unterzeichnet hat, nur kollektiv unterschriftsberechtigt. Das heisst, dass der betreffende Vertrag nie zustande gekommen ist, wie die Bank denn auch im erstinstanzlichen Verfahren anerkannt hat; überdies bedeutet das aber auch, dass Z._ die betreffende Schuld für die Schuldnerin nicht rechtsgültig anerkennen konnte und diese sich keine Anerkennung entgegenhalten lassen muss.
Die gegenteilige Annahme des Kantonsgerichts, die Schuldnerin habe mit der Vertragsunterzeichnung eine Schuldanerkennung über Fr. 2,4 Mio. abgegeben, erweist sich als willkürlich, und der mangels gültiger Unterzeichnung nie zustande gekommene Vertrag vom 4. Mai 2004 fällt auch als Teil einer zusammengesetzten Urkunde ausser Betracht.
3.2 Das Kantonsgericht ist sodann davon ausgegangen, dass der Betrag von Fr. 2,4 Mio. von der Schuldnerin auch im Vertrag vom 29. März 2005 anerkannt worden sei. Die Bank habe diesen zwar nicht einreichen können, aber in Ziff. 13 des Rahmenkreditvertrages sei vereinbart worden, dass der Vertrag vom 29. März 2005 als aufgehoben gelte, womit dessen Existenz nachgewiesen sei.
Abgesehen davon, dass es in rechtlicher Hinsicht widersprüchlich ist, einen aufgehobenen Vertrag als Rechtsöffnungstitel (selbständig oder als Teil einer zusammengesetzten Urkunde) anzusehen, kritisiert die Schuldnerin mit zutreffenden Willkürrügen, dass mit der betreffenden Aufhebungsklausel kein rechtsgültiges Zustandekommen des (mangels Auffindbarkeit bei der Bank nicht in den Akten liegenden) Vertrages vom 29. März 2005 und noch viel weniger dessen Inhalt nachgewiesen sei. Der angefochtene Entscheid äussert sich denn auch nicht im Ansatz zum Inhalt dieses Vertrages; er ist schlichtweg unbekannt.
Vor diesem Hintergrund kann der (unbekannte) Vertrag weder selbständig oder im Sinn einer zusammengesetzten Urkunde als Rechtsöffnungstitel in Betracht kommen, und entsprechend erweist sich die Feststellung, die Schuldnerin habe den Betrag, für den Rechtsöffnung verlangt wird, in drei verschiedenen Verträgen anerkannt, als willkürlich.
Für die weiteren Ausführungen ist mithin von der Sachverhaltsbasis auszugehen, dass einzig der Rahmenkreditvertrag vom 21. Dezember 2005 als gültig geschlossener Vertrag in den Akten liegt und potentiell als Rechtsöffnungstitel in Frage kommen kann.
3.3 Das Kantonsgericht hat massgeblich darauf abgestellt, dass die Schuldnerin weder auf die Bestätigung des festen Vorschusses seitens der Bank noch auf deren Kreditverlängerungen, Fälligkeitserinnerungen und Kündigungsschreiben reagiert habe.
Was für eine Bedeutung der fehlenden Reaktion seitens der Schuldnerin beizumessen ist, kann allein im ordentlichen Anerkennungsprozess eine Rolle spielen. Eigentümlichkeit des provisorischen Rechtsöffnungsverfahrens ist, dass es nicht reicht, die Schuld mit irgendwelchen Dokumenten zu plausibilisieren, sondern diese in einer vom Schuldner unterzeichneten Urkunde anerkannt sein muss, wobei sich die Schuldanerkennung auch aus einer Mehrheit von Urkunden ergeben kann. Blosses Stillschweigen zu Dokumenten der Gegenseite kann jedoch nicht zu einer Schuldanerkennung führen, auch nicht im Sinn einer zusammengesetzten Urkunde (<ref-ruling> E. 4.3 S. 482). Nach der in E. 2 wiedergegebenen Definition ist vielmehr erforderlich, dass die unterzeichnete Urkunde auf die Schriftstücke, welche die Schuld betragsmässig ausweisen, klar und unmittelbar Bezug nimmt. Dies trifft auf die einseitig von der Bank stammenden Schreiben - gleich wie bei Kontoauszügen (<ref-ruling> E. 4.3 S. 482) - nicht zu. Sie beinhalten auch keine anerkennende Willensäusserung des Schuldners und können deshalb nicht Teil einer zusammengesetzten Schuldanerkennung sein.
3.4 Vorliegend verlangt die Bank Rechtsöffnung für einen festen Vorschuss, den sie nach ihren Ausführungen gestützt auf den Rahmenkreditvertrag gewährt hat. Nach dem in E. 2 Gesagten könnte der Rahmenkreditvertrag diesbezüglich allenfalls dann als Rechtsöffnungstitel in Betracht kommen, wenn zweifelsfrei die Auszahlung eines sich auf den betreffenden Vertrag stützenden Darlehens nachgewiesen ist.
Damit wird vom Gläubiger nichts Unmögliches, sondern Selbstverständliches verlangt. Soweit es sich um eine buchführungspflichtige Firma handelt, ist diese im Übrigen von Gesetzes wegen verpflichtet, die betreffenden Buchungsbelege während mindestens zehn Jahren aufzubewahren (<ref-law>; vgl. auch die Verordnung über die Führung und Aufbewahrung der Geschäftsbücher, GeBüV, SR 221.431). Es darf von einer am Markt auftretenden Geschäftsbank erwartet werden, dass sie eine ordnungsgemässe Geschäfts- und Buchführung pflegt und Auszahlungsbelege aufbewahrt, umso mehr als es vorliegend um Millionenbeträge geht.
Wie bereits vor den kantonalen Instanzen verweist die Bank auch im bundesgerichtlichen Verfahren nur auf allgemeine Korrespondenz, obwohl die Schuldnerin die Auszahlung von Anfang an bestritten hat. In dieser Situation ist der blosse Rahmenkreditvertrag nach dem Gesagten als Rechtsöffnungstitel unzureichend und die Bank hat die Konsequenzen zu tragen, wenn sie die Auszahlung nicht nachzuweisen vermag.
4. Zusammenfassend ergibt sich, dass ein Rahmenkreditvertrag für sich genommen kein genügender Rechtsöffnungstitel ist und die Bank keine weiteren Dokumente vorgelegt hat, welche gemeinsam mit dem Rahmenkreditvertrag eine zusammengesetzte Schuldanerkennungsurkunde zu bilden vermöchten.
Mangelt es an einem genügenden Rechtsöffnungstitel und damit an den Voraussetzungen für die provisorische Rechtsöffnung, sind die weiteren Ausführungen in der Beschwerde im Zusammenhang mit den von der Schuldnerin geltend gemachten, aber vom Kantonsgericht als nicht glaubhaft erachteten Gegenforderungen ohne Belang.
Zufolge Gutheissung der Beschwerde und Abweisung des Rechtsöffnungsbegehrens wird die Bank kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG). Die Verlegung der kantonalen Kosten entsprechend dem neuen Verfahrensausgang wird dem Kantonsgericht übertragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. In Gutheissung der Beschwerde in Zivilsachen wird der Entscheid des Kantonsgerichts St. Gallen vom 12. April 2010 aufgehoben und das Rechtsöffnungsbegehren der Beschwerdegegnerin wird abgewiesen.
2. Die Gerichtskosten von Fr. 20'000.-- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat die Beschwerdeführerin für das bundesgerichtliche Verfahren mit Fr. 20'000.-- zu entschädigen.
4. Die Verlegung der kantonalen Kosten wird dem Kantonsgericht übertragen.
5. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, Einzelrichter für Rekurse SchKG, schriftlich mitgeteilt.
Lausanne, 9. November 2010
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Möckli