Sachverhalt: A. Mit Zahlungsbefehl Nr. ... des Betreibungsamtes der Stadt A._ vom 8. April 2009 leitete die Bank Y._ (nachfolgend Bank) gegen die X._ AG (nachfolgend Schuldnerin) für Fr. 2'400'000.-- und Fr. 74'616.65 nebst Zins die Betreibung ein. B. Nachdem die Schuldnerin Rechtsvorschlag erhoben hatte, verlangte die Bank mit Gesuch vom 29. Oktober 2009 provisorische Rechtsöffnung. Mit Entscheid vom 4. Februar 2010 wies das Kreisgericht Rorschach das Rechtsöffnungsgesuch ab. Es erwog, dass der Kreditvertrag vom 4. Mai 2004, den die Bank ursprünglich als Rechtsöffnungstitel angerufen hatte, mangels gültiger Unterzeichnung nicht zustande gekommen sei, was schliesslich auch die Bank anerkannt habe. Einen weiteren Vertrag vom 29. März 2005, auf den sich die Bank ebenfalls berufen habe, sei nie eingereicht worden, weil die Bank ihn nicht mehr habe auffinden können. Es bleibe mithin der Rahmenvertrag vom 21. Dezember 2005, mit welchem der Schuldnerin ein Rahmenkredit über Fr. 20 Mio. eingeräumt worden sei. Dieser Vertrag vermöge aber den Anforderungen an eine Schuldanerkennung im Sinn von Art. 82 Abs. 1 SchKG nicht gerecht zu werden, weshalb das Rechtsöffnungsgesuch abzuweisen sei. Demgegenüber erteilte das Kantonsgericht St. Gallen mit Entscheid vom 12. April 2010 die provisorische Rechtsöffnung für Fr. 2'400'000.-- nebst Zins zu 8,5% seit 4. April 2009 und Fr. 454.-- Betreibungskosten. Es erwog, es könne davon ausgegangen werden, dass die Schuldnerin drei Kreditverträge unterzeichnet habe. Sodann habe sie weder auf die Bestätigung des festen Vorschusses seitens der Bank noch auf die Fälligkeitserinnerungen und Kündigungsschreiben reagiert, weshalb sie jetzt nicht einfach die Auszahlung der Summe von Fr. 2'400'000.-- bestreiten könne. Vielmehr sei die Zurverfügungstellung dieses Betrages als erwiesen zu erachten, auch wenn die Bank hierfür keinen Auszahlungsbeleg vorlegen könne, und es sei davon auszugehen, dass die Auszahlung im Sinn einer Teilsumme der im Rahmenkreditvertrag anerkannten Gesamtsumme von Fr. 20 Mio. erfolgt sei. C. Gegen den Entscheid des Kantonsgerichts hat die Schuldnerin am 14. Mai 2010 Beschwerde in Zivilsachen eingereicht mit den Begehren um dessen Aufhebung und um Abweisung des Rechtsöffnungsbegehrens. Mit Präsidialverfügung vom 7. Juni 2009 wurde der Beschwerde die aufschiebende Wirkung erteilt. Mit Vernehmlassung vom 1. Juli 2010 verlangt die Bank die Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Kantonsgericht hat auf eine Vernehmlassung verzichtet.