Sachverhalt:
A. Aus der Nachlassmasse der R._ erwarben X._ und Y._ im Jahr 2005 die S._ AG und dazugehörende Gesellschaften.
In der Folge gerieten sie einen Konflikt, den sie mit einem zwischen den 16 beteiligten Parteien geschlossenen und von ihnen so betitelten "Entflechtungsvertrag" vom 12. Juni 2008 zu lösen suchten. Darin wurde u.a. vereinbart, dass X._ rückwirkend per 31. Dezember 2007 seine 245 Namenaktien der T._ AG für Fr. 60 Mio. an Y._ verkauft, wobei der Kaufpreis durch Verrechnung mit Gegenforderungen sowie der Einräumung eines novierenden Darlehens über Fr. 45'509'490.-- zu tilgen ist, bestehend aus einer Akontozahlung von Fr. 2 Mio. und einem Restdarlehen von Fr. 43'509'490.--. Als Sicherheiten sollten X._ zwei Schuldbriefe über je Fr. 20'000'000.-- auf Liegenschaften der U._ AG als Drittpfandgeberin sowie V._ (Einräumung von Beteiligungen) zustehen.
Die Akontozahlung wurde am 15. Juli 2008 ausgeführt. Das Restdarlehen wurde gemäss Entflechtungsvertrag spätestens am 31. August 2008 fällig. Es erfolgte keine Zahlung.
B. In der Folge leitete X._ gegen Y._ für Fr. 43'509'490.-- nebst Zins zu 6% seit 12. Juni 2008 die Betreibung Nr. ... des Betreibungsamtes A._ ein.
Nachdem Y._ Rechtsvorschlag erhoben hatte, stellte X._ ein Gesuch um provisorische Rechtsöffnung, welches der Bezirksgerichtspräsident Plessur am 19. November 2008 abwies, unter Auferlegung der Verfahrenskosten von Fr. 2'000.-- und der Verpflichtung, Y._ ausseramtlich mit Fr. 24'775.-- zu entschädigen.
Mit Urteil vom 6. Mai 2009 setzte das Kantonsgericht Graubünden die ausseramtliche Entschädigung auf Fr. 17'458.-- fest, wies aber im Übrigen die Beschwerde von X._ ab.
C. Gegen dieses Urteil hat X._ am 10. Juni 2009 eine Beschwerde in Zivilsachen erhoben mit den Begehren um Erteilung der provisorischen Rechtsöffnung für Fr. 43'509'490.-- nebst Zins zu 6% seit 12. Juni 2008 in der Betreibung Nr. ... des Betreibungsamtes A._, eventualiter um Rückweisung der Sache zur neuen Entscheidung. Mit Vernehmlassung vom 20. Juli 2009 schliesst das Kantonsgericht auf Beschwerdeabweisung. Der Beschwerdegegner verlangt in seiner Vernehmlassung vom 28. August 2009 die Abweisung der Beschwerde, soweit darauf einzutreten sei. Der Beschwerdeführer hat am 3. September 2009 zur Vernehmlassung des Kantonsgerichts eine Stellungnahme eingereicht. Der Beschwerdegegner hat am 18. September 2009 weitere Unterlagen nachgereicht.

Erwägungen:
1. Der angefochtene Rechtsöffnungsentscheid ist ein kantonal letztinstanzlicher Endentscheid mit Fr. 30'000.-- übersteigendem Streitwert, gegen den grundsätzlich die Beschwerde in Zivilsachen ergriffen werden kann (Art. 72 Abs. 2 lit. a, Art. 74 Abs. 1 lit. b, Art. 75 Abs. 1 und Art. 90 BGG).
Wie sich aus dem angefochtenen Urteil ergibt, hat der Beschwerdeführer am 1. Dezember 2008, also zwischen dem erstinstanzlichen Urteil und dessen Weiterziehung an das Kantonsgericht, das im Entflechtungsvertrag vorgesehene Schiedsgericht angerufen. Dem kantonsgerichtlichen Urteil lässt sich nicht mit Sicherheit entnehmen, ob es dabei ebenfalls um die Darlehensrestforderung und somit um eine Anerkennungsklage in der vorliegend interessierenden Streitsache geht; dies muss aber aus dem Kontext heraus angenommen werden. Indes hat dies auf das vorliegende Verfahren keinen Einfluss: Das Anhängigmachen der Anerkennungsklage verhindert zwar, dass gegen einen gutheissenden Rechtsöffnungsentscheid die Aberkennungsklage erhoben werden kann, weil dieser die Einrede der Litispendenz entgegensteht, hindert aber die parallele Einleitung oder Weiterverfolgung des Rechtsöffnungsverfahrens nicht (vgl. STAEHELIN, Basler Kommentar, N. 9 zu <ref-law> m.w.H.). Die vorliegend im Rechtsöffnungsverfahren eingereichte Beschwerde in Zivilsachen ist mithin so oder anders in der Sache zu behandeln.
Die vom Beschwerdegegner mit Eingabe vom 18. September 2009 eingereichten Beweismittel betreffen, wie er selbst festhält, Tatsachen, die nach dem angefochtenen Entscheid eingetreten sind. Es handelt sich mithin um echte Noven, zu denen begriffsnotwendig nicht der angefochtene Entscheid Anlass gegeben haben kann, weshalb sie im bundesgerichtlichen Verfahren von vornherein unzulässig sind (<ref-law>; Urteil 2C_94/2009 vom 16. Juni 2009, E. 2.2).
Rechtsöffnungen sind keine vorsorglichen Massnahmen im Sinn von <ref-law>, weshalb alle Rügen gemäss Art. 95 f. BGG zulässig sind und das Bundesgericht behauptete Rechtsverletzungen mit freier Kognition prüft (<ref-ruling> E. 1.5 S. 400).
2. Das Kantonsgericht hat befunden, der Entflechtungsvertrag sei ein vollkommen zweiseitiger Vertrag. Bei synallagmatischen Verträgen könne aufgrund der Basler Rechtsöffnungspraxis die provisorische Rechtsöffnung erteilt werden, ausser der Schuldner mache geltend, die Gegenleistung sei nicht oder nicht ordnungsgemäss erbracht worden und der Gläubiger widerlege dies nicht sofort durch Urkunden liquide, oder der Schuldner sei gemäss Vertrag zur Vorleistung verpflichtet. Zum Klagefundament gehöre also der Beweis, dass der Gläubiger selbst vertragskonform erfüllt habe. Die Einwendungen eines Schuldners, welche sich auf das Fehlen einer Gegenleistung oder auf sonstige mangelhafte Vertragserfüllung bezögen, würden nicht unter <ref-law> fallen, sondern sich gegen die Schuldanerkennung selbst, mithin gegen das Vorliegen eines gültigen Rechtsöffnungstitels im Sinn von <ref-law> richten und deshalb müsse der Gläubiger den positiven Beweis seiner eigenen Vorleistung erbringen.
Im vorliegenden Fall verfüge der Beschwerdeführer mit dem Entflechtungsvertrag über einen provisorischen Rechtsöffnungstitel. Der Beschwerdegegner bringe aber vor, die Forderung sei noch nicht fällig, weil der Beschwerdeführer die notwendigen Vorbereitungs-, Mitwirkungs- und Begleithandlungen vorzunehmen habe und er sich deshalb in Verzug befinde. Diese Einrede der nicht gehörigen Erfüllung müsse nicht glaubhaft gemacht, sondern nur erhoben werden. Der Vertrag verpflichte den Beschwerdeführer zur unverzüglichen Herausgabe der Schuldbriefe bei Rückzahlung des Darlehens und die Auffassung des Beschwerdegegners, dass die Formulierung "mit Bezahlung des Darlehens ... unverzüglich" auf ein Zug-um-Zug-Geschäft hinweise, sei nicht unhaltbar. Folglich trage der Beschwerdeführer die Beweislast dafür, dass seinerseits der Schuldner vorleistungspflichtig sei. Er versuche dies mit dem Verweis auf die Vertragsklausel zu tun, wonach die Fälligkeit des Darlehens spätestens am 31. August 2008 eintrete. Zudem verweise er auf <ref-law>, wonach der Pfandgegenstand erst als Folge der Zahlung herauszugeben sei. Wie der im Entflechtungsvertrag verwendete Begriff "unverzüglich" zu interpretieren sei, betreffe indes die Vertragsauslegung, die gerade nicht Gegenstand des summarischen Rechtsöffnungsverfahrens sein könne, das auf eine rasche Erledigung und nicht auf die Klärung heikler Fragen ausgerichtet sei; vorliegend gehe es um ein materiell-rechtliches Problem, das nur im ordentlichen Prozess geklärt werden könne.
3. Der Beschwerdeführer rügt zu Recht in verschiedener Hinsicht eine Bundesrechtsverletzung. Zunächst ist festzuhalten, dass der Entflechtungsvertrag zwischen 16 Parteien (Aktionäre, Organe, Schuldner, Gläubiger, Berater, etc.) geschlossen wurde und mannigfaltige Vertragspunkte zum Inhalt hat (div. Kaufverträge, Übertragungen, Decharge-Erteilung, vergleichsweise Erledigung von Verfahren und diverse weitere Punkte). Es springt derart offensichtlich ins Auge, dass es sich bei 16 beteiligten Vertragsparteien mit heterogenen Interessen nicht um einen zweiseitigen Vertrag handelt und dieser im Übrigen eine Vielfalt von Regelungsgegenständen aufweist, die teils isoliert sind, teils aufeinander Bezug nehmen, wobei die einzelnen Vertragsteile in sich synallagmatisch sein können oder auch nicht, dass dies von Amtes wegen festgestellt werden kann (<ref-law>), soweit damit vom kantonsgerichtlichen Entscheid abweichende Sachverhaltsfeststellungen und nicht blosse Rechtsfragen verbunden sind. Beim vorliegend interessierenden Vertragsteil, mit welchem der Beschwerdeführer dem Beschwerdegegner seine 245 Namenaktien der T._ AG für Fr. 60 Mio. verkauft hat, besteht durchaus ein Synallagma; dieses bezieht sich auf das Austauschverhältnis zwischen Aktien und Kaufpreis.
Dass die verkauften Aktien nicht übergeben worden wären, was eine typische Einwendung im Sinn von <ref-law> darstellen würde, wird nirgends behauptet; darauf weist der Beschwerdeführer zu Recht hin. Dass umgekehrt für die Gegenleistung von Fr. 60 Mio. und damit auch für den in Betreibung gesetzten Restbetrag von Fr. 43'509'490.-- mit dem Entflechtungsvertrag eine Schuldanerkennung im Sinn von <ref-law> vorliegt, hat das Kantonsgericht selbst zutreffend erkannt. Im Übrigen hat es in seinen eigenen Sachverhaltsfeststellungen festgehalten, dass diese Restforderung gemäss Entflechtungsvertrag spätestens am 31. August 2008 fällig geworden ist.
Was nun die Rückgabe der Schuldbriefe im Zusammenhang mit der verweigerten Restzahlung anbelangt, geht aus dem Entflechtungsvertrag nicht hervor, ob diese als Faustpfand übergeben oder zu Vollrecht übertragen worden sind. Für die Entscheidung der vorliegend interessierenden Frage ist dies aber, was die gesetzliche Regelung anbelangt - zur Auslegung des Vertrages siehe E. 4 -, nicht entscheidend: Wurden die Schuldbriefe als Faustpfand übergeben, richtet sich deren Rückgabe nach <ref-law>, wonach der Gläubiger die Pfandsache an den Berechtigten herauszugeben hat, wenn das Pfandrecht infolge der Tilgung der Forderung untergegangen ist. Weder ist hier der Gläubiger mit der Rückgabe des Pfandgegenstandes vorleistungspflichtig noch darf der Schuldner die Zahlung davon abhängig machen, dass der Pfandgegenstand Zug um Zug zurückgegeben wird (OFTINGER/ BÄR, Zürcher Kommentar, N. 8 zu <ref-law>; ZOBL, Berner Kommentar, N. 10 zu <ref-law>; BAUER, Basler Kommentar, N. 16 zu <ref-law>). Wurden die Schuldbriefe demgegenüber zu Vollrecht übertragen, so könnte der Schuldner diese bei vollständiger Zahlung der Hypothekarschuld gestützt auf <ref-law> herausverlangen, und zwar Zug um Zug gegen die Rückzahlung (STAEHELIN, Basler Kommentar, N. 4 zu <ref-law>; SIMONIUS/SUTTER, Schweizerisches Immobiliarsachenrecht, Band II, Basel 1995, S. 255). Vorliegend wurde jedoch die Betreibung auf Pfändung, nicht diejenige auf Grundpfandverwertung eingeleitet; der Beschwerdeführer hat mithin die Darlehens-, nicht die Grundpfandforderung geltend gemacht, und der Beschwerdegegner hat (aus nicht bekannten Gründen) die ihm zustehende Einrede des Beneficium excussionis realis gemäss <ref-law> unterlassen. Wird aber im Rahmen der Betreibung auf Pfändung die Rechtsöffnung verlangt, so dient der (vorliegend im Entflechtungsvertrag enthaltene) Darlehensvertrag als Rechtsöffnungstitel. Das Grundpfandrecht sichert indes nicht diese (mit Betreibung auf Pfändung geltend zu machende) Grundforderung, sondern allein die (mit Betreibung auf Grundpfandverwertung durchzusetzende) Grundpfandforderung, mit der es aufgrund gemeinsamer Verkörperung im Schuldbrief untrennbar zu einer Schicksalsgemeinschaft verbunden ist (<ref-ruling> E. 3 S. 73 und 75).
4. Zu prüfen bleibt die Behauptung des Beschwerdegegners, der Beschwerdeführer sei aufgrund des Entflechtungsvertrages vorleistungspflichtig bzw. zur Herausgabe der Schuldbriefe Zug um Zug gegen die Restzahlung verpflichtet und die Forderung sei bis dahin noch gar nicht zur Zahlung fällig.
Die massgebliche Ziff. 5 des Entflechtungsvertrages hält fest: "Mit Bezahlung des Darlehens an X._ erlöschen dessen Sicherungsrechte, und X._ hat die zwei erwähnten Schuldbriefe unverzüglich und unbelastet an die U._ zurückzugeben."
Zunächst ergibt sich aus der rechtlichen Logik, dass die Zahlung der Forderung zu deren Erlöschen führt und sich daraus die Verpflichtung zur Rückgabe der Sicherheiten ergibt; aufgrund dieser Reihenfolge kann also der Beschwerdeführer entgegen der Behauptung des Beschwerdegegners nicht vorleistungspflichtig sein. Der Vertragswortlaut spricht aber auch nicht für eine Zug-um-Zug-Handlung, bedeutet doch der Begriff "unverzüglich" gerade nicht "gleichzeitig", sondern "ohne Verzug" und damit "ohne schuldhaftes Zuwarten" bzw. "ohne schuldhaftes Zögern". Der Begriff "unverzüglich" bringt demnach zum Ausdruck, dass die eine Handlung der anderen nachfolgen soll, dies aber unmittelbar. Hätten die Parteien hingegen eine Rückgabe Zug um Zug beabsichtigt, so wäre es ihnen ein Leichtes gewesen, im Vertrag eine Formulierung "gegen Rückgabe der Schuldbriefe" oder ähnlich vorzusehen. Eine solche Formulierung haben die Parteien durch die Präposition "mit" übrigens hinsichtlich des Erlöschens der Sicherungsrechte verwendet; tatsächlich erlöschen diese infolge ihrer akzessorischen Verknüpfung gleichzeitig mit der Tilgung der gesicherten Forderung. Wenn die Parteien sodann festhielten, "und X._ hat ... unverzüglich ... zurückzugeben", so lässt sich die Rückgabeverpflichtung, wie bereits festgehalten, nicht anders denn als Folge der Zahlung und des Erlöschens der Sicherungsrechte lesen. Dies bedeutet aber, dass der Beschwerdegegner zuerst zahlen muss, damit sich die Rückgabeverpflichtung überhaupt aktualisieren kann.
Dazu kommt, wie der Beschwerdeführer richtig festhält, dass vorliegend die Schuldbriefe als Drittpfand bestellt wurden und sie deshalb nach dem ausdrücklichen Vertragswortlaut an die (am Entflechtungsvertrag ebenfalls als Vertragspartei beteiligte) U._ AG zurückzugeben sind; demnach wäre aber allein diese und nicht der Beschwerdegegner berechtigt, die Schuldbriefe zurückzuverlangen. Dass die U._ AG dies getan hätte, ist nicht aktenkundig und wurde auch nie behauptet.
5. Zusammenfassend ergibt sich, dass die in Betreibung gesetzte Forderung fällig ist, sie in einem provisorischen Rechtsöffnungstitel anerkannt ist und der Beschwerdegegner keine ihm zustehenden Einwendungen glaubhaft machen konnte. Die verlangte Rechtsöffnung ist mithin zu erteilen. Der Zinsenlauf und die Zinshöhe ergeben sich aus Ziff. 5 des Entflechtungsvertrages und sie wurden nirgends bestritten.
Die Beschwerde in Zivilsachen kann - im Unterschied zur staatsrechtlichen Beschwerde, mit welcher Rechtsöffnungsentscheide früher anzufechten waren - reformatorisch erledigt werden (<ref-law>; Botschaft, BBl 2001 4345 f.). Die provisorische Rechtsöffnung ist mithin direkt im bundesgerichtlichen Urteil zu erteilen (Urteil 5A_141/2009 vom 12. Mai 2009, E. 1.6, betreffend subsidiäre Verfassungsbeschwerde), wenn die notwendigen tatsächlichen Grundlagen gegeben sind; dies ist vorliegend der Fall.
Der Beschwerdegegner wird als Folge kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG). Die Festsetzung und Verteilung der kantonalen Kosten entsprechend dem neuen Verfahrensausgang ist durch das Kantonsgericht vorzunehmen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. In Gutheissung der Beschwerde in Zivilsachen wird dem Beschwerdeführer in der Betreibung Nr. ... des Betreibungsamtes A._ für Fr. 43'509'490.-- nebst Zins zu 6% seit 12. Juni 2008 provisorische Rechtsöffnung erteilt.
2. Die Gerichtskosten von Fr. 25'000.-- werden dem Beschwerdegegner auferlegt.
3. Der Beschwerdegegner wird verpflichtet, den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 30'000.-- zu entschädigen.
4. Die Festsetzung und Verteilung der kantonalen Kosten wird dem Kantonsgericht übertragen.
5. Dieses Urteil wird den Parteien und dem Kantonsgericht Graubünden, Schuldbetreibungs- und Konkurskammer, schriftlich mitgeteilt.
Lausanne, 12. November 2009
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Möckli