Sachverhalt: A. A.a. Mit Verfügung vom 14. Januar 2016 ernannte die BVG- und Stiftungsaufsicht des Kantons Zürich die C._ AG, handelnd durch Dr. B._, zur interimistischen Sachwalterin mit besonderen Aufgaben für den Wohlfahrtsfonds der Firma D._ AG, heute als Wohlfahrtsfonds der A._ AG firmierend. A._ anerkannte gegenüber dem Wohlfahrtsfonds der Firma D._ AG am 3. Februar 2016 schriftlich, mit Valuta 19. November 2010, ein Darlehen über eine Million Franken erhalten zu haben und diesen Betrag zu schulden. Des Weiteren wurde in den Ziffern 4 und 5 vereinbart: "4. A._ ist verpflichtet, das Darlehen, vorbehaltlich Ziff. 5 hiernach, bis spätestens 29.02.2016 zurückzuzahlen, einschliesslich sämtlicher Zinsausstände. 5. A._ ist berechtigt, das Darlehen ganz oder teilweise zu beliebigen Zeitpunkten vorzeitig zinsbefreiend und entschädigungslos zurückzubezahlen." Seitens des Wohlfahrtsfonds unterzeichneten die Vereinbarung die beiden Mitglieder des Stiftungsrates E._ und F._. A._ anerkannte auch laut Protokoll der Besprechung vom 6. April 2016 mit dem Anwalt des Wohlfahrtsfonds und der Vertreterin der Sachwalterin seine Zahlungspflicht gemäss der Vereinbarung. A.b. Mit Zahlungsbefehl des Betreibungsamtes Höfe in der Betreibung Nr. xxx vom 15. Mai 2016 wurde A._ gestützt auf die Vereinbarung auf den Betrag von Fr. 1'097'873.87 und Zins von 5 % seit 1. März 2016 betrieben. A._ erhob Rechtsvorschlag und der Einzelrichter am Bezirksgericht Höfe erteilte dem ersuchenden Wohlfahrtsfonds mit Verfügung vom 28. Dezember 2016 provisorische Rechtsöffnung für Fr. 1'029'873.87 zuzüglich 5 % Zins seit 2. Dezember 2016 sowie 5 % Zins auf Fr. 1'097'873.87 von 1. März 2016 bis 25. Juli 2016, auf Fr. 1'077'873.73 vom 26. Juli 2016 bis 2. Oktober 2016, auf Fr. 1'061'873.87 vom 3. Oktober 2016 bis 6. November 2016 und auf Fr. 1'045'873.87 vom 7. November 2016 bis 1. Dezember 2016. B. Dagegen erhob A._ Beschwerde an das Kantonsgericht Schwyz mit den Anträgen, die Verfügung des Einzelrichters aufzuheben und das Rechtsöffnungsbegehren abzuweisen, eventuell die Streitsache zur Abklärung und Feststellung der Tatsachen unter Anwendung des korrekten Beweismasses an das Bezirksgericht zurückzuweisen. Mit Beschluss vom 21. März 2017 wies das Kantonsgericht die Beschwerde ab. C. Mit Beschwerde in Zivilsachen vom 8. Mai 2017 ist A._ an das Bundesgericht gelangt. Der Beschwerdeführer beantragt (nebst der Aufhebung des angefochtenen Beschlusses) die Abweisung des Rechtsöffnungsbegehrens und eventuell die Rückweisung der Streitsache zur Neubeurteilung an die Vorinstanz. Zudem ersucht er um aufschiebende Wirkung. Mit Präsidialverfügung vom 31. Mai 2017wurde dem Gesuch um aufschiebende Wirkung, dem sich der Wohlfahrtsfonds der A._ AG (nachfolgend Beschwerdegegner) widersetzt hat, entsprochen. Es sind die Akten, indes keine Vernehmlassungen in der Sache eingeholt worden.