Sachverhalt:
A. A.a Das Landgericht Berlin verpflichtete mit Urteil vom 2. September 2003 (Geschäftsnummer 27 O 644/01) C._ (Beklagte 1), D._ (Beklagte 2) und A._ (Beklagter 3; Beschwerdeführer) - die Beklagten 1 und 2 insoweit als Gesamtschuldner -, an B._ (Kläger; Beschwerdegegner) Euro 511'291.88 nebst Zinsen zu bezahlen.
Mit Urteil vom 30. Juni 2005 (Geschäftsnummer 27 O 455/04) verpflichtete das Landgericht Berlin C._ (Beklagte 1), D._ (Beklagte 2) und A._ (Beklagter 3; Beschwerdeführer) - die Beklagten 1 und 2 insoweit als Gesamtschuldner -, an B._ (Kläger; Beschwerdegegner) Euro 799'895.50 nebst Zinsen zu bezahlen.
Mit Kostenfestsetzungsbeschluss vom 1. August 2005 (Geschäftsnummer 27 O 455/04) des Landgerichts Berlin wurden die ordentlichen und ausserordentlichen Kosten festgesetzt und verlegt.
Der Streitsache lag ein Beteiligungsvertrag zugrunde. Der Beschwerdeführer wurde als Bürge ins Recht gefasst. Im Nachgang zu Steuernachzahlungen ging es darum, den Kaufpreis neu zu bestimmen.
A.b Mit Urteil vom 28. Juni 2007 (Geschäftsnummer 2 U 205/03) wies das Kammergericht Berlin die Berufungen der Beklagten gegen die Urteile des Landgerichts Berlin vom 2. September 2003 bzw. vom 30. Juni 2005 zurück. Die Revision liess es nicht zu. Der Bundesgerichtshof wies mit Beschluss vom 23. September 2008 die Beschwerde der Beklagten gegen die Nichtzulassung der Revision zurück. Am 16. Dezember 2008 wies der VIII. Zivilsenat des Bundesgerichtshofes die Anhörungsrüge der Beklagten gegen den Senatsbeschluss vom 23. September 2008 zurück.
Das Landgericht Berlin wies am 19. November 2009 die Klage der Beklagten gegen die Vollstreckung des Urteils des Landgerichts Berlin vom 2. September 2003 ab. Das Urteil erging während des Rekursverfahrens vor dem Kantonsgericht Schwyz.
B. Am 14. November 2008 ersuchte der Beschwerdegegner beim Bezirksgericht Einsiedeln um Anerkennung und Vollstreckbarerklärung der vorhergehend unter A.a. genannten Entscheidungen des Landgerichts Berlin. Ferner beantragte er, als Sicherungsmassnahme nach <ref-law> Arrest auf die Vermögenswerte des Beschwerdeführers zu legen. Eventualiter beantragte er als Sicherungsmassnahme nach <ref-law> die Anordnung der provisorischen Pfändung.
Mit Verfügung vom 19. November 2008 erklärte der Einzelrichter des Bezirks Einsiedeln das Urteil des Landgerichts Berlin vom 2. September 2003 und dasjenige vom 30. Juni 2005 sowie den Kostenfestsetzungsbeschluss des Landgerichts Berlin vom 1. August 2005 als vollstreckbar. Ferner ordnete er an, dass anstatt der beantragten Verarrestierung diverser Vermögenswerte des Beschwerdeführers als Sicherungsmassnahme im Sinne von <ref-law> das Betreibungsamt Einsiedeln beauftragt werde, beim Beschwerdeführer die provisorische Pfändung in Analogie zu <ref-law> durchzuführen, wobei hinsichtlich dieser Anordnung im Detail aufgezählte Einzelheiten gelten.
Dagegen rekurrierte der Beschwerdeführer an das Kantonsgericht Schwyz, das mit Beschluss vom 28. Januar 2010 den Rekurs abwies, soweit es darauf eintrat und die Verfügung des Einzelrichters vom 19. November 2008 bestätigte.
C. Der Beschwerdeführer beantragt mit Beschwerde in Zivilsachen, den Beschluss des Kantonsgerichts Schwyz vom 28. Januar 2010 aufzuheben. Die Exequien für das Urteil des Landgerichts Berlin vom 2. September 2003 (Geschäftsnummer 27 O 644/01) und dasjenige vom 30. Juni 2005 (Geschäftsnummer 27 O 455/04) sowie den Kostenfestsetzungsbeschluss des Landgerichts Berlin vom 1. August 2005 (Geschäftsnummer 27 O 455/04) seien zu verweigern. Die Anordnung der provisorischen Pfändung gemäss Verfügung C097/08 des Einzelrichters Einsiedeln vom 19. November 2008 sei aufzuheben.
Der Beschwerdegegner beantragt, die Beschwerde vollumfänglich abzuweisen. Die Vorinstanz schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei.
D. Mit Präsidialverfügung vom 24. März 2010 wurde der Beschwerde die aufschiebende Wirkung erteilt.

Erwägungen:
1. Der angefochtene Beschluss erging in einem Verfahren zur Vollstreckung ausländischer Urteile in Zivilsachen. Solche Entscheide unterliegen der Beschwerde in Zivilsachen (Art. 72 Abs. 2 lit. b Ziff. 1 BGG). Es gilt demnach auch für sie das Streitwerterfordernis nach <ref-law>. Vorliegend übersteigt der Streitwert die Grenze von Fr. 30'000.-- bei Weitem. Der angefochtene Beschluss geht zudem von einer letzten kantonalen Instanz (<ref-law>) aus und schliesst das kantonale Verfahren ab. Er stellt einen anfechtbaren Endentscheid dar (<ref-law>). Der Beschwerdeführer ist mit seinen Anträgen vor der Vorinstanz unterlegen und somit zur Einreichung der Beschwerde legitimiert (<ref-law>). Die Frist (<ref-law>) wurde eingehalten. Auf die Beschwerde ist demnach einzutreten.
2. Die vom Gesuch um Vollstreckbarerklärung betroffenen Urteile des Landgerichts Berlin vom 2. September 2003 bzw. vom 30. Juni 2005 und der Kostenfestsetzungsbeschluss des Landgerichts Berlin vom 1. August 2005 ergingen in einem Vertragsstaat (Deutschland) des Übereinkommens vom 16. September 1988 über die gerichtliche Zuständigkeit und die Vollstreckung gerichtlicher Entscheidungen in Zivil- und Handelssachen (LugÜ; SR 0.275.11). Ihre Anerkennung und Vollstreckung in der Schweiz werden daher durch dieses Übereinkommen geregelt (Art. 26 ff. und 31 ff. LugÜ).
Die in einem Vertragsstaat des Lugano-Übereinkommens ergangenen Entscheidungen, die in diesem Staat vollstreckbar sind, werden in einem anderen Vertragsstaat vollstreckt, wenn sie dort auf Antrag eines Berechtigten für vollstreckbar erklärt worden sind (<ref-law>). Der Antrag kann nur aus einem der in den Art. 27 und 28 LugÜ angeführten Gründe abgelehnt werden (<ref-law>). Die ausländische Entscheidung darf keinesfalls in der Sache selbst nachgeprüft werden (<ref-law>).
3. Der Beschwerdeführer macht einen Verstoss gegen den Ordre public im Sinne von <ref-law> geltend. Er rügt eine Verletzung des Grundsatzes "ne eat iudex ultra petita partium" und des Anspruchs auf rechtliches Gehör. Sodann beanstandet er als Verstoss gegen den materiellen Ordre public eine Verletzung der Eigentumsgarantie.
3.1 Nach <ref-law> wird eine Entscheidung nicht anerkannt, wenn die Anerkennung der öffentlichen Ordnung des Staates, in dem sie geltend gemacht wird, widersprechen würde. Es wird unterschieden zwischen dem formellen und dem materiellen Ordre public:
3.2 Eine Anerkennung verstösst gegen den materiellen Ordre public, wenn das einheimische Rechtsgefühl durch die Anerkennung und Vollstreckung eines ausländischen Entscheides in unerträglicher Weise verletzt würde, weil dadurch grundlegende Vorschriften der schweizerischen Rechtsordnung missachtet werden (<ref-ruling> E. 5.4 S. 63; <ref-ruling> E. 4.1).
3.3 Die Verletzung wesentlicher Grundsätze des schweizerischen Verfahrensrechts kann als Verstoss gegen den verfahrensrechtlichen Ordre public der Anerkennung einer Entscheidung im Sinne von <ref-law> entgegenstehen. Ein Verstoss gegen den verfahrensrechtlichen Ordre public liegt aber nach schweizerischem Verständnis nur vor bei einer Verletzung von fundamentalen und allgemein anerkannten Verfahrensgrundsätzen, deren Nichtbeachtung zum Rechtsempfinden in einem unerträglichen Widerspruch steht, so dass die Entscheidung als mit der in den Kulturstaaten geltenden Rechts- und Wertordnung schlechterdings unvereinbar erscheint (<ref-ruling> E. 2.2.1 S. 392; <ref-ruling> E. 3b mit Verweisen). Dies gilt erst recht im Zusammenhang mit der Anerkennung und Vollstreckung ausländischer Urteile, wo die Tragweite des Vorbehalts der öffentlichen Ordnung noch eingeschränkter zu verstehen ist als bei der direkten Anwendung ausländischen Rechts (BGE <ref-ruling> E. 4.1; <ref-ruling> E. 2b; Urteil 4P.48/2002 vom 4. Juni 2002 E. 3b/aa).
3.4 Zu den fundamentalen Verfahrensgrundsätzen gehört insbesondere der Anspruch auf rechtliches Gehör (Fridolin Walther, in: Dasser/Oberhammer, Kommentar zum Lugano-Übereinkommen, 2008, N. 12 zu <ref-law>; Geimer/Schütze, Europäisches Zivilverfahrensrecht, 3. Aufl. 2010, N. 25 zu Art. 34 EuGVO). Im Rahmen seiner Rechtsprechung zu <ref-law> hat das Bundesgericht ausgeführt, der Grundsatz "ne eat iudex ultra petita partium" garantiere einen besonderen Teilaspekt des Gehörsanspruchs, indem dem Richter versagt ist, über ein Begehren zu entscheiden, zu dem sich die Parteien nicht haben äussern können (<ref-ruling> E. 3a; vgl. auch Walther, a.a.O., N. 23 zu <ref-law>). Im Urteil 5P.390/2003 vom 23. Januar 2004 E. 3.3 hat das Bundesgericht klargestellt, dass im Bereich der Anerkennung und Vollstreckung ausländischer Urteile nicht jegliche Abweichung vom besagten Grundsatz als unvereinbar mit dem schweizerischen Ordre public bezeichnet werden kann, sondern nur eine solche, die nach den konkreten Umständen des Falles betrachtet einer schwer wiegenden Verletzung des Gehörsanspruchs gleichkommt.
4. Der Beschwerdeführer behauptet, die für vollstreckbar zu erklärenden Urteile gingen über das Geforderte hinaus, indem er die beiden eingeklagten Teilbeträge von Euro 511'291.88 und Euro 799'895.50 ungeachtet der Tatsache bezahlen müsse, dass im Berufungsprozess vor dem Kammergericht Berlin die hilfsweise zur Verrechnung gestellten Gegenforderungen im beinahe selben Umfang gegen die eingeklagten vorrangigen Schuldforderungen als erloschen erklärt worden seien. Die Vorinstanz hat diesen Einwand eingehend geprüft und mit zutreffenden Erwägungen verworfen. Dem Beschwerdeführer gelingt es mit seinen grösstenteils appellatorischen Vorbringen nicht, eine Verletzung von <ref-law> oder offensichtlich unrichtige Sachverhaltsfeststellungen der Vorinstanz aufzuzeigen.
4.1 Dem Beschwerdegegner wird in den beiden Urteilen des Landgerichts Berlin vom 2. September 2003 bzw. vom 30. Juni 2005 nicht mehr und nicht etwas anderes zugesprochen, als er verlangt hat, nämlich Euro 511'291.88 nebst Zinsen bzw. Euro 799'895.50 nebst Zinsen.
Das Kammergericht Berlin wies mit Urteil vom 28. Juni 2007 die Berufungen der Beklagten gegen diese beiden Urteile zurück. Betreffend die Frage der Hilfsaufrechnung von Gegenforderungen der Beklagten in der Höhe von rund Euro 1,2 Millionen ist auf die diesbezüglichen Erwägungen des Kammergerichts Berlin vom 28. Juni 2007 abzustellen, welche die Vorinstanz wiedergegeben hat. Danach wiederholten die Beklagten 1 und 2 in der Berufung hilfsweise die Aufrechnung mit Ansprüchen aus Kaufpreisminderung aus dem Beteiligungsvertrag wegen der Steuernachforderungen in der Höhe von Euro 598'913.05. Darüber hinaus erklärten sie hilfsweise die Aufrechnung mit Minderpreisforderungen wegen verdeckter Gewinnausschüttungen in Form von Tantiemen an den Beschwerdegegner in den Jahren 1992 und 1993 in der Höhe von insgesamt Euro 661'381.49.
Das Kammergericht Berlin führte im Rahmen der Beurteilung der Berufung gegen das erste Urteil des Landgerichts Berlin vom 2. September 2003 aus: "Im Ergebnis zu Recht hat das Landgericht dem Kläger den Betrag von Euro 511'291.88 zugesprochen. Der Kläger hat nämlich für das hier in Rede stehende Urteil Ansprüche in Höhe von mehr als Euro 1'771'586.42 primär und hilfsweise dargetan, die durch die Hilfsaufrechnung der Beklagten nur in Höhe von insgesamt Euro 1'260'294.54 erloschen sind."
Im Rahmen der Beurteilung der Berufung gegen das zweite Urteil des Landgerichts Berlin vom 30. Juni 2005 hielt das Kammergericht Berlin fest, das Urteil sei richtig, dem Beschwerdegegner stünden aus dem Beteiligungsvertrag weitere Mehrpreisansprüche in der Höhe von Euro 799'895.50 zu.
Demnach hat der Beschwerdegegner mit seinen beiden Teilklagen einen Anspruch von insgesamt Euro 1'311'187.38 (Euro 511'291.88 plus Euro 799'895.50) eingeklagt. Laut den Erwägungen des Kammergerichts Berlin hat er aber sämtliche Ansprüche in der Gesamthöhe von Euro 2'571'481.92 (Euro 1'771'586.42 plus Euro 799'895.50) primär und hilfsweise zur Begründung seiner Klagen geltend gemacht. Dadurch erreichte der Beschwerdegegner, dass er trotz der erwarteten und vom Kammergericht Berlin auch zugestandenen Hilfsaufrechnung mit Gegenforderungen in der Höhe von Euro 1'260'294.54 die eingeklagten Euro 1'311'187.38 (Euro 511'291.88 plus Euro 799'895.50) zugesprochen erhielt. Bei dieser Sachlage kann von einem Urteil, in dem über die Begehren hinausgegangen und somit "ultra petita" entschieden worden wäre, nicht gesprochen werden.
Sodann ist es nicht Sache des Vollstreckungsstaates, darüber zu befinden, ob der Urteilsstaat die Verrechnung in prozessualer und materieller Hinsicht richtig berücksichtigt hat. Dies käme einer unzulässigen Nachprüfung der ausländischen Entscheidung in der Sache gleich (<ref-law>). Der Beschwerdeführer ist mit seinen diesbezüglichen Ausführungen, in denen er jedenfalls keinen Verstoss gegen den formellen Ordre public aufzeigt, nicht zu hören.
4.2 Seine Gehörsrüge begründet der Beschwerdeführer damit, dass ein Entscheid "ultra petita" selbstredend den Anspruch auf rechtliches Gehör verletze, da es über ausserhalb des Prozesses liegende Streitgegenstände keine Gewährung des rechtlichen Gehörs geben könne.
Da der Beschwerdeführer keinen Verstoss gegen den Grundsatz "ne eat iudex ultra petita partium" im Sinne einer Verletzung des Ordre public darzutun vermochte, geht auch seine Gehörsrüge fehl. Im Übrigen hat die Vorinstanz eingehend dargelegt, dass sich der Beschwerdeführer zu den bereits erstinstanzlich vorgetragenen hilfsweise geltend gemachten Klagebegründungen des Beschwerdegegners äussern konnte. Mit diesen Erwägungen setzt sich der Be-schwerdeführer nicht auseinander.
5. Der Beschwerdeführer beanstandet als Verstoss gegen den materiellen Ordre public eine Verletzung der Eigentumsgarantie. Das Kammergericht Berlin habe sich nicht nur über den Inhalt der Aufrechnungserklärung der Beklagten 1 und 2 hinweggesetzt, sondern gegen rechtlich nicht Beantragtes aufgerechnet. Dies stelle eine entschädigungslose Enteignung dar.
Was der Beschwerdeführer damit behauptet, verfängt offensichtlich nicht. Aus dem Urteil des Kammergerichts Berlin vom 28. Juni 2007 geht klar hervor, dass der Beschwerdegegner Ansprüche von insgesamt Euro 2'571'481.92 (Euro 1'771'586.42 plus Euro 799'895.50) primär und hilfsweise geltend gemacht hat. Der Hilfsaufrechnung standen mithin Klageforderungen im entsprechenden Umfang von Euro 1'260'294.54 gegenüber. Von einer Aufrechnung gegen "rechtlich nicht Beanspruchtes" bzw. "mit ausserhalb des Rechtsstreits Stehendem" kann daher keine Rede sein. Entsprechend ist auch keine entschädigungslose Enteignung zu erkennen. Ob die Art und Weise der Aufrechnung, wie sie das Kammergericht vorgenommen hat, korrekt ist, entzieht sich einer Überprüfung durch den Vollstreckungsstaat (<ref-law>).
6. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).

Das Bundesgericht erkennt:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 10'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 12'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht des Kantons Schwyz, 1. Rekurskammer, schriftlich mitgeteilt.
Lausanne, 21. Juni 2010
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Die Gerichtsschreiberin:
Klett Sommer