Sachverhalt:
A. X._ war bis Ende 2002 in Deutschland wohnhaft und steuerpflichtig. Ab 1. Januar 2003 befand sich sein steuerlicher Wohnsitz in der Schweiz; am 16. August 2003 erfolgte der Zuzug in den Kanton Schwyz. Im Rahmen einer selbständigen Nebenerwerbstätigkeit hat X._ im Jahr 2003 eine Vermittlungsprovision ("Finder's Fee") von brutto Fr. 3'801'175.-- ausbezahlt erhalten. Sie bezog sich auf die Vermittlung des Verkaufs der S._ GmbH (nachfolgend: S._ GmbH) von der S._ Gruppe an die T.A._ AG (bzw. deren Konzerngesellschaften). Die S._ Gruppe veräusserte dabei die Gesellschaftsanteile in einem ersten Schritt an Y._, der am 23. Dezember 2002 der T.A._ AG ein bis zum 31. März 2004 befristetes Angebot ("binding offer") zum Kauf der S._ GmbH einräumte. Das Angebot wurde am 11. Juni 2003 angenommen und die Vermittlungsprovision am 10. September 2003 ausbezahlt. Grundlage der Vermittlungsprovision waren mehrere Vereinbarungen, namentlich ein "Memorandum of Understanding" vom 28. Oktober 2002, eine Vereinbarung vom 27. Dezember 2002 und eine Vereinbarung vom 11. Juni 2003, jeweils abgeschlossen zwischen X._, der T.A._ AG und weiteren Personen.
B. Mit Veranlagungsverfügung vom 12. Mai 2009 veranlagte die kantonale Steuerverwaltung X._ für die kantonalen Steuern 2003 mit einem steuerbaren Einkommen von Fr. ... (satzbestimmend Fr. ...) und einem steuerbaren Vermögen von Fr. ... sowie für die direkte Bundessteuer 2003 mit einem steuerbaren Einkommen von Fr. ... (satzbestimmend Fr. ...). Beim steuerbaren Einkommen rechnete die Veranlagungsbehörde unter anderem die "Finder's Fee Gutschrift vom 10.9.2003" in der Höhe von Fr. 3'801'175.-- (EUR 2'450'000.--) als Einkommen aus selbständiger Erwerbstätigkeit auf. Die dagegen erhobene Einsprache hiess die Steuerkommission/Verwaltung für die direkte Bundessteuer des Kantons Schwyz am 26. September 2011 teilweise gut, setzte das steuerbare Einkommen kantonal neu auf Fr. ... (satzbestimmend Fr. ...) und bundessteuerlich neu auf Fr. ... (satzbestimmend Fr. ... fest. Die Kosten des Einspracheverfahrens von Fr. 2'202.-- wurden zu drei Vierteln X._ auferlegt. Auf Beschwerde hin reduzierte das Verwaltungsgericht des Kantons Schwyz am 6. März 2012 das steuerbare Vermögen - entsprechend dem gemeinsamen Antrag der Parteien - um Fr. ... und wies die Vorinstanzen an, die dadurch erforderliche neue Steuerausscheidung vorzunehmen; im Übrigen wies es die Beschwerde ab.
C. Vor Bundesgericht beantragt X._, den angefochtenen Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 6. März 2012 aufzuheben, das steuerbare Einkommen kantonal auf Fr. ... (satzbestimmend: Fr. ...) und bundessteuerlich auf Fr. ... (satzbestimmend: Fr. ...) sowie das steuerbare Vermögen auf Fr. ... (satzbestimmend: Fr. ...) festzusetzen. Die Kosten des Einspracheverfahrens seien in jedem Fall auf die Staatskasse zu nehmen. Eventuell sei die Sache zu neuer Untersuchung und zur Neuentscheidung an die Vorinstanz, subeventuell an die Einschätzungs- bzw. Veranlagungsbehörde zurückzuweisen.
D. Die Steuerverwaltung des Kantons Schwyz und die Eidgenössische Steuerverwaltung (ESTV) schliessen auf Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons Schwyz beantragt die Abweisung der Beschwerde und äussert sich zur Doppelbesteuerungsproblematik. Mit Replik vom 13. September 2012 hält der Beschwerdeführer an seinen Anträgen fest.
Erwägungen:
1. 1.1 Die Vorinstanz hat ein einziges Urteil für die Staats- und Gemeindesteuern sowie für die direkte Bundessteuer erlassen, was zulässig ist, soweit die zu entscheidende Rechtsfrage im Bundesrecht und im harmonisierten kantonalen Recht gleich geregelt ist (BGE 135 II 260 E. 1.3.1 S. 262 f.). Unter diesen Umständen ist dem Beschwerdeführer nicht vorzuwerfen, nicht zwei getrennte Beschwerden eingereicht und keine getrennten Anträge gestellt zu haben; aus seiner Eingabe geht deutlich hervor, dass sie beide Steuerarten betrifft (BGE 135 II 260 E. 1.3.3 S. 264; Urteil 2C_278/2012, 2C_279/2012 vom 1. Oktober 2012 E. 1.2). Das Bundesgericht hat für die Staats- und Gemeindesteuern (2C_458/2012) und die direkte Bundessteuer (2C_459/2012) getrennte Dossiers angelegt. Da beide Verfahren auf demselben Sachverhalt beruhen und sich dieselben Rechtsfragen stellen, sind die Verfahren zu vereinigen und die Beschwerde ist in einem einzigen Urteil zu erledigen (vgl. Art. 71 BGG in Verbindung mit Art. 24 BZP [SR 279]; BGE 131 V 59 E. 1 S. 60 f. mit Hinweis).
1.2 Beim angefochtenen Entscheid des Verwaltungsgerichts des Kantons Schwyz handelt es sich um einen kantonal letztinstanzlichen Entscheid über die direkten Steuern des Kantons und des Bundes. Dagegen steht gemäss Art. 82 ff. BGG in Verbindung mit Art. 146 DBG (SR 642.11) sowie Art. 73 StHG (SR 642.14) die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht offen. Der Beschwerdeführer ist grundsätzlich zur Beschwerde berechtigt (Art. 89 BGG). Nicht einzutreten ist jedoch auf den Antrag betreffend die Veranlagung der Vermögenssteuer, da der Beschwerdeführer diesbezüglich vor der Vorinstanz obsiegt hat und vor Bundesgericht nur mehr die Veranlagung der Einkommenssteuer (Vereinnahmung einer Vermittlungsprovision) strittig ist.
1.3 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Vorbringen, sofern allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (BGE 138 I 274 E. 1.6 S. 280 f. mit Hinweis). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht untersucht es in jedem Fall nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
Das Bundesgericht prüft die Anwendung des harmonisierten kantonalen Steuerrechts durch die kantonalen Instanzen an sich mit freier Kognition, ebenso, wie es dies im Fall von Bundesrecht täte. In den Bereichen, in welchen das Steuerharmonisierungsgesetz den Kantonen einen gewissen Gestaltungsspielraum belässt, beschränkt sich die Kognition des Bundesgerichts indessen auf Willkür und unterliegt den erhöhten Rügeanforderungen des Art. 106 Abs. 2 BGG (BGE 134 II 207 E. 2 S. 210; 130 II 202 E. 3.1 S. 205 f.; Urteil 2C_705/2011 vom 26. April 2012 E. 1.5.2 mit Hinweisen).
1.4 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Es kann die vorinstanzliche Sachverhaltsfeststellung bloss berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Die betroffene Person muss rechtsgenügend dartun, dass und inwiefern der festgestellte Sachverhalt in einem entscheidwesentlichen Punkt klar und eindeutig mangelhaft erscheint (Art. 97 Abs. 1 i.V.m. Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG; vgl. BGE 133 II 249 E. 1.4.3 S. 254 f.; 133 III 350 E. 1.3 S. 351 f.).
I. Direkte Bundessteuer
2. Strittig ist, ob dem Beschwerdeführer die Vermittlungsprovision in der Höhe von brutto Fr. 3'801'175.-- - wie von ihm behauptet - bereits im Jahre 2002 zugeflossen ist und deshalb in der Schweiz nicht besteuert werden kann, oder ob der Zufluss - wie von den Steuer(justiz)behörden angenommen - im Jahre 2003 erfolgte.
2.1 Die Vorinstanz hat dargelegt, Einkommen gelte steuerrechtlich dann als realisiert, wenn die steuerpflichtige Person Leistungen vereinnahme oder einen festen Rechtsanspruch darauf erwerbe, über den sie tatsächlich verfügen könne. Voraussetzung des steuerrechtlichen Einkommenszuflusses sei daher ein abgeschlossener Rechtserwerb, der Forderungs- oder Eigentumserwerb sein könne. Die Begründung des Anspruchs auf die Forderung sei in der Regel Vorstufe der Geldleistung. Bei diesem zweistufigen Erwerb entstehe die Steuerpflicht entweder beim Forderungserwerb oder bei der Zahlung. Vorherrschend sei die Besteuerung im Zeitpunkt des Forderungserwerbs. Von diesen Grundsätzen werde in der Steuerpraxis nur ausnahmsweise abgewichen. Namentlich wenn die Erfüllung der Forderung als unsicher betrachtet werden müsse, werde mit der Besteuerung bis zur Erfüllung zugewartet. Diese rechtlichen Ausführungen sind nicht zu beanstanden und werden vom Beschwerdeführer auch nicht gerügt (vgl. Art. 16 DBG; BGE 113 Ib 23 E. 2e S. 26; 105 Ib 238 E. 4a S. 242; Urteile 2C_319/2012 vom 17. Oktober 2012 E. 2.3.1, in: StR 68/2013 S. 62 ff.; 2C_351/2010 vom 6. Juli 2011 E. 4.1, in: StE 2011 B 21.1 Nr. 19; 2C_94/2010 vom 10. Februar 2011 E. 3.1, in: RDAF 2012 II S. 17 ff.; je mit Hinweisen).
2.2 Umstritten ist dagegen die Auslegung der Vereinbarungen, in denen die Parteien Bestand, Fälligkeit und Höhe der Vermittlungsprovision vereinbart haben, darunter namentlich die Vereinbarung vom 27. Dezember 2002.
2.2.1 Die Vorinstanz stellte keinen tatsächlichen Willen hinsichtlich des Inhalts der Vereinbarungen fest, sondern beschränkte sich auf eine objektive Vertragsauslegung nach dem Vertrauensprinzip, was vom Beschwerdeführer im Ergebnis nicht beanstandet wird. Er macht zwar geltend, die Vorinstanz habe den Sachverhalt offensichtlich unrichtig ermittelt (Art. 97 Abs. 1 BGG). Inhaltlich nimmt der Beschwerdeführer jedoch - wie bereits vor der Vorinstanz - eine objektive Vertragsauslegung vor und legt die Vereinbarungen so aus, wie sie nach ihrem Wortlaut und Zusammenhang sowie den gesamten Umständen verstanden werden durften und mussten. Das Vorgehen der Vorinstanz ist daher unter diesem Gesichtspunkt nicht zu beanstanden (vgl. Urteil 4C.372/1999 vom 20. April 2000 E. 3 a.E.).
2.2.2 Eine objektive Vertragsauslegung kann vom Bundesgericht als Rechtsfrage im Rahmen der zulässigen Beschwerdegründe (Art. 95 f. BGG) frei geprüft werden (BGE 138 III 659 E. 4.2.1 S. 666 f.; 135 III 410 E. 3.2 S. 412 f.; 132 III 626 E. 3.1 S. 632; je mit Hinweisen). Allerdings sind die Feststellungen des kantonalen Gerichts über die äusseren Umstände sowie das Wissen und Wollen der Beteiligten im Rahmen der Auslegung nach dem Vertrauensprinzip als Tatfragen für das Bundesgericht grundsätzlich verbindlich (Art. 97 und 105 BGG; BGE 133 III 61 E. 2.2.1 S. 67 mit Hinweisen).
2.3 Der Beschwerdeführer beruft sich namentlich auf die Vereinbarung vom 27. Dezember 2002, mit der er einen unbedingten und unwiderruflichen Provisionsanspruch aufgrund der damals bereits vollständig erbrachten Vermittlungsleistung erworben habe. Darin liege der wesentliche Unterschied zum "Memorandum of Understanding" vom 28. Oktober 2002.
In Ziff. 1 der Vereinbarung vom 27. Dezember 2002 hielten die Vertragsparteien Folgendes fest:
"T.A._ AG hereby agrees to pay an amount of EUR 2,450,000.-- to X._ as a compensation for reaching (i) the acquisition of S._ GmbH by Y._ and (ii) the Binding Offer made to T.A._ AG by Y._. The payment of this amount shall be due and payable to X._ no later than three months from the date of the direct of [recte: or] indirect acceptance of the Binding Offer by T.A._ AG, the final payment date being no later than July 1, 2004."
Der Beschwerdeführer versteht diese Bestimmung so, dass er auch im Falle des Nichtzustandekommens eines Akzepts der Offerte von Y._, bzw. eines Kaufvertrages betreffend die S._ GmbH, spätestens am 1. Juli 2004 seine per 27. Dezember 2002 verbindlich vereinbarte Provision ausbezahlt erhalte.
Der Beschwerdeführer versteht diese Bestimmung so, dass er auch im Falle des Nichtzustandekommens eines Akzepts der Offerte von Y._, bzw. eines Kaufvertrages betreffend die S._ GmbH, spätestens am 1. Juli 2004 seine per 27. Dezember 2002 verbindlich vereinbarte Provision ausbezahlt erhalte.
2.4 2.4.1 Dieser Vertragsinterpretation kann nicht gefolgt werden. Zu Recht geht die Vorinstanz davon aus, dass der Provisionsanspruch erst mit der Annahme der bindenden Offerte entstanden und damit bis zum Abschluss des vermittelten Vertrages aufgeschoben worden ist (Suspensivbedingung). Der Beschwerdeführer selbst führt aus, er sei als Nachweismäkler tätig geworden. Beim Mäklervertrag - auch bei der reinen Nachweismäklerei - ist es aber gerade vertragstypisch, dass der Entschädigungsanspruch erst mit dem allfälligen Abschluss des (Haupt-)Vertrages entsteht (vgl. Art. 413 Abs. 1 OR; BGE 113 II 49 E. 1b S. 51; zur vergleichbaren Rechtslage in Deutschland vgl. § 652 BGB) und daher auch erst mit Abschluss des Hauptvertrages steuerrechtlich realisiert wird (Art. 16 und 18 DBG; vgl. Urteil 2A.365/1990 vom 31. März 1992 E. 4, in: ASA 61 S. 733 ff.; PETER LOCHER, Kommentar zum DBG, I. Teil, 2001, N. 67 zu Art. 18 DBG; MARKUS WEIDMANN, Einkommensbegriff und Realisation, 1996, S. 163).
2.4.2 Aus den vorliegenden Vereinbarungen geht nicht mit hinreichender Deutlichkeit hervor, dass die Parteien von dieser gesetzlichen Ordnung abweichen wollten. Vielmehr ist der Entschädigungsanspruch durchwegs ausdrücklich auf den Hauptvertrag (Annahme der bindenden Offerte) bezogen. Das gilt namentlich für die Vereinbarung vom 27. Dezember 2002. Daran ändert die Festlegung eines letzten Zahlungstermins per 1. Juli 2004 nichts. Wie die Vorinstanz schlüssig ausführt, korrespondiert dieser Termin mit dem 31. März 2004 als Endtermin für die Annahme der bindenden Offerte und der dreimonatigen Zahlungsfrist.
2.4.3 Dies wird durch die Vereinbarung vom 11. Juni 2003 bestätigt: Ziff. 1 der Präambel verweist auf die Vereinbarung vom 27. Dezember 2002 und hält dazu fest, die Parteien hätten eine Vereinbarung getroffen über die Bezahlung einer Vermittlungsprovision anlässlich des Beteiligungserwerbs an der S._ GmbH ("on the payment of Finders Fees on the occasion of acquiring the shares in S._ GmbH"). In der Folge wird vereinbart, die T.B._ AG übernehme die finanziellen Verpflichtungen der T.A._ AG "subject to the acceptance of the Binding Offer by its 100%-subsidiary U._ GmbH. Otherwise the obligation to pay the Finders Fee shall remain with T.A._ AG". Diese Klausel regelt, welche Gesellschaft die Provisionszahlung übernimmt, falls die Annahme der Offerte durch die U._ GmbH erfolgt. Es bestehen keine Anhaltspunkte dafür, diese Regelung so zu interpretieren, dass die vertraglichen Leistungsvereinbarungen umzudeuten wären in eine unbedingte Verpflichtung der T.A._ AG, diese Provision auch dann zu zahlen, wenn kein Akzept erfolgt.
2.4.4 Die Ausführungen des Beschwerdeführers zur Vorgeschichte des Beteiligungserwerbes lassen keine anderen Schlüsse zu, zeigt er doch nicht auf, dass die T.A._ AG - entgegen den deutlichen Formulierungen in den abgeschlossenen Vereinbarungen - bereit gewesen wäre, auch ohne effektive Abwicklung des Geschäftes eine Provision von Fr. 3'801'175.-- (EUR 2'450'000.--) zu bezahlen. Der Vorinstanz ist daher nicht vorzuwerfen, dass sie die zum Beweis der Vorgeschichte offerierten Dokumente der ESTV nicht beizog. Unbelegt bleibt die Behauptung des Beschwerdeführers, er habe die Verlängerung seines Vorstandsvertrags mit der V._ AG, Österreich, von einer (unbedingten) Provisionsgarantie abhängig gemacht. Selbst wenn dies zutreffen sollte, wäre damit nicht ohne Weiteres belegt, dass eine Provisionsgarantie dem Willen aller Vertragsparteien entsprochen hätte. Dem Beschwerdeführer kann schliesslich auch nicht gefolgt werden, wenn er behauptet, die Zusicherung einer festen Provision habe zur Absicherung gedient, dass er das Erwerbsgeschäft nicht selbst zu den vorteilhaften Konditionen abwickle. Er blendet bei dieser Argumentation aus, dass eine der Bedingungen für die Entstehung des Provisionsanspruchs ohnehin das Vorlegen eines befristeten Angebots zuhanden der T.A._ AG war.
2.5 Nachvollziehbar ist, dass die Steuerbehörden und die Vorinstanz bei der gegebenen Sachlage den Beschwerdeführer aufgefordert haben, die Besteuerung der fraglichen Provision in Deutschland nachzuweisen. Es mag zwar zutreffen, dass bei einer allfälligen Realisation der Provision im Jahre 2002 kein Steueranspruch der Schweiz bestanden hätte, ungeachtet darum, ob die Provisionszahlung in Deutschland steuerlich erfasst worden wäre oder nicht. Immerhin hätte jedoch ein Nachweis einer entsprechenden Deklaration in Deutschland durch den Beschwerdeführer gezeigt, dass er konsistent die Meinung vertrat, bereits im Jahre 2002 einen festen Anspruch auf die Provision erworben zu haben. Zudem wäre die Frage des Realisationszeitpunkts allenfalls auch unter doppelbesteuerungsrechtlichen Gesichtspunkten zu prüfen gewesen. Es erübrigt sich aber, auf diese Frage weiter einzugehen. Zum einen bringt der Beschwerdeführer nicht vor, er habe die fragliche Zahlung in Deutschland deklariert bzw. versteuern müssen. Zum anderen zieht die Vorinstanz aus der Weigerung des Beschwerdeführers, eine allfällige Deklaration in Deutschland offenzulegen, keine rechtlichen Konsequenzen, sondern stellt lediglich fest, dieser Umstand bestärke die Richtigkeit der Besteuerung in der Schweiz, wobei die von der Vorinstanz vorgenommene Besteuerung auch ohne dieses Argument zu bestätigen wäre.
2.6 Unerheblich ist, welche Auffassung der Beschwerdeführer allenfalls im Vorfeld gegenüber der ESTV geäussert hat. Auf seine diesbezüglichen Ausführungen ist daher nicht näher einzugehen. Zudem ist nicht zu beanstanden, wenn die Vorinstanz die zu diesem Thema beantragte Zeugin nicht einvernommen hat.
2.7 Zusammenfassend ist festzustellen, dass die Vorinstanz zu Recht festgestellt hat, die Provisionszahlung von brutto Fr. 3'801'175.-- sei im Jahre 2003 realisiert worden und im Kanton Schwyz bzw. in der Schweiz in diesem Jahr steuerbar. Die Berechnung des steuerbaren Betrages wird nicht bestritten.
II. Kantons- und Gemeindesteuern
3. Die massgebenden Normen im Steuerharmonisierungsgesetz (Art. 7 und 8 StHG) und im kantonalen Steuerrecht (§§ 17 und 19 des Steuergesetzes des Kantons Schwyz vom 9. Februar 2000 [SRSZ 172.200]) stimmen mit der erwähnten Regelung bei der direkten Bundessteuer überein. Das zur direkten Bundessteuer Ausgeführte gilt mithin gleichermassen (vgl. Urteil 2C_807/2011 vom 9. Juli 2012 E. 2.1).
III. Kosten und Entschädigung
4. Der Beschwerdeführer beanstandet in einem Nebenpunkt die Kostenauflage im Einspracheverfahren - betreffend die Staats- und Gemeindesteuern - im Umfang von Fr. 1'651.50. Er führt aus, die Kostenfreiheit im Einspracheverfahren sei harmonisierungsrechtlich vorgegeben und die Vorinstanz habe sich mit seiner diesbezüglichen Kritik der Kostenauflage nicht auseinandergesetzt. Letzteres trifft nicht zu, da die Vorinstanz die Auffassung des Beschwerdeführers wie auch diejenige der Steuerverwaltung in den wesentlichen Punkten darlegte und sich ausdrücklich der Steuerverwaltung anschloss.
4. Der Beschwerdeführer beanstandet in einem Nebenpunkt die Kostenauflage im Einspracheverfahren - betreffend die Staats- und Gemeindesteuern - im Umfang von Fr. 1'651.50. Er führt aus, die Kostenfreiheit im Einspracheverfahren sei harmonisierungsrechtlich vorgegeben und die Vorinstanz habe sich mit seiner diesbezüglichen Kritik der Kostenauflage nicht auseinandergesetzt. Letzteres trifft nicht zu, da die Vorinstanz die Auffassung des Beschwerdeführers wie auch diejenige der Steuerverwaltung in den wesentlichen Punkten darlegte und sich ausdrücklich der Steuerverwaltung anschloss.
4.1 4.1.1 Die Harmonisierung der direkten Steuern von Bund, Kantonen und Gemeinden erstreckt sich auch auf das Verfahrensrecht (Art. 129 Abs. 2 BV). Das Steuerharmonisierungsgesetz ist ein Rahmen- oder Grundsatzgesetz. Es ist daher Sache des kantonalen Gesetzgebers, im Rahmen seines Steuergesetzes diejenigen Normen zu erlassen, die direkt anwendbar sind. Das Steuerharmonisierungsgesetz weist in Bezug auf die einzelnen Materien eine unterschiedliche normative Dichte auf. Welcher Regelungsspielraum dem kantonalen Gesetzgeber zusteht, ist nach den gleichen Methoden zu bestimmen, wie sie für die Gesetzesauslegung allgemein gelten. Im Rahmen des systematischen und teleologischen Auslegungselements ist immerhin zu beachten, dass das Steuerharmonisierungsgesetz eine Harmonisierung der direkten Steuern sowohl in horizontaler Richtung (zwischen den Kantonen) wie auch in vertikaler Richtung (zwischen dem Bund und den Kantonen) bezweckt (BGE 130 II 65 E. 5.2 S. 72 ff.; 128 II 56 E. 6a S. 64 f.; Urteil 2C_809/2011 vom 29. Juli 2012 E. 2.2 mit Hinweisen, in: StE 2012 A 23.1 Nr. 16).
4.1.2 Anliegen der Steuerharmonisierung ist es, eine bessere Übereinstimmung und Koordinierung zwischen den direkten Steuern des Bundes und derjenigen der Kantone herbeizuführen, damit die Transparenz und Kohärenz des schweizerischen Steuersystems - wozu auch das Verfahren gehört - zu erhöhen und die Veranlagung vor allem im Interesse des Steuerpflichtigen zu vereinfachen (Art. 129 BV; BGE 130 II 65 E. 5.2 S. 73 und E. 6.3 S. 78). Das Bundesgericht hat sich vor diesem Hintergrund für einen einheitlichen Instanzenzug mit Bezug auf die Anzahl der Beschwerdeinstanzen ausgesprochen (BGE 130 II 65 E. 6.6 S. 80; Urteil 2C_793/2012 vom 20. November 2012 E. 1.2.2). Nicht abschliessend zu beurteilen war bislang, ob unterschiedliche Fristbestimmungen für die harmonisierten kantonalen Steuern und die direkte Bundessteuer noch zulässig sind (Urteile 2C_407/2012 vom 23. November 2012 E. 2.4 und 2.5; 2C_628/2010 vom 28. Juni 2011 E. 3.3, nicht publ. in: BGE 137 II 353; 2C_503/2010 vom 11. November 2010 E. 2.3.1, in: StE 2011 B 92.8 Nr. 16; 2A.70/2006 vom 15. Februar 2006 E. 3).
4.1.2 Anliegen der Steuerharmonisierung ist es, eine bessere Übereinstimmung und Koordinierung zwischen den direkten Steuern des Bundes und derjenigen der Kantone herbeizuführen, damit die Transparenz und Kohärenz des schweizerischen Steuersystems - wozu auch das Verfahren gehört - zu erhöhen und die Veranlagung vor allem im Interesse des Steuerpflichtigen zu vereinfachen (Art. 129 BV; BGE 130 II 65 E. 5.2 S. 73 und E. 6.3 S. 78). Das Bundesgericht hat sich vor diesem Hintergrund für einen einheitlichen Instanzenzug mit Bezug auf die Anzahl der Beschwerdeinstanzen ausgesprochen (BGE 130 II 65 E. 6.6 S. 80; Urteil 2C_793/2012 vom 20. November 2012 E. 1.2.2). Nicht abschliessend zu beurteilen war bislang, ob unterschiedliche Fristbestimmungen für die harmonisierten kantonalen Steuern und die direkte Bundessteuer noch zulässig sind (Urteile 2C_407/2012 vom 23. November 2012 E. 2.4 und 2.5; 2C_628/2010 vom 28. Juni 2011 E. 3.3, nicht publ. in: BGE 137 II 353; 2C_503/2010 vom 11. November 2010 E. 2.3.1, in: StE 2011 B 92.8 Nr. 16; 2A.70/2006 vom 15. Februar 2006 E. 3).
4.2 4.2.1 Während Art. 135 Abs. 3 DBG ausdrücklich vorsieht, dass das Einspracheverfahren grundsätzlich kostenfrei ist, enthält das Steuerharmonisierungsgesetz keine entsprechende Regelung (vgl. Art. 48 StHG). Aufgrund der gemeinsamen Entstehungsgeschichte der beiden Erlasse spricht dies dafür, dass der Gesetzgeber bewusst davon abgesehen hat, den Kantonen die Kostenlosigkeit des Einspracheverfahrens im Bereich der harmonisierten Steuern vorzuschreiben, und ihnen damit einen entsprechenden Regelungsspielraum einräumte (Art. 1 Abs. 3 StHG; vgl. THOMAS MEISTER, Rechtsmittelsystem der Steuerharmonisierung, 1995, S. 153). Dieser Regelungsspielraum läuft auch den mit der Steuerharmonisierung verfolgten Grundanliegen nicht zuwider. Eine kohärente und transparente Rechtsanwendung wird dadurch nicht erschwert.
4.2.2 Angesichts des damit eingeräumten Regelungsspielraums zugunsten der Kantone könnte das Bundesgericht nur eingreifen, wenn sich die Schwyzer Regelung zu den Kosten im Einspracheverfahren als geradezu unhaltbar bzw. willkürlich (Art. 9 BV) erweisen würde. Wohl erscheint es grundsätzlich sachgerecht, die Kostenordnung des Veranlagungsverfahrens auch im Einspracheverfahren zu übernehmen, ist dieses doch als "fortgesetztes Veranlagungsverfahren" konzipiert (vgl. Art. 48 Abs. 3 StHG; Urteil 2C_769/2009 vom 22. Juni 2010 E. 2.3.1, in: StR 65/2010 S. 789 ff.; Botschaft vom 25. Mai 1983 über die Steuerharmonisierung, BBl 1983 III 1, 134 zu Art. 51 E-StHG; MEISTER, a.a.O., S. 91 ff.; MARTIN ZWEIFEL, in Kommentar zum Schweizerischen Steuerrecht, Band I/1, 2. Aufl. 2002, N. 2 und 38 zu Art. 48 StHG). Inwiefern die Schwyzer Regelung aber geradezu willkürlich sein soll, wird vom Beschwerdeführer nicht rechtsgenüglich dargetan (Art. 42 Abs. 2 i.V.m. Art. 106 Abs. 2 BGG). Die auferlegten Kosten sind masslich nicht bestritten, weshalb darauf nicht näher einzugehen ist.
5. Dies führt zur Abweisung der Beschwerde, soweit darauf einzutreten ist. Bei diesem Ausgang sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (Art. 65 und 66 BGG). Parteientschädigungen sind nicht zuzusprechen (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Verfahren 2C_458/2012 und 2C_459/2012 werden vereinigt.
2. Die Beschwerden werden abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtsgebühr von Fr. 12'000.-- wird dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Schwyz, Kammer II, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 15. März 2013
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Egli