Sachverhalt:
A. Die A._ AG mit Sitz in Zug wurde durch den inzwischen verstorbenen B._ im März 2001 gegründet. Sie übernahm die Geschäfte der Einzelfirma B._ Devisenhandel. Die Gesellschaft war bis zur Hausdurchsuchung durch die Kantonspolizei Zürich am 4. Dezember 2002 als "Anlageberaterin" tätig. Sie nahm in den Jahren 2001 und 2002 Kundengelder im Betrag von über 100 Mio. Franken entgegen, die sie im Devisenhandel einzusetzen versprach. Wie sich später ergab, führte die A._ AG wohl Devisenoperationen über einen Broker in London durch, jedoch nicht in dem Ausmass, wie sie es gegenüber ihren Kunden auswies. Die Abwicklung der Ein- und Auszahlungen gegenüber den rund 1'400 Kunden erfolgte nach einem schneeballähnlichen System. Die A._ AG stellte ihren Kunden monatliche Kontoauszüge mit Gewinnausweisen zu, die jedoch nur zum Teil auf erwirtschafteten Gewinnen beruhten. Die von den Kunden verlangten Auszahlungen (Erträge, Kapital) finanzierte die A._ AG aus akkumulierten Anlagegeldern und Geldern neu beigetretener Personen. Am 24. November 2003 wurde über die A._ AG der Konkurs eröffnet.
B. X._ war Kunde der B._ Devisenhandel bzw. A._ AG und vermittelte auch Kunden für diese. Im Jahr 2000 tätigte er Einlagen bei der B._ Devisenhandel von insgesamt Fr. 105'000.--. In den Jahren 2000 bis 2002 wurden ihm aus "Devisenhandel" Erträge von insgesamt Fr. 75'000.-- (2000), Fr. 54'000.-- (2001) und Fr. 231'700.-- (2002) ausbezahlt. Nach Abzug dieser Auszahlungen beliefen sich seine Guthaben aus "Devisenhandel" jeweils per Ende Jahr auf Fr. 106'721.25 (31.12.2000), Fr. 253'564.77 (31.12.2001) und Fr. 247'789.20 (31.12.2002), was (nach Auszahlung) ein Plus von Fr. 146'843.52 (31.12.2001) resp. ein Minus von Fr. 5775.57 (31.12.2002) ergab.
Für die Akquirierung neuer Kunden wurden X._ zudem Provisionen im Betrag von F. 80'072.-- (2001) und Fr. 95'000.-- (2002) ausbezahlt.
C. Am 4. April 2006 veranlagte die Kantonale Steuerkommission und Kantonale Verwaltung für die direkte Bundessteuer Schwyz (Veranlagungs- und Einsprachebehörde) die Eheleute C. und D.X._ für die Kantons-, Gemeinde- und direkte Bundessteuer 2001 und 2002. Dabei wurden die "Provisionserträge aus dem Devisenhandel B._" als Einkommen aus Nebenerwerb und die "Erträge aus dem Schneeballsystem Devisenhandel B._" als Wertschriftenertrag beim Einkommen und Vermögen aufgerechnet.
Mit Einspracheentscheid vom 12. Mai 2010 hielt die Einsprachebehörde an den Aufrechnungen grundsätzlich fest. Sie berücksichtigte jedoch einkommensmindernd eine Zahlung von Fr. 130'000.--, die X._ im Rahmen eines Vergleichs vom 29. April/2. Mai 2006 der Konkursmasse A._ AG in Liquidation, bezahlt hatte, sowie Anwalts- und Gerichtskosten in der Höhe von Fr. 10'000.--.
D. Eine Beschwerde der Steuerpflichtigen C. und D.X._ hiess das Verwaltungsgericht des Kantons Schwyz mit Entscheid vom 24. Mai 2012 teilweise gut, setzte die "Vermögenserträge gemäss Wertschriftenverzeichnis" (Position 150 der Steuererklärung) auf insgesamt Fr. 54'082.-- (2001) und Fr. 91'889.-- (2002), das Vermögen aus "Wertschriften und Guthaben" (Position 400) auf Fr. 222'263.-- (2001) und die "Privatschulden gemäss Schuldenverzeichnis" (Position 460) auf Fr. 260'000.-- (2001) fest. Im Übrigen wies es die Beschwerde ab.
In der Begründung bezog es sich auf ein inzwischen ergangenes Urteil des Bundesgerichts in einem Parallelfall. Dieser betraf ebenfalls ein steuerpflichtiges Ehepaar, bei dem der Ehemann bei der A._ AG Vermögensanlagen getätigt und Kunden angeworben hatte (Urteil 2C_351/2010 vom 6. Juli 2011, in: ASA 80 S. 683, StE 2011 B 21.1 Nr. 19, StR 66/2011 S. 784, RDAF 2012 II S. 17). Das Verwaltungsgericht bestätigte im vorliegenden Fall gestützt auf diesen Entscheid ebenfalls die Rechtmässigkeit der Aufrechnung der Provisionszahlungen als Einkommen aus selbständiger Erwerbstätigkeit unter Berücksichtigung eines Gewinnungskostenabzuges und der Sozialversicherungsabzüge. Die in den Jahren 2001 und 2002 ausbezahlten Erträge aus "Devisenhandel" erfasste es als Vermögensertrag beim Einkommen. Die stehen gelassenen Gutschriften der Jahre 2001 und 2002 qualifizierte das Verwaltungsgericht hingegen als nicht realisiertes Einkommen, weil diese in die fünfjährige Frist für die paulianische Anfechtung gemäss <ref-law> (Absichtsanfechtung) fielen und daher als unsicher schienen. Die aus dem Vergleich resultierende Zahlung an die Konkursmasse von Fr. 130'000.-- zuzüglich der Anwalts- und Gerichtskosten von Fr. 10'000.-- brachte das Verwaltungsgericht in der Steuerperiode 2002 zum Abzug. Beim Vermögen berücksichtigte es das Guthaben gegenüber der A._ AG per 31. Dezember 2001 mit Fr. 253'564.-- und per 31. Dezember 2002 mit Fr. 0.--.
E. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragen C. und D.X._, der Entscheid des Verwaltungsgerichts des Kantons Schwyz sei aufzuheben und die Sache "zur Vornahme einer rechts- und sachkonformen Veranlagung" an die Vorinstanz zurückzuweisen. Die Veranlagung sei in dem Sinne vorzunehmen, "dass sämtliches, den Beschwerdeführern aus Devisenhandel, Vermittlungstätigkeit und dergleichen aufgerechnete Einkommen wie auch alle daraus resultierenden und aufgerechneten Vermögensbestände steuerlich zu streichen seien".
Die Beschwerde betrifft, wie dem Antrag und der Begründung zu entnehmen ist, die kantonalen direkten Steuern wie auch die direkte Bundessteuer. Gestützt darauf wurde das Verfahren 2C_776/2012 für die Staats- und Gemeindesteuern und das Verfahren 2C_777/2012 für die direkte Bundessteuer eröffnet.
Die Eidgenössische Steuerverwaltung beantragt, die Beschwerde hinsichtlich der direkten Bundessteuer und der kantonalen direkten Steuern abzuweisen. Das Verwaltungsgericht des Kantons Schwyz hat auf eine Vernehmlassung verzichtet, die Kantonale Steuerkommission Schwyz reichte keine Vernehmlassung ein. Die Beschwerdeführer machten von ihrem Recht auf Replik Gebrauch.

Erwägungen:
1. 1.1 Nachdem die beiden Beschwerdeverfahren den gleichen Steuersachverhalt betreffen, sich die gleichen Parteien gegenüberstehen und weitgehend identische Rechtsfragen zu beurteilen sind, ist es angezeigt, die Verfahren zu vereinigen. Das ändert nichts daran, dass es sich um verschiedene Steuern handelt, die direkte Bundessteuer einerseits und die Staats- und Gemeindesteuern andererseits, über die je separat zu befinden ist (<ref-ruling> E. 1.3.1 S. 262 f.; <ref-ruling> E. 4.2 S. 559).
1.2 Die Beschwerde wurden unter Einhaltung der gesetzlichen Frist (<ref-law>) und Form (<ref-law>) von einer durch die Entscheidung besonders berührten Partei mit einem schutzwürdigen Interesse an deren Aufhebung oder Änderung (<ref-law>) eingereicht und richtet sich gegen den von einer letzten, oberen kantonalen Instanz (<ref-law>) gefällten Endentscheid (<ref-law>) in einer Angelegenheit des öffentlichen Rechts (<ref-law>). Der angefochtene Entscheid weist zwar die Sache zur Neuberechnung der Steuer und der Steuerausscheidung im Sinne der Erwägungen an die Veranlagungsbehörde zurück. Doch verbleibt dieser dabei kein Entscheidungsspielraum. Unter dieser Voraussetzung ist gemäss konstanter Praxis von einem Endentscheid im Sinne von <ref-law> auszugehen (<ref-ruling> E. 1.3 S. 127; Urteil 1C_481/2012 vom 21. Dezember 2012 E. 1.1). Auf die Beschwerde ist einzutreten.
1.3 Mit der Beschwerde können Rechtsverletzungen nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es prüft die Anwendung des harmonisierten kantonalen Steuerrechts durch die kantonale Instanz - gleich wie die Anwendung von Bundesrecht (<ref-law>) - mit freier Kognition. In den Bereichen, in denen das Bundesgesetz vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden (StHG; SR 642.14]) den Kantonen einen gewissen Gestaltungsspielraum belässt, beschränkt sich die Kognition des Bundesgerichts indessen auf Willkür (<ref-ruling> E. 2 S. 210; <ref-ruling> E. 3.1 S. 205 f.; Urteil 2C_705/2011 vom 26. April 2012 E. 1.5.2 mit Hinweisen).
1.4 Der von der Vorinstanz festgestellte Sachverhalt ist für das Bundesgericht verbindlich. Er kann nur gerügt werden, soweit die Sachverhaltsfeststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen (Art. 97 Abs. 1, Art. 105 Abs. 1 und 2 BGG).
Die Beschwerdeführer anerkennen den von der Vorinstanz festgestellten Sachverhalt grundsätzlich als richtig. Sie legen aber dar, dass der Sachverhalt hinsichtlich der erfolgten Rückforderungsklage in Sachen Konkursmasse A._ AG, vormals B._, betreffend paulianische Anfechtung (<ref-law>) und aktienrechtliche Rückerstattungspflicht (<ref-law>), je mit einer Verdachtsperiode von fünf Jahren, zu ergänzen sei. Dem ist beizupflichten. In der Tat ist die Frage, ob sich in Bezug auf die von der A._ AG an den Beschwerdeführer erfolgten Zahlungen Einkommen realisiert hat, unter dem Gesichtswinkel der drohenden Rückerstattungspflicht und des in der Folge zwischen der A._ AG und dem Beschwerdeführer geschlossenen Vergleichs vom 29. April/2. Mai 2006 zu beurteilen.
2. 2.1 Die Beschwerdeführer berufen sich auf eine Verletzung ihres Anspruchs auf rechtliches Gehör (<ref-law>). Sie machen geltend, im Hinblick auf den beim Bundesgericht in Sachen A._ AG resp. Devisenhandel B._ damals hängig gewesenen Parallelfall sei das vorliegende Verfahren durch das Verwaltungsgericht sistiert worden. Im Anschluss an das Urteil des Bundesgerichts 2C_351/2010 vom 6. Juli 2011 hätten die Beschwerdeführer mit Eingabe vom 5. März 2012 gegenüber der Vorinstanz dargelegt, weshalb vorliegend trotz erfolgter Auszahlungen diese von Anfang an mit der Unsicherheit oder sogar Gewissheit der paulianischen Anfechtung behaftet gewesen seien und daher nicht als realisiert betrachtet werden könnten. Indem die Vorinstanz trotz der umfassenden Gegenargumentation der Beschwerdeführer die bundesgerichtliche Beurteilung unbesehen übernommen habe, ohne diese kritisch zu hinterfragen, habe sie gegen die verfassungsmässige Begründungspflicht (<ref-law>) verstossen.
2.2 Das rechtliche Gehör nach <ref-law> verlangt, dass die Behörde die Vorbringen der vom Entscheid in ihrer Rechtslage betroffenen Person auch tatsächlich hört, prüft und in der Entscheidfindung berücksichtigt. Daraus folgt die Pflicht der Behörde, ihren Entscheid zu begründen. Es ist dabei nicht erforderlich, dass sie sich mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung muss so abgefasst sein, dass sich die betroffene Person über die Tragweite des Entscheids Rechenschaft geben und ihn in voller Kenntnis der Sache an die nächsthöhere Instanz weiterziehen kann (<ref-ruling> E. 2.2.1, 229 E. 5.2; <ref-ruling> E. 4.2; je mit Hinweisen).
2.3 Diesen Anforderungen genügt der angefochtene Entscheid. Die Vorinstanz hat zur Eingabe der Beschwerdeführer vom 5. März 2012 Stellung genommen. Sie hat festgehalten, dass gemäss dem genannten Bundesgerichtsentscheid die Auszahlungen (nur) im Umfang der effektiv erfolgten Rückzahlungen an die Konkursmasse neutralisiert werden und nicht im Umfang des gesamten von der Konkursmasse geltend gemachten Anspruchs. Sie hat sodann den zwischen dem Beschwerdeführer und der Konkursmasse geschlossenen Vergleich gewürdigt und festgestellt, dass die Beschwerdeführer nicht mit weiteren Rückzahlungen zu rechnen hätten. Mithin bestehe keine Gefahr einer weiteren "Neutralisierung" ausbezahlter Beträge und könnten diese als einkommensbildend betrachtet werden. Die Vorinstanz hat damit die wesentliche Begründung des bundesgerichtlichen Urteils übernommen und ihren Entscheid genügend begründet. Die Vorinstanz hat auch das Argument der Beschwerdeführer, wonach die Konkursmasse bei Zahlungsfähigkeit des Beschwerdeführers auf der Rückzahlung eines grösseren oder des ganzen Betrages, der zur Auszahlung gelangte, bestanden hätte, als unbehelflich zurückgewiesen (angefochtener Entscheid E. 2.4). Der Anspruch auf rechtliches Gehör ist nicht verletzt.
I. Direkte Bundessteuer
3. 3.1 Nach der Konzeption von Art. 16-18 und 20 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer (DBG, SR 642.10) ist alles Einkommen des Steuerpflichtigen insbesondere aus Erwerbstätigkeit, Vermögensertrag und anderen Einnahmequellen steuerbar (s. auch §§ 17-19 und 21 des Steuergesetzes des Kantons Schwyz vom 9. Februar 2000, StG/SZ). Die A._ AG, die als Vermögensverwalterin auftrat, fasste die ihr anvertrauten Kundengelder in einem Pool zusammen. Sie wies gegenüber ihren Kunden überhöhte Gewinne aus, die nicht (oder nur marginal) aus Devisenhandel stammten. Die von den Kunden verlangten Auszahlungen finanzierte sie hauptsächlich aus den akkumulierten Anlagegeldern der bisherigen und der neu beigetretenen Anleger. Solche Gewinngutschriften bilden Vermögensertrag im Sinne von Art. 16 Abs. 1 und 20 Abs. 1 DBG und unterliegen grundsätzlich der Einkommenssteuer, wie das Bundesgericht wiederholt erkannt hat (Urteil 2C_351/2010 vom 6. Juli 2011 E. 3, in: ASA 80 S. 683, StE 2011 B 21.1 Nr. 19, StR 66/2011 S. 784; 2C_94/2010 vom 10. Februar 2011 E. 3, in: RDAF 2012 II 17; 2C_520/2009 vom 31. Mai 2010 E. 2.2; 2C_565/2007 vom 15. Januar 2008 E. 2.2 mit weiteren Hinweisen).
Voraussetzung ist aber, dass sich der Vermögensertrag effektiv realisiert hat. Einkommen gilt steuerrechtlich dann als realisiert, wenn die steuerpflichtige Person Leistungen vereinnahmt oder einen festen Rechtsanspruch darauf erwirbt, über den sie tatsächlich verfügen kann. Erforderlich ist ein abgeschlossener Rechtserwerb, der Forderungs- oder Eigentumserwerb sein kann. Dabei bildet der Forderungserwerb vielfach die Vorstufe des Eigentumserwerbs (vgl. PETER LOCHER, Kommentar zum DBG, I. Teil, 2001, N. 18 zu <ref-law>; MARKUS REICH, in Kommentar zum schweizerischen Steuerrecht, Band I/2a, 2. Aufl. 2008, N. 34 f. zu <ref-law>).
3.2 Für die Beurteilung betrügerischer Schneeballsysteme hat sich die Praxis auf diese allgemeinen Grundsätze zur Einkommensrealisierung gestützt. Demgemäss hat sie nicht nur die effektiv ausbezahlten Beträge, sondern auch die blossen Gutschriften als steuerlich erfassbar eingestuft. Denn aufgrund dieser Gutschriften können die Anleger über ihren Anspruch auf den Vermögenszuwachs verfügen, entweder indem sie sich die ihnen bestätigten Erträge auszahlen oder sie aber für zusätzliche Anlagen im System stehen lassen. Auch im weiteren Überlassen des Guthabens liegt ein erkennbarer Verfügungswille der Anleger. Das gilt zumindest dann, wenn ihre Ansprüche im fraglichen Zeitpunkt (noch) nicht unsicher sind. Von einer solchen Unsicherheit ist solange nicht auszugehen, als Gutschriften ausbezahlt werden, wenn die Anleger es fordern, und somit nicht anzunehmen ist, dass die verlangte Auszahlung des Guthabens verweigert worden wäre. Dabei gilt eine individuelle, auf den konkreten Anleger und seine Forderung(en) im Zeitpunkt der Fälligkeit ausgerichtete Betrachtungsweise (vgl. Urteile 2C_94/2010 vom 10. Februar 2011 E. 3.2, in: RDAF 2012 II 17; 2P.233/2002 vom 27. Januar 2003 E. 2.3, in: StE 2003 B 21.1 Nr. 11; 2P.208/2002 vom 6. Februar 2003, in: StR 58/2003 S. 359 E. 2.2.2; 2A.114/2001 vom 10. Juli 2001 E. 3, in: StE 2001 B 21.1 Nr. 10).
3.3 Auch (Bar-)Auszahlungen können in diesem Sinn noch durchaus für eine gewisse Zeit unsicher sein. Das ist namentlich dann der Fall, wenn die Auszahlung innerhalb des letzten Jahres vor der Konkurseröffnung erfolgt ist und damit der Anfechtungsklage gemäss Art. 286 oder 287 SchKG (Schenkungsanfechtung, Überschuldungsanfechtung) unterliegt oder - bei Auszahlungen innerhalb der letzten fünf Jahre vor Konkurseröffnung - wenn der Schuldner in der für die Anfechtung nach <ref-law> erforderlichen Absicht, seine Gläubiger zu benachteiligen oder einzelne Gläubiger zum Nachteil anderer zu begünstigen, handelte (sog. Absichtsanfechtung; vgl. Urteile 2C_351/2010 vom 6. Juli 2011 E. 4.3, in: ASA 80 S. 683, StE 2011 B 21.1 Nr. 19, StR 66/2011 S. 784; 2A.506/2006 vom 8. August 2007 E. 3.4; 2C_192/2007 vom 15. August 2007 E. 3). Eine Rückerstattungspflicht kann sich auch aus ungerechtfertigter Bereicherung ergeben (Art. 62 und 678 OR).
Soweit solche Auszahlungen aber nicht zurückerstattet werden müssen, gelten sie als realisiert und sind entsprechend zu besteuern (Urteil 2C_351/2010 vom 6. Juli 2011 E. 5.2, in: ASA 80 S. 683, StE 2011 B 21.1 Nr. 19, StR 66/2011 S. 784).
4. 4.1 Vorliegend hat die Konkursmasse der A._ AG am 24. November 2005 gestützt auf <ref-law> und <ref-law> Klage gegen den Beschwerdeführer eingeleitet. Sie bezifferte ihre Rückforderung auf Fr. 259'545.95. Die Klage erfasste die nach damaligem Kenntnisstand bekannten Zahlungen aus "Gewinnen" (Fr. 141'700.--) und Provisionszahlungen (Fr. 117'845.95) abzüglich der Kapitaleinlage (Investment) des Beschwerdeführers in die A._ AG von Fr. 75'000.--. Mit Vergleich vom 29. April/2. Mai 2006 reduzierte die Konkursmasse ihre Forderung gegenüber dem Beschwerdeführer auf Fr. 130'000.-- und erklärten sich die Parteien per Saldo aller Ansprüche als auseinandergesetzt. In diesem Umfang wurden somit die Auszahlungen von der Konkursmasse erfolgreich zurückgefordert und können sie nicht als einkommensbildend betrachtet werden (vgl. LOCHER, a.a.O., N. 14 zu <ref-law>; MARKUS REICH, Die ungerechtfertigte Bereicherung und andere rechtsgrundlose Vermögensübergänge im Einkommenssteuerrecht, IFF 2004 S. 8). Soweit hingegen die Auszahlungen nicht zurückerstattet werden mussten, sind sie als definitiv realisiert zu betrachten und entsprechend zu besteuern (vgl. Urteil 2C_351/2010 vom 6. Juli 2011 E. 5.2).
4.2 Die Beschwerdeführer wenden ein, die Beträge seien vorliegend in vollem Umfang zurückgefordert worden und von allem Anfang an durch die Rückforderung bedroht gewesen. Das gelte auch für die von der Konkursmasse infolge fehlender Mittel nicht zurückgeforderten Auszahlungen. Die Konkursmasse habe sich nur deshalb mit einem Teilbetrag begnügt, weil der Beschwerdeführer aufgrund der fehlenden Mittel überhaupt nicht zahlen konnte. Hätten die Beschwerdeführer mehr Mittel zur Verfügung gehabt, hätte die Konkursmasse auch diese in Anspruch genommen.
Die Beschwerdeführer tragen zudem vor, es sei nicht nachvollziehbar, weshalb die Steuerverwaltung die nicht vorhandenen Auszahlungen besteuere, während die Konkursmasse darauf verzichten müsse. Dass nun gleichsam anstelle der Konkursmasse der Fiskus einspringe und den mangels genügender Mittel entstandenen Zahlungsausfall der Konkursmasse in der Funktion eines "Ersatzgläubigers" zur Besteuerung bringe, leuchte nicht ein.
4.3 Dieser Betrachtung kann nicht gefolgt werden. Sie träfe nur zu, wenn die ausbezahlten Mittel (Beträge), die heute nicht mehr vorhanden sind und auf deren Rückforderung die Konkursmasse aus diesem Grund verzichtet hat, nie realisiert worden wären. Die Mittel sind aber dem Beschwerdeführer zugeflossen. Er hat darüber auch verfügt, zumal sie heute nicht mehr vorhanden sind. Der Mittelzufluss hat auch die wirtschaftliche Leistungsfähigkeit des Beschwerdeführers (vorübergehend) gestärkt. Mit der späteren Verwendung (Abfluss) der Mittel ist dessen Leistungsfähigkeit möglicherweise wieder gesunken. Darauf kommt es aber nicht an. Das Steuerveranlagungsverfahren dient der Festsetzung der Steuer nach der wirtschaftlichen Leistungsfähigkeit der steuerpflichtigen Person unter Berücksichtigung der periodengerechten Abgrenzung der Steuer. Wie das Bundesgericht bereits im Urteil 2C_351/2010 vom 6. Juli 2011 (E. 5.2) ausgeführt hat, sind für die Frage der Realisation des Einkommens die Verhältnisse zum Zeitpunkt des Zuflusses massgebend. Daher ist unerheblich, ob der Beschwerdeführer später zu Verlust gekommen ist und seine Zahlungsunfähigkeit zum Abschluss des aussergerichtlichen Vergleichs geführt hat, wie er geltend macht. Auch wenn die Auszahlungen heute nicht mehr vorhanden sind, müssen sie in der betreffenden Steuerperiode steuerlich erfasst werden.
4.4 Auch das Argument, der Fiskus profitiere anstelle des Ausfalls der Konkursmasse ("Ersatzgläubiger"), trifft nicht zu: Bevor der Fiskus gegenüber dem Steuerschuldner als Gläubiger auftreten und die Steuerforderung geltend machen kann, muss deren Bestand und Umfang festgesetzt werden. Diesem Zweck dient das Veranlagungsverfahren. Ob die rechtskräftig festgesetzte Steuerforderung gegenüber dem Steuerschuldner durchgesetzt werden kann, ist demgegenüber eine Frage des Steuerbezugs und allenfalls der Zwangsvollstreckung und in den hierfür vorgesehenen Verfahren zu klären (vgl. BLUMENSTEIN/ LOCHER, System des Steuerrechts, 6. Aufl. 2002, S. 391 ff., S. 488 ff.). Die Beschwerdeführer können daher aus der Tatsache, dass die Konkursmasse der A._ AG auf die Geltendmachung eines Teils der Forderung gegenüber dem Beschwerdeführer verzichtet hat, nichts zu ihren Gunsten ableiten.
5. Die Berechnung der Gutschriften und der Steuerfaktoren ist im Übrigen unbestritten. Das führt zur Abweisung der Beschwerde, soweit sie die direkte Bundessteuer betrifft.
II. Kantons- und Gemeindesteuer
6. Die hier anzuwendenden Vorschriften des Steuergesetzes des Kantons Schwyz (§§ 17-19 und 21 StG/SZ) stimmen - wie bereits gesehen - mit den entsprechenden Bestimmungen des DBG inhaltlich überein (vgl. oben E. 3.1). Diese Vorschriften sind zudem mit Art. 7 Abs. 1 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden (StHG, SR 642.14) harmonisiert. Im Hinblick auf die vom Bundesgesetzgeber angestrebte horizontale und vertikale Harmonisierung der direkten Steuern des Bundes und der Kantone (vgl. <ref-ruling> E. 2; <ref-ruling> E. 5.2) rechtfertigt sich hinsichtlich der kantonalen Bestimmungen keine abweichende Auslegung. Die Beschwerde ist folglich auch hinsichtlich der Staats- und Gemeindesteuern abzuweisen.
7. Entsprechend dem Verfahrensausgang sind die bundesgerichtlichen Kosten (<ref-law>) den Beschwerdeführern aufzuerlegen; diese haften hierfür soldarisch (Art. 66 Abs. 1 und 5 BGG).

Demnach erkennt das Bundesgericht:
1. Die Verfahren 2C_776/2012 und 2C_777/2012 werden vereinigt.
2. Die Beschwerde 2C_777/2012 betreffend die direkte Bundessteuer wird abgewiesen.
3. Die Beschwerde 2C_776/2012 betreffend die Kantons- und Gemeindesteuern wird abgewiesen.
4. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdeführern unter solidarischer Haftung auferlegt.
5. Dieses Urteil wird den Verfahrensbeteiligten sowie dem Verwaltungsgericht des Kantons Schwyz, Kammer II, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 19. Februar 2013
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Wyssmann