Sachverhalt:
A. Die A._ AG mit Sitz in Zug wurde durch den inzwischen verstorbenen B._ im März 2001 gegründet. Sie übernahm die Geschäfte der Einzelfirma B._ Devisenhandel. Die Gesellschaft war bis zur Hausdurchsuchung durch die Kantonspolizei Zürich am 4. Dezember 2002 als "Anlageberaterin" tätig. Sie nahm in den Jahren 2001 und 2002 Kundengelder im Betrag von über Fr. 100 Mio. entgegen, die sie im Devisenhandel einzusetzen versprach. Wie sich später ergab, führte die A._ AG wohl Devisenoperationen über einen Broker in London durch, jedoch nicht in dem Ausmass, wie sie es gegenüber ihren Kunden auswies. Die Abwicklung der Ein- und Auszahlungen gegenüber den rund 1'400 Kunden erfolgte nach einem schneeballähnlichen System. Die A._ AG stellte ihren Kunden monatliche Kontoauszüge mit Gewinnausweisen zu, die jedoch nur zum Teil auf erwirtschafteten Gewinnen beruhten. Die von den Kunden verlangten Auszahlungen (Erträge, Kapital) finanzierte die A._ AG aus akkumulierten Anlagegeldern und Geldern neu beigetretener Personen. Am 24. November 2003 wurde über die A._ AG der Konkurs eröffnet.
B. R.X._ schloss mit der B._Devisenhandel resp. mit der A._ AG insgesamt zwei Geschäfte ab: Am 1. Juli 2000 unterzeichnete er eine als "Treuhandanlage" bezeichnete Vereinbarung, aufgrund welcher er eine Einlage von Fr. 390'000.-- (davon Fr. 90'000.-- angeblich im Auftrag einer Drittpartei) auf ein Konto bei der CMC London tätigte. Dieses Konto war "zur Abwicklung der Devisenhandelsgeschäfte und zur Einbringung der Handels-Margin durch den Investor" bestimmt. Aufgrund einer zweiten Vereinbarung vom 11. Juni 2001 leistet er nochmals eine Einlage von Fr. 200'000.-- auf ein Konto bei der Credit Suisse. In den Jahren 2001 und 2002 kam es zu Auszahlungen.
Für die Akquirierung neuer Anleger bezog R.X._ überdies Provisionen in der Höhe von mindestens Fr. 117'477.90, die ihm ausbezahlt wurden.
Bei der Veranlagung der Eheleute R. und S.X._ für die Kantons- und Gemeindesteuern und direkte Bundessteuer 2001 und 2002 rechnete die Veranlagungsbehörde die Wertschriftenerträge "aus dem Schneeballsystem Devisenhandel B._ " beim Einkommen auf mit entsprechender Korrektur beim Vermögen. Im Einspracheverfahren nahm die Kantonale Steuerkommission Schwyz (die auch als kantonale Verwaltung für die direkte Bundessteuer amtet) weitere Abklärungen vor und setzte die Steuerfaktoren teilweise neu fest. Wie aus dem Einspracheentscheid vom 7. August 2009 folgt, betrug der Saldo aus der Einlage von Fr. 300'000.-- (nach Abzug der erwähnten Fr. 90'000.--) Ende 2000 Fr. 572'353.80 (+ Fr. 272'353.80), Ende 2001 Fr. 901'214.20 (+ Fr. 328'860.40) und Ende 2002 Fr. 833'013.35 (- Fr. 68'200.85). Die Auszahlungen an den Steuerpflichtigen betrugen Fr. 520'000.-- (2001) und Fr. 619'234.-- (2002). Gestützt auf diese Zahlen (Vermögenszuwachs bzw. -abnahme plus Auszahlungen) ermittelte die kantonale Steuerkommission für die Jahre 2001 und 2002 Vermögenserträge von Fr. 848'860.40 (2001) und Fr. 551'033.15 (2002).
Aus der Einlage von Fr. 200'000.-- des Jahres 2001 ergab sich nach den Feststellungen der kantonalen Steuerkommission per Ende 2001 ein Saldo von Fr. 303'042.50 (+ 103'042.50) und per Ende 2002 ein solcher von Fr. 205'119.-- (- Fr. 97'923.50). Die Auszahlungen betrugen Fr. 17'700.-- (2001) und Fr. 213'000.-- (2002). Daraus berechnete die kantonale Steuerkommission Vermögenserträge von Fr. 120'742.50 (2001) und Fr. 115'076.50.-- (2002).
Damit beliefen sich die Vermögenserträge für 2001 auf den beiden Einlagen von Fr. 300'000.-- und Fr. 200'000.-- für das Jahr 2001 auf insgesamt Fr. 969'602.90 (inklusiv Auszahlungen von Fr. 537'700.--) und für das Jahr 2002 auf Fr. 666'109.65.-- (inklusiv Auszahlungen von Fr. 832'234.--), welche die kantonale Steuerkommission - zusammen mit den Provisionen aus der Vermittlungstätigkeit für die B._ Devisenhandel bzw. A._ AG - mit der Einkommenssteuer erfasste. Das Argument, dass es sich bei den Vermögenserträgen um steuerfreie Kapitalgewinne aus Devisenhandel handle, verwarf sie. Den Einwand, dass die Geschwister des Beschwerdeführers an den Einlagen mit Fr. 90'000.-- beteiligt gewesen seien, erachtete sie zwar nicht als erwiesen, liess ihn aber dennoch gelten. Sie berücksichtigte zudem, dass sich der Steuerpflichtige im Rahmen der konkursamtlichen Liquidation in einer aussergerichtlichen Vereinbarung zu Handen des Einzelrichters des Bezirksgerichts Schwyz bereit erklärt habe, unter dem Titel paulianische Anfechtung bzw. Forderung aus fiktivem Devisenhandel vergleichsweise Fr. 240'000.-- an die Konkursmasse zu bezahlen. Sie anerkannte demgemäss ertrags- und vermögensmindernd einen Betrag von Fr. 120'000.-- pro Jahr.
Für die Vermögenssteuer 2001 erfasste die kantonale Steuerkommission die Salden der beiden Konten per 31. Dezember 2001 (insgesamt Fr. 1'204'257.--); für die Vermögenssteuer 2002 erhöhte sie das steuerbare Vermögen um den Betrag der zu erwartenden Konkursdividende auf dem einbezahlten Kapital, d.h. Fr. 200'000.-- (40 % von Fr. 500'000.--).
C. Gegen den Einspracheentscheid führten die Steuerpflichtigen Beschwerde beim Verwaltungsgericht des Kantons Schwyz. Dieses wies mit Entscheid vom 23. Februar 2010 das Rechtsmittel für die kantonalen Steuern und die direkte Bundessteuer ab.
D. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lassen die Steuerpflichtigen beantragen, es sei der Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 23. Februar 2010 aufzuheben und die Sache zu neuer Veranlagung an die Vorinstanz zurückzuweisen mit der Anweisung, "sämtliches den Beschwerdeführern aus Devisenhandel, Vermittlungstätigkeit und dergleichen aufgerechnete Einkommen wie auch alle daraus resultierenden und aufgerechneten Vermögensbestände steuerlich zu streichen".
Die kantonale Steuerkommission Schwyz, das Verwaltungsgericht des Kantons Schwyz und die Eidgenössische Steuerverwaltung beantragen, die Beschwerde abzuweisen (soweit darauf einzutreten sei).

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen den Entscheid des Verwaltungsgerichts des Kantons Schwyz über die direkte Bundessteuer und die Staats- und Gemeindesteuern ist zulässig (Art. 82 ff., 86 Abs. 1 lit. d, Abs. 2 BGG; <ref-law> [SR 642.11]; Art. 73 StHG [642.14]). Die Beschwerdeführer sind zur Beschwerde legitimiert (<ref-law>). Die im vorliegenden Fall zur Anwendung gelangenden Vorschriften über die Besteuerung von Kapitalerträgen sind harmonisiert und stimmen inhaltlich überein, weshalb es sich für die Beschwerdeführer erübrigte, für die kantonalen Steuern und die direkte Bundessteuer zwei Beschwerdebegründungen abzufassen (<ref-ruling> E. 1.3).
1.2 Mit der Beschwerde kann die Verletzung von Bundesrecht gerügt werden (<ref-law>). Soweit die Vorinstanz kantonales Recht anzuwenden hatte, kann nur geltend gemacht werden, der angefochtene Entscheid verstosse gegen Normen des Bundesrechts (<ref-law>), hier namentlich des Bundesgesetzes über die Steuerharmonisierung (StHG; SR. 642.14). Im Übrigen kann die Auslegung und Anwendung des kantonalen Rechts lediglich im Lichte der verfassungsmässigen Rechte und Grundsätze, namentlich des Willkürverbots (<ref-law>), sowie der kantonalen Verfassungsrechte (<ref-law>) geprüft werden (<ref-ruling> E. 4.2.2 S. 158; <ref-ruling> E. 3 S. 351). Die Sachverhaltsfeststellung, soweit rechtserheblich, kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2. Die Beschwerdeführer machen geltend, in der Eingabe vom 18. Februar 2010 hätten sie der Vorinstanz den Sachverhalt und dessen steuerrechtliche Behandlung nochmals ausführlich dargelegt. Die Ergänzungseingabe sei innert verlängerter Frist am 18. Februar 2010 der Post übergeben worden und am 22. Februar 2010 bei der Vorinstanz eingegangen. Am 23. Februar 2010 habe diese ihr Urteil gefällt. Es sei anzunehmen, dass sie die Eingabe vom 22. Februar dabei nicht mehr berücksichtigen konnte. Die Beschwerdeführer machen in diesem Zusammenhang aber weder eine unvollständige Sachverhaltsfeststellung geltend, noch rügen sie eine Verletzung ihres Anspruchs auf rechtliches Gehör (was erforderlich wäre, damit eine solche Rüge geprüft werden könnte, Art. 97 Abs. 1 und <ref-law>). Es geht den Beschwerdeführern mit der angeblich nicht berücksichtigten Eingabe vielmehr darum, sicher zu stellen, dass im Entscheid dem zivilrechtlichen Rückforderungsanspruch der Konkursverwaltung, der auch tatsächlich eingeklagt worden war, Rechnung getragen werde, und dass zur Kenntnis genommen werde, dass davon auch die fiktiven Gutschriften betroffen gewesen seien. Ob die Gutschriften im Sinne der noch zu erörternden Rechtsprechung als unsicher erschienen, ist aber primär eine Rechtsfrage und anhand von rechtlichen Kriterien zu klären. Sie wurde vom Verwaltungsgericht geprüft und unterliegt der bundesgerichtlichen Kognition. Es ist im entsprechenden Sachzusammenhang darauf zurückzukommen.
I. Direkte Bundessteuer
3. Die A._ AG, die als Vermögensverwalterin auftrat, fasste die ihr anvertrauten Kundengelder in einem Pool zusammen. Sie wies gegenüber ihren Kunden überhöhte Gewinne aus, die nicht (oder nur marginal) aus Devisenhandel stammten. Die von den Kunden verlangten Auszahlungen finanzierte sie hauptsächlich aus den akkumulierten Anlagegeldern der bisherigen und der neu beigetretenen Anleger.
Solche Gewinngutschriften unterliegen, wie das Bundesgericht wiederholt erkannt hat, als Vermögensertrag der Einkommenssteuer (Art. 16 Abs. 1 und 20 Abs. 1 DBG). Voraussetzung ist, dass sich der Vermögensertrag effektiv realisiert hat. Das ist dann der Fall, wenn die Leistung zufliesst oder eine entsprechende Gutschrift erfolgt, sofern die Forderung einbringlich ist. An der Steuerbarkeit ändert nichts, dass das den Gewinnausweisen zugrunde liegende Umverteilungsprinzip (Schneeballsystem) nichts mit den vereinbarten Anlagerichtlinien (Devisenhandel) zu tun hat und widerrechtlich ist. Einkommen entsteht auch aus widerrechtlichen oder gar kriminellen Handlungen. Dass die Einlagen in einem solchen System ab einem gewissen Zeitpunkt die gesamten Schuldverpflichtungen nicht mehr decken, ist unerheblich, solange das Schneeballsystem funktioniert, d.h., solange Auszahlungen getätigt werden, wenn die Anleger dies verlangen. An dieser Rechtsprechung hat das Bundesgericht trotz Kritik festgehalten (Urteil 2C_565/2007 vom 15. Januar 2008 E. 2.2 mit Hinweis auf 2A.114/2001 vom 10. Juli 2001, in: StE 2001 B 21.1 Nr. 10 = Pra 2001 Nr. 172 S. 1044; 2A.181/2002 vom 27. Januar 2003, in: StE 2003 B 21.1. Nr. 11; 2P.208/2002 vom 6. Februar 2003, in: StR 58/2003 S. 359 E. 2.2; 2P.300/2003 vom 14. Januar 2005 E. 2; und dazu MARKUS REICH, Die ungerechtfertigte Bereicherung und andere rechtsgrundlose Vermögensübergänge im Einkommenssteuerrecht, IFF 2004 S. 7 Fn. 28; MARKUS WEIDMANN, Realisation und Zurechnung des Einkommens, IFF 2003 S. 99; KURT OEHLER, Einkommenssteuerliche Behandlung der Opfer von Anlagebetrügern, StR 2002 S. 842 ff., 2003 S. 70 ff.; URS BEHNISCH, Die steuerrechtliche Rechtsprechung des Bundesgerichts im Jahre 2001, ZBJV 2003/139 S. 878 ff.; HUGO CASANOVA, Die steuerrechtliche Rechtsprechung des Bundesgerichts im Jahre 2003 [Kantonale Abgaben], ASA 74 S. 64 ff.; ROBERT WALDBURGER, Rechtsprechung im Jahr 2001, IFF 2002 S. 139 ff.).
Der vorliegende Fall gibt keinen Anlass, auf diese Rechtsprechung zurückzukommen. Die Beschwerdeführer stellen sie nicht explizit in Frage. Zu prüfen ist aber, ob bezüglich der Einkommensrealisation sich eine besondere Unsicherheit ergibt, die den Zufluss im Zeitpunkt des Forderungserwerbs zu verhindern vermochte, wie die Beschwerdeführer geltend machen.
4. 4.1 Einkommen gilt steuerrechtlich dann als realisiert, wenn die steuerpflichtige Person Leistungen vereinnahmt oder einen festen Rechtsanspruch darauf erwirbt, über den sie tatsächlich verfügen kann. Voraussetzung des steuerrechtlichen Einkommenszuflusses ist daher ein abgeschlossener Rechtserwerb, der Forderungs- oder Eigentumserwerb sein kann. Dabei bildet der Forderungserwerb vielfach die Vorstufe des Eigentumserwerbs (vgl. PETER LOCHER, Kommentar zum DBG, I. Teil, 2001, N. 18 zu <ref-law>; MARKUS REICH, in Kommentar zum schweizerischen Steuerrecht, Band I/2a, 2. Aufl. 2008, N. 34 f. zu <ref-law>). Grundsätzlich ist auf den Forderungserwerb abzustellen, sofern dieser sicher scheint. Der Erwerb einer Forderung, deren Erfüllung unsicher ist, kann nicht als realisiertes Einkommen betrachtet werden.
Ob eine Unsicherheit von Gutschriften im Hinblick auf ihre Einbringlichkeit besteht, ist im Einzelfall aufgrund aller Umstände zu prüfen. Nach der Rechtsprechung ergibt sich eine besondere Unsicherheit von Gutschriften aus betrügerischen Schneeballsystemen namentlich dann, wenn die Gutschrift innerhalb des letzten Jahres vor der Konkurseröffnung erfolgt ist und damit der Anfechtungsklage gemäss Art. 286 oder 287 SchKG (Schenkungsanfechtung, Überschuldungsanfechtung) unterliegt (Urteil 2A.181/2002 vom 27. Januar 2003, in: StE 2003 B 21.1 Nr. 11 E. 2.3; 2A.613/2006 vom 8. August 2007 E. 3.2). Diese Rechtsprechung geht - in solchen Konstellationen - von der Erfahrungstatsache aus, dass Gutschriften, sofern sie innerhalb der Anfechtungsfrist von Art. 286-288 SchKG ausbezahlt worden sind, von der Konkursmasse regelmässig zurückgefordert werden, nötigenfalls auf dem Klageweg. Es kann daher nicht davon ausgegangen werden, dass solche Forderungen zivilrechtlich einbringlich gewesen wären.
4.2 Vorliegend berufen sich die Beschwerdeführer allerdings nicht auf die einjährige Anfechtungsfrist von Art. 286 und 287 SchKG, sondern auf die Besonderheiten der Absichts- oder Deliktsanfechtung gemäss <ref-law>. Nach dieser Vorschrift sind alle Rechtshandlungen anfechtbar, welche der Schuldner innerhalb der letzten fünf Jahre vor der Pfändung oder Konkurseröffnung in der dem andern Teil erkennbaren Absicht vorgenommen hat, seine Gläubiger zu benachteiligen oder einzelne Gläubiger zum Nachteil anderer zu begünstigen. Die Anfechtungsklage gemäss <ref-law> wurde dem Beschwerdeführer durch die Konkursverwaltung nicht nur angedroht, sondern durch die Konkursmasse der A._ AG in Liquidation gegenüber dem Beschwerdeführer am 24. November 2005 auch erhoben. Die Konkursverwaltung ging davon aus, dass der Beschwerdeführer als faktisches Organ anzusehen sei, weil er nicht nur beratend und vermittelnd für die A._ AG tätig gewesen sei, sondern mit den von ihm vermittelten Kunden auch selbst die Verträge unterzeichnet habe; er sei daher durch die Klägerin in qualifizierter Weise begünstigt worden und damit nach <ref-law> passivlegitimiert. Das Verfahren wurde abgeschrieben, nachdem die Parteien am 3./6. Juni 2006 einen aussergerichtlichen Vergleich unterzeichnet hatten. Der Beschwerdeführer verpflichtete sich darin zur Bezahlung von Fr. 240'000.-- an die Konkursmasse.
Die Vorinstanz lehnte es trotz Anfechtungsklage ab, die in die Frist gemäss <ref-law> fallenden Erträge als unsicher zu bezeichnen. Sie verwies auf die bundesgerichtliche Rechtsprechung, wonach bisher nur Erträge innerhalb der einjährigen Verdachtsfrist von Art. 286 und 287 SchKG als unsicher bezeichnet wurden. Für die Vorinstanz war massgebend, dass der Beschwerdeführer in den Jahren 2001 und 2002 noch Barauszahlung erhielt, wenn er dies verlangte, nämlich im Umfang von "zumindest Fr. 1'334'738.20", so dass von einer Uneinbringlichkeit der Erträge nicht gesprochen werden könne (angefochtenes Urteil E. 5.5.2).
4.3 Diese Rechtsauffassung bedarf der Überprüfung. Das besondere Tatbestandsmerkmal, das bei der paulianischen Anfechtung nach <ref-law> erfüllt sein muss, ist die Absicht des Schuldners, seine Gläubiger zu benachteiligen oder einzelne Gläubiger zum Nachteil anderer zu begünstigen. Diese Absicht muss für den anderen Teil zudem erkennbar gewesen sein. Ob eine solche Absicht bestand, ist vom Kläger nachzuweisen. Sie liegt im Gegensatz zum Merkmal der Überschuldung bei der Anfechtung nach <ref-law> weniger klar auf der Hand: Überschuldet im Sinne der zuletzt genannten Vorschrift ist der Schuldner dann, wenn die Gesamtheit seiner Aktiven die gesamten Passiven übersteigen, selbst wenn er in der Lage ist, fällige Verpflichtungen zu erfüllen (vgl. JÄGER/WALDER/KULL/KOTTMANN, Bundesgesetz über Schuldbetreibung und Konkurs, 4. Aufl. 1997/99, N. 6 zu <ref-law>). Bei Schneeballsystemen von der Art, wie sie hier vorliegt, ist die Überschuldung in der Regel einfach festzustellen. Ein solches Schneeballsystem ist u.a. daran zu erkennen, dass Renditen versprochen werden, die nicht erwirtschaftet werden, sondern anhand der Gelder neu beitretender Anleger finanziert werden. Ein solches System beruht nicht auf Nachhaltigkeit. Es kommt zwar erst zum Kollaps, wenn sich die Anleger des Betrugs bewusst werden und ihr Geld zurückverlangen. Die Überschuldung nach <ref-law> im oben erwähnten Sinn tritt aber bereits viel früher ein, da dem System die Nachhaltigkeit von Anfang an fehlt. In den betrachteten Fällen (s. oben E. 3) war denn auch bei der Konkurseröffnung die Überschuldung regelmässig während mehr als einem Jahr gegeben.
Ob demgegenüber der Schuldner in der für die Anfechtung nach <ref-law> erforderlichen Absicht, seine Gläubiger zu benachteiligen oder einzelne Gläubiger zum Nachteil anderer zu begünstigen, handelte, kann - im Gegensatz zur Überschuldung gemäss <ref-law> - nicht ohne weiteres festgestellt werden. Sie ist vielmehr durch den Kläger, der einen Rückforderungsanspruch geltend macht (Konkursmasse, Gläubiger), zuerst nachzuweisen. Wenn aber dieser Nachweis gelingt und von einem Rückforderungsanspruch auszugehen ist, können die noch nicht ausbezahlten Forderungen (Gutschriften) nicht mehr als sicher angesehen werden. Es handelt sich um eine Tatsache, die bereits zum Zeitpunkt der Auszahlung resp. der Gutschrift bestand und daher unter dem Gesichtswinkel der Einkommensrealisation zu betrachten ist. Es kann dann unter diesen Umständen nicht mehr davon ausgegangen werden, die Gutschriften seien einbringlich gewesen. Wären die unsicheren Forderungen (Gutschriften) in Unkenntnis der Sachlage gleichwohl besteuert worden, müsste die Veranlagung revidiert werden, wenn in der Folge an die Konkursmasse zurückgezahlt wird, zumal die Tatsache, auf welche die Konkursmasse oder die klagenden Gäubiger ihre Rückforderung gründen (Schneeballsystem, Absicht), bereits zum Zeitpunkt der Gutschrift bestand (vgl. <ref-law> und dazu KLAUS A. VALLENDER, in: Das schweizerische Steuerrecht, Band I/2b, 2. Aufl 2008, N. 10 zu <ref-law>; KÄNZIG/BEHNISCH, Die direkte Bundessteuer [Wehrsteuer], 2. Aufl. 1992, N. 17 zu Art. 126 BdBSt). Im Lichte dieser Erwägungen ist die Besteuerung der Beschwerdeführer nachfolgend zu überprüfen.
5. Wie bereits im Sachverhalt dargestellt, wurden dem Beschwerdeführer in den beiden Jahren 2001 und 2002 Gewinne aus angeblichem Devisenhandel von insgesamt Fr. 1'635'712.20 gutgeschrieben. Einen Teil davon liess er sich auszahlen. Die restlichen Gutschriften liess er stehen. Das eingesetzte Basiskapital, d.h. die Einlagen von Fr. 300'000.-- (netto) und Fr. 200'000.--, blieb unangetastet. Am 24. November 2003 wurde über die A._ AG der Konkurs eröffnet.
5.1 Was die Barauszahlungen auf den Vermögenserträgen der Jahre 2001 und 2002 betrifft, handelt es sich um realisiertes Einkommen. Mit Klage vom 24. November 2005 leitete die Konkursmasse gestützt auf <ref-law> und <ref-law> Klage gegen den Beschwerdeführer ein. Die Konkursmasse bezifferte ihren Anspruch auf Fr. 987'41.90. Die Klage erfasste alle Zahlungen der A._ AG an den Beschwerdeführer der Jahre 2001 und 2002, mithin auch die Vermögenserträge. In einem aussergerichtlichen Vergleich vom 3./6. Juni 2006 verpflichtete sich der Beschwerdeführer gegenüber der Konkursmasse denn auch zur Rückzahlung von Fr. 240'000--. In diesem Umfang wurden somit die Auszahlungen von der Konkursmasse erfolgreich zurückgefordert. Insoweit wurden sie neutralisiert und können nicht mehr als einkommensbildend betrachtet werden (vgl. LOCHER, a.a.O., N. 14 zu <ref-law>; REICH, Die ungerechtfertigte Bereicherung [...], a.a.O., S. 8). Die kantonale Steuerkommission hat denn auch im Hinblick auf die geleisteten Rückzahlungen die Besteuerung zu Recht reduziert. Die diesbezügliche Berechnung ist vorliegend nicht bestritten.
5.2 Soweit hingegen die Auszahlungen nicht zurückerstattet werden mussten, sind sie als definitiv realisiert zu betrachten und entsprechend zu besteuern (vgl. Urteil 2P.300/2003 vom 14. Januar 2005 E. 2.4.2.3). Dabei ist unerheblich, ob der Beschwerdeführer im Rahmen seiner Geschäfte mit der A._ AG zu Verlust gekommen ist und seine Zahlungsunfähigkeit zum Abschluss des aussergerichtlichen Vergleichs geführt hat, wie er geltend macht, da für die Frage der Realisation des Einkommens allein die Verhältnisse zum Zeitpunkt des Zuflusses massgebend sind und ein abgeschlossener Rechtserwerb vorliegt.
5.3 Anders stellt sich die Sach- und Rechtslage in Bezug auf die Gutschriften (Vermögenserträge) dar, die nicht zur Auszahlung gelangten. Die Voraussetzungen für eine Anfechtung der Auszahlungen nach <ref-law> war nach Ansicht der Zivilparteien gegeben, ansonst ein aussergerichtlicher Vergleich über die teilweise Rückerstattung der Unrecht bezogenen Auszahlungen nicht geschlossen worden wäre. Die Anfechtungsklage gemäss <ref-law> der Konkursmasse erfasste alle damals bekannten Gewinne. Es ist davon auszugehen, dass die stehen gelassenen Gutschriften, sofern sie ausbezahlt worden wären, ebenfalls in die Anfechtung mit einbezogen worden wären. Diese können daher nicht als realisiertes Einkommen betrachtet und besteuert werden.
5.4 Was den Verlust auf den beiden Einlagen von Fr. 300'000.-- und Fr. 200'000.-- betrifft, handelt es sich um einen bei der Einkommenssteuer nicht absetzbaren Kapitalverlust. Kapitalverluste im Privatvermögensbereich sind steuerlich unbeachtlich, wie auch Kapitalgewinne auf dem Privatvermögen steuerfrei bleiben (<ref-law>).
5.5 Der Anfechtung durch die Konkursmasse unterlagen auch die "Vermittlungsprovisionen", die der Beschwerdeführer für die Werbung weiterer Teilnehmer am Schneeballsystem ausbezahlt erhielt. Auch diese waren angesichts der drohenden Anfechtung als unsicher zu betrachten. Soweit die Vermittlungsentgelte dem Beschwerdeführer ausbezahlt wurden und (im Rahmen der Vergleichszahlung von Fr. 240'000.--) nicht zurückbezahlt werden mussten, handelt es sich indessen um definitiv realisiertes Einkommen, welches der Besteuerung unterliegt. Die Beschwerdeführer haben die Provisionen denn auch in der Steuererklärung 2001/02 angegeben. Allerdings sind diese Provisionen nicht wie deklariert als Vermögensertrag, sondern als Einkommen aus Erwerbstätigkeit zu qualifizieren.
5.6 Die Beschwerde ist somit in Bezug auf die direkte Bundessteuer begründet und gutzuheissen, soweit die Vorinstanz nicht ausbezahlte Gutschriften besteuert hat. Im Übrigen ist die Beschwerde abzuweisen.
II. Staats- und Gemeindesteuer
6. Die hier massgebenden Bestimmungen des Steuerharmonisierungsgesetzes (Art. 7 Abs. 1 und 4 lit. d StHG) stimmen inhaltlich mit den entsprechenden Bestimmungen bei der direkten Bundessteuer überein. Die Beschwerdeführer erheben in Bezug auf die kantonalen Steuern keine Rügen, welche nicht bereits für die direkte Bundessteuer zu behandeln waren. Sie machen auch nicht geltend, kantonales (Steuer-)Recht sei willkürlich ausgelegt oder angewendet worden (<ref-law>). Die Beschwerde ist folglich auch in Bezug auf die kantonalen Steuern begründet, soweit die Steuerbehörden die als unsicher scheinenden Gutschriften der Jahre 2001 und 2002 der Einkommens- und Vermögenssteuer unterworfen haben. Im Übrigen ist die Beschwerde abzuweisen.
III. Entscheid / Kosten
7. Heisst das Bundesgericht die Beschwerde gut, so entscheidet es in der Sache selbst oder weist diese zu neuer Beurteilung an die Vorinstanz zurück. Es kann die Sache auch an die Behörde zurückweisen, die als erste Instanz entschieden hat (<ref-law>). Die Höhe der von der Steuerkommission als Einsprachebehörde festgestellten Auszahlungen an den Beschwerdeführer (vgl. vorstehenden Sachverhalt B) wurde von der Vorinstanz noch nicht überprüft. Es rechtfertigt sich daher, die Sache an die Vorinstanz zurückzuweisen.
8. Da keine Partei vollständig obsiegt, sind die Gerichtskosten (<ref-law>) auf die Parteien anteilmässig zu verlegen (Art. 66 Abs. 1 und 4, a contrario, BGG) und haben die Beschwerdeführer Anspruch auf eine reduzierte Parteientschädigung (Art. 68 Abs. 1 und 2 BGG). Die Beschwerdeführer haften für ihren Anteil an den Gerichtskosten solidarisch (<ref-law>). Eine Parteientschädigung ist dem Kanton nicht zuzusprechen (<ref-law>).
Über die Kosten des kantonalen Verfahrens hat die Vorinstanz neu zu befinden; ebenso über die Parteientschädigung.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird hinsichtlich der direkten Bundessteuer teilweise gutgeheissen, der Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 23. Februar 2010 wird aufgehoben und die Sache zu neuem Entscheid im Sinne der Erwägungen an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
2. Die Beschwerde wird hinsichtlich der Kantons- und Gemeindesteuern teilweise gutgeheissen, der Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 23. Februar 2010 wird aufgehoben und die Sache zu neuem Entscheid im Sinne der Erwägungen an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
3. Die Gerichtskosten von Fr. 5'000.-- werden den Beschwerdeführern mit Fr. 4'000.--, diesen unter solidarischer Haftung, und dem Kanton Schwyz mit Fr. 1'000.-- auferlegt.
4. Der Kanton Schwyz hat die Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1'500.--zu entschädigen.
5. Über die Kosten- und Entschädigungsfolgen des vorinstanzlichen Verfahrens hat die Vorinstanz neu zu befinden.
6. Dieses Urteil wird den Parteien, der Kantonalen Steuerkommission Schwyz, dem Verwaltungsgericht des Kantons Schwyz, Kammer II, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 6. Juli 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Wyssmann