Sachverhalt:
A. X._ und Y._ veräusserten im Dezember 2000 insgesamt 13 Stockwerkeinheiten der Überbauung "R._", O._strasse .., .., .., in P._ an ihre Kinder. Die Steuerbehörden betrachteten die Liegenschaften als zum Geschäftsvermögen gehörend, weshalb bei der Übertragung auf die Nachkommen eine Privatentnahme (Überführung vom Geschäft- in das Privatvermögen) anzunehmen sei. Den dabei anfallenden Gewinn setzte die Verwaltung für die direkte Bundessteuer des Kantons Schwyz auf Fr. .... fest und erfasste ihn in der Steuerperiode 2001 (Veranlagungsverfügung vom 18. Juli 2006).
Eine Beschwerde hiess das Verwaltungsgericht des Kantons Schwyz mit Entscheid vom 23. Februar 2010 teilweise gut und setzte das für die direkte Bundessteuer 2001 massgebende steuerbare Einkommen neu auf Fr. ... fest. Es befand, dass der Gewinn aus gewerbsmässigem Liegenschaftenhandel infolge Privatentnahme in der Steuerperiode 2000, nicht in der Steuerperiode 2001 realisiert worden sei.
B. Mit Veranlagungsverfügung vom 30. April 2010 erfasste die Steuerverwaltung den Liegenschaftsgewinn als ausserordentliches Einkommen in der Steuerperiode 2000 mit der separaten Jahressteuer (Bemessungslückenjahr infolge Wechsels von der Prä- zur Postnumerandobesteuerung). Mit Einspracheentscheid vom 17. Dezember 2010 setzte sie das steuerbare Einkommen - ausgehend von einer Verkehrswertschätzung der Güterschatzungskommission vom 20. März 2009 und unter Berücksichtigung der Anlagekosten und der Abzüge für AHV-Beiträge und Verwaltungskosten - auf Fr. .... fest. Das von den Beschwerdeführern daraufhin angerufene Verwaltungsgericht hiess die Beschwerde teilweise gut, bestimmte das der Jahressteuer unterliegende ausserordentliche Einkommen auf Fr. .... und wies im Übrigen die Beschwerde ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragen die Steuerpflichtigen dem Bundesgericht, es sei die Veranlagungsverfügung der Kantonalen Verwaltung für die direkte Bundessteuer ersatzlos aufzuheben; eventualiter sei der für die Jahressteuer auf ausserordentlichen Einkünften massgebende Überführungsgewinn auf Fr. .... festzusetzen.
Die Kantonale Verwaltung für die direkte Bundessteuer des Kantons Schwyz, das Verwaltungsgericht des Kantons Schwyz und die Eidgenössische Steuerverwaltung beantragen Abweisung der Beschwerde.
Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen den Entscheid des Verwaltungsgerichts des Kantons Schwyz betreffend die Jahressteuer (direkte Bundessteuer) 2000 ist zulässig (Art. 82 ff., 86 Abs. 1 lit. d und Abs. 2 BGG; Art. 146 DBG [SR 642.11]). Die Beschwerdeführer sind zur Beschwerde legitimiert (Art. 89 Abs. 1 BGG).
1.2 Nicht einzutreten ist auf den Beschwerdeantrag, es sei die Veranlagungsverfügung aufzuheben, da sich die Beschwerde nur gegen Entscheide letzter kantonaler Instanzen richten kann, hier des Urteils des Verwaltungsgerichts vom 30. März 2011 (Art. 86 Abs. 1 lit. d und Abs. 2 BGG). Einen ausdrücklichen Antrag auf Aufhebung dieses Urteils stellen die Beschwerdeführer zwar nicht. Im Antrag auf Aufhebung der Veranlagungsverfügung kann aber der Antrag auf Aufhebung dieses Entscheids als stillschweigend mitenthalten betrachtet werden.
1.3 Nicht Verfahrensgegenstand bildet der Entscheid des Verwaltungsgerichts vom 23. Februar 2010. Es handelt sich bei diesem um den verfahrensabschliessenden (End)Entscheid im Sinne von Art. 90 BGG, der das Verfahren für die Steuerperiode 2001 beendet hat, und nicht um einen Zwischen- oder Rückweisungsentscheid betreffend die hier streitige Steuerperiode 2000. Es ist daher durch diesen - entgegen der Ansicht der Steuerverwaltung - über die Verkehrswerte und die Verkehrswertschätzung für das Steuerjahr 2000 noch nicht rechtskräftig entschieden worden (s. aber auch nachfolgende E. 1.5).
1.4 Mit der Beschwerde kann nach Art. 95 lit. a BGG die Verletzung von Bundesrecht gerügt werden. Das Bundesgericht wendet das Recht zwar von Amtes wegen an (Art. 106 Abs. 1 BGG), doch prüft es unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 2 BGG) grundsätzlich nur die geltend gemachten Rechtswidrigkeiten (BGE 133 II 249 E. 1.4.1 S. 254). Die Verletzung von Grundrechten und von kantonalem Recht prüft es nur insofern, als eine solche Rüge in der Beschwerde ausdrücklich vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
1.5 Der von der Vorinstanz festgestellte Sachverhalt ist für das Bundesgericht grundsätzlich verbindlich (vgl. Art. 105 Abs. 1 und 2 BGG). Die Sachverhaltsfeststellung kann, sofern rechtserheblich, nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG). Nicht verbindlich sind die Feststellungen des Verwaltungsgerichts im ersten Entscheid vom 23. Februar 2010 (da dieser nicht Gegenstand des vorliegenden Verfahrens ist, vgl. vorstehende E. 1.3), es sei denn, das Verwaltungsgericht verweist im angefochtenen Entscheid ausdrücklich darauf; alsdann gelten die dortigen Sachverhaltsfeststellungen kraft Verweisung auch für das vorliegende Verfahren. Solche Verweisungen auf tatsächliche Feststellungen enthält das angefochtene Urteil, etwa im Zusammenhang mit der Frage der Qualifikation der Grundstücke als Geschäftsvermögen (Urteil E. 3.2).
2. Die Beschwerdeführer machen geltend, dass für die Steuerperiode 2000 die Veranlagungsverjährung eingetreten sei. Sie bestreiten, dass das Schreiben der Veranlagungsbehörde vom 4. April 2006 die Veranlagungsverjährung von fünf Jahren für die Steuerperiode 2000 unterbrechen konnte, da es sich auf die Steuerperiode 2001 bezog.
2.1 Nach Art. 120 Abs. 1 DBG verjährt das Recht, eine Steuer zu veranlagen, fünf Jahre nach Ablauf der Steuerperiode. Sie wird nach Abs. 3 lit. a zudem unterbrochen und beginnt neu mit jeder auf Feststellung oder Geltendmachung der Steuerforderung gerichteten Amtshandlung, die einem Steuerpflichtigen oder Mithaftenden zur Kenntnis gebracht wird. Als Amtshandlungen, denen im Sinne von Art. 120 Abs. 3 lit. a DBG verjährungsunterbrechende Wirkung zukommt, gelten nach der Rechtsprechung nicht nur eigentliche Bezugshandlungen, sondern alle auf Feststellung der Steuerforderung gerichteten Amtshandlungen, die dem Steuerpflichtigen zur Kenntnis gebracht werden. Dazu gehören beispielsweise die Zustellung des Steuererklärungsformulars, die Mahnung zur Einreichung einer Steuererklärung, die Ankündigung und Vornahme von Bücheruntersuchungen, die Eröffnung einer definitiven oder provisorischen Steuerveranlagung, die Aufforderung oder Mahnung zur Zahlung (BGE 126 II 1 E. 2c mit Hinweisen). Das Schreiben vom 4. April 2006, mit dem die Steuerverwaltung Kopien der Kaufverträge der Veräusserung der 13 Stockwerkeinheiten der Überbauung "R._" anforderte, war daher zweifellos geeignet, die Verjährung zu unterbrechen (s. auch Urteil vom 5. April 1974 E. 1, in: ASA 43 S. 127).
2.2 Allerdings trug das Schreiben vom 4. April 2006 die Überschrift "Unterlagen zur Veranlagung 2001". Die Unterlagen, die einverlangt wurden, und die Veräusserungen, auf welche sich diese Unterlagen beziehen, waren indessen klar bezeichnet: Es handelt sich um die "Kopie(n) der Kaufverträge im 2000 mit den Kindern A._, B._, C._, D._, E._ betr. GB ..." sowie die "Deklaration der Anlagekosten der im 2000 verkauften GB ...". Ob die Steueransprüche auf den Veräusserungen in der Steuerperiode 2001 oder in der Steuerperiode 2000 geltend zu machen sind, wurde durch dieses Schreiben aber nicht entschieden. Es obliegt vielmehr der Veranlagungsbehörde und auf Bestreitung hin der Rechtsmittelinstanz, durch Verfügung bzw. Entscheid die steuerbaren Einkünfte periodengerecht zu erfassen. Im Schreiben vom 4. April 2006 kann daher - entgegen der Ansicht der Beschwerdeführer - nach Treu und Glauben keine Zusicherung der Behörde erblickt werden, dass der Überführungsgewinn auf jeden Fall im Jahre 2001 erfasst werde. Der Vertrauensgrundsatz ist durch die Bezeichnung des Steuerjahres 2001 nicht verletzt.
Es liegt darin auch kein widersprüchliches Verhalten: Die Steuerbehörden beurteilen den gleichen Sachverhalt nicht einmal nach der äusseren rechtlichen Form und ein anders Mal nach dem wirtschaftlichen Hintergrund, wie die Beschwerdeführer beanstanden. Vielmehr hat das kantonale Verwaltungsgericht erkannt, die ursprüngliche Betrachtung der Steuerverwaltung sei falsch gewesen. Die zwingende Folge daraus war, dass die Steuerbehörde die vom Verwaltungsgericht vorgegebene Betrachtungsweise anzuwenden hatte (s. auch Urteil des Bundesgerichts vom 29. Oktober 1987, in: ASA 59 S. 250 E. 4e).
Schliesslich ist auch unerheblich, dass die Steuerbehörde, basierend auf der Steuererklärung 2001A, aus welcher sich die separate Jahressteuer 2000 ableiten lässt, bereits die Jahressteuer 1999 veranlagt hat. Entscheidend ist allein, dass noch keine Veranlagung für die Jahressteuer 2000 vorgenommen wurde. Daran ändert auch die - allenfalls rechtskräftige - Veranlagung 1999/2000 nichts, da die Jahressteuer 2000 separat von den Steuern 1999/2000 erhoben wird.
2.3 Mit dem Schreiben vom 4. April 2006 wurde die Veranlagungsverjährung somit unterbrochen. Nicht bestritten sind im Übrigen die verschiedenen Unterbrechungshandlungen im Jahr 2001. Das Recht zur Veranlagung der Jahressteuer 2000 ist nicht verjährt.
3. 3.1 Der Beschwerdeführer gilt für die Steuerperiode 2000 als gewerbsmässiger Liegenschaftenhändler. Das ist vorliegend nicht mehr umstritten. In Frage steht einzig, ob die im Jahr 2000 an die Kinder veräusserten Liegenschaften (Stockwerkeinheiten) im Geschäfts- oder Privatvermögen des Beschwerdeführers gehalten wurden. Zu den Einkünften aus selbständiger Erwerbstätigkeit zählen gemäss Art. 18 Abs. 2, erster Satz, DBG auch alle Kapitalgewinne aus Veräusserung, Verwertung und buchmässiger Aufwertung von Geschäftsvermögen. Kapitalgewinne aus der Veräusserung von Privatvermögen sind nach Art. 16 Abs. 3 DBG demgegenüber steuerfrei. Ein der direkten Bundessteuer unterliegender Kapitalgewinn liegt daher nur vor, sofern die Grundstücke Geschäftsvermögen bildeten, nicht aber, wenn sie zum Privatvermögen zählten.
3.2 Nach der Legaldefinition in Art. 18 Abs. 2, dritter Satz, erster Halbsatz, DBG liegt Geschäftsvermögen vor, wenn der Vermögenswert ganz oder vorwiegend der selbständigen Erwerbstätigkeit dient.
Ob ein Wertgegenstand dem Privat- oder dem Geschäftsvermögen zuzuordnen ist, entscheidet sich aufgrund einer Würdigung aller in Betracht kommenden tatsächlichen Umstände. Ausschlaggebendes Zuteilungskriterium ist die aktuelle technisch-wirtschaftliche Funktion des fraglichen Vermögensgegenstands. Massgeblich ist also in erster Linie, ob der Gegenstand in seiner tatsächlichen Nutzung dem Geschäft dient. Daneben können als weitere Abgrenzungskriterien die äussere Beschaffenheit des Vermögenswerts, die Herkunft der Mittel zu dessen Finanzierung, das Erwerbs- oder Veräusserungsmotiv, die zivilrechtlichen Eigentumsverhältnisse und auch die buchmässige Behandlung dienen. Es gilt zudem nach der Legaldefinition die Präponderanzmethode (BGE 133 II 420 E. 3.2 S. 422; Urteil 2A.52/2003 vom 23. Januar 2004 E. 2.2 ff., in: ASA 74 S. 737; 2A.747/2004 vom 9. Mai 2005, in: Pra 2006 Nr. 16 S. 119 E. 4.2; 2A.667/2004 vom 3.11.2005, in: RDAF 2006 II 221 E. 2.2; zum Ganzen, vgl. MARTIN ARNOLD, Geschäfts- und Privatvermögen im schweizerischen Einkommenssteuerrecht, ASA 75 S. 271 ff. mit eingehender Darstellung der Praxis).
3.3 Bei einem (interkantonalen) Liegenschaftenhändler unterscheiden Rechtsprechung und Lehre drei Arten von Immobilien: solche, die für den Verkauf bestimmt sind und damit Handelsware (Umlaufvermögen) bilden, Betriebsliegenschaften, d.h. unmittelbar dem Handelsbetrieb dienende Liegenschaften (Anlagevermögen), sowie Kapitalanlageliegenschaften, die nur mittelbar durch ihren Ertrag als Kapitalanlage einem Unternehmen bzw. einem Privaten dienen (vgl. Urteil 2C_50/2011 vom 16. Mai 2011 E. 2.1, in: StE 2011 B 23.45.2 Nr. 8; Urteil 2A.667/2006 vom 16. Februar 2007 E. 2, in: StE 2008 B 23.43.2 Nr. 15; s. auch BGE 131 I 249 E. 2.1 S. 252; Peter Locher, Einführung in das interkantonale Steuerrecht, 3. Aufl. 2009, S. 116 ff.; Peter Mäusli-Allenspach, Interkantonale Steuerausscheidung bei Grundstücken des Geschäfts- und Privatvermögens - Eine Standortbestimmung, in: Steuerrecht 2007, S. 95 ff.; Rütsche/Fischer, in: Kommentar zum Schweizerischen Steuerrecht, Interkantonales Steuerrecht, 2011, § 38 N. 31 S. 457; Julia von Ah, Besteuerung des Liegenschaftenhandels und Ermittlung des Grundstückgewinns bei Geschäftsgrundstücken, in: Steuerrecht 2007, S. 129 ff.).
Normalerweise stellen Immobilien bei Liegenschaftenhändlern Umlaufvermögen dar, d.h. sie sind weder Betriebs- noch Kapitalanlageliegenschaften (vgl. Urteil 2A.36/2007 vom 21. August 2007 E. 2.1, in: StE 2009 B 11.3 Nr. 18 mit Hinweis). Zum Umlaufvermögen zählen auch die sog. Vorratsimmobilien (2A.667/2006 vom 16. Febr. 2007 E. 3.2, in: StE 2008 B 23.43.2 Nr. 15). Es ist aber nicht ausgeschlossen, dass ein gewerbsmässiger Liegenschaftenhändler auch Kapitalanlageliegenschaften in seinem Liegenschaftsbestand hält. Alsdann ist abzuklären, ob diese dem Privat- oder Geschäftsvermögen zuzuordnen sind. Ordentliche Abschreibungen sind nur auf Betriebsliegenschaften denkbar, d.h. nicht auf Kapitalanlageliegenschaften oder auf Immobilien des Umlaufvermögens (Urteil 2A.667/2006 vom 16. Februar 2007 E. 3, in: StE 2009 B 11.3 Nr. 18; s. auch BGE 132 I 175 E. 2.2 S. 178).
4. 4.1 Die Beschwerdeführer machen geltend, dass die Liegenschaften O._strasse .., .. und .. der privaten Kapitalanlage gedient hätten. Nicht zuletzt aufgrund der langen Haltedauer und der familieninternen Übertragung auf die Kinder könne bei der Überbauung "R._" eine Vorratsimmobilie des Liegenschaftenbetriebs ausgeschlossen werden. Der Beschwerdeführer habe die Überbauung in seinen Steuererklärungen jeweils dem Privatvermögen zugeordnet und den Pauschalabzug geltend gemacht. Bis und mit der Steuerperiode 2002 habe die Steuerverwaltung dies akzeptiert. Ebenso habe sie bei einer bereits im Jahr 1997 vorgenommenen Übertragung einzelner Stockwerkeigentumseinheiten dieser Überbauung auf die Kinder keine Einkommenssteuer erhoben. Da bei der Übertragung der fraglichen Stockwerkeinheiten keine Abrechnung erfolgte, sei anzunehmen, dass es sich schon damals um Privatvermögen gehandelt habe. Im Erbvertrag vom 17. Dezember 1997 sei dann die künftige Aufteilung der Überbauung "R._" vereinbart worden. Bei den fraglichen Veräusserungen handle es sich lediglich um die teilweise Umsetzung der vereinbarten Nachfolgeregelung.
4.2 Gemäss den verbindlichen (vorstehende E. 1.5) Feststellungen der Vorinstanz trat der Beschwerdeführer das Eigentum an den beiden Parzellen an der O._strasse am 30. November 1981 an. Der Beschwerdeführer erstellte in den Jahren 1983 und 1984 die beiden Mehrfamilienhäuser O._strasse Nrn. .. und .. und ergänzte im Jahr 1995 diese Überbauung um das Haus Nr. ... Die Wohnungen und Stockwerkeinheiten wurden ganz überwiegend fremdvermietet. Auf den 2. Januar 1997 begründete der Beschwerdeführer Stockwerkeigentum an dieser Überbauung und verkaufte mehrere Stockwerkeinheiten an seine Kinder. Er blieb aber Eigentümer zahlreicher weiterer Stockwerkeinheiten, die er vermietete. Ende September 2000 veräusserte der Beschwerdeführer die hier in Frage stehenden zehn Wohnungen und drei Bastelräume an seine Kinder. Der Beschwerdeführer besitzt aber weiterhin zahlreiche Wohnungen in der Überbauung O._strasse und ist Eigentümer weiterer Liegenschaften im Kanton (vgl. angefochtenes Urteil E. 3.2 und Urteil vom 23. Februar 2010 E. 4.2 [in Verbindung mit E. 3.1 im angefochtenen Entscheid]).
Das Verwaltungsgericht vermochte darin zu Recht keine Anhaltspunkte zu erkennen, dass sich die Liegenschaften in irgendeinem Zeitpunkt im Privatvermögen des Beschwerdeführers befanden oder diesem zugewiesen worden wären. Der Beschwerdeführer war nach den verbindlichen Feststellungen der Vorinstanz während eines Grossteils seines aktiven Erwerbslebens im Baugewerbe tätig, so durch Beteiligung an der Y._ AG in Q._ (heute in Liq.), an der X._ AG, P._, sowie an der Z._ AG, Q._. Zudem war er an mehreren Baukonsortien beteiligt und verfügte auch noch im Jahr 2010 über ein beachtliches Immobilienportefeuille. Wie der Beschwerdeführer selber bestätigte, machte die Bank die Kaufpreisfinanzierung für den Kauf von weiterem Bauland im "S._" im Jahr 2001 davon abhängig, dass er zusätzliches Eigenkapital einschiesse. Aus diesem Grund sah sich der Beschwerdeführer zur Tätigung von Erbvorbezügen veranlasst (Urteil des Verwaltungsgerichts vom 23. Februar 2010, E. 1.2, 4.2 und 5.2, und vom 30. März 2011 E. 3.1 und 3.2). In der Tat bildeten diese Liegenschaften immer Geschäftsvermögen des Beschwerdeführers. Auch die Aufteilung in Stockwerkeigentum spricht für den Handel mit diesen Liegenschaften. Die veräusserten Liegenschaften bildeten damit Geschäftsvermögen. Die selbständige Tätigkeit des Beschwerdeführers als Liegenschaftenhändler im vorliegend relevanten Zeitraum steht, wie erwähnt (vorstehende E. 3.1), unbestrittenermassen fest.
4.3 Die Beschwerdeführer wenden ein, im Erbvertrag vom 17. Dezember 1997 hätten sie die künftige Aufteilung der Überbauung an der O._strasse mit ihren Kindern vereinbart. Mit den am 18. Dezember 2000 vorgenommenen Eigentumsübertragungen hätten sie die im Erbvertrag vorgesehene Nachfolgeregelung teilweise verwirklicht. Das trifft zu, ändert aber nichts an der Tatsache, dass bis zum Zeitpunkt des Abschlusses des Erbvertrags (und auch danach) eine Privatentnahme der Grundstücke gegenüber der Steuerbehörden nie offengelegt worden wäre.
Aus welchen Gründen die Steuerbehörden die bereits im Jahre 1997 an die Kinder veräusserten Stockwerkeinheiten nicht als Privatentnahme beurteilt hatten, konnte im Nachhinein nicht mehr ermittelt werden und bleibt unklar. Daraus durften die Beschwerdeführer jedoch nicht schliessen, dass die Steuerbehörden die Behandlung der Liegenschaften der Überbauung als Privatvermögen auch für die übrigen Liegenschaften und in Zukunft zugesichert hätten. Eine allenfalls falsche Beurteilung der Qualifikation der Veräusserungen im Jahre 1997 verschafft keine Vertrauensposition in dem Sinn, dass die Beschwerdeführer sich auch im Jahr 2000 auf die gleiche steuerrechtliche Behandlung berufen können. Vielmehr ist der Steuertatbestand grundsätzlich von Mal zu Mal neu und umfassend zu prüfen.
5. 5.1 Die Beschwerdeführer stellen mit ihrem Eventualantrag den der Veranlagung zugrunde gelegten Verkehrswert in Frage. Die Veranlagungsbehörde ging gestützt auf einen Bericht der Güterschatzungskommission vom 20. März 2009 von einem Verkehrswert per 1. Januar 2001 von Fr. .... aus, den sie der Veranlagung des Überführungsgewinns zugrunde legte. Die Vorinstanz berücksichtigte zusätzlich den Umstand, dass zugunsten der übrigen Stockwerkeigentümer ein limitiertes Vorkaufsrecht bestehe, und setzte den Verkehrswert aus diesem Grund auf Fr. .... herab. Die Beschwerdeführer beanstanden die Schätzung der Güterschatzungskommission und berufen sich ihrerseits auf eine Schätzung der Zürcher Kantonalbank vom 18. Juni 1999. Nach dieser Schätzung würde die ins Privatvermögen überführte Wertquote Fr. .... betragen.
5.2 Ein Verkehrswert im steuerrechtlichen Sinn ist keine mathematisch exakt bestimmbare Grösse, sondern in der Regel ein Schätz- oder Vergleichswert. Mit jeder Schätzung ist, unabhängig von der angewandten Methode, ein Streubereich der Ungenauigkeit verbunden (BGE 131 I 291 E. 3.2.2 S. 307; 128 I 240 E. 3.2.1 f. S. 249). Der Schätzer hat die tatsächlichen Verhältnisse des konkreten Falls zu berücksichtigen und ist, um den gesuchten Wert annäherungsweise bestimmen zu können, auf Vergleichswerte und Erfahrungszahlen angewiesen. In diesem Sinn werden die durch Schätzungen vorgenommenen Sachverhaltsfeststellungen gelegentlich als eine Art Ermessensbetätigung aufgefasst. Die Verwaltungsgerichte prüfen sie daher in der Regel, gleich wie Ermessensentscheide, nur mit Zurückhaltung, auch wenn das Gesetz dies nicht verlangt (Urteil vom 12. November 1976 E. 3b, in: ASA 46 S. 112 E. 3b; nicht publiziertes Urteil 2A.512/2001 vom 12. September 2002 E. 3.2). Das Bundesgericht seinerseits prüft solche Schätzungen nur auf Rechtsverletzungen hin, d.h. ob die methodischen Grundlagen und Vorschriften beachtet und die möglichen und zumutbaren Abklärungen getroffen worden sind und die Schätzung den Beurteilungsfaktoren in vernünftiger Weise Rechnung trägt (Urteil vom 19. März 1981, ASA 50 S. 300 E. 3a mit Hinweisen). Erforderlich ist, dass es gerügt wird (Art. 42 Abs. 2, Art. 106 Abs. 2 BGG). Rein appellatorische Kritik an der Schätzung und deren Methode genügt nicht.
5.3 Die Beschwerdeführer berufen sich ihrerseits auf die Verkehrswertschätzung der Zürcher Kantonalbank vom 18. Juni 1999. Sie legen jedoch mit keinem Wort dar, inwiefern das Gutachten der Zürcher Kantonalbank die Schätzung der Güterschatzungskommission in Frage stellen könnte oder es dieser Schätzung überlegen sein sollte. Mit dem Gutachten der Bank setzen sich die Beschwerdeführer mit keinem Wort auseinander. Auch der Güterschatzungskommission war bekannt, dass die Zürcher Kantonalbank ein Gutachten angefertigt hatte, doch konnte sie mangels überprüfbarer Details dazu keine Stellung nehmen. Hinzu kommt, dass der Landwert auf einer anderen Grundlage bewertet werden musste (vgl. Stellungnahme der Güterschätzungskommission im Einspracheverfahren vom 22. Mai 2009). Bei dieser Sachlage vermag das Gutachten der Kantonalbank aber die Schätzung der Güterschatzungskommission nicht in Frage zu stellen.
5.4 Soweit sich die Beschwerdeführer auf die Anwendbarkeit der kantonalen Verordnung vom 24. November 2004 über die steueramtliche Schätzung nichtlandwirtschaftlicher Grundstücke (SRSZ 172.113) berufen, übersehen sie, dass die vorliegende Schätzung das Steuerjahr 2000 betrifft, weshalb sie auf der Grundlage der alten Verordnung über die steueramtliche Schätzung von Grundstücken vom 17. April 1984 (GS 17-493) abgestützt werden muss; die neue Verordnung trat erst auf den 1. Januar 2005 in Kraft. Eine Rückwirkungsklausel ist in der neuen Verordnung nicht enthalten.
5.5 Der Beschwerde fehlt im Übrigen jegliche Begründung, weshalb die neue Verordnung für die Beschwerdeführer vorteilhafter sein soll. Die Beschwerdeführer beanstanden hauptsächlich, dass die Güterschatzungskommission den Ertragswert der Wohneinheiten lediglich mit 10 % des Realwerts gewichtet habe. Für die Bestimmung des Verkehrswerts bei der Überführung vom Geschäft- in das Privatvermögen ist die Verwendung der Grundstücke durch den Veräusserer massgebend und nicht, zu welchem Zweck die Erwerber diese weiterzuverwenden gedenken. Es ist folglich nicht zu beanstanden, dass die Vorinstanz im Rahmen des Liegenschaftenhandels die Objekte vorwiegend als Handelsobjekte und nicht als Ertragsobjekte gewichtete. Die tiefe Gewichtung des Ertragswerts, die bei Stockwerkeigentumseinheiten und Einfamilienhäusern auch 0 % betragen kann, ist im Übrigen in § 14 Abs. 2 der neuen Verordnung über die steueramtliche Schätzung nichtlandwirtschaftlicher Grundstücke ausdrücklich vorgesehen. Was die Beschwerdeführer weiter vorbringen, ist appellatorische Kritik am angefochtenen Entscheid, auf die nicht weiter einzugehen ist.
6. Die Beschwerde ist nach dem Gesagten abzuweisen, soweit darauf einzutreten ist. Als unterliegende Partei haben die Beschwerdeführer die bundesgerichtlichen Kosten zu tragen; sie haften hierfür solidarisch (Art. 65 und 66 Abs. 1 und 5 BGG). Anspruch der obsiegenden Behörde auf Parteientschädigung besteht nicht (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 5'000.-- werden den Beschwerdeführern unter solidarischer Haftung auferlegt.
3. Dieses Urteil wird den Beschwerdeführern sowie der Verwaltung für die direkte Bundessteuer des Kantons Schwyz, dem Verwaltungsgericht des Kantons Schwyz, Kammer II, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 2. April 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Wyssmann