Sachverhalt:
A. A X._, geb. 1938, bezog seit 2003, nachdem er das ordentliche Rentenalter erreicht hatte, eine Altersrente der Y._ Pensionskasse, finanziert aus dem obligatorischen Teil der Vorsorgeeinrichtung (Basisstiftung, Säule 2a). Er war jedoch weiterhin vollumfänglich bei der Y._ AG unselbständig erwerbstätig und blieb im überobligatorischen Teil (Kaderstiftung, Säule 2b) aktiv versichert. Er leistete im Jahr 2005 den reglementarisch vorgesehenen ordentlichen Beitrag von Fr. 120'000.-- und tätigte überdies im selben Jahr einen Einkaufsbeitrag von Fr. 240'000.-- in die Kaderstiftung.
Am 2. Februar 2007 eröffnete die Steuerverwaltung des Kantons Zug A und B X._ die Veranlagung für die Staats- und Gemeindesteuern und die direkte Bundessteuer 2005. Sie verweigerte darin den Abzug für den Einkaufsbeitrag von Fr. 240'000.--. Eine Einsprache wies die Rechtsmittelkommission der kantonalen Steuerverwaltung Zug am 11. Dezember 2007 ab. Zudem erhöhte sie im Sinne einer Reformatio in peius das steuerbare Einkommen um die ordentlich geleisteten Beiträge von Fr. 120'000.--.
B. Die Steuerpflichtigen führten Rekurs und Beschwerde beim Verwaltungsgericht des Kantons Zug. Dieses hiess am 20. Oktober 2009 die Rechtsmittel gut und setzte das steuerbare Einkommen bei den Kantons- und Gemeindesteuern und bei der direkten Bundessteuer 2005 neu fest, indem es sowohl die ordentlichen Beiträge von Fr. 120'000.-- als auch den Einkaufsbeitrag von Fr. 240'000.-- zum Abzug zuliess.
C. Hiergegen führt die Eidgenössische Steuerverwaltung Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, das Urteil des Verwaltungsgerichts des Kantons Zug vom 20. Oktober 2009 sei aufzuheben. Das steuerbare Einkommen der Steuerpflichtigen sei unter Aufrechnung der ordentlichen Beiträge und des Einkaufbeitrags für die Staats- und Gemeindesteuern auf Fr. 3'053'400.-- und für die direkte Bundessteuer auf Fr. 3'067'000.-- festzusetzen. Sie rügt eine Verletzung von Bundesrecht.
Die Beschwerdegegner und das Verwaltungsgericht des Kantons Zug beantragen Abweisung der Beschwerde. Die Steuerverwaltung des Kantons Zug schliesst auf deren Gutheissung.
Erwägungen:
1. 1.1 Das Eintreten auf die Beschwerde wirft keine besonderen Fragen auf. Die Eidgenössische Steuerverwaltung ist gestützt auf Art. 89 Abs. 2 lit. a BGG in Verbindung mit Art. 5 der Organisationsverordnung für das Eidgenössische Finanzdepartement vom 11. Dezember 2000 (OV-EFD; SR 172.215.1) und Art. 73 Abs. 2 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden (StHG; SR 642.14) zur Beschwerde an das Bundesgericht legitimiert.
1.2 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Soweit die Vorinstanz kantonales Recht anzuwenden hatte, kann nur geltend gemacht werden, der angefochtene Entscheid verstosse gegen Normen des Bundesrechts (Art. 95 lit. a BGG), hier namentlich über die Steuerharmonisierung. Im Übrigen kann die Auslegung und Anwendung des kantonalen Rechts lediglich im Lichte der verfassungsmässigen Rechte und Grundsätze, insbesondere des Willkürverbots (Art. 9 BV), sowie der kantonalen verfassungsmässigen Rechte (Art. 95 lit. c BGG) geprüft werden (BGE 134 I 153 E. 4.2.2 S. 158; 134 II 349 E. 3 S. 351). Solche Rügen sind ausdrücklich zu erheben (Art. 106 Abs. 2 BGG; BGE 134 II 349 E. 3 S. 351 f.).
Der Sachverhalt ist vorliegend nicht umstritten.
1.3 Die im vorliegenden Fall zur Anwendung gelangenden Vorschriften über die Besteuerung von Beiträgen an die berufliche Vorsorge sind harmonisiert und stimmen in den hier relevanten Punkten überein, weshalb es sich für die Beschwerdeführerin erübrigte, für die Kantons- und Gemeindesteuer und für die direkte Bundessteuer zwei unterschiedliche Begründungen für die Beschwerde abzufassen (vgl. BGE 135 II 260 E. 1.3).
2. 2.1 Nach Art. 33 Abs. 1 lit. d DBG (SR 642.11) werden die gemäss Gesetz, Statut oder Reglement geleisteten Einlagen, Prämien und Beiträge an die Alters-, Hinterlassenen- und Invalidenversicherung und an Einrichtungen der beruflichen Vorsorge von den Einkünften abgezogen (vgl. auch Art. 81 Abs. 2 BVG [SR 831.40]). Wörtlich gleich regeln Art. 9 Abs. 2 lit. d StHG und § 30 lit. d des Steuergesetzes des Kantons Zug vom 25. Mai 2000 (StG) die Abzugsfähigkeit solcher Leistungen im Bereich der direkten Steuern der Kantone und Gemeinden.
Vorliegend geht es um Beiträge an die berufliche Vorsorge (Säule 2). Solche Leistungen sind grundsätzlich vollumfänglich abzugsberechtigt. Das gilt sowohl für die periodischen Beiträge wie grundsätzlich auch für die einmaligen Einkaufsbeiträge (unter Vorbehalt von Art. 205 DBG und Art. 79a BVG in der bis Ende 2005 gültigen Fassung). Es spielt dabei auch keine Rolle, ob die Beiträge die obligatorische oder die weitergehende berufliche Vorsorge betreffen (BGE 131 II 627 E. 4.2 S. 633; vgl. Gladys Laffely Maillard, in: Commentaire romand de la LIFD, 2008, N. 50 ff., 55 ff. zu Art. 33 DBG; Peter Locher, Kommentar zum DBG, Teil I, 2001, N. 54 ff. zu Art. 33 DBG; Richner/Frei/Kaufmann/ Meuter, Handkommentar zum DBG, 2. Aufl. 2009, N. 70 ff., 81 ff. zu Art. 33 DBG; Zigerlig/Jud, in: Kommentar zum Schweizerischen Steuerrecht [I/2a], Bundesgesetz über die direkte Bundessteuer, 2. Aufl. 2008, N. 23 zu Art. 33 DBG).
2.2 Art. 10 BVG regelt Beginn und Ende der obligatorischen Versicherung. Die Versicherungspflicht endet, wenn das ordentliche Rentenalter erreicht, das Arbeitsverhältnis aufgelöst oder der Mindestlohn unterschritten wird (Art. 10 Abs. 2 BVG). Der Anspruch auf die Altersleistung entsteht nach Art. 13 Abs. 1 BVG von Gesetzes wegen für Männer mit dem zurückgelegten 65. und für Frauen mit dem zurückgelegten 64. Altersjahr. Dieses Rentenalter entspricht dem Rentenalter bei der AHV (vgl. Art. 62a der Verordnung vom 18. April 1984 über die berufliche Alters-, Hinterlassenen- und Invalidenvorsorge [BVV 2; SR 831.441.1] in Verbindung mit Art. 21 AHVG und Schlussbestimmungen zur 10. AHV-Revision vom 7. Oktober 1994, lit. d Abs. 1 [SR 831.10]).
Gemäss Art. 13 Abs. 2 BVG können die Vorsorgeeinrichtungen in ihren Reglementen aber auch vorsehen, dass der Anspruch auf Altersleistungen "mit der Beendigung der Erwerbstätigkeit" entsteht. In der Regel geht es um die Beendigung der Erwerbstätigkeit vor Erreichen des ordentlichen Rentenalters (Frühpensionierung). Es ist indessen unbestritten, dass die Reglemente gestützt auf Art. 13 Abs. 2 BVG unter der Voraussetzung, dass die versicherte Person weiterhin erwerbstätig ist, auch ein höheres als das gesetzliche Rentenalter vorsehen können. Das folgt bereits aus den Materialien und wurde vom Bundesgericht bestätigt (Botschaft vom 19. Dezember 1975, BBl 1976 I 227 zu Art. 14; s. Urteil 9C_770/2007 vom 14. März 2008 E. 3.4, in: SZS 2008 S. 368; vgl. Jürg Brühwiler, Obligatorische berufliche Vorsorge in: Soziale Sicherheit, SBVR Band XIV, 2. Aufl. 2007, S. 2035 Rz. 87; Isabelle Vetter-Schreiber, BVG, 2009, N. 8 zu Art. 13 BVG). Das gilt nicht nur für die obligatorische Versicherung, sondern auch im Bereich der weitergehenden Vorsorge (Urteil 9C_770/2007, a.a.O.; s. auch Hermann Walser, Weitergehende reglementarische Vorsorge, in: Soziale Sicherheit, SBVR Band XIV, 2. Aufl. 2007, S. 2115 Rz. 87).
2.3 Sowohl das "Y._-Pensionskasse-Reglement" vom 1. Januar 2004 (Basisstiftung, Säule 2a) wie auch das Reglement der Y._-Stiftung (Kaderstiftung Säule 2b) sehen vor, dass der Rentenbeginn bis längstens zur Vollendung des 70. Altersjahres aufgeschoben werden kann (Ziff. 11.3 bzw. 9.3). Das ist nach den obigen Ausführungen zulässig.
Nicht entschieden wurde bisher, ob die Fortführung der weitergehenden Vorsorge (Säule 2b) über das ordentliche Rentenalter hinaus durch ordentliche Beiträge oder Einkäufe möglich ist, wenn der Versicherte aus der Grundversicherung (Säule 2a) bereits Altersleistungen bezieht. Diese Frage ist hier zu entscheiden.
3. 3.1 Nach der Konzeption des BVG ergänzen die über die gesetzlichen Mindestbestimmungen (insbesondere Art. 13-26 BVG) hinausgehenden Leistungen der sogenannten weitergehenden Vorsorge die Leistungen im Bereich der Grundversicherung (s. etwa Art. 49 Abs. 2 BVG; BRÜHWILER, a.a.O., S. 2000 Rz. 15). Der Vorsorgeschutz im Überobligatorium setzt daher grundsätzlich voraus, dass die betreffende Person bereits im Rahmen des Obligatoriums aktiv versichert ist. Eine aktive Versicherung allein in der Säule 2b scheint als systemwidrig. Sie würde nicht auf kollektiver Basis erfolgen und widerspräche dem Prinzip in Art. 1 Abs. 1 BVG. Eine Versicherung einzig in einer weitergehenden Vorsorge stellt daher grundsätzlich (nach dem Prinzip) eine freiwillige individuelle Vorsorge dar, die steuerlich nicht privilegiert werden kann. Die Möglichkeit, sich ausschliesslich (d.h. unter Ausschluss der Grundversicherung) in einer weitergehenden Vorsorge aktiv zu versichern, müsste sich daher schon aus dem Gesetz ergeben.
Fraglich und zu prüfen ist, ob das Gesetz eine solche Ausnahme zulässt und die Beschwerdegegner davon allenfalls profitieren.
3.2 Mit dem Titel "freiwillige Versicherung" bestimmt Art. 4 Abs. 1 und 2 BVG:
"1 Arbeitnehmer und Selbständigerwerbende, die der obligatorischen Versicherung nicht unterstellt sind, können sich nach diesem Gesetz freiwillig versichern lassen.
2 Die Bestimmungen über die obligatorische Versicherung, insbesondere die in Art. 8 festgesetzten Einkommensgrenzen, gelten sinngemäss für die freiwillige Versicherung."
Die Möglichkeit der freiwilligen Versicherung gemäss Art. 4 Abs. 1 BVG besteht für Arbeitnehmer und Selbständigerwerbende, wenn sie der obligatorischen Versicherung nicht unterstellt sind. Nicht obligatorisch versichert sind etwa Arbeitnehmer, deren Lohn einen bestimmten Mindestbetrag nicht erreicht (vgl. Art. 2 Abs. 1, Art. 7 Abs. 1 BVG). Der Bundesrat bestimmt überdies, "welche Arbeitnehmer aus besonderen Gründen der obligatorischen Versicherung nicht unterstellt sind" (Art. 2 Abs. 4 Sätze 1 und 2 BVG). Es handelt sich um die nach Art. 1j und 1k der Verordnung vom 18. April 1984 über die berufliche Alters-, Hinterlassenen- und Invalidenvorsorge (BVV 2; SR. 831.441.1) vom Obligatorium ausgenommenen Arbeitnehmer wie etwa Arbeitnehmer nicht beitragspflichtiger Arbeitgeber, Arbeitnehmer mit befristeten Arbeitsverträgen von bestimmter Dauer oder nebenberuflich tätige Arbeitnehmer, die bereits im Hauptberuf der beruflichen Vorsorge unterstellt sind (s. hierzu Hans-Ulrich Stauffer, Berufliche Vorsorge, 2005, Rz. 493 ff. S. 190; ferner Ueli Kieser, in: Die schweizerische Bundesverfassung, St. Galler Kommentar, 2. Aufl. 2008, N. 12 zu Art. 113 BV; Jacques-André Schneider, L'institution de prévoyance professionnelle des indépendants, SZS 2009, S. 85).
Auf diese Bestimmung kann sich der Beschwerdegegner indessen nicht berufen. Er ist offensichtlich nicht im Sinne von Art. 4 Abs. 1 BVG der "obligatorischen Versicherung nicht unterstellt". Der Beschwerdegegner ist vielmehr von der Versicherungspflicht befreit, weil er die Altersgrenze erreicht hat. Er hat die Möglichkeit, die berufliche Vorsorge weiterzuführen, muss dabei aber deren Grundsätze beachten. Eine Versicherung allein im Überobligatorium würde den Grundsatz der Kollektivität verletzen und kann nicht als weitergehende berufliche Vorsorge anerkannt werden.
3.3 Mit der 1. BVG-Revision hat der Gesetzgeber Art. 4 BVG mit Geltung ab 1. Januar 2005 um zwei weitere Absätze ergänzt. Diese lauten:
"3 Selbständigerwerbende haben ausserdem die Möglichkeit, sich ausschliesslich bei einer Vorsorgeeinrichtung im Bereich der weitergehenden Vorsorge, insbesondere auch bei einer Vorsorgeeinrichtung, die nicht im Register für die berufliche Vorsorge eingetragen ist, zu versichern. In diesem Fall finden die Absätze 1 und 2 keine Anwendung.
4 Die von den Selbständigerwerbenden geleisteten Beiträge und Einlagen in die Vorsorgeeinrichtung müssen dauernd der beruflichen Vorsorge dienen."
Der Absatz 3 gewährt den Selbständigerwerbenden (zu denen der Beschwerdegegner nicht gehört) somit die Möglichkeit, sich ausschliesslich (d.h. unter Ausschluss der obligatorischen Vorsorge) der weitergehenden Vorsorge im Rahmen der Säule 2b anzuschliessen. Die Möglichkeit von Selbständigerwerbenden gemäss den neuen Absätzen 3 und 4 von Art. 4 BVG, sich "ausschliesslich" bei einer Einrichtung der Säule 2b zu versichern, wurde in der parlamentarischen Debatte im Nationalrat ausführlich diskutiert. Es ging darum, Selbständigerwerbenden die Möglichkeit einzuräumen, sich nach ihrer Wahl entweder im Bereich der obligatorischen Vorsorge oder nur im Rahmen der weitergehenden Vorsorge versichern zu lassen; auch eine Kombination beider Vorsorgeformen soll möglich sein. Anlass dazu gab eine Praxis der Steuerbehörden, welche diese Möglichkeiten nicht zugestand (vgl. Votum Triponez, AB 2002 N 519). Man wollte damit den besonderen Verhältnissen bei Selbständigerwerbenden Rechnung tragen, weil deren Einkommenssituation und Vorsorgebedürfnisse sich massgeblich von jenen der Arbeitnehmenden unterscheiden würden. Da auch bei schwankendem Einkommen die Vorsorgebedürfnisse für Selbständigerwerbende bestehen blieben, müssten sie in der Lage sein, den Risikoschutz dann aufzubauen, wenn sie über freie Mittel verfügen (Votum Hassler, AB 2002 N 520).
Obwohl sich in der Folge die ständerätliche Kommission angesichts des Missbrauchspotentials gegen die neuen Bestimmungen ausgesprochen hatte (AB 2002 S 1041), stimmte der Zweitrat den Ergänzungen von Art. 4 BVG schliesslich zu (AB 2002 S 1042). Immerhin präzisierte der Nationalrat später noch in Abs. 4, dass die geleisteten Beiträge und Einlagen in die Vorsorgeeinrichtung dauernd der beruflichen Vorsorge dienen müssen (AB 2003 N 624; AB 2003 S 449; vgl. dazu BGE 134 V 170 E. 4.2 S. 175 ff.; 135 V 418 E. 3.4).
Diese Entstehungsgeschichte zeigt, dass es sich um eine nur den Selbständigerwerbenden offenstehende Neuregelung handelt. Vor der 1. BVG-Revision war in Bezug auf Selbständigerwerbende eine Beschränkung auf den überobligatorischen Teil der Vorsorge allein nicht zulässig. Sie konnten sich über die Vorsorgeeinrichtung ihres Verbandes oder über die Auffangeinrichtung versichern (Art. 44 BVG). Einer anderen Vorsorgeeinrichtung konnten sie sich nur zusammen mit ihrem Personal anschliessen. Das Bundesamt für Sozialversicherung und die Steuerbehörden gingen davon aus, nur der Beitritt zur Säule 2 sei freiwillig, die Wirkungen hingegen seien nach einem Beitritt für Selbständigerwerbende die gleichen (bindenden) wie für einen Arbeitnehmer. Ein Selbständigerwerbender, der sich freiwillig einer Säule 2 anschloss, musste daher auch eine Säule 2a haben (BGE 131 II 627 E. 4.1 S. 632; Urteil 2P.127/2001 vom 21. Dezember 2001 E. 4b, in: StR 57/2002 S. 391; Martin Steiner, Barauszahlungen von Freizügigkeitsleistungen aus [der] 2. Säule an Selbständigerwerbende und Steuerrecht, StR 47/1992, S. 191 ff., insbesondere S. 192 f.; vgl. auch Laffely Maillard, a.a.O., N. 40 zu Art. 27 DBG; Linda Peter-Szerenyi, Der Begriff der Vorsorge im Steuerrecht, 2001, S. 112 ff.; Maute/ Steiner/Rufener, Steuern und Versicherungen, 2. Aufl. 1999, S. 109).
3.4 Angesichts des klaren Wortlauts (vgl. auch Schneider, a.a.O., S. 92), der gesetzgeberischen Arbeiten, der teleologischen Ausrichtung der Norm und der bisherigen Praxis kann es sich bei Art. 4 Abs. 3 BVG nur um eine den Selbständigerwerbenden offenstehende Neuerung handeln. Der Beschwerdegegner als Unselbständigerwerbender kann sich darauf nicht berufen. Die für die Sonderregelung bei Selbständigerwerbenden ins Feld geführten Argumente sind auf Unselbständigerwerbende nicht ohne Weiteres anwendbar. Die Ungleichbehandlung von Selbständig- und Unselbständigerwerbenden ist vom Gesetz gewollt und lässt sich sachlich rechtfertigen.
Es besteht unter diesen Umständen für Unselbständigerwerbende kein Korrekturbedarf in dem Sinne, dass ihnen zusätzlich die Möglichkeit einer Versicherung ausschliesslich im Bereich der weitergehenden Vorsorge eingeräumt wird. Die praktische Notwendigkeit für eine derartige Vorsorge wäre nicht dargetan. Im vorliegenden Fall bewog einzig der im damaligen Zeitpunkt günstige Umwandlungssatz den Beschwerdegegner, die Rente aus der obligatorischen Versicherung trotz fortdauernder voller Erwerbstätigkeit (100 %) bereits zu beziehen.
Daran vermag auch der Hinweis der Vorinstanz auf BGE 130 V 369 E. 6 S. 373 ff. nichts zu ändern, wo entschieden wurde, dass die Eckwerte einer Rente (Beginn, Dauer etc.) im überobligatorischen Bereich autonom bestimmt werden können. Das würde nämlich voraussetzen, dass der überobligatorische Bereich zulässigerweise weiter geführt wird, was hier gerade nicht der Fall ist.
3.5 Der Vollständigkeit halber sei darauf hingewiesen, dass auch die neuesten gesetzgeberischen Arbeiten zu keinem anderen Schluss führen. Im Rahmen der sog. Strukturreform in der beruflichen Vorsorge unterbreitete der Bundesrat (auch) Vorschläge für "Massnahmen zur Erleichterung der Arbeitsmarktbeteiligung älterer Arbeitnehmender" (vgl. Botschaft vom 15. Juni 2007 zur Änderung des BVG, BBl 2007 5720 ff. Ziff. 6 ff.). Um zu verhindern, dass vorsorgerechtliche Bestimmungen zum Ausscheiden aus dem Erwerbsleben beitragen, erachtete der Bundesrat einen Anspruch auf Aufschub der Altersleistung als notwendig. Der vom Bundesrat vorgeschlagene neue Art. 33b BVG wurde vom Parlament am 11. Dezember 2009 unverändert verabschiedet und lautet (BBI 2009 8775):
"Art. 33b Erwerbstätigkeit nach dem ordentlichen Rentenalter
Die Vorsorgeeinrichtung kann in ihrem Reglement vorsehen, dass auf Verlangen der versicherten Person deren Vorsorge bis zum Ende der Erwerbstätigkeit, höchstens jedoch bis zur Vollendung des 70. Altersjahres, weitergeführt wird."
Eine Aufspaltung des Vorsorgeverhältnisses in obligatorische und überobligatorische Versicherung mit unterschiedlichem Rentenbeginn für die beiden Versicherungen ist auch hier nicht vorgesehen.
4. Gemäss Ziffer 2.1 des Reglements der Y._ Pensionskasse (Basisstiftung Säule 2a) haben alle Mitarbeiter des Unternehmens der Pensionskasse beizutreten, sofern das Arbeitsverhältnis für mehr als drei Monate eingegangen wurde. Das Reglement der Y._-Stiftung (Kaderstiftung Säule 2b) sieht seinerseits (Ziffer 1.3) vor, dass die Stiftung im Rahmen des Reglements "und in Ergänzung zu den bestehenden Personalvorsorgeeinrichtungen" (d.h. der Säule 2a) den Schutz gegen die wirtschaftlichen Folgen von Alter, Tod und Invalidität bezweckt. Die beiden Reglemente bestimmen zudem in Ziff. 11.3 bzw. 9.3 übereinstimmend:
"Bleibt der Versicherte auch nach Erreichen des Schlussalters in einem Arbeitsverhältnis mit dem Unternehmen, so kann der Rentenbeginn bis zur Pensionierung, längstens jedoch bis zur Vollendung des 70. Altersjahres, aufgeschoben werden."
Angesichts dieser engen Verknüpfung der beiden Reglemente, was das aufgeschobene Pensionsalter betrifft, und des klaren Hinweises auf die Funktion der Kaderversicherung als Zusatz-Versicherung im Reglement geht es nicht an, Altersleistungen nach der Basisstiftung (Säule 2a) bei Erreichen des Schlussalters und solche nach der Kaderstiftung (Säule 2b) bei der Pensionierung zu beziehen. Die ausschliessliche Versicherung in der Kaderstiftung Säule 2b, wie sie hier in Frage steht, ist daher auch klar reglementswidrig und schon aus diesem Grund unzulässig (Art. 13 Abs. 2 BVG, vgl. vorstehend E. 2.2).
5. Nach dem Gesagten kann das vom Beschwerdegegner nach Erreichen des ordentlichen Pensionsalters ausschliesslich im Rahmen der weitergehenden beruflichen Vorsorge fortgeführte Vorsorgeverhältnis steuerrechtlich nicht anerkannt werden. Die "ordentlichen" Beiträge und der Einkaufsbeitrag des Jahres 2005 können nach Art. 33 Abs. 1 lit. d DBG, Art. 9 Abs. 2 lit. d StHG und § 30 lit. d StG von den Einkünften nicht abgezogen werden.
6. Die Beschwerde ist hinsichtlich der direkten Bundessteuer und der Kantons- und Gemeindesteuern gutzuheissen. Der angefochtene Entscheid ist aufzuheben, die Veranlagung gemäss Einspracheentscheid wieder herzustellen und die Sache zwecks Neuverteilung der Kosten des kantonalen Verfahrens an die Vorinstanz zurückzuweisen.
Die Gerichtskosten (Art. 65 BGG) sind den Beschwerdegegnern aufzuerlegen; sie haften hierfür solidarisch (Art. 66 Abs. 1 und 5 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die Kantons- und Gemeindesteuern 2005 wird gutgeheissen, das Urteil des Verwaltungsgerichts des Kantons Zug vom 20. Oktober 2009 aufgehoben und der Einspracheentscheid der Steuerverwaltung des Kantons Zug vom 11. Dezember 2007 bestätigt.
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die direkte Bundessteuer 2005 wird gutgeheissen, das Urteil des Verwaltungsgerichts des Kantons Zug vom 20. Oktober 2009 aufgehoben und der Einspracheentscheid der Steuerverwaltung des Kantons Zug vom 11. Dezember 2007 bestätigt.
3. Die Gerichtskosten von Fr. 5'000.-- werden den Beschwerdegegnern unter solidarischer Haftung auferlegt.
4. Über die Kosten und Entschädigungsfolgen des kantonalen Verfahrens hat das Verwaltungsgericht des Kantons Zug neu zu entscheiden.
5. Dieses Urteil wird den Verfahrensbeteiligten, der Steuerverwaltung des Kantons Zug sowie dem Verwaltungsgericht des Kantons Zug, Abgaberechtliche Kammer, schriftlich mitgeteilt.
Lausanne, 11. Februar 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Wyssmann