Sachverhalt:
A. Im Jahre 2004 verkaufte die A._-Holding AG ihre vor 1997 erworbene 51%-Beteiligung an der B._ Holding AG (vormals C._ Holding AG, heute D._ Holdings AG) an eine nicht bekannte Käuferschaft. Auf dem "Bruttoertrag" (Verkaufserlös minus Nennwert der verkauften Aktien) von CHF 1'062'300.-- liess sie von der Käuferin eine Verrechnungssteuer von 35 % absetzen, die CHF 371'805.-- ausmachte.
B. Für die Steuerperiode 2004 deklarierte die A._-Holding AG einen Gewinn von CHF 597'951.--. Gleichzeitig mit der Steuererklärung reichte sie einen Antrag auf Gewährung der Beteiligungsermässigung für die im Jahre 2004 verkaufte 51%ige Beteiligung an der B._ Holding AG ein, da der Bruttoertrag der genannten Veräusserung nicht Kapitalgewinn bilde, sondern aus einem sog. Mantelhandel stamme. Demgemäss deklarierte sie einen Nettoertrag aus Beteiligungen von CHF 304'558.--
C. Mit Veranlagungsverfügung vom 30. März 2006 und Einspracheentscheid vom 30. Juni 2006 wurde die A._-Holding AG von der Steuerverwaltung des Kantons Glarus auf einen pro 2004 steuerbaren Gewinn von CHF 597'900.-- eingeschätzt. Die Beteiligungsermässigung auf der erwähnten Transaktion wurde nicht zugelassen, auf Beschwerde hin aber von der kantonalen Steuerrekurskommission gewährt. Dagegen gelangte die Eidgenössische Steuerverwaltung an das Verwaltungsgericht des Kantons Glarus, das die Beschwerde guthiess und den Einspracheentscheid im Ergebnis bestätigte.
D. Am 7. Mai 2008 hat die A._-Holding AG Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht eingereicht. Sie beantragt sinngemäss, das verwaltungsgerichtliche Urteil vom 16. April 2008 aufzuheben, wobei der steuerbare Reinertrag gemäss ihrer Steuererklärung, d.h. unter Berücksichtigung eines Beteiligungsabzugs von 50,934 %, zu übernehmen sei.
Das Verwaltungsgericht des Kantons Glarus und die Eidgenössische Steuerverwaltung schliessen auf Abweisung der Beschwerde, während die kantonale Steuerverwaltung auf eine Vernehmlassung verzichtet hat.
Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist gemäss Art. 82 ff. BGG in Verbindung mit Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer (DBG, SR 642.11) zulässig. Die Beschwerdeführerin ist gestützt auf Art. 89 Abs. 1 BGG zur Beschwerde legitimiert; auf ihr frist- und formgerecht eingereichtes Rechtsmittel ist einzutreten.
1.2 Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist demgemäss weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen, und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Das Bundesgericht legt sodann seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von Art. 95 BGG (Art. 105 Abs. 2 bzw. Art. 97 Abs. 1 BGG).
2. 2.1 Gegenstand der Gewinnsteuer juristischer Personen ist der Reingewinn (Art. 57 DBG). Der steuerbare Reingewinn bemisst sich grundsätzlich nach dem Saldo der Erfolgsrechnung unter Berücksichtigung des Saldovortrages des Vorjahres (Art. 58 Abs. 1 DBG). Kapitalgesellschaften mit Beteiligungen an anderen Gesellschaften können aber in den Genuss des sog. Beteiligungsabzugs kommen: Voraussetzung ist, dass sie zu mindestens 20 Prozent am Grund- oder Stammkapital einer anderen Gesellschaft beteiligt sind oder eine solche Beteiligung einen Verkehrswert von mindestens 2 Mio. Franken aufweist. Ist eines der genannten Kriterien erfüllt, so ermässigt sich die Gewinnsteuer der Gesellschaft im Verhältnis des Nettoertrags aus diesen Beteiligungen zum gesamten Reingewinn (Art. 69 DBG). Diese Regelung dient dazu, eine mehrfache Besteuerung jener Gewinne zu vermeiden, welche in- und ausländische Kapitalgesellschaften an in der Schweiz steuerpflichtige Zwischen- oder Obergesellschaften ausschütten. Der Beteiligungsabzug wurde zunächst nur auf (echten) Erträgen aus Beteiligungen gewährt, nicht aber auf Kapitalgewinnen aus Beteiligungen (Art. 70 Abs. 2 lit. c DBG, in seiner ursprünglichen Fassung). Nach der am 1. Januar 1998 in Kraft getretenen Reform des Unternehmenssteuerrechts zählen nunmehr neu ausdrücklich auch die - durch Veräusserung der Titel oder zugehöriger Bezugsrechte erzielten (vgl. Art. 70 Abs. 2 lit. c DBG, in der Fassung vom 10. Oktober 1997) - Kapitalgewinne zum für die Berechnung des Abzugs nach Art. 69 DBG massgebenden Nettoertrag aus Beteiligungen (Art. 70 Abs. 1 DBG, in der Fassung vom 10. Oktober 1997). Das gilt aber noch nicht, wenn die betreffenden Beteiligungen schon vor dem 1. Januar 1997 der Kapitalgesellschaft oder Genossenschaft gehörten und die erwähnten Gewinne vor dem 1. Januar 2007 erzielt wurden (Art. 207a Abs. 1 DBG; vgl. zum Ganzen auch ASA 74 224 E. 1 sowie RDAF 2008 II 247 E. 2; mit Hinweisen).
2.2 Vorliegend ist unbestritten, dass die fragliche Beteiligung der Beschwerdeführerin schon vor dem 1. Januar 1997 gehört hatte und damit eine sog. Altbeteiligung war. Ebenso steht fest, dass diese Beteiligung vor dem 1. Januar 2007 verkauft worden ist. Für einen darauf erzielten Kapitalgewinn steht der Beschwerdeführerin deshalb nach Art. 207a Abs. 1 DBG noch keine Ermässigung im Sinne von Art. 69 DBG zu. Die Vorinstanz hat die Auffassung vertreten, der Ertrag aus der hier massgeblichen Beteiligungsveräusserung stelle einen Kapitalgewinn gemäss Art. 70 Abs. 1 Satz 3 in Verbindung mit Art. 207a Abs. 1 DBG dar und könne somit nicht Anlass zum beantragten Abzug geben. Dagegen meint die Beschwerdeführerin, bei der Beteiligungsabtretung sei kein Kapitalgewinn realisiert worden, weil es sich um einen Mantelhandel gehandelt habe. Ein solcher führe zu einem faktischen Liquidationserlös, d.h. zu einem Beteiligungsertrag nach Art. 70 Abs. 1 Satz 1 DBG, was ohne Rücksicht auf die Übergangsregelung von Art. 207a DBG zur Ermässigung berechtige. Zwischen diesen widerstreitenden Standpunkten ist hier zu entscheiden, nachdem das Bundesgericht die Frage im Urteil vom 26. August 2008 (vgl. RDAF 2008 II 247 E. 5.2) noch offen lassen konnte.
2.3 Das Gesetz umschreibt den Begriff des Beteiligungsertrags in Art. 70 Abs. 1 Satz 1 DBG nicht näher. Die erforderliche Konkretisierung hat im Einklang mit Art. 20 Abs. 1 lit. c DBG (wo derselbe Begriff verwendet wird) zu erfolgen; es ist aber auch auf Art. 4 Abs. 1 lit. b des Bundesgesetzes vom 13. Oktober 1965 über die Verrechnungssteuer (VStG; SR 642.21) VStG abzustellen. Danach sind unter anderem Gewinnanteile und sonstige Erträge der von einem Inländer ausgegebenen Aktien Gegenstand der Verrechnungssteuer. Art. 20 Abs. 1 der Vollziehungsverordnung vom 19. Dezember 1966 zum Bundesgesetz über die Verrechnungssteuer (VStV; SR 642.211) bezeichnet jede geldwerte Leistung der Gesellschaft an Inhaber gesellschaftlicher Beteiligungsrechte oder an ihnen nahestehende Dritte, die sich nicht als Rückzahlung der im Zeitpunkt der Leistung bestehenden Anteile am einbezahlten Grund- oder Stammkapital darstellt, als steuerbaren Ertrag. Die gleiche Vorschrift erwähnt als Beispiel geldwerter Leistungen Liquidationsüberschüsse, d.h. Leistungen, die den Aktionären oder ihnen nahestehenden Personen im Zusammenhang mit der Auflösung der Gesellschaft gewährt werden, soweit es sich nicht um die Rückzahlung des statutarischen Grundkapitals handelt.
Dabei wird der Begriff der Liquidation im Steuerrecht deutlich weiter gefasst als im Handelsrecht. Nach ständiger Praxis ist die Verrechnungssteuer auf Liquidationsüberschüssen nicht nur dann geschuldet, wenn die Gesellschaft förmlich nach den Bestimmungen des Obligationenrechts aufgelöst wird, sondern auch dann, wenn sie durch Aufgabe ihrer Aktiven faktisch liquidiert wird. Eine Gesellschaft wird faktisch liquidiert, indem ihre Aktiven veräussert oder verwertet werden und der Erlös nicht wieder investiert, sondern verteilt wird. Das kann dann erfolgen, wenn ihr sämtliche Aktiven entzogen werden, aber ebenfalls, wenn ihr zwar einige Aktiven (wie namentlich Bankguthaben, flüssige Mittel oder Buchforderungen gegen ihre Aktionäre u.ä.) verbleiben, ansonsten jedoch die wirtschaftliche Substanz entzogen wird (vgl. zum Ganzen u.a. BGE 115 Ib 274 E. 9 u. 10 S. 279 ff.; ASA 68 739 E. 4; je mit Hinweisen).
Der Begriff der geldwerten Leistung nach Art. 4 Abs. 1 lit. b VStG deckt sich im Übrigen mit der nach Massgabe von Art. 20 Abs. 1 lit. c DBG als Einkommen steuerbaren geldwerten Leistung, was grundsätzlich auch dem Sicherungszweck der Verrechnungssteuer entspricht. Dementsprechend ist Art. 4 Abs. 1 lit. b VStG wie Art. 20 Abs. 1 lit. c DBG - den das Bundesgericht wiederholt als eine Steuernorm mit wirtschaftlichen Anknüpfungspunkten bezeichnet hat - unter Berücksichtigung des wirtschaftlichen Charakters auszulegen. Die Steuerbehörden sind daher bei der Interpretation dieser Vorschrift nicht strikte an die zivilrechtliche Gestaltung gebunden; vielmehr haben sie den Sachverhalt entsprechend seinem wirtschaftlichen Gehalt zu würdigen (vgl. ASA 68 739 E. 2b mit Hinweisen).
2.4 Die entgeltliche oder unentgeltliche Begründung und Erhöhung des Nennwerts von Beteiligungsrechten in Form von Aktien inländischer Aktiengesellschaften unterliegt nach Art. 5 Abs. 1 des Bundesgesetzes vom 27. Juni 1973 über die Stempelabgaben (StG; SR 641.10) der Emissionsabgabe. Die Stempelabgabe ist eine Kapitalverkehrssteuer, die an bestimmte, im Gesetz umschriebene Vorgänge des Rechtsverkehrs anknüpft. Für ihre Festsetzung ist der wirkliche Inhalt der Urkunden oder Rechtsvorgänge massgebend. Dem formalen Charakter dieser Steuer entspricht, dass für die Abgabepflicht die rechtliche Gestaltung eines Geschäfts entscheidend ist und nicht der von den Beteiligten verfolgte wirtschaftliche Zweck. Die Verwaltung darf sich deshalb grundsätzlich nicht von der wirtschaftlichen Betrachtungsweise leiten lassen. Eine Ausnahme gilt dort, wo das Gesetz selber wirtschaftlich geprägte Begriffe und Umschreibungen verwendet, insbesondere im Zusammenhang mit Art. 5 Abs. 2 lit. b StG, d.h. bei der Umschreibung des sog. Mantelhandels (vgl. ASA 65 666 E. 3a mit Hinweisen). Gemäss dieser Vorschrift ist der Begründung von Beteiligungsrechten im Sinn von Art. 5 Abs. 1 StG der Handwechsel der Mehrheit der Aktien einer inländischen Gesellschaft gleichgestellt, die wirtschaftlich liquidiert oder in liquide Form gebracht worden ist. Mit der Gleichstellung soll verhindert werden, dass die Aktien stillgelegter Gesellschaften bei Inbetriebnahme einer Gesellschaft mit verändertem Gesellschaftszweck verwendet werden, ohne dass die bei einer Neugründung anfallende Emissionsabgabe entrichtet wird. Der Verkauf eines Aktienmantels ist somit der Emissionsabgabe unterworfen (vgl. dazu schon ASA 62 628 E. 2b mit Hinweisen).
Unter einem solchen Mantelhandel verstehen Lehre und Praxis die Veräusserung von Beteiligungen an Gesellschaften, die wirtschaftlich liquidiert oder in liquide Form gebracht worden sind, wobei sie zum einen ihren Geschäftsbetrieb eingestellt, zum andern aber - ohne formell gefassten und im Handelsregister eingetragenen Auflösungsbeschluss - ihre Aktiven liquidiert haben. Auch eine Aktiengesellschaft, die auf der Aktivseite der Bilanz noch gewisse Werte ausweist, kann im Sinn dieser Bestimmung "wirtschaftlich liquidiert oder in liquide Form gebracht" worden sein. Nach erfolgtem Mantelerwerb werden regelmässig Zweck und Firma der Gesellschaft geändert und wird der Verwaltungsrat ausgewechselt. Den Liquidationsüberschuss zahlt die Gesellschaft beim Mantelhandel zwar nicht aus; er verbleibt ihr vielmehr in Form der Liquiditäten; er wird aber durch den übernehmenden dem abtretenden Aktionär als Preis für die erworbenen Aktien ausbezahlt, soweit dieser den Anteil am einbezahlten Grundkapital übersteigt; der entsprechende Teil des Kaufpreises wird in "wirtschaftlicher Betrachtungsweise" als Liquidationsgewinn der Verrechnungssteuer unterstellt (vgl. zum Ganzen u.a. ASA 65 666 E. 2a u. 3c, 62 628 E. 2b, 55 649 E. 2a, 52 649 E. 1 u. 2, je mit Hinweisen; siehe auch RDAF 2008 II 247 E. 5.1).
2.5 Dagegen hat das Verwaltungsgericht - im Einklang mit der Auffassung der Eidgenössischen Steuerverwaltung - gemäss einem strikt zivilrechtlichen Ansatz geprüft, ob im Fall von Mantelhandel ein Beteiligungsertrag oder ein Kapitalgewinn gemäss Art. 70 Abs. 1 DBG vorliegt. Ein solcher Ansatz vermag nach den eben dargestellten Grundsätzen nicht zu überzeugen. Er lässt insbesondere ausser Acht, dass die erforderliche Prüfung sowohl im Recht der direkten Bundessteuer und der Verrechnungssteuer wie auch im hier massgeblichen Spezialbereich der Stempelabgabe unter Einbezug wirtschaftlicher Gesichtspunkte zu erfolgen hat. Nichts anderes ergibt sich aus dem Kreisschreiben der Eidgenössischen Steuerverwaltung vom 9. Juni 1998 betreffend Auswirkungen des Bundesgesetzes über die Reform der Unternehmensbesteuerung 1997 auf die Steuerermässigung auf Beteiligungserträgen von Kapitalgesellschaften und Genossenschaften (ASA 67 117 ff., insb. 120). Eine Einschränkung, wonach unter "Liquidationsüberschuss" nur das Produkt einer nach den Bestimmungen des Obligationenrechts abgewickelten Liquidation zu verstehen sei, enthält das Kreisschreiben richtigerweise nicht. Der Begriff der Liquidation ist - wie hervorgehoben (vgl. oben E. 2.3) - im hier wesentlichen Bereich deutlich weiter gefasst als im Handelsrecht.
Ebenso wenig kann etwas aus dem Prinzip der Massgeblichkeit der Handelsbilanz für die steuerrechtliche Beurteilung abgeleitet werden, geht es hier doch nicht um eine steuerrechtliche Korrektur im Sinne von Art. 58 Abs. 1 lit. b und c DBG; ob das Produkt aus dem Mantelhandel unter dem Titel "Beteiligungsertrag" oder "Kapitalgewinn" in die Erfolgsrechnung der Gesellschaft Eingang findet, ist letztlich unerheblich, denn es ist so oder anders im "gesamten Reingewinn" nach Art. 69 DBG enthalten; erst für die in dieser Bestimmung vorgesehene Beteiligungsermässigung spielt die Natur des Zuflusses eine Rolle. Das widerspricht im hier massgeblichen Zusammenhang auch nicht dem Zweck oder der Systematik von Art. 207a Abs. 1 DBG, wo es um Unterscheidungen innerhalb der Gesamtkategorie der Kapitalgewinne geht; beim Mantelhandel handelt es sich aber - wie eben dargelegt - um Beteiligungserträge.
2.6 Indessen ist zu fragen, ob sich eine steuerpflichtige Gesellschaft zum Zweck einer geringeren Steuerbelastung überhaupt auf das Vorliegen eines Mantelhandels berufen kann, wird doch mit dieser Qualifikation üblicherweise missbräuchlichen Gestaltungen der Besteuerungsverminderung entgegengewirkt (vgl. dazu schon RDAF 2008 II 247 E. 5.3). Diese Frage muss hier indessen nicht end- oder allgemeingültig beantwortet werden. Um eine ungerechtfertigte Inanspruchnahme der Beteiligungsermässigung im Sinne von Art. 69 DBG zu verhindern, genügt es, im Einzelfall und nach den gesamten (namentlich wirtschaftlichen) Umständen zu überprüfen, was von der Beschwerdeführerin einfach behauptet und in allen kantonalen Verfahrensstadien ohne (genügende) Hinterfragung übernommen worden ist, ob nämlich die einem Mantelhandel zugrundeliegenden Sachverhaltsmerkmale hier wirklich erfüllt sind.
Unbestrittenermassen änderten 51 % der fraglichen Gesellschaft die Hand. Ob die Gesellschaft in liquide Form gebracht wurde, ist indessen, wie auch das Bestehen der weiteren Indizien eines Mantelhandels, bislang nicht sachverhaltsmässig erstellt worden. Die kantonalen Instanzen haben sich damit begnügt, dass die Beschwerdeführerin diese Transaktion selbst als Mantelhandel deklarierte und es entsprechend zuliess, dass die Käuferin den "Bruttoerlös" um die Verrechnungssteuer kürzte (vgl. Art. 14 Abs. 1 VStG). Eine solche spontane und zweckorientierte Deklaration vermag unter den gegebenen Umständen indessen die steuerliche Behandlung bei der direkten Bundessteuer nicht zu präjudizieren; anders könnte es allenfalls sein, wenn die Verrechnungssteuer von der Eidgenössischen Steuerverwaltung aufgrund umfassender Abklärungen verfügt worden wäre.
Hier hätte es die Beschwerdeführerin ohne Weiteres in der Hand gehabt, die verschiedenen Indizien für die Annahme eines Mantelhandels beweismässig darzutun. Sie ist allerdings nie aufgefordert worden, sachdienliche Beweismittel lückenlos vorzulegen. Vielmehr ist auf ihre Behauptungen abgestellt worden, namentlich auf ihre Erklärung, die B._ Holding AG sei im Zeitpunkt des Handwechsels der Beteiligung in liquider Form gewesen. Aber Bilanzen dieser Gesellschaft sind nicht einverlangt worden, insbesondere auf den massgebenden Stichtag hin, woraus das zentrale Element der Liquidität ersichtlich gewesen wäre. Das wäre aber umso wichtiger gewesen, als es bei einer Beteiligungsgesellschaft durchaus vorkommen kann, dass sie vorübergehend über eine hohe Liquidität verfügt, ohne dass daraus auf eine faktische Liquidation zu schliessen wäre.
Wohl geht aus dem Auszug aus dem Handelsregister des Kantons Zürich hervor, dass im Laufe des Jahres 2005 der Zweck der Gesellschaft etwas erweitert wurde, teilweise neue Verwaltungsräte hinzukamen und eine Änderung des Firmennamens erfolgte. Ob aber ein genügend enger Zusammenhang zum Zeitpunkt des Handwechsels der Beteiligungsrechte bestand, bleibt ungewiss, umso mehr, als der Zeitpunkt des Verkaufs der Beteiligung (offenbar 24. November 2004) nie klar offengelegt worden ist. Weiter ist vom massgebenden Kaufvertrag immer nur eine einzige Seite unterbreitet worden; daraus muss geschlossen werden, dass die Beschwerdeführerin gewisse Informationen bewusst nicht offenlegen wollte, und zwar wohl deshalb, weil hier ein echter Mantelhandel höchst fraglich ist. Gesamthaft ist festzuhalten, dass die Vorinstanz den wesentlichen Sachverhalt nur ungenügend abgeklärt hat. Darin liegt eine Rechtsverletzung im Sinne von Art. 123 DBG in Verbindung mit Art. 142 Abs. 4 DBG bzw. Art. 145 DBG. Eine solche Sachverhaltsfeststellung kann für das Bundesgericht nicht massgebend sein (Art. 105 BGG; vgl. dazu auch oben E. 1.2).
2.7 Nach dem Gesagten ist die Beschwerde somit gutzuheissen, das angefochtene Urteil aufzuheben und die Sache zur Sachverhaltsergänzung sowie zum Neuentscheid an die Vorinstanz zurückzuweisen.
Dem Verfahrensausgang entsprechend sind die Kosten des bundesgerichtlichen Verfahrens dem Kanton Glarus, der Vermögensinteressen verfolgt, aufzuerlegen (Art. 65 f. BGG). Zudem hat der Kanton Glarus der Beschwerdeführerin eine Parteientschädigung auszurichten (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird gutgeheissen, das angefochtene Urteil des Verwaltungsgerichts des Kantons Glarus vom 16. April 2008 wird aufgehoben, und die Sache wird zur Sachverhaltsergänzung und zum Neuentscheid im Sinne der Erwägungen an die Vorinstanz zurückgewiesen.
2. Die Gerichtsgebühr von Fr. 2'500.-- wird dem Kanton Glarus auferlegt.
3. Der Kanton Glarus hat der Beschwerdeführerin eine Parteientschädigung von Fr. 2'500.-- auszurichten.
4. Dieses Urteil wird der Beschwerdeführerin, der Steuerverwaltung des Kantons Glarus, dem Verwaltungsgericht des Kantons Glarus sowie der Eidgenössischen Steuerverwaltung (Hauptabteilung Direkte Bundessteuer, Verrechnungssteuer, Stempelabgaben) schriftlich mitgeteilt.
Lausanne, 14. November 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Merkli Matter