Aus den Erwägungen:
3.- Umstritten ist vorliegend im Wesentlichen, ob die Beschwerdegegnerin in ihrem Vertrauen auf die Auskunft der Steuerverwaltung des Kantons Zug vom 15. April 1988 zu schützen sei.
a) Nach dem aus Art. 4 aBV abgeleiteten, heute in Art. 9 BV ausdrücklich verankerten Grundsatz von Treu und Glauben kann eine (selbst unrichtige) Auskunft, welche eine Behörde dem Bürger erteilt, unter gewissen Umständen Rechtswirkungen entfalten. Voraussetzung dafür ist, dass sich die Auskunft der Behörde auf eine konkrete, den betreffenden Bürger berührende Angelegenheit bezieht, dass die Amtsstelle, welche die Auskunft gegeben hat, hiefür zuständig war oder der Bürger sie aus zureichenden Gründen als zuständig betrachten durfte, dass der Bürger die Unrichtigkeit der Auskunft nicht ohne weiteres hat erkennen können, dass er im Vertrauen hierauf nicht ohne Nachteil rückgängig zu machende Dispositionen getroffen hat und dass die Rechtslage zur Zeit der Verwirklichung des Tatbestandes noch die gleiche ist wie im Zeitpunkt der Auskunftserteilung (<ref-ruling> E. 2c S. 479, mit Hinweis). Doch steht selbst dann, wenn diese Voraussetzungen alle erfüllt sind, nicht fest, ob der Steuerpflichtige mit seiner Berufung auf Treu und Glauben durchdringen kann. Das Interesse an der richtigen Durchsetzung des objektiven Rechts und dasjenige des Vertrauensschutzes müssen gegeneinander abgewogen werden. Überwiegt das öffentliche Interesse an der Anwendung des positiven Rechts, muss sich der Bürger unterziehen (<ref-ruling> E. 3c S. 187; ASA 56 670 E. 6b).
b) Es wird nicht bestritten, dass die Steuerverwaltung des Kantons Zug auf Grund ihrer Veranlagungskompetenz (Art. 93 Abs. 1 BdBSt; Peter Eisenring, Vorgängige Auskünfte von Steuerbehörden, in: ASA 68 97, S. 114) sowie der allgemein anerkannten Grundsätze des Verwaltungsrechts (Max Imboden/René Rhinow, Schweizerische Verwaltungsrechtsprechung, Band I, 6. Auflage, Basel und Frankfurt a.M., S. 221) zur Auskunftserteilung zuständig war. Die Beschwerdeführerin geht jedoch davon aus, dass die erteilte Auskunft nicht auf einem vollständigen Sachverhalt basiere, da in der Anfrage an die Steuerverwaltung ein Hinweis auf die Behandlung der offenen Reserven der Y. AG gefehlt habe. Weiter macht sie geltend, die Auskunft der Steuerverwaltung des Kantons Zug habe von der Beschwerdegegnerin ohne weiteres als unrichtig erkannt werden müssen, da diese nicht auf der von der Eidgenössischen Steuerverwaltung angewandten Praxis basiere.
c) aa) Im vorliegenden Fall ist davon auszugehen, dass die X. AG am 22. März 1988 schriftlich an den damaligen Vorsteher der Steuerverwaltung des Kantons Zug gelangte. In ihrem Schreiben legte sie dar, dass zwecks Vereinfachung von Strukturen die Fusion der Y. AG mit der X. AG erwogen würde und man sich deshalb über die steuerlichen Konsequenzen Klarheit verschaffen wolle. Dabei wurde folgender Sachverhalt zur Beurteilung unterbreitet:
"Unsere Aktiengesellschaft ist Alleinaktionärin der
Y. AG, deren Aktienkapital Fr. 100'000.-- beträgt,
eingeteilt in 1'000 Inhaberaktien zu je Fr. 100.--.
Die Fusion würde zu Buchwerten vorgenommen, indem
unsere Gesellschaft alle Aktiven und Passiven der
Y. AG zu deren im Augenblick der Fusion massgebenden
Buch- und Steuerwerten in ihre eigenen Bücher
übertrüge.
Da der bei uns bilanzierte Buchwert Fr. 1'376'944.-- und der Ertragssteuerwert Fr. 1'769'577.-- beträgt,
entstünde uns aus der Fusion ein Buchverlust von
Fr. 1'276'944.-- und ein steuerlicher Verlust von
Fr. 1'669'577.--
Da sowohl die Y. AG wie auch unsere Gesellschaft in
ihrer Eigenschaft als Holdinggesellschaft im Sinne
von § 41 StG von den Staats- und Gemeindesteuern
befreit sind, wäre u.E. der vorgenannte Verlust nur
aus Sicht der (B)dBSt von Bedeutung. In dieser Hinsicht
sind wir uns jedoch darüber im Klaren, dass
er als rein buchtechnischer Fusionsverlust nicht
abzugsfähig und gegebenenfalls zulasten unserer
versteuerten Reserven abzuschreiben wäre.
Es versteht sich von selbst, dass wir bei Vornahme
der Fusion die laufenden Steuern der Y. AG tragen
und in der nächsten Steuerperiode deren Steuerfaktoren
1987/1988 zu unseren eigenen hinzurechnen
würden.. "
In der Folge teilte die Steuerverwaltung des Kantons Zug der X. AG im Brief vom 15. April 1988 mit:
"Wir beziehen uns auf Ihr Schreiben vom 22. März
1988 und bestätigen Ihnen, dass Ihre Ausführungen
in bezug auf die steuerlichen Konsequenzen einer
Fusion richtig sind.. "
bb) Aus der Anfrage der X. AG an die Steuerverwaltung des Kantons Zug geht hervor, dass sich das steuerlich massgebende Ergebnis der Fusion aus der Gegenüberstellung des Buchwertes von Fr. 1'769'577.-- der absorbierenden X. AG und dem nominellen Aktienkapital von Fr. 100'000.-- der absorbierten Y. AG errechnet, was zum dargestellten Fusionsverlust von Fr. 1'669'577.-- führte. Fest steht weiter, dass in der Anfrage ausdrücklich von einer Fusion zu Buchwerten die Rede ist, bei welcher die Gesellschaft alle Aktiven und Passiven der Y. AG zu den bei der Fusion massgebenden Buch- und Steuerwerten in die eigenen Bücher übertragen wollte.
Damit wird klar dargelegt, wie die Fusion bei der übernehmenden Muttergesellschaft buchmässig ablaufen sollte: Alle Aktiven und Passiven - und damit verbunden auch die offenen Reserven - hatten zu Buchwerten überzugehen.
cc) Gestützt auf diese Anfrage stellte die Steuerverwaltung des Kantons Zug fest, dass die Ausführungen über die steuerlichen Konsequenzen der zur Diskussion stehenden Fusion richtig waren. Anders konnten diese Anfrage und die gestützt darauf erteilte Antwort nicht verstanden werden, zumal die beabsichtigte Einbuchung der offenen Reserven der Y. AG zu den bereits bestehenden Reserven der X. AG auch den Prinzipien einer ordnungsgemässen Buchführung nicht widerspricht.
dd) Die von der Steuerverwaltung des Kantons Zug erteilte vorbehaltlose Zustimmung bzw. Auskunft basierte demnach entgegen den Ausführungen der Beschwerdeführerin auf einem klaren und insbesondere auch vollständigen Sachverhalt.
d) Was die Frage der Erkennbarkeit einer unrichtigen Auskunft betrifft, ist im vorliegenden Fall vorab zu prüfen, ob mit Bezug auf die Behandlung von Fusionsgewinnen eine für Dritte erkennbare Praxis der Eidgenössischen Steuerverwaltung bestanden hat, die konsequent angewandt wurde.
aa) Die Eidgenössische Steuerverwaltung ist gemäss Gesetz befugt, die für die richtige und einheitliche Durchführung der Veranlagung und für den Bezug der Steuer erforderlichen Anordnungen vorzunehmen (Art. 72 und Art. 93 Abs. 2 BdBSt). Sie tut dies vor allem durch den Erlass von Verwaltungsverordnungen und Kreisschreiben. Solche Anordnungen der Verwaltung führen nicht dazu, dass der Bürger daraus unmittelbar Rechte und Pflichten ableiten kann. Demgegenüber haben die Verwaltungsbehörden den Anordnungen Folge zu leisten (Ernst Känzig/Urs Behnisch, Die direkte Bundessteuer, III. Teil, N 1 zu Art. 72 BdBSt und die dort zitierte Literatur). Ob und inwieweit dies für die kantonalen Steuerverwaltungen zutrifft, welche für die Veranlagung der Bundessteuer verantwortlich sind, ist umstritten (Känzig/Behnisch, a.a.O., N 3 zu Art. 72 BdBSt). Im gleichen Sinne wie der Bund ist auch der Kanton für eine einheitliche Veranlagung der direkten Bundessteuer besorgt (Art. 93 Abs. 1 BdBSt).
Zur Frage der Behandlung von Fusionsgewinnen insbesondere als Beteiligungserträge hat die Eidgenössische Steuerverwaltung nach aussen und somit auch für Dritte erkennbar, erstmals in Ziffer 4.2. und 5.3. des Kreisschreibens Nr. 27 vom 29. Dezember 1995 Stellung genommen (Kreisschreiben Nr. 27: Steuerermässigung auf Beteiligungserträgen von Kapitalgesellschaften und Genossenschaften [Art. 69 und 70 DBG]). Dabei stützte sie sich ausschliesslich auf das Gesetz über die direkte Bundessteuer (DBG), insbesondere auf die in Art. 61 Abs. 3 DBG formulierte Regelung, wonach Buchverluste, die bei Fusionen entstehen, auf den Beteiligungen nicht abgezogen werden können, Buchgewinne auf den Beteiligungen jedoch zu besteuern sind. Im hier noch anwendbaren Bundesratsbeschluss ist indessen eine analoge gesetzliche Grundlage nicht zu finden. Es besteht auch kein entsprechendes Kreisschreiben, in welchem sich die Eidgenössische Steuerverwaltung unter dem Regime des Bundesratsbeschlusses zu dieser Frage geäussert und damit ihre Praxis gegenüber der Verwaltung und Dritten erkennbar dargelegt hätte. Das am 31. Juli 1967 erlassene Merkblatt betreffend die Berechnung der Ermässigung bei Beteiligungen mit massgebendem Einfluss enthält keine Hinweise darauf, dass bei einer Fusion die Differenz zwischen dem Buchwert der Beteiligung und den offenen Reserven der absorbierten Gesellschaft als Beteiligungsertrag im Sinne von Art. 59 BdBSt zu qualifizieren wäre (Merkblatt der Eidgenössischen Steuerverwaltung, publiziert in: Heinz Masshardt, Kommentar zur direkten Bundessteuer,
2. Aufl. , Zürich 1995, S. 370 ff. und in ASA 36 19). In der Lehre war die Frage der Behandlung von Fusionsgewinnen umstritten (Ernst Känzig, Kommentar zur direkten Bundessteuer, Band II, N 299 zu Art. 49 Abs. 1 lit. b BdBSt; Heinz Masshardt, a.a.O., N 26 zu Art. 53 BdBSt; Francis Cagianut/ Ernst Höhn, Unternehmenssteuerrecht, 3. Aufl. , Bern/Stuttgart/Wien 1993; § 18, N 54 ff. und unter dem Regime des DBG:
Ernst Höhn/Robert Waldburger, Steuerrecht, Band III, 8. Aufl. , Bern/Stuttgart/Wien 1997, § 39, N 235 ff.). Das Bundesgericht hat sich zwar in einem Entscheid vom 19. Mai 1972 (publiziert in: ASA 42 265) zur Frage geäussert, wie Fusionsgewinne zu behandeln seien, wobei es zum Schluss kam, dass ein bei einer Fusion zwischen einer Mutter- und einer Tochtergesellschaft entstehender Gewinn als Beteiligungsertrag zu qualifizieren ist. Ob damit eine Praxis begründet wurde, was zumindest von einzelnen Autoren bezweifelt wird (Jean-Marc Rivier, La fiscalité de l'entreprise constituée sous forme de société anonyme, Lausanne 1994, S. 333 f.), kann aber offen bleiben. Von Bedeutung ist dagegen, dass die Besteuerung von Fusionsgewinnen von der Eidgenössischen Steuerverwaltung in keiner gegenüber Dritten erkennbaren Art und Weise publiziert bzw. durchzusetzen versucht wurde. Die von der Beschwerdegegnerin aufgeführten Fälle zeigen vielmehr, dass die Praxis in den einzelnen Kantonen (GL, BS, NE, FR) so gehandhabt wurde, dass Fusionen und die dabei erzielten Fusionsgewinne nicht immer zu einer Besteuerung führten.
Unter diesen Umständen ist es zweifelhaft, ob eine von der Eidgenössischen Steuerverwaltung mit Bezug auf die Behandlung von Fusionsgewinnen gerichtete Praxis bestanden hat.
bb) Die Beschwerdegegnerin bestreitet nicht, den Entscheid des Bundesgerichts vom 19. Mai 1972 gekannt zu haben. Dass daraus bezüglich der Besteuerung von Fusionsgewinnen eine Praxis abgeleitet würde, war für sie jedoch nicht offenkundig, nachdem die Frage in der Lehre umstritten war, in den Kantonen unterschiedlich gehandhabt und durch keine Verwaltungsanordnungen der Eidgenössischen Steuerverwaltung dokumentiert wurde.
cc) Unter diesen Umständen war die Unrichtigkeit der Auskunft der Steuerverwaltung des Kantons Zug für die Beschwerdegegnerin nicht ohne weiteres erkennbar.
e) Unbestritten ist auch, dass die Beschwerdegegnerin mit der gestützt auf die erhaltene Auskunft gemäss Eintrag im Schweizerischen Handelsamtsblatt am ****** vollzogenen Fusion Dispositionen getroffen hat, die nicht mehr rückgängig gemacht werden können.
f) Im vorliegenden Fall sind somit die Voraussetzungen erfüllt, welche die Rechtsprechung grundsätzlich an den Schutz des in eine falsche Auskunft gesetzten Vertrauens stellt. Es ist daher einzig noch zu prüfen, ob allenfalls öffentliche Interessen diesem Schutz vorgehen (vgl. vorangehende Erwägung 3a). Die Eidgenössische Steuerverwaltung macht diesbezüglich geltend, ein Verzicht auf die von ihr beantragte Aufrechnung würde zu einem definitiven, nicht mehr ausgleichbaren Vorteil, somit zu einer krassen Ungleichbehandlung, führen.
aa) Mit der bundesgerichtlichen Rechtsprechung ist davon auszugehen, dass der Grundsatz der Gesetzmässigkeit der Verwaltung in der Regel der Rücksichtnahme auf die gleichmässige Rechtsanwendung vorgeht. Der Umstand, wonach das Gesetz in anderen Fällen nicht oder nicht richtig angewendet worden ist, gibt dem Bürger grundsätzlich keinen Anspruch darauf, ebenfalls abweichend vom Gesetz behandelt zu werden (Urteil des Bundesgerichts vom 16. Februar 1990, publiziert in: ASA 60 53 E. 3 S. 56). Dies gilt aber nicht vorbehaltlos. Der Grundsatz der Gesetzmässigkeit wird insbesondere durch den Grundsatz von Treu und Glauben relativiert und eingeschränkt. Nach der Rechtsprechung des Bundesgerichts gilt der Grundsatz von Treu und Glauben auch im öffentlichen Recht. Soweit er treuwidriges Verhalten der Behörden verbietet und den Schutz berechtigten Vertrauens des Bürgers gewährleistet, folgt er unmittelbar aus der Verfassung (Georg Müller, in: Kommentar zu Art. 4 aBV, N 59 ff.).
Behördliches Verhalten, das ein berechtigtes Vertrauen des Bürgers wie z.B. bei einer unrichtigen Auskunft verletzt, verstösst deshalb unmittelbar gegen die Verfassungsgarantie (<ref-ruling> E. 1 S. 508). Wesentlich ist, dass das Interesse am Vertrauensschutz überwiegt. Ob dies zutrifft, ist durch Abwägung zwischen den sich entgegenstehenden Interessen des Vertrauensschutzes und der Gesetzmässigkeit, der richtigen Rechtsanwendung, an der Gleichbehandlung bzw. der Rechtssicherheit zu entscheiden (G. Müller, a.a.O., N 68 zu Art. 4 aBV).
bb) Im vorliegenden Fall ist davon auszugehen, dass die Besteuerung von Fusionsgewinnen im Bundesratsbeschluss - im Gegensatz zum neuen Bundesgesetz - nicht ausdrücklich geregelt war. Wie vorangehend dargelegt, hat sich das Bundesgericht zu dieser Frage nur in einem einzigen Urteil geäussert, wobei es Art. 59 BdBSt auslegte. Aus dem Entscheid des Bundesgerichts entwickelte sich keine nach aussen erkennbare Praxis, die in den einzelnen Kantonen gleichmässig angewandt worden wäre (siehe dazu vorangehende Erwägung 3d/aa).
cc) Kann jedoch, wie hier, nicht von einer konstanten Praxis gesprochen werden und steht überdies nicht fest, dass die von der Steuerverwaltung des Kantons Zug erteilte Auskunft objektiv unrichtig war, geht das Postulat des Vertrauensschutzes dem Interesse des objektiven Rechts vor; insbesondere dann, wenn der Betroffene - wie im vorliegenden Fall - auf Grund der erhaltenen behördlichen Auskunft bereits Dispositionen getroffen hat, die er sonst unterlassen hätte.
g) Das Vertrauen der Beschwerdegegnerin in die Auskunft der Steuerverwaltung des Kantons Zug wurde somit zu Recht geschützt. Die Beschwerde ist demnach abzuweisen.
Lausanne, 1. November 2000