Handelsbilanz für die Steuerbilanz), hat sich ergeben:
A.- Die am 17. August 1994 mit einem Aktienkapital von Fr. 100'000.-- gegründete R._ Holding AG (nachfolgend:
die Gesellschaft oder die Pflichtige) übernahm am 21. November 1994 für einen Kaufpreis von Fr. 250'000.-- die bislang von ihren drei Gründeraktionären gehaltene Beteiligung an der R._ Trading AG (nachfolgend: die TradingGesellschaft).
Am 18. Juli 1995 teilte die Eidgenössische Steuerverwaltung, Hauptabteilung Direkte Bundessteuer, Verrechnungssteuer, Stempelabgaben, der Gesellschaft mit, dass sie den Verkehrswert der Beteiligung an der Trading-Gesellschaft im Hinblick auf die Erhebung der Stempelabgabe auf Gesellschafter-Zuschüssen mit Fr. 2'000'000.-- bewerte. Daraufhin erhöhte die Gesellschaft den Aktivbuchwert der Beteiligung per 31. August 1995 um Fr. 1'750'000.--, bei gleichzeitiger entsprechender Gegenbuchung in einem Passivkonto "Aufwertungsreserve".
Die Jahresrechnung 1995 wurde - auf Antrag der Revisionsstelle - von der Generalversammlung der Gesellschaft vorbehaltlos genehmigt.
Für das Steuerjahr 1995 ergingen gegenüber der Gesellschaft folgende Einschätzungen: steuerbarer Reingewinn von Fr. 0.-- (kantonal) bzw. Fr. 3'219'700.-- (direkte Bundessteuer, unter Aufrechnung von Fr. 1'750'000.-- gegenüber der Selbstdeklaration, als Differenzbetrag zwischen dem Verkehrs- und dem Nominalwert der eingebrachten Beteiligung); steuerbares Kapital von Fr. 3'319'761.--.
Gegen die Aufrechnung von Fr. 1'750'000.-- beim steuerbaren Ertrag 1995 erhob die Gesellschaft erfolglos Einsprache. Die gegen den Einspracheentscheid der kantonalen Verwaltung für die direkte Bundessteuer Schwyz vom 16. Oktober 2000 gerichtete kantonale Beschwerde wurde vom Verwaltungsgericht des Kantons Schwyz am 20. Februar 2001 gutgeheissen, mit der Begründung, bei offenkundigen Verstössen gegen zwingendes Handelsrecht liege eine Bilanzberichtigungspflicht vor. Die obligationenrechtlichen Buchführungsbestimmungen würden aber eine Aufwertung von Beteiligungen über die Anschaffungskosten hinaus nur dann zulassen, wenn eine Unterbilanz bzw. ein Sanierungsfall vorläge, was hier indessen weder ersichtlich noch behauptet sei. Die genannte Aufwertung sei somit abzulehnen, und dementsprechend die daraus abgeleiteten steuerlichen Folgen.
B.- Mit Eingabe vom 28. März 2001 hat die Eidgenössische Steuerverwaltung, Hauptabteilung Direkte Bundessteuer, Verrechnungssteuer, Stempelabgaben, beim Bundesgericht Verwaltungsgerichtsbeschwerde erhoben mit dem Antrag, es sei der Entscheid des Verwaltungsgerichts vom 20. Februar 2001 aufzuheben und der Einspracheentscheid vom 16. Oktober 2000 zu bestätigen.
Die Gesellschaft schliesst auf Abweisung der Beschwerde. Das Verwaltungsgericht stellt den Antrag, auf die Beschwerde sei wegen fehlender Rechtzeitigkeit nicht einzutreten, eventualiter sei sie abzuweisen. Die kantonale Verwaltung für die direkte Bundessteuer beantragt Gutheissung.
Das Bundesgericht zieht in Erwägung:
1.- Der angefochtene Entscheid ist ein auf öffentliches Recht des Bundes gestütztes, letztinstanzliches kantonales Urteil, gegen welches die Verwaltungsgerichtsbeschwerde an das Bundesgericht zulässig ist (Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer; DBG; SR 642. 11). Die Eidgenössische Steuerverwaltung ist nach Art. 103 lit. b OG zur Beschwerdeführung legitimiert. Auf die (am 28. März 2001) rechtzeitig eingereichte und den Formerfordernissen (Art. 108 OG) entsprechende Beschwerde ist einzutreten.
2.- a) Gemäss Art. 58 Abs. 1 lit. a DBG bildet der Saldo der Erfolgsrechnung unter Berücksichtigung des Saldovortrags des Vorjahrs Ausgangspunkt für die Bestimmung des steuerbaren Reingewinns. Laut lit. c derselben Bestimmung sind auch die der Erfolgsrechnung nicht gutgeschriebenen Erträge, mit Einschluss der Kapital-, Aufwertungs- und Liquidationsgewinne (vorbehältlich Art. 64 DBG), unter dem steuerbaren Reingewinn zu erfassen.
b) Wer zum Eintrag seines Geschäftsbetriebes im Handelsregister verpflichtet ist, ist gehalten, diejenigen Bücher ordnungsgemäss zu führen, die nach Art und Umfang seines Geschäftes erforderlich sind (Art. 957 OR). Auf Schluss des Geschäftsjahres ist ein Inventar, eine Betriebsrechnung und eine Bilanz zu erstellen (Art. 958 Abs. 1 OR; für die Aktiengesellschaft: siehe Art. 662a OR). Die handelsrechtlich erforderlichen Bücher bilden die Grundlage für die steuerliche Gewinnermittlung. Die schweizerische Steuerpraxis knüpft dabei an die handelsrechtliche Bilanz an, welche auch steuerrechtlich verbindlich ist (Massgeblichkeitsprinzip der Handelsbilanz), wenn bei deren Errichtung nicht gegen zwingende Bestimmungen des Handelsrechts verstossen wurde und sofern nicht spezielle steuerrechtliche Vorschriften für die Gewinnermittlung zu beachten sind (Ernst Höhn/Robert Waldburger, Steuerrecht, Band II, 8. Aufl. , Rz 10 f. zu § 37; Francis Cagianut/Ernst Höhn, Unternehmungssteuerrecht,
3. Aufl. , Rz 26 zu § 4; Markus Reich, Die Realisation stiller Reserven im Bilanzsteuerrecht, Zürich 1983, 41; ASA 65, 56; vgl. auch Rolf Benz, Handelsrechtliche und steuerrechtliche Grundsätze ordnungsmässiger Bilanzierung, Zürich 2000, 194 ff.; Walter Frei, Bilanzänderung und Bilanzberichtigung im Zürcher Steuerrecht, ZStP 1994, 231 ff.; Danielle Yersin, Les corrections et modifications apportées par une entreprise à sa comptabilité et leurs conséquences fiscales, RDAF 1977, 371 ff.).
c) Die von der Pflichtigen und der Vorinstanz geltend gemachten zwingenden Höchstbewertungvorschriften des Handelsrechts beruhen auf dem sog. Vorsichtsprinzip. Schon das allgemeine Buchführungsrecht hält fest, dass in der Bilanz alle Aktiven höchstens nach dem Werte anzusetzen sind, der ihnen im Zeitpunkt, auf welchen die Bilanz errichtet wird, für das Geschäft zukommt (Art. 960 Abs. 2 OR). Im Aktienrecht wird das allgemeine - nun in Art. 662a Abs. 2 Ziff. 3 OR ausdrücklich erwähnte - Vorsichtsprinzip durch das Imparitätsprinzip ergänzt und präzisiert. Danach dürfen Gewinne nur dann ausgewiesen werden, wenn sie effektiv realisiert worden sind (Realisationsprinzip), während umgekehrt Verluste bilanzmässig zu berücksichtigen sind, sobald sie befürchtet werden müssen, auch vor ihrer Realisierung. Unter dem Gesichtspunkt des Kapitalschutzes ist diese einseitige Ausrichtung unproblematisch, ja erwünscht, stellt sie doch sicher, dass im Zweifel keine Gewinne ausgewiesen (und allenfalls ausgeschüttet) werden, die in Wirklichkeit gar nicht erzielt worden sind, und dass den Gläubigern demzufolge niemals weniger, allenfalls aber mehr als das ausgewiesene Haftungssubstrat zur Verfügung steht (vgl. insbesondere:
Arthur Meier-Hayoz/Peter Forstmoser, Schweizerisches Gesellschaftsrecht, 8. Aufl. , Bern 1998, Rz 74 f. zu § 16; Peter Forstmoser/Arthur Meier-Hayoz/Peter Nobel, Schweizerisches Aktienrecht, Bern 1996, Rz 230 ff. zu § 50 u. Rz 32 ff. zu § 51; Peter Böckli, Schweizer Aktienrecht,
2. Aufl. , Zürich 1996, Rz 830 ff.).
Mit diesen Grundsätzen verbunden ist das sogenannte Anschaffungs- oder Kostenwertprinzip, das insbesondere auch hinsichtlich der Bilanzierung von Beteiligungen (Art. 665a OR) und Wertschriften (Art. 667 OR) Geltung beansprucht: Die Bewertung hat nach den historischen Kosten zu erfolgen. Während rein buchmässige Verminderungen des Wertes (Abschreibungen und Wertberichtigungen) erlaubt und notwendig sind, sind rein buchmässige Zuschreibungen mit ganz wenigen Ausnahmen (insbesondere Art. 670 OR) verboten. Art. 670 Abs. 1 OR hat folgenden Wortlaut: "Ist die Hälfte des Aktienkapitals und der gesetzlichen Reserven nicht mehr gedeckt, so dürfen zur Beseitigung der Unterbilanz Grundstücke oder Beteiligungen, deren wirklicher Wert über die Anschaffungs- oder Herstellungskosten gestiegen ist, bis höchstens zu diesem Wert aufgewertet werden. Der Aufwertungsbetrag ist gesondert als Aufwertungsreserve auszuweisen" (vgl. Forstmoser/Meier-Hayoz/Nobel, a.a.O., Rz 302 ff. zu § 50; Böckli, a.a.O., Rz 926 ff.; Urs Duttweiler-Kärcher, Aufwertungen von Grundstücken und Beteiligungen, Der Treuhandexperte 1994/II, S. 52 ff.; Stephan Dekker, Aufwertung von Grundstücken und Beteiligungen im neuen Aktienrecht, in: Walter R. Schluep Peter R. Isler (Hrsg.), Neues zum Gesellschafts- und Wirtschaftsrecht, Zürich 1993, 97 ff.; Marc Bauen, Aufwertung von Grundstücken und Beteiligungen aus steuerrechtlicher Sicht, Zürich 1998; Thomas Schaad, Die Aufwertung von Liegenschaften und Beteiligungen, Zürich 1986; Carl Helbling, Das Problem der Aufwertung von Aktiven, Schweizerische Aktiengesellschaft 1980, 112 f.).
d) Während die handelsrechtlichen Buchungs- und Bewertungsgrundsätze Höchstwerte festlegen und die Betriebswirtschaftslehre nach den "richtigen" Werten sucht, zielt das Steuerrecht auf die Erfassung des periodengerechten Gewinnes und fixiert dementsprechend Bewertungsuntergrenzen.
Daraus ergibt sich, dass die zur Steuerveranlagung eingereichte Handelsbilanz von der Steuerbehörde unter zwei Gesichtspunkten überprüft und gegebenenfalls korrigiert werden muss: Sie ist zu berichtigen, wenn einzelne Wertansätze die nach Handelsrecht zulässigen Höchstwerte übersteigen, aber auch, wenn die bilanzierten Werte die steuerrechtlich zulässige Wertgrenze unterschreiten (vgl. zum Ganzen: Reich, a.a.O., S. 47 f. u. 104 f.; Treuhand-Kammer, Schweizer Handbuch der Wirtschaftsprüfung, Zürich 1998, Band 1, Rz 2.234, S. 53 f.; Helbling, a.a.O., S. 118; Meier-Hayoz/Forstmoser, a.a.O., Rz 74 f. zu § 16; Bauen, a.a.O., 148 f.; Cagianut/ Höhn, a.a.O., Rz 63 f. zu § 4; Peter Brülisauer/Stephan Kuhn, Rz 32 f. zu Art. 58 DBG, in: Zweifel/Athanas, Kommentar zum Schweizerischen Steuerrecht, Band I/2a, Basel usw.
2000).
3.- Vorliegend ist die von der Gesellschaft vorgenommene Bilanzkorrektur auf einen Stempelsteuerentscheid der Eidgenössischen Steuerverwaltung zurückzuführen. Diese hat die eingebrachte Beteiligung gemäss Art. 8 Abs. 3 des Bundesgesetzes über die Stempelabgaben vom 27. Juni 1973 (StG; SR 641. 10) zum Verkehrswert eingeschätzt und sie im Differenzbetrag zum Übernahmepreis, d.h. in der Höhe von Fr. 1'750'000.--, als einen der Emissionsabgabe unterliegenden Aktionärszuschuss eingestuft (Art. 5 Abs. 2 lit. a in Verb. mit Art. 5 Abs. 1 lit. a StG; vgl. auch Beat Walker/ Christoph Busin, Die Verrechnungssteuer und die Stempelabgaben, Zürich 1998, 125 u. 136; Conrad Stockar, Übersicht und Fallbeispiele zu den Stempelabgaben und zur Verrechnungssteuer,
3. Aufl. , Basel/Therwil 2000, 23 u. 134 f.).
a) Die streitige Bilanzkorrektur verstösst nicht gegen zwingende handelsrechtliche Höchstbewertungsvorschriften.
Grundlegend kann mit Reich (Vorteilszuwendungen, a.a.O., 627) festgehalten werden, dass die Offenlegung einer verdeckten Kapitaleinlage eine Verbreiterung der Eigenkapitalbasis und somit eine Vermögensvermehrung bewirkt, die keine Gläubiger- oder Aktionärsinteressen gefährdet. Das hat insbesondere hier zu gelten, wo die von den Steuerbehörden vorgenommene Festlegung des Verkehrswerts unbestritten und von der Gesellschaft auch in den folgenden Jahren als wirklichkeitsgerecht übernommen worden ist. So ist unter dem Gesichtspunkt des Kapitalschutzes nicht zu befürchten, dass den Gläubigern weniger als das ausgewiesene Haftungssubstrat zur Verfügung stehen könnte, weil Vermögenswerte ausgewiesen worden wären, die in Wirklichkeit gar nicht bestehen.
Der Begriff der "Anschaffungskosten" im Sinne von Art. 665/665a, 667 und 670 OR kann sich vernünftigerweise nur auf solche Geschäfte beziehen, die zu Marktbedingungen abgewickelt worden sind. Demgemäss gibt es in der Bilanzierungspraxis Fälle, in denen sich das Niedrigstwertprinzip gar nicht angemessen anwenden lässt, so etwa bei der Schenkung von Aktiven, wo die Verbuchung zu einem vorsichtig ermittelten Verkehrswert zugelassen wird (vgl. Schweizer Handbuch der Wirtschaftsprüfung, a.a.O., Band 1, RZ 2.232, S. 52). Dasselbe kann insbesondere für geldwerte Leistungen zwischen einer Gesellschaft und ihren Anteilsinhabern gelten.
Vorliegend wäre es aktienrechtlich denn auch nicht zu beanstanden gewesen, den Beteiligungsverkauf wie unter unbeteiligten Dritten abzuschliessen und die eingebrachten Aktiven zu ihrem Verkehrswert auszuweisen. Wäre eine solche Verbuchung aber zulässig gewesen, so kann sie nicht dadurch handelsrechtswidrig werden, dass sie auf Grund des Einschreitens der Steuerbehörden aufwertungshalber nachvollzogen und dabei ein Bilanzwert eingesetzt wird, der den marktgerechten Anschaffungswert nicht übersteigt (vgl. zum Ganzen insbesondere Duttweiler-Kärcher, a.a.O., 52 u. 60; Bauen, a.a.O:, 159 ff.; Böckli, a.a.O., RZ 1141 ff.; Cagianut/Höhn, a.a.O., Rz 62 ff. zu § 14; Reich, Realisation, a.a.O., 96 f. u. 117 ff.).
Insgesamt besteht somit kein Grund, die Gesellschaft bei ihrem unterbewerteten Einbringungspreis zu behaften, zumal durch ein Abstellen auf den - hier von niemandem bestrittenen - wirklichen Wert niemand geschädigt wird. Es ist nicht ersichtlich, warum die den Stempelsteuerentscheid umsetzende und in der Folge jeweils von den zuständigen Gesellschaftsorganen genehmigte Bilanz für die Steuerbehörden auf Grund des Massgeblichkeitsprinzips nicht verbindlich sein sollte.
b) Im Recht der direkten Bundessteuer ist der von der Stempelsteuer erfasste Aktionärszuschuss als verdeckte Kapitaleinlage zu qualifizieren. Dabei sehen die Steuerbehörden im Allgemeinen davon ab, die Unterbewertung der eingebrachten Beteiligung zu korrigieren; sie stützen sich auf den zwischen den Vertragsparteien festgelegten Verkaufspreis und lassen die stillen Reserven vorerst noch unbesteuert.
Diesfalls muss sich die betroffene Gesellschaft aber auf Grund des Massgeblichkeitsprinzips auch in den folgenden Jahren bei den einmal gewählten Buchansätzen und somit ihrer Unterbewertung behaften lassen; insbesondere kann sie sich anlässlich einer späteren Realisation nicht mit historischen Argumenten gegen die Gewinnverwirklichung zur Wehr setzen; die bei der Einbringung entstandenen stillen Reserven werden im Realisierungszeitpunkt oder bei der Auflösung der Gesellschaft als ihr Gewinn besteuert. In bestimmten Fällen dagegen wird die mit der verdeckten Kapitaleinlage verbundene Unterbewertung für die direkte Bundessteuer korrigiert, namentlich dann, wenn die Unterbewertung es dem veräussernden Anteilsinhaber ermöglichen würde, der Besteuerung eines an sich steuerbaren und im Zeitpunkt des Beteiligungsübergangs realisierten Kapitalgewinns zu entgehen (zum Ganzen:
vgl. Danielle Yersin, Apports et retraits de capital propre et bénéfice imposable, Diss. Lausanne 1977, 108 ff.; dies. , Quelques réflexions sur l'apport de biens à une entreprise, ASA 49, 175 ff.; Peter Brülisauer/Stephan Kuhn, a.a.O., Rz 80 ff. zu Art. 58 DBG; Ernst Höhn/Robert Waldburger, a.a.O., Band I, Rz 71 ff. zu § 18; Ernst Känzig, Die Sacheinlage nach Aktien- und nach Steuerrecht, in: Grundfragen des Unternehmungssteuerrechts, Basel 1983, 52 ff.; Markus Reich, Verdeckte Vorteilszuwendungen zwischen verbundenen Unternehmen, ASA 54, 609 ff.).
Gesamthaft ergibt sich somit, dass die von der Gesellschaft vorgenommene Neugestaltung ihrer Bilanz im Einklang mit den steuerrechtlichen Bewertungsgrundsätzen steht.
Das Abstellen auf den Verkehrswert legt nicht nur die getätigte Kapitaleinlage als solche offen. Es entspricht auch dem Prinzip des "dealing at arm's length" oder Drittvergleichs, das eine Gesellschaft dazu verpflichtet, die Einbringung von Beteiligungen wie auch die anderen Rechtsgeschäfte mit ihren Anteilsinhabern grundsätzlich zu den gleichen Bedingungen abzuwickeln, wie sie auch mit aussenstehenden Dritten vereinbart würden (vgl. insbesondere StE 2000 B 24.4 55 E. 4a; StE, 1999 A 24.34 3/StR, 54 1999 679 E. 6c; ASA 65, 51/StE, 1995 B 72.11 3 E. 3b).
c) Dementsprechend ist nicht weiter zu prüfen, ob die Pflichtige die steuerbehördliche Höherbewertung nur irrtümlich übernommen hat oder ob ihre jetzige Argumentation rechtsmissbräuchlich ist. Ebenso kann es nicht darauf ankommen, ob die in den Folgejahren vorgenommene Umbenennung der "Aufwertungsreserve" in "Agio aus Kapitalerhöhung" wirklich einer Korrektur der 1995 bilanzierten Buchungen entsprach.
Ohne Belang sind schliesslich die Beziehungen zwischen den Gesellschaften, die als Revisionsstelle fungiert haben.
4.- Nach dem Gesagten erweist sich die Beschwerde als begründet. Der Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 20. Februar 2001 ist aufzuheben, soweit er die direkte Bundessteuer betrifft, und der Einspracheentscheid der kantonalen Verwaltung für die direkte Bundessteuer Schwyz vom 16. Oktober 2000 zu bestätigen.
Bei diesem Verfahrensausgang wird die unterliegene Beschwerdegegnerin kostenpflichtig (Art. 156 Abs. 1 OG in Verbindung mit Art. 153 und 153a OG). Über die Verlegung der Verfahrens- und Parteikosten des kantonalen Verfahrens wird die Vorinstanz neu zu befinden haben. Eine Parteientschädigung ist nicht geschuldet (Art. 159 OG).
Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird gutgeheissen, der Entschied des Verwaltungsgerichts des Kantons Schwyz vom 20. Februar 2001 aufgehoben, soweit er die direkte Bundessteuer betrifft, und der Einspracheentscheid der kantonalen Verwaltung für die direkte Bundessteuer Schwyz vom 16. Oktober 2000 bestätigt.
2.- Die Gerichtsgebühr für das Verfahren vor Bundesgericht von Fr. 5'000.-- wird der Beschwerdegegnerin auferlegt.
3.- Es wird keine Parteientschädigung zugesprochen.
4.- Über die Verlegung der Verfahrens- und Parteikosten des vorinstanzlichen Verfahrens hat das Verwaltungsgericht des Kantons Schwyz neu zu entscheiden.
5.- Dieses Urteil wird den Parteien, der Kantonalen Verwaltung für die direkte Bundessteuer Schwyz sowie dem Verwaltungsgericht des Kantons Schwyz, Kammer II, schriftlich mitgeteilt.
_
Lausanne, 11. März 2002
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: