Kollokationsplan, hat sich ergeben:
A.- Die Y._ AG und die Z._ AG mit Sitz in Zug sind Tochtergesellschaften der am gleichen Ort domizilierten X._ AG. Die beiden ersten Gesellschaften waren vom High Court of Justice in London aufgrund eines am 25. April 1990 eingegangenen Chartervertrags zur Zahlung von USD 4'819'675. 37 und einer Parteientschädigung von GBP 1'265'366. 06 an die zypriotische S._ Ltd. verpflichtet worden (Urteil vom 4./9. Februar 1994). Die Forderungen, die in den am 25. April 1994 über die Y._ AG und die Z._ AG eröffneten Konkursen zugelassen worden waren, meldete die S._ Ltd. auch in dem am 17. Mai 1994 über die X._ AG eröffneten Konkurs an; das Konkursamt Zug wies die Forderungen am 8. Februar 1996 ab.
Am 21. September 1998 wies das Kantonsgericht Zug die Klage der S._ Ltd. auf Kollozierung ihrer Forderungen von Fr. 7'048'775. 20 gestützt auf das Urteil des High Court of Justice, von Fr. 77'246. 85 für aufgelaufenen Zins von 5 % auf diesem Betrag, von Fr. 2'632'594.-- als zuerkannte Parteientschädigung im Verfahren vor dem High Court of Justice und von Fr. 408.-- als Kosten des Zahlungsbefehls ab; der gegen das erstinstanzliche Urteil eingelegten Berufung der Klägerin gab das Obergericht des Kantons Zug am 9. November 1999 nicht statt.
B.- Mit Urteil vom 14. April 2000 hiess das Bundesgericht die von der Klägerin gegen das Urteil des Obergerichts erhobene Berufung teilweise gut, soweit es darauf eintrat, und wies die Sache zur Neubeurteilung an die Vorinstanz zurück (5C. 275/1999).
Das Obergericht des Kantons Zug wies die von der Klägerin gegen das erstinstanzliche Urteil erhobene Berufung mit Urteil vom 3. Oktober 2000 wiederum ab und bestätigte das Urteil des Kantonsgerichts Zug vom 21. September 1998.
C.- Die Klägerin beantragt dem Bundesgericht mit Berufung, Das Urteil des Obergerichts vom 3. Oktober 2000 sei aufzuheben und ihre im erstinstanzlichen Verfahren geltend gemachten Forderungen im Konkurs der X._ AG zu kollozieren.
Die beklagte X._ AG in Konkurs schliesst auf Nichteintreten, eventuell auf Abweisung der Berufung. Das Obergericht beantragt die Abweisung der Berufung und hat unter Hinweis auf die Motive des angefochtenen Urteils auf Gegenbemerkungen verzichtet.
D.- Das von der Beklagten gestellte Gesuch um Sicherstellung der Parteientschädigung, gegen das sich die Klägerin gewehrt hat, ist vom Instruktionsrichter der II. Zivilabteilung des Bundesgerichts mit Verfügung vom 16. Januar 2001 bewilligt worden. Die Sicherheitsleistung von Fr. 5'000.-- für eine allfällige Parteientschädigung an die Beklagte hat die Klägerin denn auch fristgerecht eingezahlt.
Mit Urteil vom heutigen Tag hat das Bundesgericht die von der Klägerin eingereichte staatsrechtliche Beschwerde abgewiesen, soweit es auf sie eingetreten ist (5P. 431/2000).

Das Bundesgericht zieht in Erwägung:
1.- Der für die Berufung erforderliche Streitwert von wenigstens Fr. 8'000.-- (Art. 46 OG) ist bei weitem erreicht; das Obergericht hat den Streitwert unwidersprochen auf Fr. 50'000.-- festgesetzt.
Soweit sich die Klägerin mit Berufung gegen die Anwendung des kantonalen Prozessrechts (<ref-law>/ZG) richtet, ist auf diese nicht einzutreten, kann doch mit ihr bloss die Verletzung von Bundesrecht gerügt werden (Art. 43 und 55 Abs. 1 lit. c a.E. OG; <ref-ruling> E. 2; <ref-ruling> E. 3b).
2.- Das Obergericht hält das erste, für einen Durchgriff von den Tochtergesellschaften auf die Muttergesellschaft (Beklagte) nötige Erfordernis, die wirtschaftliche Identität zwischen Aktionär und Gesellschaft, für gegeben, wovon auch die Parteien ausgehen. Die Vorinstanz verneint aber die zweite Voraussetzung, nämlich eine rechtsmissbräuchliche Verwendung der von der Beklagten beherrschten Tochtergesellschaften Y._ AG und Z._ AG aus mehreren Gründen.
Die Klägerin erblickt darin aus verschiedenen Gründen eine Verletzung von Bundesrecht (dazu hiernach E. 3 f.).
3.- Das Obergericht legt zunächst dar, von einer missbräuchlichen Unterkapitalisierung könne nur gesprochen werden, wenn eine Tochtergesellschaft gemessen an ihrem künftigen wirtschaftlichen Risiko offensichtlich mit zu wenig Geld ausgestattet werde; jedoch könne aus der Pflicht, eine Tochtergesellschaft mit hinreichend grossen finanziellen Mitteln auszustatten, nicht eine Nachschusspflicht für den Fall späterer wirtschaftlicher Schwierigkeiten gemacht werden.
In diesem Fall stelle sich primär die Frage, ob die Muttergesellschaft ihrer Tochter rechtsmissbräuchlich Haftungssubstrat entziehe. Gegen eine <ref-law> verletzende Verwendung der Tochtergesellschaften durch die Beklagte führt das Obergericht ins Feld, die Klägerin habe nicht hinreichend substanziiert, dass die Beklagte ihre Tochtergesellschaften mit zu wenig Kapital für deren Geschäftstätigkeit ausgestattet habe.
a) Indem die Klägerin vorab schildert, welche Beweismittel sie eingereicht hat und welche Schlüsse daraus zu ziehen sind, bzw. welche Schlüsse ihrer Ansicht nach gezogen werden müssen, verkennt sie, dass das Bundesgericht - von Ausnahmen abgesehen - an die vorinstanzlichen Sachverhaltsfeststellungen gebunden ist (Art. 63 Abs. 2 OG) und somit in aller Regel keine eigenen Feststellungen treffen kann. Die Klägerin macht keine mit den nötigen Aktenverweisen versehene Ausnahme geltend, die zu einer Ergänzung oder Berichtigung des Sachverhalts führen könnte (Art. 55 Abs. 1 lit. d und Art. 64 OG; <ref-ruling> E. 2b S. 63; <ref-ruling> E. 5c/aa S. 357; <ref-ruling> E. 2a).
Soweit die Klägerin aus den Darlegungen der Vorinstanz herleiten will, Rechtsmissbrauch liege schon deshalb vor, weil die Beklagte nicht bereit gewesen sei, die Y._ AG mit den notwendigen Finanzhilfen am Leben zu erhalten, hat sie offenbar die Erwägungen im angefochtenen Urteil missverstanden. Wohl kann die Muttergesellschaft verpflichtet sein, die Geschäftstätigkeit der Tochterunternehmung einzustellen. Jedoch ist dies primäre Pflicht der Organe (Art. 725 Abs. 2 und Art. 729b OR), und die Klägerin begründet nicht (Art. 55 Abs. 1 lit. c OG; <ref-ruling> E. 3 S. 749), welche festgestellten Umstände (Art. 63 Abs. 2 OG) den Organen ein solches Vorgehen geboten hätten.
b) Die Klägerin macht weiter geltend, sie sei davon ausgegangen, die Unterkapitalisierung mit den von ihr beigelegten Jahresrechnungen der Y._ AG genügend substanziiert zu haben.
Zwar könnte darin die Bundesrecht beschlagende Rüge erkannt werden, das Obergericht habe überspannte Anforderungen an die Substanziierungspflicht gestellt (<ref-ruling> E. 1c S. 181; <ref-ruling> E. 2b und c S. 339 f., E. 3 S. 341).
Indessen genügt die Klägerin ihrer Begründungspflicht in keiner Weise (Art. 55 Abs. 1 lit. c OG). Indem sie bloss argumentiert, Aktiven der Y._ AG hätten abgenommen und deren Passiven zugenommen, führt sie nichts an, was darauf hinweisen könnte, dass die Tochtergesellschaften bei Aufnahme der Geschäftstätigkeit mit zu wenig Kapital ausgestattet worden waren. Wenn sie weiter vorbringt, nichts deute darauf hin, dass die Schulden der Y._ AG gegenüber der Beklagten auf 12 Mio. Fr. angestiegen seien, so erklärt sie mit keinem Wort, was die in der Buchhaltung der Y._ AG ausgewiesene Schuld gegenüber der Beklagten sein könnte ausser ein Darlehen (Art. 55 Abs. 1 lit. c OG).
c) Wenn die Klägerin schliesslich rügt, das Obergericht gehe erneut von einem bundesrechtswidrigen Begriff des Eigenkapitals aus, ist damit ebenfalls nicht dargelegt (Art. 55 Abs. 1 lit. c OG), was dies mit der Frage zu tun hat, ob die Beklagte ihre Tochtergesellschaften zu Beginn ihrer Geschäftstätigkeit mit genügend Kapital ausgestattet hatte.
4.- Bezüglich der Frage, ob die Beklagte ihren Tochtergesellschaften rechtsmissbräuchlich Haftungssubstrat entzogen hat, schildert das Obergericht zunächst, wie es zum Rückweisungsentscheid des Bundesgerichts vom 14. April 2000 gekommen ist. Zur Begründung in der Sache führt es hauptsächlich aus, dem Bericht des unabhängigen Wirtschaftsprüfers könne entnommen werden, dass die Y._ AG der Beklagten am 28. August 1992 "ihre geschäftlichen Aktivitäten in Verbindung mit einer Reihe von Charterverträgen zusammen mit den entsprechenden Vermögenswerten und Verbindlichkeiten ... an die Muttergesellschaft ... abgetreten hat". Zwar seien die Aktiven im Verlauf des Geschäftsjahres 1992 von 25 Mio. Fr. auf einen symbolischen Franken gesunken. Jedoch hätten im gleichen Zeitraum auch die kurzfristigen Verbindlichkeiten von ca. 18,5 Mio. Fr. auf rund Fr. 8'000.-- reduziert werden können; auch hätten die Schulden gegenüber verbundenen Unternehmen von ca. 4,7 Mio. Fr. auf ungefähr Fr. 180'000.-- abgenommen.
Hingegen hätten die Guthaben der Beklagten gegenüber der Y._ AG im Verlauf des Jahres 1992 um rund 12 Mio. Fr. zugenommen; dabei habe es sich um Kapital ersetzende Darlehen gehandelt. Der Substanzverlust hänge mit seit 1990 eingetretenen Geschäftsverlusten zusammen; im Geschäftsjahr 1992 habe der Betriebsverlust ca. 14,5 Mio. Fr.
betragen. Der Klägerin sei der Nachweis missbräuchlichen Entzugs von Haftungssubstrat misslungen, und sie gebe selber zu, dass die Umstrukturierungen erfolgten, damit die X._ Gruppe ihre Hochseeaktivitäten fortführen könne.
a) Wenn die Klägerin geltend macht, die Vorinstanz habe erwogen, dass den Tochtergesellschaften nicht rechtsmissbräuchlich Haftungssubstrat entzogen worden sei, so verkennt sie, dass das Obergericht auf Grund der aus den Geschäftsbüchern hervorgehenden Zahlen nur zum Schluss gelangt ist, der Klägerin sei der entsprechende Nachweis misslungen.
b) Die Klägerin rügt, das Obergericht gehe nach wie vor von einem bundesrechtswidrigen Begriff des Haftungssubstrats aus. Denn die Vorinstanz stütze ihren Entscheid auf den Umstand, dass in der Bilanz der Y._ AG per Ende 1992 den auf einen Franken gesunkenen Aktiven ein Darlehen der Beklagten mit Rangrücktritt von ca. 12 Mio. Fr. gegenüberstehe (vgl. Art. 725 Abs. 2 Satz 2 a.E. OR). Das Haftungssubstrat entspreche den Aktiven.
Die Klägerin scheint zu übersehen, dass im vorliegenden Fall nicht eine Unterbilanz vorliegt, bei deren Berechnung das Aktienkapital eine Rolle spielt (<ref-law>); vielmehr liegt wegen des Rangrücktritts keine Überschuldung vor (Art. 725 Abs. 2 a.E. OR). Indem sich die Klägerin zutreffend zur Ermittlung des Eigenkapitals äussert (vgl.
Art. 663a Abs. 1 bis 3 OR), ist für den vorliegenden Fall nichts gewonnen, auch nicht mit der von ihr vorgelegten Rechnung, wonach während des Geschäftsjahres 1992 mindestens 10,5 Mio. Fr. an Aktiven verschwunden sein müssen. Ob diese Rechnung zutrifft, kann dahin gestellt bleiben, weil sich die Klägerin nicht mit der Begründung des angefochtenen Urteils auseinander setzt (Art. 55 Abs. 1 lit. c OG), wonach im gleichen Zeitraum die Passiven (Schulden gegenüber Dritten) um rund 23 Mio Fr. abgenommen haben. Sind im gleichen Zeitraum die Aktiven um 25 Mio. Fr. gesunken, ist im Geschäftsjahr 1992 ein Verlust von 14,5 Mio. Fr. eingetreten und hat die Beklagte per Ende 1992 ein mit Rangrücktritt versehenes Guthaben gegen die Y._ AG in der Höhe von 12 Mio. Fr.
ausgewiesen, ergeben die Darlegungen des Obergerichts durchaus einen Sinn. Im Zusammenhang mit dem Schluss der Vorinstanz, der Klägerin sei der Nachweis des missbräuchlichen Entzugs von Haftungssubstrat misslungen, ist im Weiteren Folgendes zu bemerken:
Dass die in wirtschaftlichen Schwierigkeiten steckende Y._ AG der Beklagten gemäss Vertrag vom 28. August 1992 gewisse Geschäftssparten samt den zugehörigen Aktiven und Passiven übertragen hat, ist für sich allein nicht rechtsmissbräuchlich. Eine andere Betrachtungsweise hätte zur Folge, dass eine Muttergesellschaft mit der Tochtergesellschaft nicht kontrahieren dürfte, womit in solchen Konstellationen nicht mehr von rechtlicher Selbstständigkeit zweier juristischer Personen gesprochen werden könnte. Der (Haftungs-) Durchgriff setzt voraus, dass die rechtliche Selbstständigkeit geradezu treuwidrig oder rechtsmissbräuchlich zum Nachteil Dritter angerufen wird (<ref-ruling> E. 3 S. 261 ff., 121 III 319 E. 5 S. 321 ff., 120 II 155 E. 6c/cc S. 170, 117 II 494 E. 8b S. 502 je mit Hinw. ; vgl. dazu R. Lanz, Von der wirtschaftlichen Betrachtungsweise im Privatrecht, ZBJV 137/2001 S. 10 ff.; M. Baumann, Zürcher Kommentar, N 328 ff. zu <ref-law>).
Wenn die Klägerin geltend macht, die Verminderung der Passiven der Y._ AG ändere nichts am Umstand, dass deren Aktiven verschwunden seien, an denen sie wie auch andere Gläubiger im Zwangsvollstreckungsverfahren hätte partizipieren können, mag dies zutreffen. Damit ist aber Rechtsmissbrauch so wenig dargetan wie mit den Schilderungen über ungewöhnlich erscheinende zeitliche Abläufe in der Willensbildung der Organe der Y._ AG während den Jahren 1993 und 1994 sowie über von dieser ihren Gläubigern ausgestellte Garantien. Der Klägerin hilft auch die Behauptung nichts, sie sei als einzige Gläubigerin "in der leeren Hülle (der Y._ AG) isoliert" worden. Denn dafür, dass das Bundesgericht auf Rechtsmissbrauch erkennen könnte, fehlen die nötigen tatsächlichen Feststellungen (<ref-ruling> E. 3d S. 63, 107 II 172 E. 2 S. 178 je mit Hinw.). Möglicherweise hätte der Klägerin ein von ihr beigebrachtes Gutachten über die Fragen weiter geholfen, ob die Beklagte die Geschäftssparten der Y._ AG zu unter dem Verkehrswert liegenden (Buch-) Werten übernommen habe, inwieweit der Abbau der Aktiven nicht Folge der über mehrere Jahre eingetretenen Geschäftsverluste sein könne und ob die Beklagte die Y._ AG wirtschaftlich habe ausbluten lassen, um das Londoner Urteil vom 4./9. Februar 1994 im Ergebnis nicht befolgen zu müssen. Wohl trägt die Klägerin Behauptungen vor, die in dieser Richtung verstanden werden können und verweist pauschal und damit erfolglos auf Akten des kantonalen Verfahrens (<ref-ruling> E. 2 S. 93 f., 110 II 74 E. I/1 S. 78). Jedoch belegt sie im Lichte ihres Beweisführungsanspruches gemäss <ref-law> nicht, dass sie prozesskonform rechtserhebliche Beweisanträge gestellt hat, die übergangen worden sind (<ref-ruling> E. 3c S. 223 mit Hinw. ; <ref-ruling> E. 3c S. 63).
Für die Bejahung des Rechtsmissbrauchs fehlen die erforderlichen Feststellungen, und das bundesgerichtliche Berufungsverfahren kann nicht dazu dienen, Versäumtes nachzuholen.
c) Schliesslich bringt die Klägerin vor, schon aus der Feststellung des Obergerichts, die Umstrukturierungen seien zwecks Sicherung künftiger Hochseeaktivitäten der X._ Gruppe erfolgt, lasse sich ableiten, dass ein Anspruch auf Durchgriff bestehe. Dass die Umstrukturierung für sich allein nichts Stossendes im Sinne von <ref-law> darstellt, liegt freilich auf der Hand. Die Beklagte erblickt in der entsprechenden Feststellung des Obergerichts zu Recht nur die Schlussfolgerung, dass die Klägerin die Folgen der Beweislosigkeit zu tragen hat (<ref-law>).
5.- Hat das Obergericht ohne Verletzung von Bundesrecht erkannt, dass die Klägerin nicht nachweisen konnte, dass die Beklagte ihren Tochtergesellschaften rechtsmissbräuchlich Haftungssubstrat entzog, kann ein Durchgriff nicht bejaht werden. Erweist sich somit die Erwägung 4.2.2 (S. 5 bis 8 des angefochtenen Entscheids) als bundesrechtskonform (dazu E. 4 hiervor), braucht sich das Bundesgericht mit denjenigen Rügen der Klägerin, die sich gegen die Erwägungen 4.2.3 und 4.2.4 des angefochtenen Entscheids richten, nicht zu befassen. Denn was das Obergericht aus dem südafrikanischen Urteil und aus der Möglichkeit des Einbezugs der Beklagten in den Prozess in London hergeleitet hat (dazu E. 4c und d der staatsrechtlichen Beschwerde), führt bloss zum gleichen Ergebnis, das oben (in E. 4) als bundesrechtskonform bestätigt worden ist. Vermag diese Begründung das angefochtene Urteil zu tragen, würde die Erörterung von Rügen gegen Alternativ- oder Eventualbegründungen zu einem blossen Streit über Urteilsmotive führen.
Insoweit steht die Berufung nicht offen (<ref-ruling> E. 2 S. 190 ff.; <ref-ruling> E. 2b S. 399 f. mit Hinw. ; Messmer/Imboden, Die eidgenössischen Rechtsmittel in Zivilsachen, Rz 43 S. 64 bei Fn 12; P. Münch, in: Handbücher für die Anwaltspraxis, Bd. I: Prozessieren vor Bundesgericht, herausg.
von Geiser/Münch, 2. Aufl. 1998, Rz 4.92 lemma 3 S. 155 bei Fn 235).
6.- Bei diesem Ergebnis hat die Berufung keinen Erfolg.
Die Klägerin unterliegt und hat deshalb die Gerichtsgebühr zu tragen und die obsiegende Beklagte zu entschädigen (Art. 156 Abs. 1 und Art. 159 Abs. 2 OG). Da die Klägerin auf Grund der Verfügung vom 16. Januar 2001 bei der Bundesgerichtskasse den Betrag von Fr. 5'000.-- als Sicherheitsleistung hinterlegt hat, wird die Bundesgerichtskasse der Beklagten die Parteientschädigung auszahlen mit der Folge, dass die Klägerin von der Leistungspflicht entbunden wird und jeden Anspruch auf die Sicherheitsleistung verliert.

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen, soweit darauf einzutreten ist, und das Urteil des Obergerichts des Kantons Zug vom 3. Oktober 2000 wird bestätigt.
2.- Die Gerichtsgebühr von Fr. 4'000.-- wird der Klägerin auferlegt.
3.- Die Parteientschädigung, die die Klägerin der Beklagten für das bundesgerichtliche Verfahren schuldet, wird auf Fr. 5'000.-- festgesetzt. Sie wird unter Verwendung der von der Klägerin erbrachten Sicherheitsleistung durch die Bundesgerichtskasse ausgezahlt.
4.- Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zug (zivilrechtliche Abteilung) schriftlich mitgeteilt.
_
Lausanne, 3. April 2001
Im Namen der II. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: