Gerichtsstandsvereinbarung; Zuständigkeit, hat sich ergeben:
A.- a) Die TransRail AG (Klägerin) ist Frachtagentin der Eisenbahnen der früheren Sowjetunion. Am 1. März 1998 schloss sie mit der Nortrop Speditions- und Schifffahrtsgesellschaft mbH (Beklagte) ein "Railway Freight Payment Agreement" (fortan Agreement). Dieses enthält Bestimmungen über "Duties and Responsibilities" der Parteien (Ziff. 2), "Freight Rates and Conditions" (Ziff. 3), "Settlement of Payment" (Ziff. 4) sowie "Legal Terms" (Ziff. 5). Dort wird in Ziffer 5.2 Folgendes festgehalten:
"Disputes arising out of this agreement have to be
amicably settled. Otherwise the arbitration rules
applied in the defendant's country have to be
observed by both parties".
b) Im Zusammenhang mit der Einführung eines neuen Internet/e-Mail Frachtraten-Abfragesystems gingen die Parteien am 13. Januar 1999 eine "Geschäftsabwicklungsvereinbarung" ein. In Ziffer 2 dieser Vereinbarung werden die Vertragsbeziehungen zwischen den Prozessparteien sowie den Eisenbahngesellschaften umschrieben; zudem wird bezüglich der "Zahlungs-, Transportkonditionen, Besonderheiten des Frachtbriefes etc. " auf das Agreement vom 1. März 1998 verwiesen.
Ziffer 3 bis 5 enthalten Bestimmungen über das auf Internet und e-Mail basierende Kommunikationssystem. Ziffer 6 der Geschäftsabwicklungsvereinbarung lautet wie folgt:
"Die gesamten Geschäftsbeziehungen zwischen TR und
Nortrop unterstehen schweizerischem Recht. Gerichtsstand
für beide Parteien ist CH-9000 St. Gallen".
Die Tragweite und das gegenseitige Verhältnis dieser vertraglichen Zuständigkeitsregeln ist umstritten.
B.- Mit Klage vom 13. April 2000 stellte die Klägerin beim Bezirksgericht St. Gallen den Antrag, die Beklagte sei zur Zahlung von Fr. 758'688. 24 nebst Zins zu verpflichten.
Die Beklagte widersetzte sich diesem Begehren und bestritt die Zuständigkeit des angerufenen Gerichts. Mit Entscheid vom 21. September 2000 trat das Bezirksgericht St. Gallen auf die Klage nicht ein und überwies den Prozess an das Handelsgericht des Kantons St. Gallen. Dieses beschränkte in der Folge das Verfahren auf die Frage der Zuständigkeit. Mit Entscheid vom 5. April 2001 wies das Handelsgericht die Unzuständigkeitseinrede der Beklagten ab und trat auf die Klage ein.
C.-Die Beklagte führt gegen den Entscheid des Handelsgerichts des Kantons St. Gallen vom 5. April 2001 eidgenössische Berufung mit dem Antrag, der angefochtene Entscheid sei aufzuheben, und es sei die Unzuständigkeit des Handelsgerichts St. Gallen festzustellen. Die Klägerin schliesst auf Abweisung der Berufung.

Das Bundesgericht zieht in Erwägung:
1.- Selbständige Zuständigkeitsentscheide einer Spruchbehörde im Sinne von Art. 48 Abs. 1 OG sind in berufungsfähigen Streitsachen wegen Verletzung bundesrechtlicher Zuständigkeitsvorschriften unmittelbar anfechtbar (Art. 49 OG). Der angefochtene Entscheid erging in Anwendung von Bundesrecht, dessen Verletzung die Beklagte geltend macht (Art. 43 OG). Der Streitwert der Hauptsache erreicht die Berufungssumme nach Art. 46 OG. Auf die Berufung ist daher einzutreten.
2.- Das Handelsgericht des Kantons St. Gallen stützte seine Zuständigkeit auf die in der Geschäftsabwicklungsvereinbarung vom 13. Januar 1999 enthaltene Klausel, wonach Gerichtsstand für beide Parteien CH-9000 St. Gallen ist. Es gelangte zum Schluss, damit könnten nur die ordentlichen Gerichte des Kantons St. Gallen gemeint sein. Die Beklagte erachtet dies als bundesrechtswidrig und hält dafür, dass für die Beurteilung der Streitigkeit ein Schiedsgericht zuständig sei.
a) Nachdem die Parteien des vorliegenden Verfahrens ihren Sitz in unterschiedlichen Vertragsstaaten des Übereinkommens über die gerichtliche Zuständigkeit und die Vollstreckung gerichtlicher Entscheidungen in Zivil- und Handelssachen vom 16. September 1988 (SR 0.275. 11; Lugano-Übereinkommen, LugÜ) haben und die Gerichte eines Vertragsstaates als zuständig bezeichneten, ist die Gerichtsstandsvereinbarung grundsätzlich nach <ref-law> zu beurteilen.
Dass die schriftliche Einigung der Parteien das in <ref-law> statuierte Formerfordernis erfüllt, ist zu Recht unbestritten.
b) In Bezug auf die Tragweite der in Frage stehenden Gerichtsstandsvereinbarung stellt sich vorab die Frage, nach welchem Recht diese auszulegen ist. Die Vorinstanz stellte auf die lex causae ab, welche im vorliegenden Fall zufolge der Rechtswahl zugunsten des schweizerischen Rechts mit der lex fori übereinstimmt (vgl. <ref-law>).
Im Schrifttum wird diesbezüglich zwar darauf hingewiesen, dass das LugÜ nicht nur die Form, sondern auch das vertragliche Element der Einigung der Parteien über die internationale und örtliche Zuständigkeit regle und damit das nationale Recht verdränge (vgl. dazu Geimer/Schütze, Europäisches Zivilverfahrensrecht, N. 75 ff. zu Art. 17 EuGVÜ/LugÜ; Kropholler, Europäisches Zivilprozessrecht, 6. Aufl. , N. 21 ff. zu Art. 17 EuGVÜ/LugÜ; Matthias Staehelin, Gerichtsstandsvereinbarungen im internationalen Handelsverkehr Europas:
Form und Willenseinigung nach Art. 17 EuGVÜ/LugÜ, Diss.
Basel 1993, S. 137 ff., je mit Hinweisen). Vorliegend ist jedoch zu beachten, dass weder die Form noch die grundsätzliche Einigung der Parteien in Frage steht, sondern es sich vielmehr um einen reinen Auslegungsstreit handelt. Die Vertragsparteien haben überdies für die materielle Beurteilung von Streitigkeiten eine Rechtswahl getroffen. Unter diesen Umständen ist eine Auslegung der Gerichtsstandsvereinbarung nach vertragsautonomen Grundsätzen abzulehnen, zumal <ref-law> auch keine Auslegungsregeln enthält (Staehelin, a.a.O., S. 141). Die strittige Gerichtsstandsvereinbarung ist deshalb mit der Vorinstanz nach der lex causae und damit nach schweizerischem Recht auszulegen (in diesem Sinn auch Schnyder/Liatowitsch, Internationales Privat- und Zivilverfahrensrecht, S. 239 Rz. 719; Schwander, Einführung in das internationale Privatrecht, Bd. I, 3. Aufl. , S. 313 Rz. 647; derselbe, Gerichtszuständigkeiten im Lugano-Übereinkommen, in: Schwander [Hrsg. ], Das Lugano-Übereinkommen, S. 97; Gerhard Walter, Internationales Zivilprozessrecht der Schweiz, 2. Aufl. , S. 219; Ingo Saenger, Internationale Gerichtsstandsvereinbarungen nach EuGVÜ und LugÜ, Zeitschrift für Zivilprozess 1997, S. 483 f.; Staehelin, a.a.O., S. 177; Reiser, Gerichtsstandsvereinbarungen nach IPR-Gesetz und Lugano-Übereinkommen, S. 39). Davon geht im Ergebnis auch die Beklagte aus, indem sie eine Verletzung von Art. 1 und 18 OR rügt.
3.- a) Massgebend für die Tragweite der von den Parteien abgeschlossenen Gerichtsstandsvereinbarung ist in erster Linie der übereinstimmende wirkliche Wille (<ref-law>).
Bleibt eine tatsächliche Willensübereinstimmung unbewiesen, ist zur Ermittlung des mutmasslichen Parteiwillens die prozessrechtliche Abrede der Parteien aufgrund des Vertrauensprinzips so auszulegen, wie sie nach ihrem Wortlaut und Zusammenhang sowie den gesamten Umständen verstanden werden durfte und musste (<ref-ruling> E. 3f S. 255; <ref-ruling> E. 2a S. 120, je mit Hinweisen). Das Bundesgericht überprüft diese objektivierte Auslegung von Willenserklärungen im Berufungsverfahren als Rechtsfrage (<ref-ruling> E. 3a S. 253 mit Hinweisen), wobei es an Feststellungen des kantonalen Richters über die äusseren Umstände sowie das Wissen und Wollen der Beteiligten grundsätzlich gebunden ist (Art. 63 Abs. 2 OG; <ref-ruling> E. 2a/aa S. 436; <ref-ruling> E. 3a S. 168; <ref-ruling> E. 2a S. 418 mit Hinweisen).
b) Wie bereits die Vorinstanz erkannt hat, ist für die Auslegung der Gerichtsstandsvereinbarung vom 13. Januar 1999 deren Verhältnis zu der im Agreement vom 1. März 1998 enthaltenen Schiedsklausel entscheidend. Dies ist mangels eines festgestellten übereinstimmenden tatsächlichen Parteiwillens nach dem Vertrauensprinzip zu beurteilen. Nach der Rechtsprechung des Bundesgerichts ist bei der objektivierten Auslegung sich widersprechender vertraglicher Zuständigkeitsregeln, welche dieselbe Rechtsbeziehung betreffen, grundsätzlich davon auszugehen, dass die spätere Vereinbarung der früheren vorgeht und diese aufhebt (<ref-ruling> E. 5a). Dies gilt allerdings nur, sofern aus den gesamten Umständen nicht auf einen gegenteiligen mutmasslichen Parteiwillen zu schliessen ist, was im Folgenden zu prüfen ist.
c) aa) Nach Auffassung der Beklagten stellt die Geschäftsabwicklungsvereinbarung eine Ergänzung des Agreement dar. Sie begründet dies namentlich damit, dass in Ziffer 2 der Geschäftsabwicklungsvereinbarung auf das Agreement verwiesen wird. Wenn sie daraus auch in Bezug auf die Gerichtsstandsvereinbarung etwas zu ihren Gunsten ableiten will, übersieht sie, dass nach konstanter Rechtsprechung des Bundesgerichts eine vertragliche Gerichtsstandsvereinbarung eine selbständige, vom Vertragsganzen unabhängige prozessrechtliche Abrede darstellt (<ref-ruling> E. 5c S. 499 mit Hinweisen). Aus der Autonomie der Gerichtsstandsklausel folgt, dass diese selbst dann exklusive Geltung beanspruchen kann, wenn der Vertrag, in welchem sie enthalten ist, lediglich eine Ergänzung eines früher abgeschlossenen darstellt.
Selbst wenn sich die materiellen Bestimmungen des Agreement und der Vereinbarung ergänzen sollten, braucht dies somit nicht zwingend auch für die Schieds- und die Gerichtsstandsklausel zu gelten.
bb) In Ziffer 2 der Geschäftsabwicklungsvereinbarung wird nur für "Zahlungs-, Transportkonditionen, Besonderheiten des Frachtbriefes etc. " auf das Agreement verwiesen.
Vom Verweis gerade nicht ausdrücklich erfasst wird die Schiedsklausel. Auch in der die Rechtswahl und die Gerichtsstandsvereinbarung enthaltenden Ziffer 6 der Geschäftsabwicklungsvereinbarung wird die Schiedsklausel des Agreement nicht erwähnt. Entgegen der von der Beklagten vertretenen Auffassung ergibt sich damit aus dem Wortlaut der Geschäftsabwicklungsvereinbarung nichts für ihren Standpunkt.
cc) Die Beklagte verweist zur Begründung der von ihr vertretenen Interpretation der Schieds- und der Gerichtsstandsklausel auch auf generelle Vorteile der Schiedsgerichtsbarkeit im internationalen Handels- und Warengeschäft.
Ihre Ausführungen sind jedoch zu allgemein, als darauf im Rahmen der Auslegung konkreter Vertragsbestimmungen nach dem Vertrauensprinzip abgestellt werden könnte.
dd) Soweit der Berufung das Argument zugrunde liegt, die eingeklagte Forderung stehe der Klägerin nicht zu, verkennt die Beklagte, dass die Aktivlegitimation der Klägerin keine Prozessvoraussetzung darstellt. Wie bereits die Vorinstanz ausführte, ist über die Sachlegitimation als materiellrechtliche Voraussetzung des eingeklagten Anspruchs durch Sach- und nicht durch Prozessurteil zu entscheiden (<ref-ruling> E. 1). Eine allenfalls fehlende Aktivlegitimation der Klägerin hat auf den Entscheid über die Zuständigkeit somit keinen Einfluss. Sollten die Vorbringen der Beklagten dahingehend zu verstehen sein, dass der eingeklagte Anspruch nach ihrer Auffassung von der Gerichtsstandsvereinbarung nicht erfasst wird, ist ihre Rüge ebenfalls unbegründet.
Denn für diesen Fall gilt der allgemeine prozessrechtliche Grundsatz, dass bei der Beurteilung der Zuständigkeitsfrage - jedenfalls im Rahmen eines selbständigen Zuständigkeitsentscheids - auf den von der Klägerin eingeklagten Anspruch und dessen Begründung abzustellen ist und die sich darauf beziehenden Einwände der Gegenpartei erst im Stadium der materiellen Beurteilung zu prüfen sind (<ref-ruling> E. 3b/bb S. 252; <ref-ruling> E. 2a S. 67 f., je mit Hinweisen).
d) Zusammengefasst sind keine Umstände ersichtlich, welche bei objektivierter Auslegung darauf schliessen liessen, dass die am 13. Januar 1999 abgeschlossene Gerichtsstandsvereinbarung nicht ausschliessliche Geltung beanspruchen sollte. Es ist somit davon auszugehen, dass deren Abschluss die früher geschlossene Schiedsabrede dahinfallen liess (vgl. oben E. 3b). Nachdem die Parteien den Gerichtsstand in CH-9000 St. Gallen vereinbarten und in der einzig massgebenden Gerichtsstandsvereinbarung jeglicher Hinweis auf die Zuständigkeit eines Schiedsgerichtes fehlt, mussten damit die ordentlichen Gerichte gemeint sein; eine Unklarheit, welche zu Ungunsten der Verfasserin auszulegen wäre, liegt entgegen der beklagtischen Auffassung nicht vor. Die Vorinstanz hat demnach kein Bundesrecht verletzt, wenn sie sich als für die Beurteilung der klägerischen Forderung zuständig bezeichnete.
4.- Damit erweisen sich die von der Beklagten vorgebrachten Rügen als unbegründet. Die Berufung ist deshalb abzuweisen. Bei diesem Verfahrensausgang wird die Beklagte kosten- und entschädigungspflichtig (Art. 156 Abs. 1 und Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen und das Urteil des Handelsgerichts des Kantons St. Gallen vom 5. April 2001 bestätigt.
2.- Die Gerichtsgebühr von Fr. 7'000.-- wird der Beklagten auferlegt.
3.- Die Beklagte hat die Klägerin für das bundesgerichtliche Verfahren mit Fr. 8'000.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons St. Gallen schriftlich mitgeteilt.
_
Lausanne, 7. August 2001
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Der Gerichtsschreiber: