hat sich ergeben:
A.- Die Parteien schlossen am 28. August 1985 einen Baurechtsvertrag über drei Grundstücke am Münsterhof in Zürich. Unter dem Titel "Gesetzliches Vorkaufsrecht" stipulierten sie in Ziffer V was folgt:
"1. Das gemäss <ref-law> dem
Grundeigentümer zustehende gesetzliche Vor-
kaufsrecht wird wie folgt abgeändert resp.
teilweise aufgehoben:
a) keinen Vorkaufsfall stellt der Verkauf von
Aktien dar;
b) die Frist für die Ausübung des Vorkaufsrechts
beträgt zwei Monate, gerechnet vom Empfang der
nach <ref-law> zu erlassenden Mitteilung an.
Diese Bestimmungen sind im Sinne von Art. 682
Abs. 3 ZGB im Grundbuch vorzumerken.
2. Als obligatorische Bestimmung vereinbaren die
Parteien, dass bei einem durch den Grundeigen-
tümer nicht ausgeübten Vorkaufsfall der Baube-
rechtigte dem Grundeigentümer 1/4 des Nettoge-
winns laut rechtskräftiger Grundstückgewinn-
steuereinschätzung, nach Abzug der Grundstück-
gewinnsteuer und den mit der Veranlagung zusam-
menhängenden Kosten abzuliefern hat.
(...)"
Mit Vertrag vom 28. November 1990 verkaufte die
Klägerin die drei Liegenschaften am Münsterhof der Oerlikon-Bührle Immobilien AG (nachstehend: Bührle) für Fr. 25 Mio. Ziffer 9 des Vertrages berechtigte die Käuferin, an ihrer Stelle eine Drittpartei in den Kaufvertrag eintreten zu lassen. Eine solche Eintrittsklausel enthielt auch der am 29. November 1990 zwischen Bührle und der Beklagten abgeschlossene Kaufvertrag über das auf den MünsterhofGrundstücken lastende Baurecht. Die Verpflichtung der Bührle zur Erfüllung beider Verträge wurde unter den ausdrücklichen Vorbehalt der Genehmigung durch die Oerlikon-Bührle Holding AG gestellt.
Mangels Genehmigung der beiden Kaufverträge durch die Oerlikon-Bührle Holding AG trat die Schweizerische Rückversicherungs-Gesellschaft (nachstehend: Rück) in die beiden Kaufverträge ein. Der Eigentumsübergang wurde am 2. April 1991 im Grundbuch eingetragen.
In der Folge forderte die Klägerin von der Beklagten den gemäss Baurechtsvertrag vom 28. August 1985 vereinbarten Gewinnanteil.
B.- Am 27. Oktober 1997 belangte die Klägerin die Beklagte im Wesentlichen auf Fr. 3'189'571.-- nebst Zins, zuzüglich Weisungskosten von Fr. 897.--. Mit Urteil vom 1. September 1999 hiess das Handelsgericht des Kantons Zürich die Klage im Betrag von Fr. 3'185'521.50 nebst Zins gut. Es kam zum Schluss, das Baurecht sei am 2. April 1991, 11.00 Uhr, auf die Rück übergegangen, das Eigentum an der Liegenschaft am 2. April 1991, 11.30 Uhr. Zum Zeitpunkt des Eintritts des Vorkaufsfalles sei die Klägerin somit noch Eigentümerin der Liegenschaften gewesen. Ihr Vorkaufsrecht habe sie bis zur Handänderung an der Liegenschaft nicht ausgeübt, weshalb der Anspruch auf Gewinnanteil ausgewiesen sei. Daran ändere der im Eintrittsvertrag zwischen der Rück und der Klägerin rückwirkend auf den 1. April 1991 vereinbarte Besitzesantritt in Rechten und Pflichten sowie Nutzen und Gefahr nichts.
C.- Die Beklagte beantragt dem Bundesgericht mit eidgenössischer Berufung, das Urteil des Handelsgerichts aufzuheben und die Klage abzuweisen.
Die Klägerin schliesst auf Abweisung der Berufung, soweit darauf eingetreten werden könne. Mit Anschlussberufung ersucht sie um Abänderung des vorinstanzlichen Dispositives, dahingehend, dass die Beklagte zu verpflichten sei, nebst der Prozessentschädigung auch die Weisungskosten zu bezahlen.

Das Bundesgericht zieht in Erwägung:
1.- In Streit steht der von der Klägerin gestützt auf Ziffer V/2 des Baurechtsvertrages vom 28. August 1985 geltend gemachte Gewinnanteil, der für den Fall eines Verkaufs der Dienstbarkeit durch die Beklagte und Nichtausübung des Vorkaufsrechts durch die Klägerin vereinbart wurde.
Die Beklagte hält dafür, die Vertragseintritte durch die Rück und die Abgabe der Grundbuchanmeldungen seien als einheitlicher Akt aufzufassen. Entsprechend sei das Vorkaufsrecht bzw. das für den Fall seiner Nichtausübung vereinbarte Gewinnanteilsrecht nicht bei der Klägerin, sondern bei der Rück entstanden. Selbst wenn mit der Vorinstanz angenommen werde, es sei zunächst das Eigentum am Baurecht und eine halbe Stunde später dasjenige am Grundstück übertragen worden, bleibe entscheidend, dass im fraglichen Zeitraum weder von Vorkaufsrecht noch von Gewinnanteil die Rede gewesen sei, die Klägerin vielmehr geschwiegen habe. Zudem sei die Verwirkungsfrist von zwei Monaten für die Ausübung des - ab rechtswirksamer Handänderung am Grundstück nurmehr der Rück zustehenden - Vorkaufsrechts zum Zeitpunkt des Eigentumswechsels noch gelaufen. Schliesslich verkenne das Handelsgericht, dass Rechte und Pflichten sowie Nutzen und Gefahr an den Kaufsobjekten rückwirkend auf den 1. April 1990 auf die Rück übertragen worden seien, weshalb die Klägerin keinen Gewinnanteil mehr fordern könne. In diesen Punkten rügt die Beklagte die Rechtsanwendung des Handelsgerichts als bundesrechtswidrig.
2.- a) Im Berufungsverfahren hat das Bundesgericht seiner Entscheidung die tatsächlichen Feststellungen der Vorinstanz als wahr und vollständig zugrunde zu legen, es sei denn, sie beruhten auf einem offensichtlichen Versehen, seien unter Verletzung bundesrechtlicher Beweisvorschriften zustandegekommen oder bedürften der Ergänzung, weil das Sachgericht in fehlerhafter Rechtsanwendung einen gesetzlichen Tatbestand nicht oder nicht hinreichend klärte, obgleich ihm entscheidwesentliche Behauptungen und Beweisanerbieten dazu prozesskonform unterbreitet worden waren (Art. 63 und 64 OG; <ref-ruling> E. 2; <ref-ruling> E. 2a). Werden solche Ausnahmen geltend gemacht, hat die Partei, die den Sachverhalt berichtigt oder ergänzt wissen will, darüber genaue Angaben mit Aktenhinweisen zu machen (Art. 55 Abs. 1 lit. d OG). Eine Ergänzung setzt zudem voraus, dass entsprechende Sachbehauptungen bereits im kantonalen Verfahren prozesskonform aufgestellt, von der Vorinstanz aber zu Unrecht für unerheblich gehalten oder übersehen worden sind, was wiederum näher anzugeben ist. Ohne diese Angaben gelten Vorbringen, welche über die tatsächlichen Feststellungen im angefochtenen Urteil hinausgehen, als neu und damit als unzulässig (Art. 55 Abs. 1 lit. c OG). Eine blosse Kritik an der Beweiswürdigung des Sachgerichts ist, soweit nicht Vorschriften des Bundesrechts in Frage stehen, von der Berufung ausgeschlossen (<ref-ruling> E. 2b; <ref-ruling> E. 3b; <ref-ruling> E. 2a).
b) Die Beklagte rügt verschiedene Verletzungen von <ref-law>.
aa) <ref-law> regelt einerseits die Beweislastverteilung und damit auch die Folgen des Misslingens eines Beweises. Anderseits gibt diese Bestimmung der beweisbelasteten Partei einen bundesrechtlichen Anspruch darauf, für rechtserhebliche Sachvorbringen zum Beweis zugelassen zu werden, sofern ihr Beweisantrag prozesskonform gestellt wird (<ref-ruling> E. 3c; <ref-ruling> E. 2). Voraussetzung für den Beweisführungsanspruch bildet allerdings die ausreichende Substanziierung von Ansprüchen. Tatsachenbehauptungen müssen dergestalt in Einzeltatsachen aufgegliedert werden, dass darüber Beweis abgenommen werden kann. Für bundesrechtliche Ansprüche bestimmt das Bundesrecht, welchen Anforderungen die Behauptungen genügen müssen, damit ein subsumptionsfähiger Sachverhalt gegeben ist (<ref-ruling> E. 3e S. 188; <ref-ruling> E. 3). Stellt der kantonale Richter überhöhte Anforderungen an die Substanziierungslast, indem er detailliertere Tatsachenbehauptungen verlangt, als für die rechtliche Beurteilung des anspruchsbegründenden Sachverhalts nötig sind, verletzt er Bundesrecht und namentlich <ref-law>, denn dadurch bringt er auch die Beweisanträge der beweispflichtigen Partei zu Fall (BGE <ref-ruling> E. 2a; <ref-ruling> E. 2c; C. Jürgen Brönnimann, Die Behauptungs- und Substanziierungslast im schweizerischen Zivilprozessrecht, Diss. Bern 1989, S. 171).
bb) Nach Auffassung der Beklagten hat das Handelsgericht <ref-law> verletzt, weil es zu ihrer Behauptung keine Beweise abgenommen habe, beide Handänderungen seien von den Parteien als einheitlicher Akt verstanden worden und die zeitliche Reihenfolge der Grundbucheintragungen beruhten auf Zufall. Ebenso habe es die Beweisabnahme zum Vorhalt verweigert, gestützt auf den identischen Wortlaut in den beiden Vertragseintrittserklärungen der Rück sei der Wille aller involvierten Parteien ausgedrückt worden, die Käuferin rückwirkend per 1. April 1991 in Rechte und Pflichten sowie Nutzen und Schaden von Grundstück- und Baurechtsvertrag einzusetzen.
Die Rüge ist nicht rechtsgenüglich substanziiert, weshalb darauf nicht weiter einzutreten ist. So führt die Beklagte insbesondere nicht aus, welche prozesskonform beantragten Beweise das Handelsgericht nicht abgenommen haben soll.
cc) <ref-law> hält die Beklagte auch deshalb für verletzt, weil die Behauptung nicht zum Beweis verstellt worden sei, ein Mitarbeiter der Bührle habe der Beklagten 1996 erklärt, es sei mit der Klägerin vereinbart gewesen, dass sämtliche Rechte und Pflichten auf den Erwerber übergehen sollten, weshalb die Einforderung des Gewinnanteils durch die Klägerin zweifellos ungerechtfertigt sei.
Entgegen der Auffassung der Beklagten hat das Handelsgericht keine überspitzten Anforderungen an die Substanziierung von Behauptungen gestellt. So geht aus dem betreffenden Vorbringen nicht hervor, dass sich die Klägerin gegenüber Bührle zur Abtretung des Anspruchs auf Gewinnbeteiligung verpflichtet hätte. Weiter bleibt unklar, ob und wann ein derartiges Versprechen auch gegenüber der Rück abgegeben worden sein soll. Eine Partei kann sich nach Zürcher Prozessordnung nicht mit allgemeinen Behauptungen begnügen, in der Meinung, ihr Prozessstandpunkt werde sich aus dem Beweisverfahren ergeben. Vielmehr setzt die Durchführung eines solchen entsprechende Behauptungen des Beweisführers voraus (Frank/Sträuli/Messmer, Kommentar zur zürcherischen Zivilprozessordnung, N. 5 zu <ref-law>). Derartige Anforderungen an die Substanziierung von Behauptungen halten vor dem Bundesrecht stand (BGE <ref-ruling> E. 3).
3.- Zu prüfen ist zunächst, ob der Gewinnanspruch des Grundeigentümers nach Ziff. V/2 des Baurechtsvertrags abgesehen von einer Universalsukzession (Fusion) oder einer Zession gemäss Art. 164 f. OR nur dem ursprünglichen Grundeigentümer (Klägerin) oder jedem seiner Rechtsnachfolger, d.h. dem jeweiligen Grundeigentümer zusteht. Vorliegend ist dies insofern von Bedeutung, als je nach Lesart des Vertrages der Gewinnanspruch erst entsteht, wenn das vertraglich modifizierte gesetzliche Vorkaufsrecht des Grundeigentümers nicht ausgeübt wird, d.h. nach unbenütztem Ablauf der Ausübungsfrist von zwei Monaten seit Kenntnis vom Vorkaufsfall. Dieser Zeitpunkt fiele im vorliegenden Fall in die "Eigentumszeit" der Rück, bei welcher damit auch der Gewinnanspruch entstehen würde.
a) Die Bestimmungen eines Baurechtsvertrags lassen sich scheiden in dingliche, realobligatorische und rein obligatorische (Peter Isler, Der Baurechtsvertrag und seine Ausgestaltung, Diss. Zürich 1973, S. 93 f.). Dinglicher Natur kann der Gewinnanspruch von vornherein nicht sein, weil er nicht den Inhalt und Umfang der Dienstbarkeit (Baurecht) umschreibt und überdies dem Grundsatz widerspricht, dass eine Servitut den Eigentümer eines belasteten Grundstückes nicht zu einer Leistung verpflichten kann (Liver, Zürcher Kommentar, N. 154 zu <ref-law>; Rey, Berner Kommentar, N. 148 zu <ref-law>; Piotet, SPR V/1, S. 545). Weil die Realobligationen wie die dinglichen Rechte einem numerus clausus unterstehen, d.h. nur insoweit bestehen oder vertraglich begründet werden können, als das Gesetz dies vorsieht, ist auch die Begründung eines realobligatorischen Gewinnanspruchs ausgeschlossen (Liver, a.a.O., Einleitung vor <ref-law>, N. 150; ders., SPR V/1, S. 21 f.; Rey, a.a.O., Systematischer Teil vor <ref-law>, N. 89). Für die vertraglich begründeten Realobligationen folgt dies unmittelbar aus dem sachenrechtlichen Publizitätsprinzip, welches die Bestimmung von Gläubiger oder Schuldner an einer Obligation aus einer sachenrechtlichen Beziehung zu einem bestimmten Grundstück nur erlaubt, wenn diese Beziehung durch Vormerkung im Grundbuch kenntlich gemacht werden kann (<ref-law>) und kenntlich gemacht wird.
Vertragliche Gewinnansprüche aber sind nicht vormerkungsfähig (nicht einmal das gesetzliche Vorkaufsrecht des Miterben im landwirtschaftlichen Bodenrecht ist realobligatorisch ausgestaltet; vgl. Art. 28 f. des Bundesgesetzes über das bäuerliche Bodenrecht [BGBB]). Daran ändert auch <ref-law> nichts, welcher nach richtigem Verständnis nur die Umschreibung der Dienstbarkeit zum Gegenstand hat, damit Bekanntes wiederholt und von einzelnen Autoren zu Unrecht als Möglichkeit gewertet wurde, im Baurechtsvertrag beliebige Realobligationen zu begründen (gl.M. Isler, a.a.O., S. 94 Fn 6; ders., Basler Kommentar, N. 3 zu <ref-law>; Piotet, SPR V/1 S. 600; a.A. namentlich Eggen, ZBGR 46/1965 S. 269 ff., 273 f.; allenfalls auch Rey, a.a.O., Systematischer Teil vor <ref-law>, N. 98). Dies ist umso einleuchtender, als nicht einmal der Anspruch auf einen Baurechtszins als gesetzliche oder vertraglich begründbare Realobligation ausgestaltet wurde, sondern bloss der Anspruch auf ein ihn sicherndes Grundpfandrecht (Liver, SPR V/1, S. 22; Piotet, SPR V/1, S. 605 f. mit Hinweisen; Isler, S. 46 f.; a.A. Rey, a.a.O., N. 97).
Besteht aber keine Möglichkeit, einen Gewinnanspruch im Baurechtsverhältnis als Realobligation auszugestalten, stösst der Einwand der Beklagten ins Leere, berechtigt und verpflichtet am streitigen Gewinnanspruch seien der jeweilige Grundeigentümer und der jeweilige Bauberechtigte. Die Bestimmung ist rein obligatorischer Natur, verpflichtet und berechtigt damit nur die ursprünglichen Vertragsparteien oder Dritte, die diesen durch Universalsukzession (hier wohl nur Fusion) oder Singularsukzession (Zession und Schuldübernahme) nachfolgen.
b) Zum gleichen Ergebnis führt im Übrigen unter dem Blickwinkel des mutmasslichen Parteiwillens die objektivierte Vertragsauslegung. Danach wurde in Ziff. V/1 des Baurechtsvertrags das realobligatorische Vorkaufsrecht des Grundeigentümers (nicht aber auch dasjenige des Bauberechtigten) vertraglich zulässig modifiziert (Art. 682 Abs. 3 aZGB) und anschliessend in Ziff. V/2 für den Fall dessen Nichtausübung ein Gewinnanspruch des Grundeigentümers begründet, wobei die Parteien diese Bestimmung ausdrücklich als obligatorische bezeichneten. Dies kann im gesamten Kontext nach objektiver Lesart nicht anders verstanden werden, als dass dieser Gewinnanspruch nur zwischen den ursprünglichen Vertragsparteien relevant werden sollte (vorbehältlich Fusion, Zession und Schuldübernahme).
4.- Ist dieser Gewinnanspruch aber rein persönlicher Natur und nur unter den ursprünglichen Vertragsparteien zu befriedigen, kann er von vornherein keinen Nutzen im Sinne von <ref-law> darstellen, welcher zusammen mit der Sache auf den Erwerber überginge. Insoweit sind die Bestimmungen im Kaufvertrag Klägerin/Bührle oder im "Vertragseintritt" Klägerin/Rück zum Übergang von Nutzen und Gefahr für die Legitimation am und den Bestand des Gewinnanspruchs unbeachtlich.
Dass die Klägerin ihren Gewinnanspruch formgenüglich an die Rück zediert hätte, ist weder festgestellt noch behauptet noch aus den Akten ersichtlich. Ob die Rück sodann die Gewinnbeteiligungsschuld der Beklagten intern übernommen hat, kann offen bleiben. Jedenfalls ist keine externe Schuldübernahme mit befreiender Wirkung, welcher die Klägerin hätte zustimmen müssen, festgestellt. Legitimiert an der Forderung sind daher - vorbehältlich ihres Bestandes - weiterhin die ursprünglichen Parteien des Baurechtsvertrags.
5.- Damit bleibt zu prüfen, ob der Gewinnanspruch entstanden ist oder nicht.
a) Die konkrete Regelung des Gewinnanspruchs, welche die Situation des Bauberechtigten verschlechtert, sofern das Vorkaufsrecht des Grundeigentümers nicht ausgeübt wird, ist an sich ungewöhnlich, aber weder rechts- noch sittenwidrig und damit inhaltlich gültig.
b) Mangels festgestellten inneren Parteiwillens ist die streitige Bestimmung normativ wie folgt zu verstehen:
aa) Den Zweck des Gewinnanspruchs wird man mit der Vorinstanz darin sehen müssen, dem Grundeigentümer die Realisierung eines Teils des Mehrwerts zu gestatten, den zu schaffen er dem Bauberechtigten durch die Einräumung der Dienstbarkeit ermöglichte. Diese Beteiligung sollte indessen entfallen, wenn das Baurecht (Gebäude) an den Grundeigentümer veräussert würde. Dies gilt in objektivierter Auslegung gleichermassen, wenn der Grundeigentümer zufolge Ausübung seines Vorkaufsrechts wie wenn er als Direktkäufer Eigentümer des Baurechts in Form einer Eigentümerdienstbarkeit wird.
bb) Aus der rein obligatorischen Natur der Bestimmung folgt, dass der Gewinnanspruch nur einmal entstehen kann, nämlich bei der Erstveräusserung des Baurechts. An Folgeverkäufen steht dem Grundeigentümer kein Gewinnanspruch mehr zu.
cc) Die Parteien haben die Entstehung des Gewinnanspruchs an die Nichtausübung des Vorkaufsrechts geknüpft und damit wohl zum Ausdruck gebracht, dass die Anwartschaft auf eine Gewinnbeteiligung nur solange bestehe, als die Berechtigte auch Grundeigentümerin sei, dass mit der Veräusserung der Liegenschaft aber der Vertrag über eine Gewinnbeteiligung dahinfalle. Nicht geregelt wurde dabei der Fall, dass Liegenschaft und Baurecht gleichzeitig veräussert werden. Die Vorinstanz hat sich daher veranlasst gesehen, ausschliesslich auf den prioritären Eigentumsübergang abzustellen und hat letztlich den Anspruch aus der Begründung geschützt, die (gemeinsame) Erwerberin (Rück) sei zuerst als Bauberechtigte und erst eine halbe Stunde später als Grundeigentümerin eingetragen worden, weshalb in dieser halben Stunde Pestalozzi noch Gundeigentümerin und damit Vorkaufsberechtigte gewesen sei. Mangels Ausübung ihres Vorkaufsrechts habe sie daher den Anspruch auf die Gewinnbeteiligung erworben. Diese Konstruktion befriedigt nicht, weil sie allzu gekünstelt wirkt und den Gewinnanspruch mehr oder weniger in das zeitliche Belieben der Urkundsperson und Grundbuchverwalters stellt. Dies ist unter Vertragsauslegungsgesichtspunkten nach dem mutmasslichen Parteiwillen nicht sachgerecht.
c) Indessen ist der angefochtene Entscheid dennoch bundesrechtskonform:
aa) Das Handelsgericht hält im angefochtenen Urteil fest, nicht nur die Klägerin, sondern auch die Beklagte seien überzeugt gewesen, bei einem parallelen Verkauf von Baurecht und Grundstück sei der Anspruch auf Gewinnbeteiligung gegeben. Damit hat die Vorinstanz in tatsächlicher Hinsicht für das Bundesgericht verbindlich festgestellt, dass beide Parteien des Baurechtsvertrags davon ausgingen, der Gewinnanspruch des Grundeigentümers entstehe auch bei gleichzeitiger Veräusserung von Liegenschaft und Dienstbarkeit. Aus diesem Grunde ist der Gewinnanspruch der Klägerin ausgewiesen.
bb) Fragen liesse sich auch, ob das Vorkaufsrecht nicht schon (erstmals) durch den Verkauf des Baurechts an Bührle - trotz des dort vereinbarten Genehmigungsvorbehalts - am 29. November 1990 ausgelöst wurde. Anerkanntermassen kann bei einem unter Bedingung abgeschlossenen Kauf mit dem Dritten - der Vertragsabschluss unter Genehmigungsvorbehalt ist als bedingtes oder einem bedingten Vertrag ähnlichen Rechtsgeschäft aufzufassen (vgl. von Tuhr/Escher, Allgemeiner Teil des Schweizerischen Obligationenrechts, Bd. II, 3. Aufl., S. 260; Hansjörg Peter, Das bedingte Rechtsgeschäft, Zürich 1994, S. 46) - das Vorkaufsrecht sofort ausgeübt und braucht der Bedingungseintritt nicht abgewartet zu werden (Meier-Hayoz, Berner Kommentar, N. 190 zu <ref-law>). Dieser Vorkaufsfall aber fiel eindeutig in die Zeit, in welcher noch die Klägerin Grundeigentümerin war. Insoweit relativiert sich das Problem der "rechtlichen halben Stunde". Der so begründeten Entstehung des Gewinnanspruchs liesse sich entgegenhalten, die Klägerin habe die Liegenschaft bereits am 28. November 1990 verkauft und mit dieser Veräusserungsverpflichtung auf den Gewinnanspruch verzichtet. Weder tatsächlich noch normativ ist indessen eine solch einschränkende Auslegung des Gewinnanspruchs auszumachen. Namentlich lässt sie sich aus dem mutmasslichen Zweck der Bestimmung in Ziff. V/2 des Baurechtsvertrags nicht halten. Indes kann die Frage offenbleiben, da sich das angefochtene Urteil im Ergebnis jedenfalls aus den in lit. aa hievor genannten Gründen halten lässt.
6.- Die Klägerin macht in ihrer Anschlussberufung geltend, das Handelsgericht habe im angefochtenen Urteil ihren
Antrag auf Verpflichtung der Beklagten zur Zahlung der Weisungskosten von Fr. 897.-- aus Versehen unberücksichtigt gelassen. Selbst wenn ein Versehen des Handelsgerichts vorliegen sollte, so bezieht er sich auf einen Umstand der für die Anwendung des Bundesrechts nicht von Relevanz ist. Entsprechend ist auf die Anschlussberufung nicht einzutreten (Poudret, Commentaire de la loi fédérale d'organisation judiciaire, N. 1.6.2 zu Art. 55 OG).
7.- Die Berufung ist damit abzuweisen und auf die Anschlussberufung nicht einzutreten. Ausgangsgemäss sind die Parteien kostenpflichtig. Da seitens der Beklagten keine Antwort auf die Anschlussberufung der Klägerin eingeholt wurde, ist jener keine Parteientschädigung zuzusprechen. Hingegen hat die Beklagte die Klägerin für das Berufungsverfahren zu entschädigen.

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen und das Urteil des Handelsgerichts des Kantons Zürich vom 1. September 1999 wird bestätigt.
2.- Auf die Anschlussberufung wird nicht eingetreten.
3.- Die Gerichtsgebühr von insgesamt Fr. 25'500.-- wird mit Fr. 25'000.-- der Beklagten und mit Fr. 500.-- der Klägerin auferlegt.
4.- Die Beklagte hat die Klägerin für das bundesgerichtliche Verfahren mit Fr. 30'000.-- zu entschädigen.
5.- Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
_
Lausanne, 11. Februar 2000
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Der Gerichtsschreiber: