<ref-law> (Forderung aus Faustpfandvertrag), hat sich ergeben:
A.- Am 24. März 1988 reichte die Bank X._ Klage beim Bezirksgericht Zürich ein und verlangte, es seien G._ und drei weitere Beklagte zu verpflichten, ihr US$ 8'277'277.-- zuzüglich 10 % Zins ab dem 9. November 1984 sowie 11 Mio. Franken zuzüglich 5 % Zins seit dem 1. März 1985 zu zahlen. Mit Urteil vom 8. Oktober 1992 hiess das Bezirksgericht Zürich die Klage im Wesentlichen gut, wobei die Zinsforderungen nur teilweise und der Währungsschaden gar nicht geschützt wurde. Auf Berufung hin verpflichtete das Obergericht des Kantons Zürich G._ mit Urteil vom 13. März 1998, der Bank X._ Zug um Zug gegen Herausgabe der von ihr als Pfand gehaltenen Aktien der G._ Investment AG und der D._ Ltd. US$ 8'000'000.-- zuzüglich 5 % Zins ab 9. November 1984 sowie Fr. 7'508'000.-- zuzüglich 5 % Zins ab 1. März 1985 zu bezahlen. Eine von G._ gegen das Urteil des Obergerichts vom 13. März 2000 eingereichte Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich am 16. Juni 2000 ab, soweit es darauf eintrat.
B.- G._ führt mit Eingabe vom 22. August 2000 staatsrechtliche Beschwerde wegen Verletzung des Willkürverbots und beantragt dem Bundesgericht, den Beschluss des Kassationsgerichts des Kantons Zürich vom 16. Juni 2000 aufzuheben und die Sache zur Neubeurteilung an dieses zurückzuweisen.
Weiter ersucht er um aufschiebende Wirkung sowie um Gewährung der unentgeltlichen Rechtspflege.
Mit Verfügung vom 28. August 2000 hat der Präsident der II. Zivilabteilung das Gesuch um aufschiebende Wirkung abgewiesen. Vernehmlassungen wurden nicht eingeholt.
C.-Die von G._ gegen das Urteil des Obergerichts des Kantons Zürich vom 13. März 2000 eingelegte Berufung hat das Bundesgericht mit Urteil vom 14. August 2000 abgewiesen, soweit darauf einzutreten war.

Das Bundesgericht zieht in Erwägung:
1.- Von hier nicht gegebenen Ausnahmen abgesehen ist die staatsrechtliche Beschwerde rein kassatorischer Natur (<ref-ruling> E. 4a und b S. 332 ff.). Die Rückweisung der Angelegenheit zu neuer Entscheidung ist im Falle der Gutheissung der Beschwerde daher selbstverständlich und ein entsprechender Antrag überflüssig (<ref-ruling> E. 3c/bb S. 354 f.).
2.- a) Das Kassationsgericht hat die Rüge des Beschwerdeführers, das Obergericht habe die Dispositionsmaxime verletzt, weil die Beschwerdegegnerin die Verurteilung zur Zahlung von US$ 8'277'277.-- sowie 11 Mio. Franken je zuzüglich Zins anbegehrt hatte, er indessen zur Zahlung von 8 Mio. US-Dollar zuzüglich Zins und Verzugsfolgen Zug um Zug gegen die Aushändigung gewisser Aktien verpflichtet worden sei, als unbegründet erachtet. Nach Auffassung des Kassationsgerichts hat das Obergericht, indem es eine niedrigere als die eingeklagte Summe zugesprochen und die Verurteilung von der gleichzeitigen Herausgabe eines Pfandes abhängig gemacht habe, kein aliud, sondern einfach weniger als eingeklagt zuerkannt; aus welchem Grund eine Leistung zugesprochen werde, sei keine Frage der Dispositionsmaxime, sondern der Rechtsanwendung, die der Richter von Amtes wegen vorzunehmen habe.
b) Der Beschwerdeführer hält diese Schlussfolgerung für verfassungswidrig und wirft dem Kassationsgericht insbesondere eine unhaltbare Anwendung von <ref-law>/ZH (Dispositionsmaxime) und <ref-law>/ZH (Rechtsanwendung von Amtes wegen) vor.
aa) Soweit der Beschwerdeführer vorweg eine unvollständige, mangelhafte Entscheidbegründung beanstandet, geht seine Rüge fehl. Nach der Praxis zu Art. 4 aBV bzw. <ref-law> genügt, wenn die Behörde kurz die wesentlichen Überlegungen nennt, von denen sie sich leiten liess und auf welche sie ihren Entscheid stützt; ein Anspruch auf eine ausführliche schriftliche Begründung besteht nicht (<ref-ruling> E. 2b S. 102, 125 II 369 E. 2c S. 372, 124 II 146 E. 2a S. 149, je m.H.). Die Begründung des kassationsgerichtlichen Beschlusses wird den vom Beschwerdeführer vorgebrachten Argumenten - wie das Zufügen einer Bedingung zum klägerischen Rechtsbegehren - hinreichend gerecht und geht auf diese, soweit sie entscheiderheblich sind, denn auch ein; der angefochtene Beschluss ist so abgefasst, dass ihn der Beschwerdeführer, wie seine Beschwerde zeigt, ohne weiteres sachgerecht anzufechten vermochte. Im Weiteren beruft sich der Beschwerdeführer vergeblich auf die Rechtsprechung, nach welcher bei einer sich aus verschiedenen Teilbeträgen zusammensetzenden Gesamtforderung im Rahmen eines Totalbetrages eine andere als die eingeklagte Aufteilung vorgenommen werden könne. Da er nicht in einer den Anforderungen gemäss Art. 90 Abs. 1 lit. b OG genügenden Weise darlegt, inwiefern aus jener Praxis hinsichtlich seiner Verurteilung Zug um Zug etwas zu seinen Gunsten abzuleiten ist, kann auf diese Vorbringen nicht eingetreten werden (<ref-ruling> E. 1c S. 73). Soweit der Beschwerdeführer in diesem Zusammenhang das Urteil des Obergerichts kritisiert, kann er ebenfalls nicht gehört werden, da mit staatsrechtlicher Beschwerde, von hier nicht in Betracht fallenden Ausnahmen abgesehen, nur der letztinstanzliche kantonale Entscheid anfechtbar ist (Art. 86 Abs. 1 OG).
bb) Das Gericht darf einer Partei weder mehr noch anderes zusprechen, als sie selbst verlangt hat (<ref-law>/ZH); ergibt sich aus dem materiellen Recht (<ref-law>), dass eine an sich geschuldete Leistung nur Zug um Zug zu erbringen ist, so ist - an Stelle der Abweisung der Klage zur Zeit - die Verpflichtung des Beklagten von der Erbringung der Gegenleistung abhängig zu erklären, falls die Gegenleistung weder erbracht noch sichergestellt wurde (Frank/Sträuli/ Messmer, Kommentar zur zürcherischen Zivilprozessordnung,
3. A., N. 19 zu § 54). Daran hat sich das Obergericht gehalten.
Zum einen hatte sich der Beschwerdeführer selber vor Obergericht darauf berufen, die Beschwerdegegnerin habe die Aktien gar nie angeboten, so dass bereits deswegen seine Leistungspflicht entfalle. Demnach hat das Obergericht entgegen der Auffassung des Beschwerdeführers, der die Einrede des nicht erfüllten Vertrages gemäss <ref-law> erhoben hatte, nicht von sich aus ein neues Element in den Prozess hineingetragen; ebenso wenig hat es das Rechtsbegehren der Beschwerdegegnerin geändert. Zum anderen hat das Kassationsgericht die Tatsachenfeststellung des Obergerichts, dass die Beschwerdegegnerin die Herausgabe der Aktien ausdrücklich angeboten hatte, als willkürfrei erachtet; der Beschwerdeführer behauptet zwar diesbezüglich erneut Willkür, erblickt in dieser Auffassung des Kassationsgerichts indessen ausdrücklich keinen Beschwerdegrund (vgl. E. 3c hiernach). Gemäss <ref-law>, den das Obergericht von Amtes wegen anzuwenden hatte (<ref-law>/ZH; vgl. <ref-ruling> E. 2a 122), konnte daher an Stelle der Verurteilung zu bedingungsloser Erfüllung nur die Pflicht zur Leistung Zug um Zug treten.
Diese stellt offensichtlich die Folge richterlicher Rechtsanwendung dar; sie bedurfte im kassationsgerichtlichen Beschluss nicht noch einer besonderen Begründung (<ref-ruling> E. 2b S. 102, m.H.) und ergab sich mit aller Deutlichkeit bereits aus dem Urteil des Obergerichts. Im Weiteren verlangte die Beschwerdegegnerin sowohl vor Bezirksgericht als auch vor Obergericht die Verurteilung des Beschwerdeführers zur Zahlung von 8 Mio. US-Dollars zuzüglich Verzugszins sowie Ersatz des Währungsschadens zuzüglich Verzugszins; sie forderte damit die Erfüllung seiner Erklärung vom 6. August 1984 ("Personal Guarantee"), mit der er sich verpflichtet hatte, die verpfändeten Aktien durch ein entsprechendes Festgeld als Sicherheit zu ersetzen. Unter diesen Umständen ist nicht ersichtlich, dass das Obergericht durch seine Verurteilung zur Leistung Zug um Zug gegen Herausgabe der verpfändeten Aktien durch die Beschwerdegegnerin die Natur des eingeklagten Anspruchs verändert oder umgewandelt hätte. Soweit der Beschwerdeführer schliesslich seine Rüge auf die Kostenverlegung und die Vollstreckung des obergerichtlichen Urteils stützen will, sind seine Vorbringen unbehelflich; weder die Art der Kostenverlegung noch die Weise, in der das Urteil des Obergerichts zu vollstrecken sein wird, vermögen etwas darüber auszusagen, ob ein anderer als der eingeklagte Anspruch zuerkannt worden ist.
c) Insoweit erweist sich der Vorwurf des Beschwerdeführers, das Kassationsgericht habe in unhaltbarer Weise das Urteil des Obergerichts geschützt, als unbegründet.
3.- a) Der Beschwerdeführer macht sodann in Bezug auf die Erwägungen III. 8 und 9 des angefochtenen Beschlusses geltend, das Kassationsgericht habe sich mit seinen Vorbringen betreffend die Beschaffenheit der zu verpfändenden Aktien nicht auseinander gesetzt, so dass es gegen die Verfassung verstossen habe. Das Kassationsgericht ist in den betreffenden Erwägungen zum Schluss gekommen, der Beschwerdeführer habe sich hinsichtlich der Anzahl der verpfändeten Aktien und der Pflicht zu ihrer Einlieferung nicht konkret mit den obergerichtlichen Erwägungen auseinander gesetzt. Inwiefern eine Verletzung von <ref-law> (bzw. <ref-law>) vorliegen sollte, wenn das Kassationsgericht diesbezüglich auf seine Vorbringen nicht eingetreten ist, legt der Beschwerdeführer nicht dar (Art. 90 Abs. 1 lit. b OG; <ref-ruling> E. 1c S. 73). Entgegen der Auffassung des Beschwerdeführers ging es in den betreffenden Erwägungen des Kassationsgerichts nicht um die Qualität der Aktien, so dass die in diesem Zusammenhang vorgetragene Kritik daher ohnehin ins Leere stösst.
b) Weiter bringt der Beschwerdeführer vor, er habe vor Kassationsgericht geltend gemacht, dass das Obergericht an einer bestimmten Stelle seines Urteils selber darauf hingewiesen habe, die Beschaffenheit der zu verpfändenden Aktien sei von Bedeutung gewesen, was das Obergericht aber generell hätte berücksichtigen sollen; auf diese Rüge sei das Kassationsgericht zu Unrecht nicht eingetreten. Das Kassationsgericht hat erwogen, der Beschwerdeführer habe die Annahme des Obergerichts, dass sein Ziel die Erlangung der Kontrolle über die Bank I._ war, als zutreffend bezeichnet.
Weiter ist es zum Schluss gekommen, dass er nicht dargelegt habe, inwieweit der Schluss, den das Obergericht aus dem von ihm anerkannten Ziel gezogen hatte, willkürlich sei; inwiefern das Kassationsgericht seine Rüge zu Unrecht als nicht substantiiert erachtet habe, macht der Beschwerdeführer nicht geltend (Art. 90 Abs. 1 lit. b OG). Unter diesen Umständen ist ohne weiteres haltbar, wenn das Kassationsgericht eine andere Schlussfolgerung des Beschwerdeführers in der Nichtigkeitsbeschwerde als blosse unzulässige appellatorische Kritik am obergerichtlichen Urteil betrachtet hat. Die weiteren Rügen, die der Beschwerdeführer in diesem Zusammenhang (sowie zum Folgenden) vorbringt und welche die angebliche Verletzung der Dispositionsmaxime durch das Obergericht zur Grundlage haben, sind von vornherein haltlos (vgl. E. 2b/bb hiervor).
c) Der Beschwerdeführer rügt weiter, entgegen den Ausführungen des Kassationsgerichts habe die Beschwerdegegnerin im obergerichtlichen Verfahren einen Tausch von Aktien Zug um Zug gegen ein Festgeld nicht angeboten. Das Kassationsgericht hat die Willkürrüge des Beschwerdeführers in Bezug auf das vom Obergericht festgestellte ausdrückliche Angebot der Beschwerdegegnerin zur Herausgabe der verpfändeten Aktien als unbegründet verworfen; das Obergericht habe zum einen das betreffende Angebot der Berufungsantwort der Beschwerdegegnerin entnommen und sei zum anderen davon ausgegangen, dass dieses im Laufe des Prozesses erfolgt sei. Der Beschwerdeführer behauptet, die Auffassung des Kassationsgerichts sei willkürlich; er erklärt aber ausdrücklich, darin keinen eigenständigen Beschwerdegrund erblicken zu wollen. In Anbetracht der Rügen, die der Beschwerdeführer in der Nichtigkeitsbeschwerde erhoben und das Kassationsgericht einlässlich behandelt hat, könnte ohnehin keine Rede davon sein, dass das Obergericht aufgrund der Vorbringen der Beschwerdegegnerin in der Zweitberufung (act. 319 S. 127, Ziff. 174) Feststellungen ohne jeden sachlichen Grund getroffen hätte (<ref-ruling> E. 5b S. 134, m.H.).
d) Unzulässig ist die Rüge des Beschwerdeführers, er habe die Bedeutung des Wertes der Aktien konsequent sowie bereits im erstinstanzlichen Verfahren vorgebracht und die Annahme, dass der Wert der Aktien für die Parteien nicht von Bedeutung gewesen sei, stelle Willkür und überspitzten Formalismus dar. Der Beschwerdeführer übergeht zum einen, dass nicht das Kassationsgericht, sondern das Obergericht festgestellt hat, er hätte den Einwand, der Wert der Aktien sei für ihn unabdingbare Grundlage der Erklärung vom 6. August 1984 ("Personal Guarantee") gewesen, nicht erhoben (Art. 86 Abs. 1 OG). Zum anderen hat das Kassationsgericht erwogen, es gehe erstens nicht darum, ob der Beschwerdeführer sich für den Wert der Aktien interessiert habe, sondern ob deren Wert unabdingbare Grundlage für die Abgabe der Erklärung vom 6. August 1984 ("Personal Guarantee") war, und zweitens finde sich eine derartige Behauptung weder an den vom Beschwerdeführer genannten Stellen in seinen Rechtsschriften noch in der Berufungsbegründung.
Inwiefern diese Schlussfolgerungen des Kassationsgerichts willkürlich sein sollten, zeigt der Beschwerdeführer nicht in einer den Anforderungen gemäss Art. 90 Abs. 1 lit. b OG genügenden Weise auf (<ref-ruling> E. 1c S. 73); von einer übertrieben scharfen Handhabung einer Vorschrift (<ref-ruling> E. 5a S. 130) kann in diesem Zusammenhang nicht die Rede sein. Im Übrigen ist die Auffassung des Kassationsgerichts, das Interesse des Beschwerdeführers am Wert der Aktien bedeute nicht per se auch, dass es eine notwendige und für die Gegenpartei erkennbare Grundlage für die Abgabe der fraglichen Erklärung dargestellt habe (vgl.
BGE 113 II 25 E. 1 S. 27), in keiner Weise unhaltbar.
e) Auf die übrigen Bemerkungen des Beschwerdeführers in seiner Beschwerdeschrift unter dem Titel "Zum angefochtenen Entscheid" (IV. D.) kann nicht eingetreten werden, da sie nicht das Urteil des Kassationsgerichts betreffen (Art. 86 Abs. 1 OG) und keine eigenständigen und den Anforderungen gemäss Art. 90 Abs. 1 lit. b OG substantiierte Rügen darstellen (<ref-ruling> E. 1c S. 73).
4.- Aus diesen Gründen ist die staatsrechtliche Beschwerde abzuweisen, soweit darauf eingetreten werden kann.
Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 156 Abs. 1 OG). Für die Regelung der Kostenfolgen des bundesgerichtlichen Verfahrens ist ein Streitwert in der Grössenordnung von 20 Mio. Franken zugrunde zu legen (Art. 153, Art. 153a OG i.V.m. Ziff. 3 des Tarifs für die Gerichtsgebühren im Verfahren vor Bundesgericht; SR 173. 118.1). Da auf das Einholen einer Vernehmlassung verzichtet wurde, entfällt eine Entschädigungspflicht.
Da die staatsrechtliche Beschwerde in verschiedener Hinsicht bereits an den Eintretensvoraussetzungen scheitert und im Übrigen die rechtlichen Erwägungen des angefochtenen Beschlusses nicht zu erschüttern vermag, erweisen sich die Rechtsbegehren des Beschwerdeführers als aussichtslos, weshalb sein Gesuch um Gewährung der unentgeltlichen Rechtspflege abzuweisen ist (Art. 152 Abs. 1 OG).

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.- Das Gesuch des Beschwerdeführers um Gewährung der unentgeltlichen Rechtspflege wird abgewiesen.
3.- Die Gerichtsgebühr von Fr. 30'000.-- wird dem Beschwerdeführer auferlegt.
4.- Dieses Urteil wird den Parteien und dem Kassationsgericht des Kantons Zürich schriftlich mitgeteilt.
_
Lausanne, 13. Oktober 2000
Im Namen der II. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: