Darlehensvertrag; hat sich ergeben:
A.- a) Die X._ AG gewährte am 10. November 1993 B._ ein Darlehen von 25 Millionen Franken. Dieser hatte dafür Sicherheiten zu leisten; vereinbart wurden die Verpfändung von 4000 Namenaktien der X._ AG à nominal Fr. 1000.-- und von einem ebenfalls von der Darlehensgeberin ausgegebenen Partizipationsschein über 2 Millionen Franken sowie die Abtretung von diversen Forderungen aus anderen Vertragsverhältnissen. In der Folge wurde nur der Partizipationsschein verpfändet und - gestützt auf die von den Parteien am 11. November 1993 separat abgeschlossene als "Faustpfandverschreibung" bezeichnete Vereinbarung - der X._ AG übergeben. Anstelle der erwähnten Namenaktien, deren Eigentümer er nicht war, trat B._ als Sicherheit eine Darlehensforderung gegenüber A._ über 22,5 Millionen Deutsche Mark und die ihm diesbezüglich zustehenden Pfandrechte ab, wobei diese Darlehensforderung aufgrund bestehender so genannter Put- und Call-Optionen (Verkaufs- und Kaufrechte) für die Parteien dieses Vertrages mit der Möglichkeit verbunden war, jederzeit in das Eigentum an den Aktien der X._ AG umgewandelt zu werden.
b) Am 17. März 1994 kündigte die X._ AG das Darlehen auf den 1. April 1994. Nachdem B._ es nicht zurück bezahlt hatte, trat die X._ AG am 11. Mai 1994 die Kapitalforderung ohne die aufgelaufenen Zinsen an die Y._ AG ab. Gleichzeitig mit der Notifikation dieser Zession teilte die Y._ AG B._ mit, sie habe die von ihm gestellten Pfänder und anderen Sicherheiten verwertet und sei dadurch "Eigentümer von 100 % des Aktien- und Partizipationsschein-Kapitals der X._ AG geworden".
Dabei hatte sich die Y._ AG die Rechte am Partizipationsschein durch Selbsteintritt verschafft. Hinsichtlich der vom Beklagten ersatzweise als Sicherheit abgetretenen Darlehensforderung hatte dagegen A._ die ihm zustehende Put-Option ausgeübt, was zur Folge hatte, dass die der Y._ AG aufgrund der Abtretung zustehende Darlehensforderung ihm gegenüber in ein Eigentumsrecht an den Aktien der X._ AG umgewandelt wurde. Mit Schreiben der Y._ AG vom 2. November 1995 wurde B._ mitgeteilt, dass die erfolgte Verwertung der gestellten Sicherheiten einen Erlös von Fr. 14'678'212.-- ergeben habe, so dass bezüglich der Darlehenskapitalforderung von 25 Millionen ein Ausfall im Umfang von Fr. 10'321'788.-- entstanden sei. Als für diese Abrechnung massgeblich wurde eine von der Z._ AG vorgenommene beigelegte Unternehmensbewertung der X._ AG bezeichnet.
B.- Mit Klage vom 7. September 1995 beim Zivilgericht des Kantons Basel-Stadt verlangte die X._ AG von B._ die Bezahlung von Darlehenszinsforderungen sowie Ersatzforderungen aus Mandatsauslagen in der Höhe von insgesamt Fr. 1'473'749. 75 nebst Zins, zuzüglich Zahlungsbefehls- und Arrestkosten von Fr. 2'208.--; zudem beantragte sie die Beseitigung des Rechtsvorschlags und die Unterbrechung der Verjährung in der angehobenen Betreibung.
Mit Urteil vom 30. Dezember 1998 wies das Zivilgericht die Klage vollumfänglich ab. Es erwog im Wesentlichen, dass die von der Klägerin geltend gemachte Zinsforderung auch nach der Abtretung der Hauptforderung an die Y._ AG durch die ihr gemäss Darlehensvertrag vom 10. November 1993 eingeräumten Sicherheiten abgedeckt sei und dass nicht nur die Y._ AG, sondern auch sie eine Abrechnungspflicht treffe, für die sie den Beweis erbringen müsse, was ihr jedoch nicht gelungen sei.
Eine Appellation der Klägerin mit dem gegenüber der ersten Instanz auf die Zinsforderung von Fr. 1'158'981. 90 nebst Zins reduzierten Begehren hiess das Appellationsgericht des Kantons Basel-Stadt am 20. Dezember 2000 teil- weise gut. Es verurteilte den Beklagten zur Zahlung von Fr. 1'128'471. 25 an die Klägerin und wies die Mehrforderung ab.
C.- B._ hat das Urteil des Appellationsgericht sowohl mit staatsrechtlicher Beschwerde wie auch mit Berufung angefochten. Die staatsrechtliche Beschwerde wurde mit Urteil vom heutigen Tag abgewiesen, soweit darauf einzutreten war.
Mit der Berufung beantragt der Beklagte die Aufhebung des angefochtenen Urteils und die Abweisung der Klage oder eventualiter die Rückweisung der Sache an die Vorinstanz.
Die Klägerin schliesst auf Abweisung der Berufung, soweit darauf eingetreten werden könne.
Dem Gesuch der Klägerin um Sicherstellung der Parteientschädigung ist mit Präsidialverfügung vom 29. August 2001 stattgegeben und der Beklagte zur Überweisung eines Betrags von Fr. 20'000.-- verpflichtet worden.

Das Bundesgericht zieht in Erwägung:
1.- a) Im staatsrechtlichen Beschwerdeverfahren ist festgehalten worden, nach deutschem Recht sei die Auffassung nicht willkürlich, die gesicherte Darlehensforderung könne mit den diesbezüglichen Sicherheiten weiter abgetreten werden, wobei der Zedent die Zinsforderung als ungesicherten Anspruch behalten könne, ohne hiefür die Zustimmung des Sicherungsgebers einholen zu müssen. Somit fällt die Behauptung des Beklagten, der erzielte oder jedenfalls erzielbare Erlös sei nicht nur an die Kapitalforderung sondern auch an die Zinsforderung anzurechnen, dahin. Auch sind sämtliche Rügen, die bereits in der staatsrechtlichen Beschwerde vorgebracht und behandelt wurden, im Rahmen der vorliegenden Berufung nicht mehr zu hören. Zu prüfen bleibt lediglich, ob und in welchem Umfang die Klägerin eine nach schweizerischem Recht zu beurteilende Sorgfaltspflicht bezüglich der Verwertung der Sicherheiten trifft, die der Beklagte im vorliegenden Verfahren geltend machen könnte.
b) Der Beklagte behauptet in diesem Zusammenhang, es komme gemäss der in der Faustpfandverschreibung enthaltenen Rechtswahl das schweizerische Recht ausschliesslich auf die unstreitig erfolgte Verpfändung der 2000 Partizipationsscheine (recte: des Partizipationsscheines über 2 Millionen Franken), jedoch nicht auf die 4000 Aktien der Klägerin zur Anwendung, obwohl er in der Folge ausdrücklich erwähnt, dass es um den Verwertungserlös geht, den die Y._ AG durch Selbsteintritt in den Partizipationsschein und die Aktien der Klägerin erzielt hat. Indessen ist das Appellationsgericht unter Hinweis auf das Gutachten Prof. Schlechtriems, d.h. in Anwendung der Lex rei sitae (zumal es sich um Verbriefungen der Beteiligungsrechte an einer Aktiengesellschaft nach schweizerischem Recht handelt und das Gesellschaftsstatut ebenfalls auf schweizerisches Recht verweist) davon ausgegangen, dass sich die rechtlichen Fragen in Bezug auf die Verwertung des Sicherungseigentums, das bei der Y._ AG als Zessionarin durch Surrogation entstanden ist, nach schweizerischem Recht richten. Diese Auffassung erweist sich zumindest im Ergebnis als zutreffend, ist doch der Selbsteintritt der Klägerin in die Aktien nichts anderes als eine zulässige Privatverwertung (Zobl, Berner Kommentar, Systematischer Teil der Art. 884 - 887 ZGB, N 1486 ff, insbes. N 1488). Der Begriff "verwerten", zu dem der Selbsteintritt gehört, umfasst jede Handlung, die es dem Pfandgläubiger erlaubt, sich den Wert des Pfandgegenstandes anzueignen (vgl. <ref-ruling> E. 2a), und auf die infolgedessen das im Pfandvertrag gewählte schweizerische Recht anwendbar ist (<ref-law>).
2.- a) Der Beklagte stellt sich auf den Standpunkt, dass zur Vermeidung einer Übervorteilung des Schuldners bei Selbsteintritt wesentlich strengere Anforderungen an die erforderliche Abrechung als bei der freihändigen Verwertung von Aktien mit einem bestimmten Börsenpreis gestellt werden müssen. Der Schuldner müsse in der Lage sein, die in der Abrechnung enthaltenen Angaben auf ihre Richtigkeit und Vollständigkeit zu überprüfen. Sodann erachtet der Beklagte die vorgewiesene Unternehmensbewertung als ein in keiner Weise den erwähnten Anforderungen genügendes Parteigutachten.
Er wirft der Vorinstanz auch eine in diesem Zusammenhang unrichtige Beweislastverteilung vor.
b) Durch Zession ist die Y._ AG Gläubigerin der Darlehensforderung geworden. Was den Selbsteintritt betrifft, ist sie Berechtigte am Partizipationsschein und an den Aktien geworden. Die Klägerin ist somit infolge der Forderungsabtretung an die Y._ AG unter Übertragung aller Sicherheiten, d.h. auch der Pfandrechte, bezüglich der bei ihr verbleibenden Zinsforderung nicht mehr Pfandgläubigerin.
Denn haben die Vertragsparteien wie vorliegend etwas anderes vorgesehen, entsteht bei teilweiser Abtretung einer Pfandforderung nicht von Gesetzes wegen für jede Teilforderung ein Pfandrecht von gleichem Rang (vgl. Zobl, Berner Kommentar, N 285 zu <ref-law>). Ferner wird bei Abtretung von pfandgesicherten Forderungen auch das Pfandrecht mitübertragen, ohne dass der Verpfänder hierfür sein Einverständnis geben muss (Zobl, a.a.O., N 287 zu <ref-law>; Oftinger/Bär, Zürcher Kommentar, N 164 zu <ref-law>).
Damit steht, wie die Vorinstanz zu Recht annimmt, eine Anrechnung des bei der Pfandverwertung erzielten oder erzielbaren Erlöses ausser Diskussion. Es stellt sich jedoch im Berufungsverfahren die Frage, ob die Klägerin als Zedentin der Pfandrechte nicht für eine allfällige Pflichtverletzung seitens der Zessionarin im Zusammenhang mit der Pfandverwertung (mit)hafte. In der schweizerischen Doktrin wird die Frage kontrovers beantwortet (ablehnend: Zobl, a.a.O., N 21 zu <ref-law>, mit Hinweisen; befürwortend: Oftinger/Bär, a.a.O., N 31 zu <ref-law>). Selbst wenn aber von der Möglichkeit einer (Mit)verantwortung der Zedentin auszugehen wäre, könnte der Beklagte im vorliegenden Fall infolge des Verrechnungsausschlusses und mangels Widerklage daraus nichts zu seinen Gunsten ableiten (s. dazu E. 2e des Urteils zur staatsrechtlichen Beschwerde). Somit erübrigt es sich, die weiteren Vorbringen des Beklagten, die sich auf eine Abrechnungspflicht der Klägerin stützen, zu prüfen.
3.- Zusammenfassend ergibt sich, dass die Berufung abzuweisen ist, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens wird der Beklagte kosten- und entschädigungspflichtig (Art. 156 Abs. 1 und Art. 159 Abs. 2 OG). Die von ihm geleistete Sicherheit für die Parteikosten ist der Klägerin von der Bundesgerichtskasse auszubezahlen.

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen, soweit darauf einzutreten ist, und das Urteil des Appellationsgerichts des Kantons Basel-Stadt vom 20. Dezember 2000 wird bestätigt.
2.- Die Gerichtsgebühr von Fr. 15'000.-- wird dem Beklagten auferlegt.
3.- Der Beklagte hat die Klägerin für das bundesgerichtliche Verfahren mit Fr. 20'000.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien und dem Appellationsgerichts des Kantons Basel-Stadt schriftlich mitgeteilt.
_
Lausanne, 1. Februar 2002
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Die Gerichtsschreiberin: