(Strafverfahren), hat sich ergeben: A.- Das Bezirksgericht Zürich verurteilte S._ am 30. Juni 1994 wegen mehrfacher Vergewaltigung im Sinne von Art. 190 Abs. 1 StGB, teilweise in Verbindung mit Art. 190 Abs. 3 StGB sowie Freiheitsberaubung und Entführung im Sinne von Art. 183 Ziff. 1 StGB und Verstosses gegen Art. 23 Abs. 1 al. 4 i.V.m. Art. 13 Abs. 1 ANAG zu 7 Jahren Zuchthaus. Es hielt für erwiesen, dass der illegal in die Schweiz eingereiste S._ am 18. August 1993, um zirka 01 Uhr, B._ in einem Zimmer in X._ unter Anwendung von Drohungen und Schlägen gegen ihren Willen zum Geschlechtsverkehr zwang, sie in der folgenden Nacht zunächst gegen ihren Willen unter Drohungen und Gewaltanwendung ins Zimmer in X._ zurückbrachte und dort unter Bedrohung mit einem Messer zweimal vergewaltigte. Auf Berufung von S._ hin bestätigte das Obergericht des Kantons Zürich am 5. Juli 1996 das erstinstanzliche Urteil im Schuldpunkt, reduzierte die Strafe jedoch auf 4 1/2 Jahre Zuchthaus. B.- Das Kassationsgericht des Kantons Zürich hiess am 10. April 1997 die Nichtigkeitsbeschwerde von S._ gut, hob das obergerichtliche Urteil auf und wies die Sache im Sinne der Erwägungen an die Vorinstanz zurück. Es erwog, die Konfrontationseinvernahmen der Geschädigten B._ vom 26./27. August 1993 mit S._, auf welcher der Schuldspruch u.a. beruhe, sei mit Nichtigkeitsgründen behaftet, da nicht ersichtlich sei, dass S._ rechtsgültig auf die Teilnahme an der Fortsetzung der Einvernahme vom 27. August 1993 verzichtet habe. Die Aussagen der Geschädigten seien aber auch deshalb nicht zu Lasten des Beschwerdeführers verwertbar, weil sich aus den Akten nicht ergebe, wer die Aussagen der Geschädigten für S._ übersetzt habe und ob dieser Übersetzer nach Art. 307 StGB in die Pflicht genommen worden sei. C.- Das Obergericht bestätigte nach einer Ergänzung der Untersuchung mit Urteil vom 1. September 1999 sein erstes Urteil, reduzierte jedoch die Strafe wegen der (über-)langen Verfahrensdauer auf 4 Jahre Zuchthaus. Zur Frage des unbekannten bzw. nicht in die Pflicht genommenen Übersetzers kam das Obergericht zum Schluss, der Übersetzer in der Person des gerichtserfahrenen Y._ sei gehörig ermahnt worden. Hinzu komme, dass dieser am 26. August 1993 nur unter dem Aspekt des rechtlichen Gehörs des Angeklagten beigezogen worden sei, um die von einer anderen Dolmetscherin von der slowakischen in die deutsche Sprache übersetzten Aussagen der Zeugin für den Angeklagten auf Albanisch zu übersetzen. Bei dieser Konstellation sei die fehlende Protokollierung der Ermahnung nach Art. 307 und 320 StGB von vornherein nicht geeignet, die Gültigkeit der Aussagen der Geschädigten zu tangieren. In Bezug auf die Durchführung der Einvernahme vom 26. August 1993 hätten S._ und sein Verteidiger rechtsgültig darauf verzichtet, unmittelbar mit der Zeugin B._ konfrontiert zu werden, weshalb diese formgültig erfolgt sei. Ergänzend sei hinzuzufügen, dass die Einwände gegen deren Durchführung auch rechtsmissbräuchlich seien. Was schliesslich die am 27. August 1993 erfolgte Einvernahme der Geschädigten als Zeugin betreffe, so seien sie für den Ausgang des Verfahrens nicht massgebend, weshalb auf sie nicht abzustellen sei. Es könne daher offen bleiben, ob sie formgültig erfolgt seien. D.- Das Kassationsgericht wies die neuerliche Nichtigkeitsbeschwerde von S._ gegen den obergerichtlichen Entscheid am 4. Dezember 2000 ab. Es erwog, das Obergericht sei in Willkür verfallen, indem es angenommen habe, die von ihm angeordnete Ergänzung der Untersuchung hätte den Nachweis dafür erbracht, dass der Dolmetscher an der umstrittenen Konfrontationseinvernahme nach Art. 307 bzw. 320 StGB ermahnt worden sei. Es stehe zudem fest, dass diese Belehrung des Dolmetschers nach Zürcher Prozessrecht Gültigkeitserfordernis sei. Das Obergericht habe indessen in einer Eventualbegründung in haltbarer Weise erwogen, S._ habe die Rüge der fehlenden Ermahnung des Dolmetschers verspätet erhoben und damit verwirkt, weshalb sich die Berufung darauf als rechtsmissbräuchlich erweise. E.- Mit staatsrechtlicher Beschwerde vom 14. Februar 2001 wegen Verletzung von Art. 9 und Art. 32 Abs. 2 BV sowie Art. 6 Ziff. 3 lit. d EMRK beantragt S._, dieses Urteil des Kassationsgerichts aufzuheben. Ausserdem ersucht er um unentgeltliche Rechtspflege und Verbeiständung. Die Staatsanwaltschaft und das Kassationsgericht verzichten auf Vernehmlassung. B._ beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei. S._ sei zu verpflichten, ihr eine Umtriebsentschädigung von Fr. 3'000.-- zu bezahlen. Ausserdem ersucht sie um unentgeltliche Rechtspflege und Verbeiständung.