Aufenthaltsbewilligung, hat sich ergeben: A.- Der pakistanische Staatsangehörige X._, geb. 11. Mai 1957, reiste am 2. November 1984 in die Schweiz ein, wo er um Asyl ersuchte. Dieses Gesuch wurde im Januar 1986 letztinstanzlich abgewiesen. Am 22. März 1986 heiratete X._ die um 13 Jahre ältere Schweizerin Y._, woraufhin er eine Aufenthaltsbewilligung erhielt. Mit Verfügung vom 6. August 1987 verwarnte ihn die Polizeidirektion (heute: Direktion für Soziales und Sicherheit) des Kantons Zürich, nachdem er vom Fürstlich Liechtensteinischen Landesgericht Vaduz wegen Verletzung fremdenpolizeilicher Bestimmungen mit einer Woche Arrest bestraft worden war. Am 22. November 1993 wurde die Ehe X._-Y. _ geschieden. Am 31. Mai 1994 verurteilte das Bezirksgericht Zürich X._ wegen Vergewaltigung des damals 18-jährigen Patenkindes seiner langjährigen Freundin Z._ zu 18 Monaten Zuchthaus bei bedingtem Vollzug. Mit Urteil vom 17. Januar 1995 legte das Obergericht des Kantons Zürich die Strafe auf 27 Monate Zuchthaus fest. Das Kassationsgericht des Kantons Zürich und das Bundesgericht wiesen im Jahre 1996 dagegen erhobene Rechtsmittel ab, soweit sie darauf eintraten, woraufhin die ausgefällte Freiheitsstrafe vollzogen wurde. B.- Nachdem X._ zunächst um Erteilung der Niederlassungsbewilligung ersucht hatte, zog er dieses Gesuch am 17. Juli 1995 zurück und beantragte die Verlängerung der Aufenthaltsbewilligung. Am 29. August 1996 wies die Fremdenpolizei des Kantons Zürich dieses Gesuch ab. Beschwerden beim Regierungsrat und beim Verwaltungsgericht des Kantons Zürich blieben erfolglos, wobei X._ vor dem Verwaltungsgericht "die Aufenthalts- bzw. Niederlassungsbewilligung" verlangte. C.- Mit Verwaltungsgerichtsbeschwerde vom 15. Dezember 1999 an das Bundesgericht beantragt X._, das Urteil des Verwaltungsgerichts vom 3. November 1999 sei aufzuheben und die Sache sei im Sinne der Erwägungen an die Vorinstanz zurückzuweisen. Zugleich ersucht er um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung. Die Staatskanzlei des Kantons Zürich (für den Regierungsrat) und das Bundesamt für Ausländerfragen (für das Eidgenössische Justiz- und Polizeidepartement) schliessen auf Abweisung der Beschwerde. Das Verwaltungsgericht stellt den Antrag, die Beschwerde abzuweisen, soweit darauf einzutreten sei.