wird festgestellt und in Erwägung gezogen:
1.- Der albanische Staatsangehörige A._, geb. 1956, reiste am 5. Mai 1991 illegal in die Schweiz ein und ersuchte unter dem Namen B._ erfolglos um Asyl (vgl. Urteil der Schweizerischen Asylrekurskommission vom 8. September 1992). Das Bundesamt für Ausländerfragen ordnete gegen ihn am 3. November 1992 eine Einreisesperre auf unbestimmte Dauer an. Am 4. November 1992 wurde er in sein Heimatland ausgeschafft.
Am 28. August 1994 reiste A._ - nun unter diesem Namen - erneut in die Schweiz ein und heiratete am 8. Oktober 1994 die Schweizerin C._. Am 28. Oktober 1994 erhielt er zwecks Verbleib bei der schweizerischen Ehefrau eine Aufenthaltsbewilligung, welche mehrfach verlängert wurde.
Nachdem A._ am 14. Oktober 1997 wegen Verdachts auf Betäubungsmittelhandel verhaftet worden war, stellten die Behörden fest, dass er identisch ist mit "B._", der vom Obergericht des Kantons Zürich am 8. Oktober 1993 zweitinstanzlich wegen Vergehens gegen das Betäubungsmittelgesetz mit zehn Monaten Gefängnis bedingt sowie mit acht Jahren unbedingter Landesverweisung bestraft worden war. Am 10. Juni 1998 wurde A._, der sich bereits im vorzeitigen Strafvollzug befand, vom Bezirksgericht Winterthur der mehrfachen Widerhandlung gegen das Betäubungsmittelgesetz sowie des Verweisungsbruchs schuldig erklärt und mit drei Jahren Zuchthaus bestraft. Am 6. Februar 2000 entliess ihn die zuständige Behörde bedingt aus dem Strafvollzug; dabei wurde der Vollzug der Landesverweisung probeweise aufgeschoben.
Am 29. Februar 2000 lehnte die Direktion für Soziales und Sicherheit des Kantons Zürich (Fremdenpolizei) eine neuerliche Verlängerung der Aufenthaltsbewilligung ab.
Ein gegen diese Verfügung gerichteter Rekurs an den Regierungsrat des Kantons Zürich blieb erfolglos, und am 21. März 2001 wies das Verwaltungsgericht des Kantons Zürich eine gegen den regierungsrätlichen Entscheid gerichtete Beschwerde ab.
Mit Eingabe vom 17. Mai 2001 führt A._ Verwaltungsgerichtsbeschwerde beim Bundesgericht mit den Anträgen, den Entscheid des Verwaltungsgerichts vom 21. März 2001 aufzuheben und die Direktion für Soziales und Sicherheit des Kantons Zürich anzuweisen, ihm die Bewilligung zum Verbleib bei seiner schweizerischen Ehefrau zu erteilen.
Die Staatskanzlei des Kantons Zürich (im Auftrag des Regierungsrates) beantragt, die Beschwerde abzuweisen.
Das Verwaltungsgericht des Kantons Zürich schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Bundesamt für Ausländerfragen stellt ebenfalls den Antrag auf Abweisung der Beschwerde.
Am 7. Juni 2001 hat der Abteilungspräsident der Beschwerde aufschiebende Wirkung zuerkannt.
2.- a) Der Beschwerdeführer hat als ausländischer Ehegatte einer Schweizerin gemäss Art. 7 Abs. 1 ANAG einen Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung.
Da die Beziehung zwischen den Ehegatten intakt ist und tatsächlich gelebt wird, kann sich der Beschwerdeführer zusätzlich auf <ref-law> und Art. 8 EMRK berufen, um zu einer Anwesenheitsbewilligung in der Schweiz zu gelangen.
Damit kommt der Ausschlussgrund von Art. 100 Abs. 1 lit. b Ziff. 3 OG nicht zur Anwendung, weshalb auf die Verwaltungsgerichtsbeschwerde einzutreten ist (<ref-ruling> E. 2; <ref-ruling> E. 1, mit Hinweisen).
b) Im Verfahren der Verwaltungsgerichtsbeschwerde ist die Möglichkeit, vor Bundesgericht Noven vorzubringen, weitgehend eingeschränkt. Das Bundesgericht lässt nur solche neuen Tatsachen und Beweismittel zu, welche die Vorinstanz von Amtes wegen hätte berücksichtigen müssen und deren Nichtbeachtung eine Verletzung wesentlicher Verfahrensvorschriften darstellt (<ref-ruling> E. 3a S. 421; <ref-ruling> E. 1c S. 99 f.). Die zusammen mit der Beschwerdeschrift eingereichten neuen Beweismittel (Schreiben Universitäts-Spital Zürich sowie Zwischenzeugnis der X._ AG, je vom 26. April 2001, Schreiben von D._ vom 8. Mai 2001) datieren alle nach dem angefochtenen Entscheid und sind daher nicht weiter zu berücksichtigen, ebenso wenig die Noveneingabe vom 21. Mai 2001 (mit dem Schreiben von E._ vom 17. Mai 2001).
3.- a) Nach Art. 7 Abs. 1 dritter Satz ANAG erlischt der Anspruch auf Aufenthaltsbewilligung, wenn ein Ausweisungsgrund vorliegt. Gemäss Art. 10 Abs. 1 lit. a ANAG kann ein Ausländer aus der Schweiz ausgewiesen werden, wenn er wegen eines Verbrechens oder Vergehens gerichtlich bestraft wurde. Die Ausweisung darf jedoch nur ausgesprochen werden, wenn sie nach den gesamten Umständen angemessen, d.h. verhältnismässig, erscheint (Art. 11 Abs. 3 ANAG). Hierbei sind vor allem die Schwere des Verschuldens des Ausländers, die Dauer seiner Anwesenheit in der Schweiz und die ihm und seiner Familie drohenden Nachteile zu berücksichtigen (Art. 16 Abs. 3 ANAV). Eine vergleichbare Interessenabwägung setzt im Übrigen gemäss Art. 8 Ziff. 2 EMRK - bzw. neuerdings Art. 36 in Verbindung mit <ref-law> - auch ein Eingriff in das Recht auf Achtung des Familienlebens voraus (vgl. <ref-ruling> E. 2 S. 5 f., mit Hinweisen).
b) Der Beschwerdeführer ist wegen Betäubungsmitteldelikten zu drei Jahren Zuchthaus und zu zehn Monaten Gefängnis verurteilt worden. Die Grenze von zwei Jahren Freiheitsstrafe, die in der Praxis unter gewissen Voraussetzungen als Richtlinie für die Erteilung oder Verweigerung von Anwesenheitsbewilligungen bei mit Schweizern verheirateten Ausländern Anwendung findet (<ref-ruling> E. 4b S. 14; so genannte Zwei-Jahres-Regel), ist damit klar überschritten.
Es besteht - wie der Beschwerdeführer selber anerkennt - ein erhebliches öffentliches Interesse an seiner Entfernung und Fernhaltung aus der Schweiz. Dass der Vollzug der strafrechtlichen Landesverweisung probeweise aufgeschoben worden ist, ändert daran nichts (vgl. <ref-ruling> E. 2b S. 107 f., mit Hinweisen).
c) Der Beschwerdeführer beruft sich im Wesentlichen auf einen Entscheid aus dem Jahre 1996, mit dem das Bundesgericht das Eidgenössische Justiz- und Polizeidepartement eingeladen hatte, die Zustimmung zu einer Aufenthaltsbewilligung zu erteilen (unveröffentlichtes Urteil vom 16. Dezember 1996 i.S. Berger-Milosevic). Dieser Fall betraf eine wegen Drogenhandels verurteilte Jugoslawin, die mit einem - ebenfalls wegen Drogenhandels verurteilten - Schweizer Bürger verheiratet war. Der Beschwerdeführer kann aus diesem Präjudiz - bei dem es gemäss den Erwägungen des Bundesgerichts um einen "Grenzfall" ging - nichts zu seinen Gunsten ableiten. Sein Fall unterscheidet sich in objektiver Hinsicht schon dadurch, dass er, anders als die Beschwerdeführerin im Vergleichsfall, zweimal wegen Drogenhandels verurteilt worden ist, wobei seine Strafe insgesamt 46 Monate beträgt (gegenüber 30 Monaten im Vergleichsfall). Zudem war der Beschwerdeführer im Zeitpunkt, als er (unter einem neuen Namen) die Aufenthaltsbewilligung gemäss Art. 7 ANAG erhielt (bzw. erschlich), mit einer Einreisesperre und einer rechtskräftigen strafrechtlichen (unbedingt ausgesprochenen) Landesverweisung belegt. Bei korrekter Information der Behörde wäre ihm trotz der eingegangenen Heirat mit einer Schweizerin keine Aufenthaltsbewilligung erteilt worden (vgl. <ref-ruling> E. 3 S. 291). Schon dies hätte genügt, um die Aufenthaltsbewilligung nach Art. 9 Abs. 2 lit. a ANAG zu widerrufen. Nachdem er in der Folge wiederum massiv straffällig geworden ist, besteht kein Anlass, von der fraglichen "2-Jahres-Regel" (vgl. E. 3b) abzuweichen. Die vom Verwaltungsgericht vorgenommene Abwägung der berührten Interessen erscheint in allen Punkten bundesrechtskonform und hält auch vor Art. 8 EMRK stand. Namentlich kann dem Gericht nicht vorgeworfen werden, das Ergebnis werde den schützenswerten privaten Interessen der Ehefrau nicht gerecht (vgl. S. 7, 15 und 16 der Beschwerdeschrift): Das Verwaltungsgericht hat die mit der Nichtverlängerung der Aufenthaltsbewilligung verbundenen Härten für die Ehefrau sorgfältig mit abgewogen (vgl. S. 8 des angefochtenen Entscheides). Sodann führt eine allfällige Unzumutbarkeit der Ausreise für die hier lebenden Angehörigen nicht zwingend für sich allein zur Unzulässigkeit einer Bewilligungsverweigerung (<ref-ruling> E. 2 S. 6). Zwar mag allenfalls vorliegend die Ausreise der hier lebenden schweizerischen Ehefrau nicht zumutbar sein, doch ändert dies angesichts der wiederholten schweren Straffälligkeit ihres Ehemannes nichts daran, dass die öffentlichen Interessen an der Nichtverlängerung der (im Übrigen erschlichenen) Aufenthaltsbewilligung die privaten Interessen des Beschwerdeführers überwiegen.
4.- Die Verwaltungsgerichtsbeschwerde erweist sich als offensichtlich unbegründet, weshalb sie im vereinfachten Verfahren nach Art. 36a OG abzuweisen ist. Ergänzend wird auf die Ausführungen im angefochtenen Entscheid verwiesen (Art. 36a Abs. 3 OG).
Bei diesem Verfahrensausgang wird der Beschwerdeführer kostenpflichtig (Art. 156 Abs. 1, Art. 153 und 153a OG).

Demnach erkennt das Bundesgericht
im Verfahren nach Art. 36a OG:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 2'000.-- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird dem Beschwerdeführer, dem Regierungsrat und dem Verwaltungsgericht (2. Kammer) des Kantons Zürich sowie dem Bundesamt für Ausländerfragen schriftlich mitgeteilt.
_
Lausanne, 23. Juli 2001
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: