Vorbereitungshaft/Haftentlassung aus der Vorbereitungshaft, hat sich ergeben:
A.- Der angeblich irakische Staatsangehörige H._, geb. 1. Juli 1972, reiste nach eigener Darstellung am 6. Oktober 1998 illegal, d.h. ohne Pass und Visum, von der Türkei kommend in die Schweiz ein. Am 15. Oktober 1998 stellte er ein Asylgesuch. Dieses ist noch beim Bundesamt für Flüchtlinge hängig.
Am 12. Januar 2001 wurde H._ wegen Handels mit Betäubungsmitteln festgenommen und in Untersuchungshaft gesetzt. Mit Urteil vom 10. Mai 2001 bestrafte ihn das Bezirksgericht Zürich wegen mehrfacher Widerhandlung gegen das Betäubungsmittelgesetz im Sinne von Art. 19 Ziff. 1 Abs. 4 und 5 mit zwölf Monaten Gefängnis bedingt bei einer Probezeit von zwei Jahren. Am gleichen Tag wurde er aus der Haft entlassen und der Fremdenpolizei des Kantons Zürich zugeführt.
B.- Am 11. Mai 2001 ordnete die Fremdenpolizei des Kantons Zürich gegenüber H._ Vorbereitungshaft an. Der Haftrichter am Bezirksgericht Zürich prüfte und bestätigte die Haft am 12. Mai 2001. Am 14. Mai 2001 gelangte der Rechtsvertreter von H._ an das Bezirksgericht und ersuchte um Aufhebung der Vorbereitungshaft bzw. darum, einen neuen Haftentscheid zu fällen, nachdem ihm als Rechtsvertreter die Gelegenheit gegeben worden sei, sich zur Haftanordnung zu äussern. Der Haftrichter behandelte die Eingabe als Haftentlassungsgesuch und wies sie mit neuer Verfügung vom 15. Mai 2001 ab.
C.- Mit Verwaltungsgerichtsbeschwerde vom 22. Mai 2001 an das Bundesgericht beantragt H._, die Haftentscheide vom 12. und 15. Mai 2001 seien aufzuheben und er sei unverzüglich aus der Vorbereitungshaft zu entlassen; überdies sei ihm die unentgeltliche Rechtspflege und Verbeiständung zu bewilligen.
Die Fremdenpolizei des Kantons Zürich schliesst auf Abweisung der Beschwerde. Der Haftrichter am Bezirksgericht Zürich hat auf eine Vernehmlassung verzichtet. Am 31. Mai 2001 erstattete das Bundesamt für Flüchtlinge einen Amtsbericht, ohne in der Sache einen Antrag zu stellen. H._ nahm mit weiterer Eingabe vom 6. Juni 2001 die Gelegenheit wahr, sich nochmals zur Angelegenheit zu äussern.

Das Bundesgericht zieht in Erwägung:
1.- Um die Durchführung eines Wegweisungsverfahrens sicherzustellen, kann die zuständige kantonale Behörde einen Ausländer, der keine Aufenthalts- oder Niederlassungsbewilligung besitzt, während der Vorbereitung des Entscheides über seine Aufenthaltsberechtigung für höchstens drei Monate in Haft nehmen, wenn einer der in Art. 13a ANAG genannten Haftgründe gegeben ist.
Der Beschwerdeführer, der keine Aufenthalts- oder Niederlassungsbewilligung hat, ist Asylbewerber, wobei über sein Asylgesuch noch nicht, auch nicht erstinstanzlich, entschieden worden ist. Mit Blick auf seine Verurteilung wegen Drogenhandels erfüllt der Beschwerdeführer den Haftgrund von Art. 13a lit. e ANAG, wonach in Haft gesetzt werden kann, wer Personen ernsthaft bedroht oder an Leib und Leben erheblich gefährdet und deshalb strafrechtlich verfolgt wird oder verurteilt worden ist (vgl. <ref-ruling> E. 3b/bb S. 375 f.
mit Hinweisen). Dass dieser Haftgrund vorliegt, ist denn auch nicht strittig.
2.- a) Der Beschwerdeführer scheint zunächst geltend machen zu wollen, die Haft sei schon deshalb unzulässig, weil er sich als Asylbewerber in der Schweiz aufhalten dürfe, womit eine fremdenpolizeiliche Wegweisung ausgeschlossen sei. Mit der Vorbereitungshaft soll indessen gerade auch die Durchführung eines Asylverfahrens gesichert werden (vgl.
Walter Kälin, Zwangsmassnahmen im Ausländerrecht: Materielles Recht, in: AJP 1995 S. 850 f.). Genauso wenig ist zurzeit von Bedeutung, dass ungewiss erscheint, wann und wie das Bundesamt für Flüchtlinge über das Asylgesuch entscheiden wird, wie der Beschwerdeführer auch noch vorträgt. Sollte das Asylverfahren mehr als drei Monate ab dem Beginn der Vorbereitungshaft beanspruchen, wäre diese aufgrund der entsprechenden gesetzlichen Höchstdauer ohnehin zu beenden.
b) Wie bereits in seiner als Haftentlassungsgesuch behandelten Eingabe an den Haftrichter vom 14. Mai 2001 macht der Beschwerdeführer weiter geltend, der Vollzug einer allfälligen Wegweisung sei zurzeit tatsächlich unmöglich, was zur Unzulässigkeit der Vorbereitungshaft führe.
Nach Art. 13a ANAG dient die Vorbereitungshaft der Sicherstellung der Durchführung eines Wegweisungsverfahrens.
Grundsätzlich geht es dabei um zwei Gesichtspunkte: Erstens soll gewährleistet werden, dass es überhaupt zu einem Entscheid über die Wegweisung kommen kann. Zweitens soll aber auch der Vollzug gesichert werden. Art. 13a ANAG spricht zwar - im Unterschied zu Art. 13b ANAG, wo die Ausschaffungshaft geregelt wird - nicht ausdrücklich vom Vollzug, sondern allgemeiner vom Wegweisungsverfahren. Zu beachten ist indessen der Gesamtzusammenhang.
Gemäss Art. 5 Ziff. 1 lit. f EMRK ist ausländerrechtliche Administrativhaft bei einem Ausländer, der sich bereits im Staatsgebiet aufhält, nur zulässig, wenn er von einem "gegen ihn schwebenden Ausweisungsverfahren" betroffen ist. Nach der Praxis setzt dies voraus, dass sich die Haft auf eine mögliche und zulässige Entfernung des Ausländers richtet. Steht die Unmöglichkeit oder Unzulässigkeit der Entfernung fest, kann der Zweck der Haft nicht erfüllt werden, weshalb sie nicht angeordnet werden darf. Dabei kommt es nicht darauf an, ob das Entfernungsverfahren formell abgeschlossen worden ist bzw. ein Entfernungsentscheid vorliegt; wesentlich ist einzig, dass materiell mit genügender Wahrscheinlichkeit feststeht, ob der Vollzug einer allfälligen Entfernungsmassnahme innert absehbarer Frist durchführbar ist oder nicht (dazu Kälin, a.a.O., S. 848 f.; Peter Uebersax, Menschenrechtlicher Schutz bei fremdenpolizeilichen Einsperrungen, in: recht 13/1995 S. 62 f.).
Die ausdrückliche Erwähnung des Haftzwecks in Art. 13a ANAG hat demnach zum Ziel, diesen menschenrechtlichen Zusammenhang zu verdeutlichen. Auch in der bundesrätlichen Botschaft vom 12. Dezember 1993 zu den Zwangsmassnahmen im Ausländerrecht (BBl 1994 I 305 ff.) wird zur Vorbereitungshaft ausgeführt, es gehe um die "Gefährdung des Vollzuges im weitesten Sinne", wobei den Kantonen eine Handhabe vermittelt werden solle, "um die betroffenen Ausländer im Hinblick auf einen allfälligen Vollzug den Entscheidbehörden zur Verfügung zu halten" (BBl 1994 I 321 f.). Daraus ergibt sich, dass bei der Anordnung von Vorbereitungshaft nicht nur der Zusammenhang zum eigentlichen Entfernungsentscheid, sondern auch zu dessen Vollzug zu beachten ist. Ihre Zulässigkeit ist an den Vorgaben von Art. 5 Ziff. 1 lit. f EMRK zu messen, wobei insbesondere der Haftzweck unabhängig vom Haftgrund vorliegen bzw. geprüft werden muss (vgl. Kälin, a.a.O., S. 849; Andreas Zünd, Zwangsmassnahmen im Ausländerrecht:
Verfahrensfragen, in: AJP 1995 S. 860 und 861).
Verfahrensrechtlich wird dieser Zusammenhang überdies abgesichert durch die Regelung von Art. 13c Abs. 5 lit. a ANAG, wonach die Haft unter anderem dann beendet wird, wenn sich - unabhängig vom Haftgrund - erweist, dass der Vollzug der Weg- oder Ausweisung aus rechtlichen oder tatsächlichen Gründen undurchführbar ist (dazu Kälin, a.a.O., S. 849; Felix Ziltener, Neues aus der Praxis zur Ausschaffungshaft, in: AJP 2001 S. 510 f.). Gemäss der Gesetzessystematik, dem Zweck der ausländerrechtlichen Zwangsmassnahmen sowie dem übrigen Wortlaut von Art. 13c ANAG gilt diese Bestimmung nicht nur für die Ausschaffungs-, sondern auch für die Vorbereitungshaft. In der bundesrätlichen Botschaft findet sich dazu die Erläuterung, mit den Haftbeendigungsgründen werde zum Ausdruck gebracht, "dass die Vorbereitungs- und Ausschaffungshaft tatsächlich nur zum Zweck der Sicherstellung des Wegweisungsverfahrens und des Vollzugs eines Weg- oder Ausweisungsentscheides angeordnet werden dürfen" (BBl 1994 I 325).
Die Rechtmässigkeit der Vorbereitungshaft hängt demnach davon ab, dass der Vollzug der zu sichernden Entfernungsmassnahme rechtlich und tatsächlich zulässig und möglich ist.
c) Wie es sich mit der Durchführbarkeit in einem konkreten Fall verhält, ist regelmässig Gegenstand einer Prognose. Es geht um die Vorhersage darüber, ob sich das Ziel der Entfernung überhaupt - und zwar innerhalb der vom Gesetz vorgegebenen zeitlichen Schranken - erreichen lässt.
Zwar ist nicht über die Entfernungsmassnahme und deren Vollzug zu entscheiden, sondern lediglich über die Haft als Sicherungsmassnahme; im Rahmen der Haftprüfung muss aber die Frage über die wahrscheinliche Durchführbarkeit der Entfernung vorfrageweise mit entschieden werden (vgl. Zünd, a.a.O., S. 861). Massgeblich ist, wie dargelegt, ob die Durchführbarkeit der Ausschaffung innert absehbarer Frist mit überwiegender Wahrscheinlichkeit verneint oder bejaht werden kann.
Der Umstand allein, dass die Ausreise nur schwer organisiert werden kann, lässt die Ausschaffung nicht als undurchführbar erscheinen. Für die Undurchführbarkeit der Entfernungsmassnahme müssen triftige Gründe sprechen, oder es muss praktisch feststehen, dass sich die Ausschaffung innert der gesetzlichen Frist kaum wird realisieren lassen (vgl. <ref-ruling> E. 2; <ref-ruling> E. 3 S. 152 f.). Dies ist in der Regel nur der Fall, wenn die Ausschaffung mit grosser Wahrscheinlichkeit ausgeschlossen bzw. deren Vollzug nicht absehbar erscheint, obwohl die Identität bzw. Nationalität des Ausländers belegt ist oder es doch wenigstens keine Anhaltspunkte gibt, an der angeblichen Herkunft zu zweifeln (vgl. <ref-ruling> E. 2 und 3b).
3.- a) Das Bundesamt für Flüchtlinge hat in seinem Amtsbericht vom 31. Mai 2001 an das Bundesgericht bestätigt, dass eine freiwillige Rückkehr von Angehörigen der kurdischen Ethnie in das autonome Gebiet des Nordiraks grundsätzlich möglich sei; ein zwangsweiser Vollzug einer Wegweisung in dieses Gebiet sei hingegen zurzeit aus praktischen Gründen unmöglich. Das Bundesamt verweist dazu auf die Praxis der Schweizerischen Asylrekurskommission, wo der Vollzug einer Wegweisung auf freiwilliger Grundlage als möglich erachtet, eine zwangsweise Ausschaffung hingegen als ausgeschlossen beurteilt wurde, solange die Grenzstaaten des Iraks die entsprechende Mitwirkung verweigern und eine Ausschaffung unter Beizug des irakischen Zentralstaates ebenfalls nicht in Betracht fällt (vgl. insbes. das Grundsatzurteil vom 22. August 2000 in EMARK 2000 Nr. 16). Das Bundesamt bestätigt überdies, dass bisher in der Tat nur einzelne wenige Ausreisepflichtige aus dem Nordirak freiwillig dorthin zurückgekehrt seien, dass es indessen keine zwangsweisen Rückführungen gebe. Das Bundesamt äussert sich nicht zur künftigen Entwicklung. Es stellt aber auch nicht in Aussicht, dass sich diese Sachlage innert absehbarer Frist ändern könnte. Für eine solche Entwicklung liegen auch sonst keine Hinweise vor.
b) Beim Beschwerdeführer handelt es sich nach seinen eigenen Angaben um einen Kurden aus dem Nordirak. Die Herkunft bzw. Staatsangehörigkeit steht bisher allerdings noch nicht endgültig fest. Sie bildet Gegenstand der laufenden Untersuchungen im Asylverfahren. Das Bundesamt für Flüchtlinge trägt dazu vor, "ein zwangsweiser Vollzug einer allfälligen Wegweisung wäre noch denkbar, wenn es sich erweisen würde, dass der Beschwerdeführer nicht aus dem Irak stammt, sondern aus einem Staat, in welchen zwangsweise Rückführungen grundsätzlich möglich sind (Bsp. Syrien)".
Die entsprechenden Ausführungen des Bundesamts für Flüchtlinge sind sehr vage. Es bietet auch keine Hinweise an, die für eine andere Herkunft als die vom Beschwerdeführer behauptete sprechen, die sich namentlich aus den bisherigen Anhörungen ergeben könnten, zum Beispiel sprachliche Einwände oder solche aufgrund der vom Beschwerdeführer gemachten geografischen oder sonstigen Aussagen. Genauso wenig verweisen die kantonalen Behörden auf allfällige Ungereimtheiten oder wenigstens nur minimale Gründe, die Zweifel an der Herkunftsangabe des Beschwerdeführers aufkommen lassen könnten. Im Übrigen hat der Haftrichter in seinem Urteil vom 15. Mai 2001 die behauptete Herkunft nicht in Frage gestellt; mit Blick auf Art. 105 Abs. 2 OG darf daher auch das Bundesgericht nicht ohne weiteres von einer anderen Sachlage ausgehen. Damit gibt es aufgrund einer vorläufigen Einschätzung im Haftverfahren - ohne dass damit in irgendeiner Weise das Ergebnis der laufenden und weiteren Abklärungen des Bundesamtes im Asylverfahren vorweggenommen wird - gegenwärtig keinen Anlass, an der Herkunftsangabe des Beschwerdeführers zu zweifeln.
c) Ist demnach zurzeit davon auszugehen, dass es sich beim Beschwerdeführer um einen Kurden aus dem Nordirak handelt, erweist sich der zwangsweise Vollzug einer allfälligen Wegweisung als nicht möglich. Der Beschwerdeführer hat mehrfach, so etwa auch vor dem Haftrichter, klar zu verstehen gegeben, dass er nicht freiwillig in den Irak zurückkehren werde. Sodann gibt es keine Anhaltspunkte dafür, dass sich die tatsächliche Ausgangslage innert absehbarer Frist ändern wird. Weder das Bundesamt für Flüchtlinge noch die kantonalen Behörden haben dies auch nur behauptet. Damit erweist sich die Vorbereitungshaft zurzeit als unzulässig.
d) Auf die übrigen Vorbringen des Beschwerdeführers braucht demnach nicht weiter eingegangen zu werden.
4.- a) Die Verwaltungsgerichtsbeschwerde ist gutzuheissen, die angefochtenen Haftentscheide sind aufzuheben und der Beschwerdeführer ist unverzüglich aus der Haft zu entlassen.
b) Bei diesem Verfahrensausgang sind keine Kosten zu erheben (Art. 156 Abs. 2 OG). Hingegen hat der Kanton Zürich den Beschwerdeführer für das bundesgerichtliche Verfahren zu entschädigen (Art. 159 Abs. 1 und 2 OG). Damit ist das Gesuch des Beschwerdeführers um Erteilung der unentgeltlichen Rechtspflege und Verbeiständung als gegenstandslos abzuschreiben.

Demnach erkennt das Bundesgericht:
1.- a) Die Verwaltungsgerichtsbeschwerde wird gutgeheissen, und die Urteile des Haftrichters am Bezirksgericht Zürich vom 12. und 15. Mai 2001 werden aufgehoben.
b) Der Beschwerdeführer ist unverzüglich aus der Haft zu entlassen.
2.- Es werden keine Kosten erhoben.
3.- Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4.- Das Gesuch um Erteilung der unentgeltlichen Rechtspflege und Verbeiständung wird als gegenstandslos abgeschrieben.
5.- Dieses Urteil wird dem Beschwerdeführer, der Fremdenpolizei des Kantons Zürich, dem Bezirksgericht Zürich, Haftrichter, sowie dem Bundesamt für Flüchtlinge schriftlich mitgeteilt.
_
Lausanne, 8. Juni 2001
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: