Erwägungen:
1. X._, geb. 1969, türkischer Staatsangehöriger, reiste 1980 im Familiennachzug in die Schweiz ein. Am 27. Oktober 1993 heiratete er eine Landsfrau; die Ehe wurde 2008 geschieden und die beiden Kinder unter die elterliche Sorge der Mutter gestellt. Wegen banden- und gewerbsmässigen Einschleusens von Ausländern nach Deutschland wurde X._ mit Urteil des Landgerichts Stuttgart vom 5. November 2009 zu einer Freiheitsstrafe von 2 Jahren und 6 Monaten verurteilt. Während des Strafvollzugs erlosch seine Niederlassungsbewilligung in der Schweiz; in der Folge ersuchte er erfolglos um deren Wiedererteilung.
Mit Rekursentscheid vom 28. Dezember 2011 verpflichtete die Sicherheitsdirektion des Kantons Zürich das Migrationsamt, X._ unter Vorbehalt der Zustimmung des Bundesamts für Migration "eine Aufenthaltsbewilligung zur Ausübung einer Erwerbstätigkeit" zu erteilen; es bestellte Adrian Bacchini zum unentgeltlichen Rechtsbeistand und wies das Begehren, einen (weiteren und anderen) unentgeltlichen Rechtsbeistand zu bestellen ab.
Eine Beschwerde gegen diesen Entscheid wies das Verwaltungsgericht des Kantons Zürich mit Urteil vom 18. April 2012 ab. Es verneinte dabei einen Anspruch auf Erteilung der Aufenthaltsbewilligung gestützt auf Art. 8 EMRK, lehnte die Wiedererteilung der Niederlassungsbewilligung auf Grund von Art. 34 Abs. 3 AuG ab und bestätigte, dass X._ eine Aufenthaltsbewilligung gestützt auf Art. 30 Abs. 1 lit. b und lit. k AuG erteilt werden kann, was aber der Zustimmung des Bundesamtes für Migration bedarf (Art. 99 AuG). Schliesslich legte das Verwaltungsgericht dar, dass es nicht geboten war, X._ einen Rechtsanwalt als unentgeltlichen Vertreter beizugeben.
2. X._ hat gegen das Urteil des Verwaltungsgerichts des Kantons Zürich am 29. Mai 2012 Beschwerde an das Bundesgericht erhoben. Er verlangt, dass dieses Urteil aufzuheben und die Sache an die Sicherheitsdirektion bzw. an das Migrationsamt des Kantons Zürich zur Neubeurteilung zurückzuweisen sei, wobei vorgängig eines Entscheides in der Sache zunächst über die unentgeltliche Rechtspflege und Rechtsverbeiständung zu befinden sei.
Die Beschwerde ist, soweit sie nicht unzulässig ist, offensichtlich unbegründet, weshalb sie im vereinfachten Verfahren nach <ref-law> erledigt werden kann. Beschwerde an das Bundesgericht kann nur erhoben werden, soweit ein schutzwürdiges bzw. rechtlich geschütztes Interesse an der Aufhebung des angefochtenen Entscheids besteht (Art. 89 Abs. 1, Art. 115 BGG). Der Beschwerdeführer hat im kantonalen Verfahren insofern obsiegt, als das Migrationsamt angewiesen wurde, ihm unter Vorbehalt der Zustimmung des Bundesamts für Migration eine Aufenthaltsbewilligung zu erteilen. Er hat insofern kein Interesse daran, das kantonale Verfahren zu wiederholen. Ein solches besteht höchstens insofern, als er die Wiedererteilung der Niederlassungsbewilligung oder eine Aufenthaltsbewilligung gestützt auf den Anspruch auf Familienleben (Art. 8 EMRK) geltend machen sollte. Die unentgeltliche Rechtspflege und Verbeiständung setzt allerdings voraus, dass ein Rechtsbegehren nicht aussichtslos ist (<ref-law>). Diese Voraussetzung für die unentgeltliche Rechtspflege ist hier klar nicht gegeben, wofür auf die Erwägungen 4 und 5 des angefochtenen Urteils verwiesen werden kann (<ref-law>).
3. Entsprechend diesem Verfahrensausgang sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Wegen Aussichtslosigkeit besteht auch im bundesgerichtlichen Verfahren kein Anspruch auf unentgeltliche Rechtspflege (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird abgewiesen.
3. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 12. Juli 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Errass