Sachverhalt:
A. Im Rahmen einer Strafuntersuchung gab X._ zu, Kokain konsumiert zu haben. Gestützt auf den Rapport der Kantonspolizei Zürich ordnete die Abteilung Administrativmassnahmen des Strassenverkehrsamts des Kantons Zürich am 25. Juni 2009 eine verkehrsmedizinische Untersuchung an, der sich X._ am 19. November 2009 unterzog.
Am 2. Februar 2010 beliess die Abteilung Administrativmassnahmen X._ den Führerausweis unter der Auflage, eine kontrollierte Alkohol- und Betäubungsmittelabstinenz einzuhalten und an regelmässigen Besprechungen mit einer Fachperson für Alkoholprobleme teilzunehmen.
Gestützt auf das Ergebnis einer Abstinenzkontrolle vom 16. August 2010, wonach X._ sowohl Alkohol als auch Kokain konsumiert habe, entzog ihm die Abteilung Administrativmassnahmen am 12. November 2010 den Führerausweis auf unbestimmte Zeit und machte die Wiedererteilung von einem günstigen verkehrsmedizinischen Gutachten abhängig.
Die Rekursabteilung der Sicherheitsdirektion des Kantons Zürich wies den Rekurs von X._ am 2. September 2011 ab.
Das Verwaltungsgericht des Kantons Zürich wies die Beschwerde von X._ gegen diesen Rekursentscheid am 13. Dezember 2011 ab, soweit es darauf eintrat.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt X._ sinngemäss, das Verwaltungsgerichtsurteil aufzuheben, ihm den Führerausweis allenfalls unter Auflagen wiederzuerteilen oder allenfalls einen Warnungsentzug von 3 Monaten zu verhängen. Ausserdem sei er zu entschädigen. Er ersucht zudem um unentgeltliche Rechtspflege und, falls notwendig, die Beigabe eines unentgeltlichen Rechtsvertreters.
C. Das Verwaltungsgericht beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei, und verzichtet im Übrigen auf Vernehmlassung. Die Abteilung Administrativmassnahmen und die Rekursabteilung der Sicherheitsdirektion beantragen, die Beschwerde abzuweisen. Das ASTRA beantragt, die Beschwerde abzuweisen.
Erwägungen:
1. 1.1 Angefochten ist ein kantonal letztinstanzlicher Entscheid über einen Führerausweisentzug. Dagegen steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach Art. 82 ff. BGG offen. Als vom Ausweisentzug Betroffener ist der Beschwerdeführer befugt sie zu erheben (Art. 89 Abs. 1 BGG). Er rügt die Verletzung von Bundesrecht, was zulässig ist (Art. 95 lit. a, Art. 97 Abs. 1 BGG). Die übrigen Sachurteilsvoraussetzungen sind erfüllt, weshalb auf die Beschwerde einzutreten ist.
1.2 Ausser Betracht fällt die Beigabe eines unentgeltlichen Verteidigers, da die Beschwerdefrist abgelaufen ist und er damit in dieses Verfahren nicht mehr wirksam eingreifen könnte.
2. 2.1 Ein Führerausweis darf (u.a.) nicht erteilt werden oder ist zu entziehen, wenn der Lenker an einer die Fahreignung ausschliessenden Sucht leidet (Art. 14 Abs. 2 lit. c, Art. 16d Abs. 1 lit. b SVG). Die verkehrsmedizinische Begutachtung des IRMZ vom 18. Januar 2010 kam zum Schluss, "aufgrund der Vorgeschichte mit Kokainabhängigkeit und schädlichem Gebrauch von Alkohol" könne die Fahreignung des Beschwerdeführers nur unter Einhaltung einer Alkohol- und Drogenabstinenz bejaht werden. Gestützt auf dieses Gutachten beliess die Abteilung Administrativmassnahmen am 2. Februar 2010 dem Beschwerdeführer den Führerausweis mit den entsprechenden Abstinenzauflagen. Diese Verfügung wurde vom Beschwerdeführer nicht angefochten.
2.2 Der Beschwerdeführer liess sich am 16. August 2010 am IMRZ untersuchen. Im Gutachten vom 14. September 2010 wird ausgeführt, der Beschwerdeführer habe angegeben, die Alkoholabstinenz nicht eingehalten und pro Woche 3 - 4 Gläschen Wein getrunken zu haben. Zur Abstinenzkontrolle in Bezug auf Alkohol wird im Gutachten ausgeführt, bei der Haaranalyse sei für den Zeitraum von Anfang März bis Anfang August 2010 ein Gehalt von 8 pg/mg Ethylglucoronid (EtG) festgestellt worden. Dabei handle es sich um ein Stoffwechselprodukt des Trinkalkohols, das im Haar eingelagert werde. Die Nachweisgrenze liege bei der verwendeten Analysemethode bei 7 pg/mg; gemäss ihrer wissenschaftlichen Erfahrung werde diese Nachweisgrenze durch übliche Trinkmengen alkoholfreien Bieres, welches einen Alkoholgehalt von max. 0,5 Vol.% haben dürfe, und den sachgemässen Gebrauch von alkoholhaltigen Produkten (Haarwasser, Mundwasser, Hustensirup etc.) nicht erreicht. Bei der Interpretation der EtG-Haaranalyse-Werte sei eine Messunsicherheit von +/- 25% zu berücksichtigen. Das Gutachten kam zum Schluss, der Beschwerdeführer habe im Zeitraum von Anfang März bis Anfang August 2010 mässig Alkohol konsumiert; dass er abstinent gewesen sei, könne ausgeschlossen werden. In Bezug auf Drogenkonsum ergab die Analyse Werte von 760 pg/mg Kokain und 220 pg/mg Ethyl-Kokain, womit der Konsum von Kokain und Alkohol für den Zeitraum von ca. Anfang März bis Anfang August 2010 bewiesen sei; eine Drogenabstinenz sei auszuschliessen.
Die Abteilung Administrativmassnahmen holte vom IRMZ eine Stellungnahme zu seinem Gutachten ein. Dieses hielt am 15. Oktober 2010 an seinem Gutachten vollumfänglich fest. Der Beschwerdeführer habe im massgebenden Zeitraum mässigen Alkohol- und einen vereinzelten, schwachen Kokainkonsum betrieben und nicht abstinent gelebt. In Bezug auf den Drogenkonsum hat es ausgeschlossen, dass die Analyse durch Rückstände früheren Drogenkonsums oder durch Kontamination von aussen verfälscht wurde. In Bezug auf den Alkoholkonsum führte es aus, selbst bei Berücksichtigung der Messunsicherheit von +/- 25% liege der gemessene Wert von 8 pg/mg über der Nachweisgrenze von 5 pg/mg, womit der Alkoholkonsum im fraglichen Zeitraum nachgewiesen sei.
2.3 Das Gutachten vom 14. September 2010 ist in Bezug auf die Einhaltung der Abstinenzverpflichtung des Beschwerdeführers in Bezug auf Alkohol in sich widersprüchlich. Bei einem gemessenen EtG-Wert von 8 pg/mg ist bei einer durch die Analysemethode bedingten Messungenauigkeit von +/- 25% zu Gunsten des Beschwerdeführers von einem massgebenden EtG-Wert von 6 pg/mg auszugehen. Dieser liegt unter der Nachweisgrenze von 7 pg/mg. Damit gilt er nach dem Ergebnis der Haaranalyse als abstinent, die Interpretation des IRMZ widerspricht dem Ergebnis seiner Analyse. In seiner Stellungnahme vom 15. Oktober 2010 bestätigt es seine Interpretation indessen mit der Begründung, ein gemessener EtG-Wert von 8 pg/mg liege auch bei Berücksichtigung der Messunschärfe über der Nachweisgrenze von 5 pg/mg. Damit hält das IRMZ an seiner ursprünglichen, wegen der Nicht-Berücksichtigung der Messungenauigkeit fehlerhaften Interpretation des Analyseresultats fest, indem es - ohne jede Begründung - die Nachweisgrenze von 7 auf 5 pg/mg senkt. Ein solches Vorgehen ist unlauter und nicht geeignet, das Vertrauen in die wissenschaftliche Objektivität der Gutachter und die Zuverlässigkeit ihrer Gutachten zu stärken.
2.4 Die Vorinstanz ist zum Schluss gekommen, bereits aufgrund der eigenen Angaben des Beschwerdeführers, unabhängig vom Ergebnis des Gutachtens, stehe fest, dass er im fraglichen Zeitraum Alkohol getrunken habe, die Bestreitung bzw. der Rückzug dieser Aussagen sei unglaubhaft.
Ob der Beschwerdeführer während eines bestimmten Zeitraums Alkohol zu sich genommen hat und wenn ja, in welcher Grössenordnung und welchem Rhythmus, ist eine Fragestellung, die durch das Haargutachten nach rein naturwissenschaftlichen Kriterien beantwortet werden kann, da dieses ein Stoffwechselprodukt des Trinkalkohols im Haar direkt nachweist. Die Methode ist anerkannt (Urteile 6A.8/2007 vom 1. Mai 2007; 1C_342/2009 vom 23. März 2010 E. 3). Weichen die Eigenangaben des Betroffenen zu seinem Alkoholkonsum vom Ergebnis des Gutachtens ab, werden sie dementsprechend regelmässig als unglaubhaft eingestuft. Ob das derart festgestellte Trinkverhalten die Fahreignung beeinträchtigt, ist dagegen keine rein medizinische Fragestellung, sondern hängt massgeblich von juristischen Beurteilungen und Wertungen ab; die Fahreignung kann deshalb nicht allein aufgrund eines gutachterlich festgestellten EtG-Werts, der auf einen übermässigen Alkoholkonsum hindeutet, verneint werden (Urteil 1C_150/2010 vom 25. November 2010 E. 5).
Vorliegend hat das Haargutachten ergeben, dass der (mögliche) Alkoholkonsum des Beschwerdeführers unter der Nachweisgrenze lag. Das Vorgehen der Vorinstanz, das Gutachten auszublenden und die (bestrittenen bzw. zurückgezogenen) Aussagen des Beschwerdeführers zu seinen Lasten zu würdigen, erscheint nach dem Gesagten als fragwürdig. Wollte man den Konsum von kleinen Alkoholmengen, der unter der Nachweisgrenze von Haargutachten bleibt, als Verstoss gegen die Abstinenzauflage erfassen, wären die (teuren) Haargutachten nicht geeignet, den Abstinenznachweis zu erbringen und dürften damit auch nicht angeordnet werden. Das erscheint indessen nicht sachgerecht. Konsequenterweise ist dann jedoch im Prinzip davon auszugehen, dass derjenige als abstinent gilt, dessen (möglicher) Alkoholkonsum unter der Nachweisgrenze des Haargutachtens liegt. Das ist auch mit Sinn und Zweck der Auflage durchaus vereinbar, denn wer seinen Alkoholkonsum monatelang so einschränken kann, dass er unter der Nachweisgrenze bleibt, hat jedenfalls für den fraglichen Zeitraum ein kontrolliertes, unter dem Gesichtspunkt der Verkehrssicherheit vertretbares Trinkverhalten nachgewiesen. Wie es sich damit im vorliegenden Fall konkret verhält, kann letztlich aber offen bleiben, da der Beschwerdeführer gegen das ihm ebenfalls auferlegte Verbot verstiess, Kokain zu konsumieren (unten E. 2.5, 2.6).
2.5 Schlüssig erscheint das Gutachten hingegen in Bezug auf den Kokainkonsum. Diesbezüglich kann darauf abgestellt werden, dass der Beschwerdeführer die ihm auferlegte Abstinenzverpflichtung nicht einhielt. Die Gutachter weisen plausibel nach, dass die positiven Testergebnisse weder durch den früheren Kokainkonsum des Beschwerdeführers noch durch Kontaminationen von aussen bzw. durch Dritte erklärbar sind, sondern einzig durch vereinzelten, schwachen Kokainkonsum im von der Abstinenzverpflichtung erfassten Zeitraum.
2.6 Es ist somit davon auszugehen, dass der Beschwerdeführer im fraglichen Zeitraum Kokain konsumierte und die ihm rechtskräftig auferlegte Abstinenzverpflichtung verletzte. Damit lag es im Ermessen des Strassenverkehrsamts, ihm den Ausweis zu entziehen (Art. 16 Abs. 1 SVG). Da für das Führen eines Motorfahrzeugs in Bezug auf diese Droge Nulltoleranz gilt (Art. 2 Abs. 2 lit. c VRV) und beim Beschwerdeführer im psychiatrischen Gutachten vom 11. September 2009 immerhin eine mittelschwere Abhängigkeit von Kokain diagnostiziert worden war, ist nicht zu beanstanden, dass ihm der Führerausweis wegen Nichteinhaltung der Abstinenzverpflichtung entzogen und seine Wiedererteilung von einer sechsmonatigen Abstinenz abhängig gemacht wurde.
3. Die Beschwerde ist somit abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer an sich kostenpflichtig (Art. 66 Abs. 1 BGG). Er hat indessen ein Gesuch um unentgeltliche Rechtspflege gestellt, welches gutzuheissen ist, da die Beschwerde nicht von vornherein aussichtslos war und die Bedürftigkeit des Beschwerdeführers ausgewiesen erscheint (Art. 64 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird gutgeheissen. Es werden keine Gerichtskosten erhoben.
3. Dieses Urteil wird dem Beschwerdeführer, der Sicherheitsdirektion des Kantons Zürich, Abteilung Administrativmassnahmen, dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, Einzelrichter, und dem Bundesamt für Strassen, Sekretariat Administrativmassnahmen, schriftlich mitgeteilt.
Lausanne, 18. April 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi