Sachverhalt:
A. Am 27. April 2007 entzog das Strassenverkehrsamt des Kantons Aargau X._ den Führerausweis vorsorglich bis zur Abklärung von Ausschlussgründen auf unbestimmte Zeit und ordnete eine fachärztliche Begutachtung an zur Klärung der Fragen, ob bei ihm eine die Fahreignung ausschliessende Trunksucht vorliege und unter welchen Voraussetzungen die Fahreignung wieder bejaht werden könne. Zur Begründung führte es an, X._ habe gemäss Zeugnis der neurologischen Klinik des Kantonsspitals Aarau vom 5. April 2007 am 4. April 2007 mehrere durch Alkoholentzug provozierte epileptische Anfälle erlitten, was Zweifel an seiner Fahreignung erwecke.
Am 29. September 2010 erteilte das Strassenverkehrsamt X._ den Führerausweis nach Einholung eines psychiatrischen Gutachtens vom 25. März 2009 und eines neuropsychologischen bzw. neurologischen Gutachtens vom 8. September 2010 gestützt auf Art. 14 Abs. 2 lit. b und c SVG unter verschiedenen Auflagen wieder, namentlich einer ärztlich begleiteten und kontrollierten Alkoholabstinenz während mindestens zweier Jahre, sofortigem Melden anfallartiger Störungen an den Arzt und das Strassenverkehrsamt, regelmässiger Einnahme allfällig verordneter Medikamente (Dispositiv-Ziffer 1) und dem Bestehen einer neuen Führerprüfung (Dispositiv-Ziffer 4).
Am 20. Januar 2011 wies das Departement Volkswirtschaft und Inneres (DVI) die Beschwerde von X._ gegen diese Verfügung des Strassenverkehrsamts ab.
Am 17. August 2011 hiess das Verwaltungsgericht des Kantons Aargau die Beschwerde von X._ teilweise gut, hob Dispositiv-Ziffer 4 der Verfügung des Strassenverkehrsamts vom 29. September 2010 auf und ersetzte sie durch folgende neue Dispositiv-Ziffer 4:
Am 17. August 2011 hiess das Verwaltungsgericht des Kantons Aargau die Beschwerde von X._ teilweise gut, hob Dispositiv-Ziffer 4 der Verfügung des Strassenverkehrsamts vom 29. September 2010 auf und ersetzte sie durch folgende neue Dispositiv-Ziffer 4:
"4. a) Der Beschwerdeführer wird verpflichtet, eine Kontrollfahrt gemäss Art. 29 VZV zu absolvieren.
b) Das Strassenverkehrsamt wird angewiesen, den Beschwerdeführer zu einer Kontrollfahrt aufzubieten."
Im Übrigen wies es die Beschwerde ab.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt X._ sinngemäss, ihm den Führerausweis sofort und ohne oder allenfalls mit der einzigen Auflage zu erteilen, beim Lenken eines Motorfahrzeugs "0,0 Promille" einzuhalten. Allenfalls sei ihm der Führerausweis sofort zurückzugeben mit der Anordnung, bei einem Fahrlehrer abzuklären, ob eine "PW-Auffrischung" notwendig sei und gegebenenfalls die erforderlichen Fahrstunden zu absolvieren. Oder aber es sei ihm der Führerausweis gestaffelt zurückzugeben, zunächst der Mofa-Ausweis, nach 2-3 Monaten der Ausweis der Kategorie "Vespacar/Piaggio-Ape", nach weiteren 2-3 Monaten der Ausweis Kategorie A1 und nach weiteren 2-3 Monaten der Ausweis der Kategorie Personenwagen.
C. Das Strassenverkehrsamt, das DVI und das Verwaltungsgericht verzichten auf Vernehmlassung. Das Bundesamt für Strassen (ASTRA) beantragt, die Beschwerde abzuweisen.
Erwägungen:
1. Der angefochtene, kantonal letztinstanzliche Entscheid des Verwaltungsgerichts betrifft die Wiedererteilung des Führerausweises nach einem vorsorglichen Entzug und damit eine öffentlich-rechtliche Angelegenheit. Dagegen ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig (Art. 82 Abs. 1 lit. a, Art. 86 Abs. 1 lit. d BGG). Als zur Einhaltung von Auflagen Verpflichteter ist der Beschwerdeführer befugt, sie zu erheben (Art. 89 Abs. 1 BGG). Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Beschwerde einzutreten ist.
2. 2.1 Ein Führerausweis darf (u.a.) nicht erteilt werden oder ist zu entziehen, wenn der Lenker nicht über die körperliche und geistige Leistungsfähigkeit zum sicheren Führen eines Motorfahrzeugs verfügt oder an einer die Fahreignung ausschliessenden Sucht leidet (Art. 14 Abs. 2 lit. b und c SVG). Bestehen Bedenken an der Fahreignung, kann eine Kontrollfahrt angeordnet werden (Art. 29 Abs. 1 VZV).
2.2 Das Strassenverkehrsamt entzog dem Beschwerdeführer am 27. April 2007 den Führerausweis vorsorglich, weil es aufgrund der Meldung des Kantonsspitals Aarau, der Beschwerdeführer habe mehrere durch Alkoholentzug provozierte epileptische Anfälle erlitten, Zweifel an dessen Fahreignung hatte. Diese Zweifel drängten sich in Anbetracht der Vorgeschichte geradezu auf. Dem Beschwerdeführer war 1998 der Führerausweis wegen zwei Trunkenheitsfahrten für 8 Monate entzogen worden; am 11. April 2001 erfolgte ein vorsorglicher Sicherungsentzug wegen Anfallsleiden und Suchtproblematik, wobei ihm am 16. August 2001 der Führerausweis wieder erteilt wurde, u.a. mit der Auflage einer zweijährigen kontrollierten Alkoholabstinenz, die am 11. September 2003 gestützt auf einen positiven ärztlichen Verlaufsbericht aufgehoben wurde. Der Beschwerdeführer hat sich gegen diese provisorische Massnahme zu Recht nicht zur Wehr gesetzt.
2.3 Die psychiatrische und die neurologische bzw. neuropsychologische Abklärungen haben ergeben, dass die Fahreignung des Beschwerdeführers aus medizinischer Sicht bei Einhaltung einer totalen Alkoholabstinenz bejaht werden kann. Es ist daher offensichtlich nicht zu beanstanden, die Wiedererteilung des Führerausweises von der Einhaltung einer kontrollierten Alkoholabstinenz während mindestens zweier Jahre und der Einnahme allfällig zur Vermeidung von epileptischen Anfällen verschriebener Medikamente abhängig zu machen. Da Alkoholentzug beim Beschwerdeführer epileptische Anfälle auslösen kann, ist die von ihm vorgeschlagene Auflage ungenügend, nur in völlig nüchternem Zustand, mit einem Blutalkoholgehalt von 0,0 Promillen, ein Motorfahrzeug zu lenken. Ihre Einhaltung würde nicht verhindern, dass er nach dem Konsum von Alkohol zufolge Zeitablaufs zwar nüchtern, aber mit dem erhöhten Risiko eines epileptischen Anfalls ein Auto lenken dürfte.
2.4 In Bezug auf die praktische Fahreignung des Beschwerdeführers erwog das Verwaltungsgericht zusammengefasst, angesichts der nunmehr seit über vier Jahren fehlenden Fahrpraxis und der langjährigen Alkoholsucht, die der Beschwerdeführer durchgestanden habe, bestünden trotz der 32-jährigen Fahrpraxis objektiv Zweifel daran, dass er noch fahrtauglich sei. Es sei indessen insbesondere auch in Anbetracht des Umstands, dass das Strassenverkehrsamt das Verfahren über ein Jahr verschleppt habe und dadurch in diesem Umfang für die fehlende Fahrpraxis des Beschwerdeführers verantwortlich sei, unverhältnismässig, die Wiedererteilung des Führerausweises vom erneuten Bestehen einer Führerprüfung abhängig zu machen. Es genüge, wenn der Beschwerdeführer seine Fahreignung mit dem Bestehen einer Kontrollfahrt nachweise.
Auch der Beschwerdeführer selber bestreitet im Grunde nicht, dass seine Fahreignung objektiv zweifelhaft erscheint. Er möchte sie allerdings von einem Fahrlehrer abklären lassen und, falls erforderlich, einige Fahrstunden zur Auffrischung seines fahrerischen Könnens nehmen. Die positive Beurteilung eines vom Beschwerdeführer privat beauftragten Fahrlehrers wäre indessen nicht geeignet, seine Fahrtauglichkeit nachzuweisen. Dazu ist das Bestehen einer Kontrollfahrt im Sinn von Art. 29 VZV erforderlich. Deren Anordnung setzt entgegen der Auffassung des Beschwerdeführers nicht voraus, dass er zuvor durch Verkehrsregelverletzungen auffällig geworden wäre. Es ist daher keineswegs bundesrechtswidrig, dass das Verwaltungsgericht die Wiedererteilung des Führerausweises davon abhängig macht. Die Rüge ist unbegründet.
2.5 Der Beschwerdeführer beantragt eine gestaffelte Wiedererteilung des Führerausweises. Zunächst soll ihm derjenige für das Führen von Mofas wiedererteilt werden und nach einer Bewährungszeit von 2-3 Monaten der Ausweis der nächsthöheren Kategorie und so fort, bis er wieder über die Ausweise für alle Kategorien verfüge, die er zuvor besessen habe. Ein solches Vorgehen wird vom Gesetz nicht vorgesehen und fällt daher von vornherein ausser Betracht.
3. Die Beschwerde ist damit abzuweisen. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Strassenverkehrsamt, dem Departement Volkswirtschaft und Inneres und dem Verwaltungsgericht des Kantons Aargau, 1. Kammer, sowie dem Bundesamt für Strassen, Sekretariat Administrativmassnahmen, schriftlich mitgeteilt.
Lausanne, 9. Januar 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi