Sachverhalt:
A. Mit Verfügung vom 17. März 2008 entzog das Strassenverkehrsamt des Kantons Zürich X._ den Führerausweis wegen einer schweren Widerhandlung gegen die Strassenverkehrsvorschriften. Sie untersagte ihm das Führen von Motorfahrzeugen aller Kategorien und Unterkategorien im Zeitraum vom 15. Juni 2008 bis zum 14. September 2008. Weiterhin gestattet blieb im das Führen von Fahrzeugen der Spezialkategorien F (Motorfahrzeuge, ausgenommen Motorräder und Roller, mit einer Höchstgeschwindigkeit bis 45 km/h), G (landwirtschaftliche Motorfahrzeuge mit einer Höchstgeschwindigkeit bis 30 km/h, unter Ausschluss der Ausnahmefahrzeuge) sowie M (Motorfahrräder).
Am 15. Juli 2008 wurde X._ in Zürich von der Polizei kontrolliert, weil er die signalisierte Höchstgeschwindigkeit überschritten hatte. Dabei führte er ein von seiner Tochter ausgeliehenes Kleinmotorrad.
Das Bezirksgericht Zürich verurteilte X._ am 3. Juni 2009 unter anderem wegen fahrlässigen Fahrens trotz Entzug des Führerausweises gemäss Art. 95 Abs. 2 SVG zu einer bedingten Geldstrafe von sieben Tagessätzen und einer Busse von Fr. 200.--. Eine dagegen eingelegte Berufung schrieb das Obergericht des Kantons Zürich mit Beschluss vom 7. Mai 2010 wegen Rückzug als erledigt ab.
In der Folge entzog das Strassenverkehrsamt des Kantons Zürich mit Verfügung vom 29. September 2010 X._ den Führerausweis für die Dauer von zwölf Monaten. Als Begründung führte es an, das Lenken eines Motorfahrzeugs trotz Führerausweisentzug stelle eine schwere Widerhandlung im Sinne von Art. 16c Abs. 1 lit. f SVG dar und habe in diesem Fall gemäss Art. 16c Abs. 2 lit. c SVG einen Entzug des Führerausweises für mindestens zwölf Monate zur Folge, weil der Führerausweis in den vorangegangen fünf Jahren bereits wegen einer schweren Widerhandlung entzogen worden sei.
Einen gegen die Verfügung des Strassenverkehrsamts eingelegten Rekurs wies die Sicherheitsdirektion des Kantons Zürich mit Entscheid vom 25. Februar 2011 ab. Daraufhin erhob X._ Beschwerde ans Verwaltungsgericht des Kantons Zürich. Dieses wies das Rechtsmittel mit Urteil vom 7. September 2011 ab.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht vom 24. Oktober 2011 beantragt X._, das Urteil des Verwaltungsgerichts sei aufzuheben und von einer Administrativmassnahme sei abzusehen. Eventualiter sei ein Führerausweisentzug von zwei Monaten zu verfügen. Subeventualiter sei die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen.
Das Strassenverkehrsamt schliesst in seiner Vernehmlassung auf die Abweisung der Beschwerde. Das Verwaltungsgericht beantragt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Das ebenfalls zur Vernehmlassung eingeladene Bundesamt für Strassen ASTRA beantragt die Abweisung der Beschwerde. In seiner Stellungnahme dazu hält der Beschwerdeführer an seinen Anträgen und Rechtsauffassungen fest.
Mit Präsidialverfügung vom 15. November 2011 hat das Bundesgericht der Beschwerde die aufschiebende Wirkung beigelegt.

Erwägungen:
1. Angefochten ist ein kantonal letztinstanzlicher Entscheid über einen Führerausweisentzug. Dagegen steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach Art. 82 ff. BGG offen; eine Ausnahme nach Art. 83 BGG liegt nicht vor. Auf die Beschwerde ist einzutreten.
2. 2.1 Der Beschwerdeführer rügt eine Verletzung seines Anspruchs auf rechtliches Gehör. Sowohl das Strafgericht wie auch die Vorinstanzen des Verwaltungsgerichts seien von einem Sachverhaltsirrtum ausgegangen. Das Verwaltungsgericht dagegen habe den Irrtum als Rechtsirrtum qualifiziert. Diese rechtliche Argumentation sei neu. Das Verwaltungsgericht hätte ihm Gelegenheit einräumen müssen, sich zu dieser Rechtsgrundlage zu äussern.
2.2 Dem Beschwerdeführer ist insoweit zuzustimmen, als einem Betroffenen grundsätzlich Gelegenheit zur Äusserung geboten werden muss, wenn eine Rechtsmittelbehörde eine neue rechtliche Würdigung vorzunehmen gedenkt, mit welcher nicht zu rechnen war (BGE 132 II 485 E. 3.2 und 3.4 S. 494 f.; <ref-ruling> E. 2c S. 22 ff.; je mit Hinweisen). Das Recht auf Stellungnahme ist indessen nicht Selbstzweck. Wenn eine Anhörung zur neuen rechtlichen Grundlage dem Betroffenen für die Wahrnehmung seiner Interessen nichts bringen würde, so ist sie nicht erforderlich (BGE <ref-ruling> E. 2d/bb S. 24). Genau ein solcher Fall liegt hier vor. Die entscheidenden Fragen sind, ob sich der Beschwerdeführer darüber irrte, ob er das Kleinmotorrad der Tochter trotz Führerausweisentzug fahren durfte, und ob er seinen Irrtum bei pflichtgemässer Sorgfalt hätte vermeiden können. Dass das Verwaltungsgericht den Irrtum insoweit als Rechtsirrtum (Art. 21 StGB) qualifizierte, als die irrtümliche Annahme der Zulässigkeit des Lenkens eines Rollers mit einer Höchstgeschwindigkeit von 45 km/h in Frage stand, ändert für den Beschwerdeführer in der Wahrnehmung seiner Interessen nichts. Die tatsächlichen und rechtlichen Argumente, die er zu seiner Verteidigung anführen kann, sind im Wesentlichen die gleichen, unbesehen davon, ob von einem Rechtsirrtum oder von einem Irrtum über ein rechtlich geprägtes Tatbestandsmerkmal, also einem Sachverhaltsirrtum (Art. 13 StGB) auszugehen ist. Es ist denn auch nicht ersichtlich und wird vom Beschwerdeführer nicht dargelegt, welche zusätzlichen Argumente er vorgebracht hätte, wäre ihm die Rechtsauffassung der Vorinstanz bekannt gewesen. Eine Verletzung des rechtlichen Gehörs liegt unter diesen Umständen nicht vor. Die Rüge ist unbegründet.
3. 3.1 Der Beschwerdeführer macht geltend, dass er im Moment, als sich sein Motorfahrrad beim Mechaniker befunden habe, davon überzeugt gewesen sei, das Kleinmotorrad seiner Tochter gehöre in dieselbe Kategorie. In den wesentlichen Merkmalen würden sich die beiden Fahrzeuge entsprechen: Sie hätten eine gelbe Nummer, würden ungefähr gleich schnell fahren und sähen vergleichbar aus. Es sei willkürlich anzunehmen, dass die Kenntnis der Unterschiede zwischen den Fahrzeugen ohne Weiteres vorausgesetzt werden dürfe. Er habe sich in einem Sachverhaltsirrtum befunden. Diesen hätte er wegen der erwähnten Ähnlichkeiten auch bei pflichtgemässer Sorgfalt nicht vermeiden können. Zudem wäre Art. 16c Abs. 1 lit. f SVG selbst dann nicht anwendbar, wenn er den Irrtum bei pflichtgemässer Aufmerksamkeit hätte vermeiden können. Er sei nur bestraft worden, wie wenn er fahrlässig trotz Ausweisentzugs gefahren wäre. Die blosse Bestrafung, wie wenn er die Handlung fahrlässig begangen hätte, dürfe aber nicht gleichgesetzt werden mit der tatsächlichen fahrlässigen Begehung der Tat und dürfe nicht dazu führen, dass die Voraussetzungen von Art. 16c Abs. 1 lit. f SVG als erfüllt betrachtet werden. An einen solchen Fall habe der Gesetzgeber nicht gedacht. Im Übrigen sei anlässlich der Verhandlung vor dem Verwaltungsgericht keine Rede davon gewesen, dass es sich um einen Rechtsirrtum und nicht um einen Sachverhaltsirrtum handeln könne. Die Abweichung vom Strafurteil zu seinen Ungunsten sei deshalb nicht gerechtfertigt.
3.2 Das Verwaltungsgericht führt aus, bei einem langjährigen Verkehrsteilnehmer wie dem Beschwerdeführer, der den Führerausweis erworben habe, dürfe vorausgesetzt werden, dass er den Unterschied zwischen Kleinmotorrädern und Motorfahrrädern kenne. Nebst der Höchstgeschwindigkeit unterschieden sich die beiden Kategorien auch optisch bezüglich der Karosserie sowie der Pedale (Art. 14 lit. b, Art. 18 lit. b und Art. 177 Abs. 3 der Verordnung vom 19. Juni 1995 über die technischen Anforderungen an Strassenfahrzeuge [VTS; SR 741.41]). Der Beschwerdeführer sei sich der Tatsache durchaus bewusst gewesen, dass das Kleinmotorrad seiner Tochter nicht ein Motorfahrzeug war, dessen bauartbedingte Geschwindigkeit auf 30 km/h beschränkt war. Einem Sachverhaltsirrtum sei er diesbezüglich nicht unterlegen. Indessen habe der Beschwerdeführer in der rechtsirrtümlichen Annahme gehandelt, ihm sei auch das Lenken eines Rollers mit einer Höchstgeschwindigkeit von 45 km/h gestattet. In der Verfügung des Strassenverkehrsamts vom 17. März 2008 seien von der Fahrberechtigung jedoch "Motorräder und Roller" explizit ausgenommen worden. Der betreffende Satzteil sei durch Unterstreichen noch hervorgehoben worden. Selbst einem juristischen Laien habe klar sein müssen, dass Motorroller von der Fahrerlaubnis nicht umfasst gewesen seien. Ein gewissenhaft handelnder Mensch hätte angesichts der Formulierung und der angedrohten empfindlichen Sanktion zumindest Zweifel gehegt und weitere Nachforschungen angestellt, sich z.B. beim Strassenverkehrsamt erkundigt. Der Beschwerdeführer sei gemäss der Entzugsverfügung zudem verpflichtet gewesen, diese stets mit sich zu führen. Er könne sich daher nicht damit entlasten, er habe den genauen Wortlaut der Verfügung nicht mehr präsent gehabt, als er einen Ersatz für das Mofa organisierte. Insgesamt habe er den Rechtsirrtum grobfahrlässig herbeigeführt. Ein Unterschreiten der gesetzlichen Mindestentzugsdauer komme deshalb nicht in Betracht.
3.3 Nach den Feststellungen der Vorinstanz wie auch des Bezirksgerichts Zürich hat der Beschwerdeführer irrtümlich angenommen, trotz der Entzugsverfügung einen Roller fahren zu dürfen. Es handelt sich bei diesem Irrtum um einen solchen über ein rechtlich geprägtes Tatbestandsmerkmal und mithin um einen Sachverhaltsirrtum im Sinne von Art. 13 StGB (der Fall ist mit jenem vergleichbar, wo sich der Fahrzeuglenker über die an einem bestimmten Ort zulässige Höchstgeschwindigkeit irrt, vgl. Urteil 6A.108/1996 vom 7. Februar 1997 E. 3e; grundlegend zur Abgrenzung zwischen Sachverhaltsirrtum und Rechtsirrtum: <ref-ruling> E. 3.2 S. 241 ff. mit Hinweisen). Gemäss der unbestrittenen Feststellung der Vorinstanz war der Beschwerdeführer nach seinen eigenen Angaben der Überzeugung gewesen, er dürfe jedes "Töffli" oder sogar vierrädrige Fahrzeuge mit einer Höchstgeschwindigkeit bis 45 km/h fahren. Dies ist angesichts des Wortlauts der Entzugsverfügung indessen schwer nachvollziehbar. Danach blieb dem Beschwerdeführer lediglich das Führen der folgenden Spezialkategorien gestattet (Unterstreichung im Original):
"Kat. F Motorfahrzeuge, ausgenommen Motorräder und Roller, mit einer Höchstgeschwindigkeit bis 45 km/h
Kat. G Landwirtschaftliche Motorfahrzeuge mit einer Höchstgeschwindigkeit bis 30 km/h, unter Ausschluss der Ausnahmefahrzeuge
Kat. M Motorfahrräder"
Es ist offensichtlich, dass der Satzteil "ausgenommen Motorräder und Roller" sinnlos würde, wenn man annehmen würde, das Führen eines jeden Fahrzeugs mit einer Höchstgeschwindigkeit von 45 km/h sei gestattet. Die Verfügung unterscheidet zudem klar zwischen Motorfahrrädern einerseits sowie Motorrädern und Rollern andererseits. Wenn sich der Beschwerdeführer auf den Standpunkt stellt, dass er davon ausgegangen sei, das Fahrzeug der Tochter habe derselben Kategorie angehört wie sein eigenes, so macht er indirekt geltend, diesen Unterschied nicht verstanden zu haben. Diesbezüglich weist die Vorinstanz zu Recht darauf hin, dass er sich im Falle von Zweifeln bei einer fachkundigen Stelle hätte informieren sollen (vgl. dazu Urteil 6A.6/2004 vom 8. Juni 2004 E. 2.4). Solche Zweifel hätten beim Beschwerdeführer aufkommen müssen, insbesondere auch aufgrund der Unterstreichung des Satzteils "ausgenommen Motorräder und Roller" sowie der Pflicht, die Verfügung mitzuführen. Die Annahme grober Fahrlässigkeit ist unter diesen Voraussetzungen nicht zu beanstanden. Der Rechtfertigungsgrund des Sachverhaltsirrtums kommt deshalb nicht zum Tragen (Art. 13 Abs. 1 und 2 StGB).
Eine unzulässige Abweichung vom Urteil des Bezirksgerichts Zürich, das den Beschwerdeführer unter anderem des fahrlässigen Fahrens trotz Entzug des Führerausweises im Sinne von Art. 95 Ziff. 2 SVG schuldig gesprochen hat, liegt bei diesem Ergebnis nicht vor.
3.4 Der Beschwerdeführer hat somit den Tatbestand von Art. 16c Abs. 1 lit. f SVG erfüllt, wobei ihm grobe Fahrlässigkeit vorzuwerfen ist. Dass er bloss so bestraft worden sei, "wie wenn" er den betreffenden Tatbestand fahrlässig erfüllt hätte, und dass dies nicht mit der "tatsächlichen" fahrlässigen Begehung gleichgesetzt werden könne, ist nicht nachvollziehbar und widerspricht zudem der Rechtsprechung (siehe Urteil 1C_275/2007 vom 16. Mai 2008 E. 3.9.4 mit Hinweisen).
Nach einer schweren Widerhandlung wird der Lernfahr- oder Führerausweis für mindestens zwölf Monate entzogen, wenn - wie vorliegend - in den vorangegangenen fünf Jahren der Ausweis bereits einmal wegen einer schweren Widerhandlung entzogen war (Art. 16c Abs. 2 lit. c SVG). Gegenüber dem Beschwerdeführer wurde eine Entzugsdauer von zwölf Monaten angeordnet. Dies entspricht der gesetzlichen Mindestentzugsdauer, die gemäss Art. 16 Abs. 3 Satz 2 SVG nicht unterschritten werden darf. Ob die letztgenannte Bestimmung auch im Falle von Fahrlässigkeit die Unterschreitung der Mindestentzugsdauer generell ausschliesst oder im Sinne der Rechtsprechung zu den altrechtlichen Administrativmassnahmen ein Abweichen bei lediglich einfacher Fahrlässigkeit zulässt, hat das Bundesgericht bisher nicht abschliessend beantwortet (Urteil 1C_275/2007 vom 16. Mai 2008 E. 4.5 und 4.5.3 mit Hinweis). Die Frage ist hier, wo nach dem Gesagten ohnehin von grober Fahrlässigkeit auszugehen ist, nicht weiter zu vertiefen.
Zusammenfassend ergibt sich, dass die Rüge der Verletzung von Art. 16c Abs. 1 lit. f SVG unbegründet ist.
4. Die Beschwerde ist nach dem Gesagten abzuweisen. Bei diesem Ausgang trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG). Er hat keinen Anspruch auf eine Parteientschädigung (Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird dem Beschwerdeführer, dem Strassenverkehrsamt und dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, Einzelrichter, sowie dem Bundesamt für Strassen schriftlich mitgeteilt.
Lausanne, 9. Februar 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Dold