Sachverhalt:
A. X._ fuhr am 23. Mai 2009, um ca. 23:10 Uhr, am Steuer eines Personenwagens auf der Autobahn A4 in Richtung Schwyz. Dabei wurde seine Geschwindigkeit von der Zuger Kantonspolizei mit einer in einem Dienstwagen eingebauten Video-Distanz-Auswertungs-Anlage gemessen mit dem Ergebnis, dass er zunächst die signalisierte Höchstgeschwindigkeit von 80 km/h (nach Abzug der Toleranz) um 38 km/h und anschliessend die zulässige Höchstgeschwindigkeit von 120 km/h um 20 km/h überschritten hatte. Ausserdem wechselte er nach den Beobachtungen der Polizeibeamten die Fahrspur, ohne dies entsprechend zu signalisieren. X._ wurde bei der Ausfahrt Küssnacht auf dem Gebiet der Gemeinde Immensee angehalten.
Die Einzelrichterin des Strafgerichts Zug verurteilte X._ am 9. März 2011 wegen einfacher Verletzung von Verkehrsregeln im Sinn von Art. 90 Ziff. 1 SVG i.V.m. Art. 27 Abs. 1 SVG und Art. 39 Abs. 1 SVG zu einer Busse von Fr. 700.--. Das Strafurteil blieb unangefochten.
B. Am 16. Mai 2011 entzog das Verkehrsamt des Kantons Schwyz X._ den Führerausweis wegen schwerer Widerhandlung gegen die Strassenverkehrsvorschriften im Sinn von Art. 16c Abs. 1 lit. a SVG in Anwendung von Art. 16c Abs. 2 lit. a SVG für drei Monate.
Das Verwaltungsgericht des Kantons Schwyz wies die Beschwerde von X._ gegen diese Verfügung am 20. Juli 2011 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt X._, diesen Entscheid des Verwaltungsgerichts aufzuheben und ihn zu verwarnen oder ihm eventuell den Führerausweis für einen Monat zu entziehen.
D. Das Verwaltungsgericht beantragt in seiner Vernehmlassung, die Beschwerde abzuweisen. Das Bundesamt für Strassen (ASTRA) beantragt ebenfalls, die Beschwerde abzuweisen.
E. X._ hält in seiner Replik an der Beschwerde fest.
Erwägungen:
1. Angefochten ist ein kantonal letztinstanzlicher Entscheid über einen Führerausweisentzug. Dagegen steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach Art. 82 ff. BGG offen; ein Ausnahmegrund ist nicht gegeben (Art. 83 BGG). Der Beschwerdeführer rügt die Verletzung von Bundesrecht, was zulässig ist (Art. 95 lit. a, Art. 97 Abs. 1 BGG). Die übrigen Sachurteilsvoraussetzungen sind erfüllt, weshalb auf die Beschwerde einzutreten ist.
2. 2.1 Das Gesetz unterscheidet zwischen der leichten, mittelschweren und schweren Widerhandlung (Art. 16a-c SVG). Gemäss Art. 16a SVG begeht eine leichte Widerhandlung, wer durch Verletzung von Verkehrsregeln eine geringe Gefahr für die Sicherheit anderer hervorruft und ihn dabei nur ein leichtes Verschulden trifft (Abs. 1 lit. a). Die fehlbare Person wird verwarnt, wenn in den vorangegangenen zwei Jahren der Ausweis nicht entzogen war und keine andere Administrativmassnahme verfügt wurde (Abs. 3). Gemäss Art. 16b SVG begeht eine mittelschwere Widerhandlung, wer durch Verletzung von Verkehrsregeln eine Gefahr für die Sicherheit anderer hervorruft oder in Kauf nimmt (Abs. 1 lit. a). Nach einer mittelschweren Widerhandlung wird der Führerausweis für mindestens einen Monat entzogen (Abs. 2 lit. a). Leichte und mittelschwere Widerhandlungen werden von Art. 90 Ziff. 1 SVG als einfache Verkehrsregelverletzungen erfasst (BGE 135 II 138 E. 2.4 S. 143). Gemäss Art. 16c SVG begeht eine schwere Widerhandlung, wer durch grobe Verletzung von Verkehrsregeln eine ernstliche Gefahr für die Sicherheit anderer hervorruft oder in Kauf nimmt (Abs. 1 lit. a). Nach einer schweren Widerhandlung, welche einer groben Verkehrsregelverletzung im Sinne von Art. 90 Ziff. 2 SVG entspricht (BGE 132 II 234 E. 3 S. 237), wird der Führerausweis für mindestens drei Monate entzogen (Abs. 2 lit. a). Eine Unterschreitung der gesetzlichen Mindestentzugsdauern ist ausgeschlossen (Art. 16 Abs. 3 SVG).
2.2 Die mittelschwere Widerhandlung nach Art. 16b Abs. 1 lit. a SVG stellt einen Auffangtatbestand dar. Sie liegt vor, wenn nicht alle privilegierenden Elemente einer leichten Widerhandlung nach Art. 16a Abs. 1 lit. a SVG und nicht alle qualifizierenden Elemente einer schweren Widerhandlung nach Art. 16c Abs. 1 lit. a SVG gegeben sind (Urteil 6A.16/2006 vom 6. April 2006 E. 2.1.1, in: JdT 2006 I S. 442; Botschaft vom 31. März 1999 zur Änderung des Strassenverkehrsgesetzes, BBl 1999 4487). Die Annahme einer schweren Widerhandlung setzt kumulativ eine qualifizierte objektive Gefährdung und ein qualifiziertes Verschulden voraus. Ist die Gefährdung gering, aber das Verschulden hoch, oder umgekehrt die Gefährdung hoch und das Verschulden gering, liegt eine mittelschwere Widerhandlung vor (Botschaft a.a.O. 4489; Cédric Mizel, Die Grundtatbestände der neuen Warnungsentzüge des SVG und ihre Beziehung zum Strafrecht, in ZStrR 124/2006, S. 31 ff., insbesondere S. 63 f.).
Aus Gründen der Rechtsgleichheit hat das Bundesgericht für die Beurteilung von Geschwindigkeitsüberschreitungen präzise Regeln aufgestellt. Danach stellt die Überschreitung der zulässigen Höchstgeschwindigkeit auf einer Autobahn auch bei günstigen objektiven und subjektiven Umständen grundsätzlich eine schwere Widerhandlung im Sinne von Art. 16c Abs. 1 lit. a SVG dar (BGE 133 II 331 E. 3.2; 132 II 234 E. 3; 128 II 86 E. 2b).
2.3 Ein Strafurteil vermag die Verwaltungsbehörde grundsätzlich nicht zu binden. Allerdings gebietet der Grundsatz der Einheit der Rechtsordnung, widersprüchliche Entscheide im Rahmen des Möglichen zu vermeiden, weshalb die Verwaltungsbehörde beim Entscheid über die Massnahme von den tatsächlichen Feststellungen des Strafrichters nur abweichen darf, wenn sie Tatsachen feststellt und ihrem Entscheid zugrunde legt, die dem Strafrichter unbekannt waren, wenn sie zusätzliche Beweise erhebt oder wenn der Strafrichter bei der Rechtsanwendung auf den Sachverhalt nicht alle Rechtsfragen abgeklärt, namentlich die Verletzung bestimmter Verkehrsregeln übersehen hat. In der rechtlichen Würdigung des Sachverhalts - namentlich auch des Verschuldens - ist die Verwaltungsbehörde demgegenüber frei, ausser die rechtliche Qualifikation hängt stark von der Würdigung von Tatsachen ab, die der Strafrichter besser kennt, etwa weil er den Beschuldigten persönlich einvernommen hat (BGE 136 II 447 E. 3.1; 127 II 302 nicht publ. E. 3a; 124 II 103 E. 1c/aa und bb).
3. Das Verwaltungsgericht hat die unbestrittene Überschreitung der Höchstgeschwindigkeit auf einer Autobahn um 38 km/h unter Berufung auf die bundesgerichtliche Rechtsprechung als schwere Widerhandlung im Sinn von Art. 16c Abs. 1 lit. a SVG eingestuft. Es hat damit die Verfehlung des Beschwerdeführers als schwerwiegender beurteilt als es die Strafrichterin tat. Dazu ist es nach der in E. 2.3 dargestellten Rechtsprechung befugt, da es vom im Strafurteil festgestellten Sachverhalt ausgeht und nur in der rechtlichen Beurteilung der Tat zu einem abweichenden Schluss kommt.
3.1 Der Beschwerdeführer macht geltend, es sei gesetz- und verfassungswidrig, Geschwindigkeitsüberschreitungen ohne Prüfung der konkreten Umstände des Einzelfalls nach dem vom Bundesgericht festgelegten Schema zu beurteilen. Nach Art. 102 Ziff. 1 SVG seien mangels abweichender Vorschriften die allgemeinen Bestimmungen des Strafgesetzbuchs und damit Art. 27 StGB anwendbar, womit die persönlichen Verhältnisse berücksichtigt werden müssten. Es sei auch mit dem in Art. 5 Abs. 2 BV verankerten Verhältnismässigkeitsprinzip nicht vereinbar, allein auf das Ausmass der Geschwindigkeitsüberschreitung abzustellen und die konkreten Umstände des Einzelfalls ausser acht zu lassen. Zu seinen Gunsten hätte berücksichtigt werden müssen, dass die Polizei die Höchstgeschwindigkeit lediglich zu Testzwecken auf 80 km/h begrenzt habe, die Strasse trocken, die Sicht gut und das Verkehrsaufkommen gering gewesen seien.
3.2 Der Beschwerdeführer verkennt, dass es sich vorliegend um ein Verwaltungs- nicht ein Strafverfahren handelt. Der Vorwurf, das Verwaltungsgericht habe eine Bestimmung des Allgemeinen Teils des Strafgesetzbuchs nicht bzw. unrichtig angewandt, geht daher fehl.
3.3 Nach der in E. 2.2 dargestellten bundesgerichtlichen Praxis gilt eine Geschwindigkeitsüberschreitung von mehr als 35 km/h auf einer Autobahn grundsätzlich als schwere Widerhandlung. Dies bedeutet keineswegs, dass die konkreten Umstände des Einzelfalls nicht zu prüfen wären, sondern nur, dass sich im Regelfall, d.h. wenn keine besonderen, aussergewöhnlichen Umstände vorliegen, die eine vom Schema abweichende Beurteilung gebieten, die Schwere der Widerhandlung schematisch nach dem Ausmass der Geschwindigkeitsüberschreitung richtet.
Solche besonderen Umstände, denen eine Beurteilung nach Schema nicht gerecht werden kann, sind vorliegend weder dargetan noch ersichtlich. Günstige Strassen-, Sicht- und Verkehrsverhältnisse allein vermögen nach dem Gesagten eine vom Schema abweichende Beurteilung von vornherein nicht zu rechtfertigen. Auch nichts zu seinen Gunsten ableiten kann der Beschwerdeführer aus dem Umstand, dass die Polizei am fraglichen Abend offenbar die neue Wechselsignalanlage testete und das vom Beschwerdeführer missachtete Wechselsignal nur probeweise eine Höchstgeschwindigkeit von 80 km/h anzeigte für einen Autobahnabschnitt, auf dem in der Regel die allgemeine Höchstgeschwindigkeit von 120 km/h (Art. 4a Abs. 1 lit. d VRV) gilt. Die regelkonform signalisierte Höchstgeschwindigkeit ist indessen auch dann zu beachten, wenn man Zweifel an ihrer Rechtmässigkeit hegt bzw. sie für unzulässig hält (BGE 128 IV 184 E. 4; Urteile 6B_109/2008 vom 13. Juni 2008 E. 2 und 6B_261/2008 vom 19. August 2008 E. 1.3; 1C_224/2010 vom 6. Oktober 2010 E. 4.4). Das Verwaltungsgericht hat daher kein Bundesrecht verletzt, indem es die dem Beschwerdeführer anzulastende Geschwindigkeitsüberschreitung um 38 km/h gemäss bundesgerichtlichem Schema als schwere Widerhandlung einstufte. Das zieht nach Art. 16c Abs. 2 lit. a SVG zwingend einen Führerausweisentzug von mindestens drei Monaten nach sich. Der gegen den Beschwerdeführer für diese Dauer verhängte Führerausweisentzug erweist sich somit als bundesrechtskonform.
4. Die Beschwerde ist abzuweisen. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Verkehrsamt und dem Verwaltungsgericht des Kantons Schwyz, Kammer III, sowie dem Bundesamt für Strassen schriftlich mitgeteilt.
Lausanne, 16. März 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi