Sachverhalt: A. Mit Verfügung vom 4. August 2010 entzog das Strassenverkehrsamt des Kantons Zug X._ den Führerausweis für zwei Monate und ordnete an, er habe einen Tag Verkehrsunterricht zu besuchen. Zur Begründung wurde angeführt, X._ habe am 17. März 2010 um 15.23 Uhr auf der Hohlstrasse in Zürich die zulässige Höchstgeschwindigkeit von 50 km/h um 20 km/h überschritten (nach Abzug der Marge für die Messunsicherheit). Es handle sich dabei um eine leichte Widerhandlung gegen die Verkehrsvorschriften gemäss Art. 16a Abs. 1 SVG. Da bereits am 9. September 2008 nach einer schweren Widerhandlung ein Führerausweisentzug verfügt worden sei und angesichts des sehr getrübten automobilistischen Leumunds sei die Massnahme angemessen. Gegen diese Verfügung erhob X._ Verwaltungsgerichtsbeschwerde. Mit Urteil vom 25. Januar 2011 wies das Verwaltungsgericht des Kantons Zug das Rechtsmittel ab. B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht vom 2. März 2010 beantragt X._ im Wesentlichen, die Verfügung des Strassenverkehrsamts sei aufzuheben. Zudem verlangt er, es sei eine angemessene Frist anzusetzen, innert welcher eine Administrativmassnahme zu verfügen sei. Weiter sei zu prüfen, "ob die Wiederholungs-/Rückfallfrist bei nach nicht in angemessener Frist ausgestellten Verfügungen entsprechend einer Ausstellung in einer angemessener Frist angepasst werden sollte". Zu prüfen sei schliesslich, ob die Wiederholungs-/Rückfallfrist nicht an den Massnahmevollzug, sondern an die Widerhandlung zu knüpfen sei. Das Strassenverkehrsamt und das Verwaltungsgericht des Kantons Zug sowie das ebenfalls zur Vernehmlassung eingeladene Bundesamt für Strassen beantragen die Abweisung der Beschwerde.