Sachverhalt:
A. X._ fuhr im Oktober 2005 mit einem Kleinmotorrad in angetrunkenem und übermüdetem Zustand. Dabei verursachte er einen Verkehrsunfall. Das Strassenverkehrs- und Schifffahrtsamt des Kantons St. Gallen (im Folgenden: Strassenverkehrsamt) entzog ihm deshalb am 3. März 2006 den Führerausweis für Motorräder (Kategorie A1) für die Dauer von vier Monaten.
Seit dem 29. Juni 2006 besitzt X._ den Führerausweis für Personenwagen auf Probe. Wegen Führens eines Fahrzeugs mit nicht angepasster Geschwindigkeit entzog ihm das Strassenverkehrsamt am 15. August 2007 den Führerausweis infolge mittelschwerer Widerhandlung gegen die Strassenverkehrsvorschriften für die Dauer von vier Monaten und verlängerte die Probezeit um ein Jahr.
Am 16. Juni 2008 überschritt X._ die Höchstgeschwindigkeit innerorts um 17 km/h. Die Staatsanwaltschaft des Kantons St. Gallen büsste ihn deswegen am 13. August 2008 mit Fr. 650.--. Dieser Entscheid erwuchs in Rechtskraft.
B. Mit Verfügung vom 18. September 2008 annullierte das Strassenverkehrsamt den Führerausweis auf Probe.
Dagegen führte X._ Rekurs bei der Verwaltungsrekurskommission des Kantons St. Gallen, welche diesen abwies.
X._ erhob Beschwerde beim Bundesgericht. Dieses trat auf die Beschwerde nicht ein, weil die Verwaltungsrekurskommission kein oberes kantonales Gericht nach <ref-law> ist. Es überwies die Sache dem Verwaltungsgericht des Kantons St. Gallen zur weiteren Behandlung (Urteil 1C_172/2009 vom 23. November 2009).
Das Verwaltungsgericht wies die Beschwerde mit Urteil vom 24. Februar 2010 ab.
C. X._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, es sei das Urteil des Verwaltungsgerichts aufzuheben und der Führerausweis für die Dauer von vier Monaten zu entziehen.
Das Strassenverkehrsamt hat keine Stellungnahme eingereicht. Die Verwaltungsrekurskommission hat auf Vernehmlassung verzichtet. Das Verwaltungsgericht beantragt unter Hinweis auf das angefochtene Urteil die Abweisung der Beschwerde. Das Bundesamt für Strassen (ASTRA) hat sich vernehmen lassen. Es beantragt die Abweisung der Beschwerde. In der Replik hält X._ an seiner Beschwerde fest.

Erwägungen:
1. <
1.1 Gemäss <ref-law> beurteilt das Bundesgericht Beschwerden gegen Entscheide in Angelegenheiten des öffentlichen Rechts. Dieses Rechtsmittel steht auf dem Gebiet der strassenverkehrsrechtlichen Administrativmassnahmen zur Verfügung (Urteil 1C_79/2007 vom 6. September 2007 E. 1.1, nicht publ. in: <ref-ruling>; Urteil 1C_559/2008 vom 15. Mai 2009 E. 1). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist hier somit gegeben.
1.2 Die Vorinstanz hat als oberes Gericht kantonal letztinstanzlich entschieden. Gegen ihr Urteil ist die Beschwerde nach Art. 86 Abs. 1 lit. d in Verbindung mit Abs. 2 BGG zulässig.
1.3 Der Beschwerdeführer hat sich am Verfahren vor der Vorinstanz beteiligt, ist durch den angefochtenen Entscheid besonders berührt und hat ein schutzwürdiges Interesse an dessen Aufhebung. Er ist damit zur Beschwerde legitimiert (<ref-law>).
1.4 Das angefochtene Urteil schliesst das Verfahren ab. Es handelt sich um einen Endentscheid, gegen welchen die Beschwerde gemäss <ref-law> zulässig ist.
1.5 Die weiteren Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist einzutreten.
2. 2.1 Der Beschwerdeführer rügt, der angefochtene Entscheid verletze <ref-law>.
2.2 Gemäss <ref-law> wird der erstmals erworbene Führerausweis für Motorräder und Motorwagen zunächst auf Probe erteilt. Die Probezeit beträgt drei Jahre (Abs. 1). Wird dem Inhaber der Ausweis auf Probe wegen einer Widerhandlung entzogen, so wird die Probezeit um ein Jahr verlängert. Dauert der Entzug über die Probezeit hinaus, so beginnt die Verlängerung mit der Rückgabe des Führerausweises (Abs. 3). Der Führerausweis auf Probe verfällt mit der zweiten Widerhandlung, die zum Entzug des Ausweises führt (Abs. 4). Ein neuer Lernfahrausweis kann frühestens ein Jahr nach Begehung der Widerhandlung und nur auf Grund eines verkehrspsychologischen Gutachtens erteilt werden, das die Eignung bejaht. Diese Frist wird um ein Jahr verlängert, wenn die betroffene Person während dieser Zeit ein Motorrad oder einen Motorwagen geführt hat (Abs. 5). Nach erneutem Bestehen der Führerprüfung wird ein neuer Führerausweis auf Probe erteilt (Abs. 6).
Das Strassenverkehrsgesetz unterscheidet zwischen der leichten, mittelschweren und schweren Widerhandlung (Art. 16a-c SVG). Gemäss <ref-law> wird nach einer leichten Widerhandlung der Lernfahr- oder Führerausweis für mindestens einen Monat entzogen, wenn in den vorangegangenen zwei Jahren der Ausweis entzogen war oder eine andere Administrativmassnahme verfügt wurde (Abs. 2). Die fehlbare Person wird verwarnt, wenn in den vorangegangenen zwei Jahren der Ausweis nicht entzogen war und keine andere Administrativmassnahme verfügt wurde (Abs. 3).
2.3 Die Vorinstanz erwägt, die Überschreitung der Geschwindigkeit innerorts um 17 km/h habe aufgrund des getrübten automobilistischen Leumunds des Beschwerdeführers gemäss <ref-law> einen Entzug des Führerausweises für die Dauer von einem Monat zur Folge. Damit liege eine zweite Widerhandlung innerhalb der Probezeit vor, die zum Verfall des Führerausweises auf Probe führe (<ref-law>).
2.4 Der Beschwerdeführer macht geltend, es handle sich bei der zweiten Widerhandlung, der Geschwindigkeitsüberschreitung innerorts um 17 km/h, um einen leichten Fall. <ref-law> sehe bei einer leichten Widerhandlung eine Verwarnung vor. Ein Führerausweisentzug erfolge nur, wenn in den vergangenen zwei Jahren der Ausweis entzogen gewesen oder eine andere Administrativmassnahme verfügt worden sei. Zwar sei wegen der neuen Widerhandlung ein Führerausweisentzug anzuordnen, da ihm in den vorangegangenen zwei Jahren der Führerausweis entzogen war. Die leichte Widerhandlung sei aber bei der Anwendung von <ref-law> isoliert zu betrachten und habe für sich alleine nur eine Verwarnung zur Folge. Für den Verfall des Führerausweises auf Probe erreiche die zweite Widerhandlung deshalb nicht den erforderlichen Schweregrad.
3. 3.1 Unstreitig wurde dem Beschwerdeführer der Führerausweis auf Probe bereits einmal entzogen und stellt die zweite Widerhandlung, die Überschreitung der Höchstgeschwindigkeit innerorts um 17 km/h, einen leichten Fall nach <ref-law> dar.
Streitig ist, ob diese zweite Widerhandlung gemäss <ref-law> zum Verfall des Führerausweises auf Probe führt.
3.2 Ausgangspunkt der Auslegung des Gesetzes ist der Wortlaut. Nach der Rechtsprechung darf die Auslegung vom klaren Wortlaut eines Rechtssatzes nur abweichen, wenn triftige Gründe dafür bestehen, dass er nicht den wahren Sinn der Bestimmung wiedergibt. Solche triftigen Gründe können sich aus der Entstehungsgeschichte, dem Sinn und Zweck der Vorschrift und dem Zusammenhang mit anderen Gesetzesbestimmungen ergeben (<ref-ruling> E. 2.2 S. 81; <ref-ruling> E. 2.3 S. 221; je mit Hinweisen).
3.3 Gemäss <ref-law> verfällt der Führerausweis auf Probe mit der zweiten Widerhandlung, die zum Entzug des Ausweises führt.
Der Beschwerdeführer hat eine zweite Widerhandlung begangen. Diese führt gemäss <ref-law> zum Entzug des Ausweises, da dem Beschwerdeführer in den vorangegangenen zwei Jahren der Führerausweis entzogen war. Nach dem klaren Wortlaut von <ref-law> verfällt damit der Führerausweis auf Probe. Es stellt sich im Lichte der erwähnten Rechtsprechung die Frage, ob triftige Gründe gegen dieses Ergebnis sprechen.
4. 4.1 Ziel der Teilrevision des Strassenverkehrsgesetzes, welche im Jahr 2005 in Kraft getreten ist, ist die Erhöhung der Verkehrssicherheit auf den Schweizer Strassen (vgl. Demierre/Mizel/Mouron, Les mesures administratives liées au nouveau permis de conduire à l'essai, AJP 6/2007 S. 729 ff.). Der Gesetzgeber verschärfte die Administrativmassnahmen bei Widerhandlungen im Strassenverkehr und erschwerte den definitiven Erwerb des Führerausweises (Botschaft vom 31. März 1999 zur Änderung des Strassenverkehrsgesetzes, BBl 1999 4473 ff.; vgl. <ref-ruling> E. 2.2 S. 336). Weiterbildung und strenge Ahndung von verkehrsgefährdenden Regelverletzungen sollen die erhöhte Unfallbeteiligung von Neulenkern senken (vgl. BBl 1999 4464 und 4484 f.). Der Gesetzgeber führte deshalb für Neulenker eine Ausbildung in zwei Phasen ein. Die erste Phase betrifft den Erwerb des Führerausweises auf Probe. Die zweite Phase enthält eine Weiterbildung sowie die Bewährung während der Probezeit. Die Probephase soll verhindern, dass sich Neulenker eine verkehrsgefährdende Fahrweise aneignen (BBl 1999 4470).
In den Materialien findet sich kein Hinweis im Sinne des Vorbringens des Beschwerdeführers, wonach bei einer zweiten (leichten) Widerhandlung die Probezeit erneut verlängert und der Führerausweis auf Probe zwar entzogen, aber nicht annulliert werden soll. Vielmehr lehnte der Gesetzgeber im Hinblick auf die Erhöhung der Verkehrssicherheit und das frühzeitige Eingreifen gegen verkehrsgefährdende Fahrweisen des Neulenkers eine erneute Verlängerung der Probezeit ab (BBl 1999 4485). Mit dem ersten Entzug des Führerausweises ist der Neulenker gewarnt. Begeht er eine zweite Widerhandlung, die zum Entzug des Ausweises führt, verfällt der Führerausweis auf Probe (vgl. auch Urteil 1C_271/2010 vom 31. August 2010 E. 5.3; Urteil 1C_542/2009 vom 10. September 2010 E. 6.1). Aus der Entstehungsgeschichte ergeben sich keine triftigen Gründe für ein Abweichen vom Gesetzeswortlaut.
4.2 <ref-law> bezweckt, Neulenker, welche noch nicht über die nötige Reife zum sicheren und verkehrsregelkonformen Führen eines Personenwagens verfügen, vom Strassenverkehr einstweilen fernzuhalten. Der Entscheid des Gesetzgebers, den Führerausweis auf Probe nach einer zweiten Widerhandlung, die zum Entzug führt, verfallen zu lassen, verfolgt diesen Zweck und ist für das Bundesgericht verbindlich (<ref-law>). Auch aus Sinn und Zweck von <ref-law> ergeben sich keine triftigen Gründe für ein Abweichen vom Gesetzeswortlaut.
4.3 Dazu gibt auch die Gesetzessystematik keinen Anlass. <ref-law> knüpft an den Begriff des Führerausweisentzugs an. Dieser wird in den <ref-law> umschrieben. Gemäss <ref-law> ist der Führerausweis in einem Fall wie hier zu entziehen. Dies hat für den Beschwerdeführer den Verfall des Führerausweises auf Probe zur Folge.
4.4 Bestehen demnach keine triftigen Gründe für ein Abweichen vom Wortlaut des Gesetzes, verletzt der angefochtene Entscheid kein Bundesrecht.
4.5 Was der Beschwerdeführer vorbringt, überzeugt nicht. Er macht geltend, die zweite (leichte) Widerhandlung sei "isoliert" zu betrachten und führe - für sich allein - zu einer Verwarnung. Dem kann nicht gefolgt werden. <ref-law> enthält keine abstrakte Sanktionsdrohung. Massgebend sind vielmehr die Umstände des konkreten Falles. <ref-law> unterscheidet danach, ob dem Lenker in den vorangegangenen zwei Jahren der Ausweis entzogen war oder eine andere Administrativmassnahme verfügt wurde (Abs. 2) oder nicht (Abs. 3). Je nachdem hat die Widerhandlung den Ausweisentzug oder eine Verwarnung zur Folge. Die in Frage stehende Widerhandlung ist deshalb nicht "isoliert" zu betrachten, sondern mit Rücksicht auf die gegebenen Umstände.
5. Die Beschwerde ist abzuweisen. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Kosten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Strassenverkehrs- und Schifffahrtsamt, der Verwaltungsrekurskommission und dem Verwaltungsgericht des Kantons St. Gallen sowie dem Bundesamt für Strassen schriftlich mitgeteilt.
Lausanne, 1. Oktober 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Christen