Sachverhalt:
A. Am 10. Januar 2012 entzog das Strassenverkehrsamt Thurgau X._ das Kontrollschild und den Fahrzeugausweis des Motorrads TG Nr._. Zur Begründung führte es an, er habe trotz zweimaliger Mahnung die Rechnung für eine Fahrzeugprüfung (Fr. 55.--) und Mahngebühren (Fr. 20.--) nicht bezahlt, weshalb es gestützt auf <ref-law> den erwähnten Fahrzeugausweis und das Kontrollschild einziehe. Er habe es innert 5 Tagen dem Strassenverkehrsamt zurückzugeben. Falls er innert der gleichen Frist die erwähnten Beträge sowie die Gebühr der Verfügung von Fr. 120.--, insgesamt Fr. 195.--, bezahle, falle der Entzug dahin.
Am 17. Januar 2012 beglich X._ die Rechnung für die Fahrzeugprüfung inkl. Mahngebühren in Höhe von insgesamt Fr. 75.--.
Am 20. März 2012 wies die Rekurskommission für Strassenverkehrssachen den Rekurs von X._ gegen die Verfügung des Strassenverkehrsamts vom 10. Januar 2012 ab. Das Gesuch um unentgeltliche Rechtspflege wies sie wegen Aussichtslosigkeit des Rechtsmittels ab. Sie erwog, mit der Bezahlung der Grundforderung habe X._ sinngemäss zum Ausdruck gebracht, dass diese zu Recht erhoben worden sei. Die Verfügungsgebühr von Fr. 120.-- entspreche der einschlägigen Verordnung des Regierungsrats. Soweit er sinngemäss Verrechnung mit eigenen Guthaben in Höhe von insgesamt Fr. 1'355.-- geltend mache, so sei deren Existenz fraglich und nicht belegt, und eine Verrechnung gegen den Willen des Gemeinwesens wäre nach <ref-law> ohnehin nicht zulässig.
B. X._ erhob Beschwerde ans Verwaltungsgericht mit dem Antrag, diesen Entscheid der Rekurskommission vollumfänglich aufzuheben.
Am 18. April 2012 setzte der Präsident des Verwaltungsgerichts des Kantons Thurgau X._ eine Frist von 14 Tagen zur Leistung eines Kostenvorschusses von Fr. 700.-- an mit der Androhung, dass bei nicht fristgerechter Leistung des Vorschusses auf die Beschwerde nicht eingetreten würde.
Am 7. Mai 2012 stellte X._ ein Gesuch um unentgeltliche Rechtspflege.
Am 16. Mai 2012 wies das Verwaltungsgericht das Gesuch um unentgeltliche Rechtspflege ab und setzte X._ eine Frist von 14 Tagen ab Rechtskraft des Entscheids zur Bezahlung eines Kostenvorschusses von Fr. 700.-- an unter der Androhung, dass bei dessen nicht fristgerechter Leistung auf die Beschwerde nicht eingetreten würde.
C. Mit Beschwerde ans Bundesgericht vom 15. Juni 2012 beantragt X._, diesen Entscheid des Verwaltungsgerichts aufzuheben.
D. Der Präsident der Rekurskommission und das Verwaltungsgericht beantragen in ihren Vernehmlassungen, die Beschwerde abzuweisen.
E. In seiner Replik hält X._ an der Beschwerde fest.

Erwägungen:
1. Angefochten ist ein kantonal letztinstanzlicher Entscheid, mit welchem das Eintreten auf eine Beschwerde gegen einen Fahrzeugausweisentzug von der Bezahlung eines Kostenvorschusses abhängig gemacht wird. Gegen diesen Entscheid, der das Verfahren nicht abschliesst, steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach <ref-law> offen, sofern er einen nicht wiedergutzumachenden Nachteil bewirken kann (<ref-law>). Das ist vorliegend der Fall, da der angefochtene Entscheid zum Prozessverlust führt, wenn der Beschwerdeführer den Kostenvorschuss nicht rechtzeitig bezahlt bzw. nicht bezahlen kann. Die übrigen Sachurteilsvoraussetzungen sind erfüllt, weshalb auf die Beschwerde einzutreten ist.
2. Der Beschwerdeführer bestreitet zu Recht nicht, dass das Verwaltungsgericht nach dem einschlägigen Verfahrensrecht - § 81 Abs. 1 des Thurgauer Verwaltungsrechtspflegegesetzes vom 23. Februar 1981 - die Gewährung der unentgeltlichen Rechtspflege und damit das Absehen von der Einholung eines Kostenvorschusses von intakten Erfolgsaussichten der Beschwerde abhängig machen durfte. Er macht indessen sinngemäss geltend, das Verwaltungsgericht habe seine Beschwerde zu Unrecht als aussichtslos beurteilt.
Das ist nicht der Fall. Nach der zutreffenden Rechtsauffassung der Rekurskommission könnte der Beschwerdeführer allfällige Forderungen ohne Einverständnis des Strassenverkehrsamts nicht mit dessen Gebührenforderungen verrechnen (<ref-law>). Zu den Verskehrssteuern und -gebühren im Sinn von <ref-law> zählen auch die Verfahrensgebühren für den Erlass der Entzugsverfügung (Urteil des Bundesgerichts 6P.100/2006 vom 9. August 2006, E. 5.3.2).
Der Beschwerdeführer behauptet selber nicht, das Strassenverkehrsamt habe einer Verrechnung durch ihn zugestimmt. Dieses ist daher am 10. Januar 2012, als es den Einzug des Fahrzeugausweises und der Kontrollschilder verfügte, offensichtlich zu Recht davon ausgegangen, seine Gebührenforderung sei trotz Mahnung nicht beglichen worden. Damit war das Strassenverkehrsamt nach <ref-law> zum Einzug des Fahrzeugausweises und der Kontrollschilder befugt. Die Verwaltungsgerichtsbeschwerde, die der Beschwerdeführer damit begründet, das Strassenverkehrsamt hätte den Fahrzeugausweis und die Kontrollschilder nicht einziehen dürfen, weil er die umstrittene Gebühr beglichen habe, wurde vom Verwaltungsgericht im angefochtenen Entscheid daher zu Recht als aussichtslos eingestuft.
3. Damit ist die Beschwerde abzuweisen. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (<ref-law>). Die Gewährung der unentgeltlichen Rechtspflege fällt ausser Betracht, da die Beschwerde ans Bundesgericht aussichtslos war (<ref-law>). Hingegen ist bei der Festsetzung der Gerichtsgebühr den beengten finanziellen Verhältnissen des Beschwerdeführers Rechnung zu tragen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Strassenverkehrsamt des Kantons Thurgau, der Rekurskommission für Strassenverkehrssachen des Kantons Thurgau und dem Verwaltungsgericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 1. Oktober 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi