Sachverhalt:
A. Gestützt auf das Ergebnis einer ärztlichen Kontrolluntersuchung ordnete das Strassenverkehrs- und Schifffahrtsamt des Kantons Bern am 7. Juli 2011 an, X._ habe sich einer Kontrollfahrt zur Abklärung seiner Fahreignung zu unterziehen.
X._ absolvierte die Kontrollfahrt am 23. September 2011. Der Verkehrsexperte A._ beurteilte die Leistung von X._ als ungenügend. Er beanstandete insbesondere eine massiv übersetzte Geschwindigkeit im Quartier, diverse ungenügend vorbereitete Fahrstreifenwechsel und das Übersehen eines Rotlichts. Der Verkehrsexperte behielt den Führerausweis von X._ bei sich. Mit Verfügung vom gleichen Tag entzog das Strassenverkehrs- und Schifffahrtsamt X._ den Führerausweis vorsorglich. Einer allfälligen Beschwerde entzog es die aufschiebende Wirkung.
X._ reichte am 27. September 2011 Beschwerde gegen diese Verfügung des Strassenverkehrs- und Schifffahrtsamts ein.
Am 12. Oktober 2011 bestätigte der Präsident der Rekurskommission des Kantons Bern für Massnahmen gegenüber Fahrzeugführerinnen und Fahrzeugführern (im Folgenden: Rekurskommission) den vorsorglichen Führerausweisentzug und stellte die aufschiebende Wirkung der Beschwerde nicht wieder her.
Am 21. Oktober 2011 reichte X._ eine zweite, nunmehr von einem Anwalt verfasste Beschwerde ein. Darauf trat der Präsident der Rekurskommission am 4. November 2011 nicht ein mit der Begründung, sein erster Entscheid in dieser Sache habe die Verfügung des Strassenverkehrs- und Schifffahrtsamts vom 23. September 2011 ersetzt, weshalb kein Anfechtungsobjekt mehr bestehe.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt X._, die beiden Präsidialentscheide der Rekurskommission aufzuheben und sie anzuweisen, auf die fristgerecht eingereichten Beschwerdeteile vom 27. September und vom 21. Oktober 2011 als einheitliche Beschwerde einzutreten.
C. Das Strassenverkehrs- und Schifffahrtsamt, die Rekurskommission und das Bundesamt für Strassen (ASTRA) beantragen, die Beschwerde abzuweisen.
X._ hält in seiner Replik an der Beschwerde fest.
Erwägungen:
1. 1.1 Der Präsident der Rekurskommission hat den vom Strassenverkehrs- und Schifffahrtsamt verfügten vorsorglichen Führerausweisentzug als letzte kantonale Instanz im Ergebnis bestätigt. Nach dem Grundsatz der Einheit des Verfahrens (BGE 134 II 192 E. 1.3; 133 III 645 E. 2.2. S. 647) ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten dagegen ausgeschlossen, weil sie nach Art. 83 lit. t BGG auch zur Anfechtung der Hauptsache - dem Entscheid über das Ergebnis der Kontrollfahrt - nicht zur Verfügung steht (BGE 136 II 61). Daran ändert nichts, dass im Kanton über den vorsorglichen und den definitiven Ausweisentzug formell in verschiedenen Verfahren mit unterschiedlichem Rechtsmittelzug entschieden wurde bzw. wird. Die Beschwerde ist somit als subsidiäre Verfassungsbeschwerde nach Art. 113 BGG entgegenzunehmen, sofern die Sachurteilsvoraussetzungen dieses Rechtsmittels erfüllt sind (vgl. BGE 131 I 291 E. 1.3 S. 296).
1.2 Das Verfahren ist mit den beiden in dieser Sache ergangenen Präsidialentscheiden der Rekurskommission nicht abgeschlossen; es handelt sich um Zwischenentscheide, die nach Art. 93 Abs. 1 i.V.m. Art. 117 BGG unter anderem dann anfechtbar sind, wenn sie einen nicht wieder gutzumachenden Nachteil bewirken können (lit. a). Ein solcher Nachteil ist vorliegend zu bejahen, da der Beschwerdeführer während der Dauer des Verfahrens nicht fahrberechtigt ist (vgl. BGE 122 II 359 E. 1b S. 362; Urteil 1C_233/2007 vom 4. Februar 2008 E. 1.1).
1.3 Mit Verfassungsbeschwerde kann der Beschwerdeführer ausschliesslich Verfassungsrügen erheben (Art. 116 BGG). Da es sich bei einem vorsorglichen Führerausweisentzug um eine vorsorgliche Massnahme zur Sicherstellung gefährdeter Interessen bis zum Abschluss des Hauptverfahrens handelt (BGE 125 II 396 E. 3 S. 401; 122 II 359 E. 1a S. 362), wäre dies im Übrigen nach Art. 98 BGG auch nicht anders, wenn die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig wäre. Insofern gereicht es dem Beschwerdeführer nicht zum Nachteil, dass seine Beschwerde als Verfassungsbeschwerde entgegengenommen wird.
1.4 Die weiteren Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist grundsätzlich einzutreten. Allerdings müssen die Rügen in der Beschwerdeschrift selbst enthalten sein (Art. 106 Abs. 2 BGG; BGE 134 II 244 E. 2.2). Der blosse Verweis des Beschwerdeführers auf frühere Rechtsschriften (Beschwerde S. 5 1. Absatz) ist unzulässig. Auf die Beschwerde ist daher nur insoweit einzutreten, als in der Beschwerdeschrift selber begründete Rügen erhoben werden.
2. Der Beschwerdeführer rügt, die Rekurskommission habe sein rechtliches Gehör verletzt, indem sie vor Ablauf der Rechtsmittelfrist entschieden und auf seine zweite, fristgerecht eingereichte Beschwerde vom 21. Oktober 2011 nicht eingetreten sei.
Wie es sich damit verhält, kann offen bleiben, da die in der zweiten Beschwerde an die Rekurskommission neu aufgeworfene Frage, ob die angefochtene Verfügung vom 23. September 2011 nichtig sei, vom Bundesgericht ohnehin von Amtes wegen frei zu prüfen ist (unten E. 3). Eine allfällige Gehörsverweigerung der Rekurskommission durch das Nichteintreten auf die zweite Beschwerde würde dadurch geheilt.
3. Der Beschwerdeführer rügt, die Entzugsverfügung vom 23. September 2011 sei nichtig, weil sie nicht vom zuständigen Strassenverkehrs- und Schifffahrtsamt, sondern vom dafür nicht zuständigen Verkehrsexperten selber erlassen worden sei.
3.1 Fehlerhafte Entscheide sind nach bundesgerichtlicher Rechtsprechung nichtig, wenn der ihnen anhaftende Mangel besonders schwer ist, wenn er offensichtlich oder zumindest leicht erkennbar ist und wenn zudem die Rechtssicherheit durch die Annahme der Nichtigkeit nicht ernsthaft gefährdet wird. Inhaltliche Mängel einer Entscheidung führen nur ausnahmsweise zur Nichtigkeit. Als Nichtigkeitsgründe fallen vorab funktionelle und sachliche Unzuständigkeit der entscheidenden Behörde sowie krasse Verfahrensfehler in Betracht. Die Nichtigkeit eines Entscheids ist von sämtlichen rechtsanwendenden Behörden jederzeit von Amtes wegen zu beachten (BGE 137 I 273 E. 3.1; 133 II 366 E. 3.1 und 3.2; 132 II 342 E. 2.1; 129 I 361 E. 2; je mit Hinweisen auf die Rechtsprechung).
3.1 Fehlerhafte Entscheide sind nach bundesgerichtlicher Rechtsprechung nichtig, wenn der ihnen anhaftende Mangel besonders schwer ist, wenn er offensichtlich oder zumindest leicht erkennbar ist und wenn zudem die Rechtssicherheit durch die Annahme der Nichtigkeit nicht ernsthaft gefährdet wird. Inhaltliche Mängel einer Entscheidung führen nur ausnahmsweise zur Nichtigkeit. Als Nichtigkeitsgründe fallen vorab funktionelle und sachliche Unzuständigkeit der entscheidenden Behörde sowie krasse Verfahrensfehler in Betracht. Die Nichtigkeit eines Entscheids ist von sämtlichen rechtsanwendenden Behörden jederzeit von Amtes wegen zu beachten (BGE 137 I 273 E. 3.1; 133 II 366 E. 3.1 und 3.2; 132 II 342 E. 2.1; 129 I 361 E. 2; je mit Hinweisen auf die Rechtsprechung).
3.2 3.2.1 Die eine Seite umfassende Entzugsverfügung des Strassenverkehrs- und Schifffahrtsamts vom 23. September 2011 ist nicht unterschrieben. Auf Seite 2 findet sich folgender Text: "Diese Verfügung wurde durch den zuständigen Experten ausgehändigt." Darauf folgt das Datum und die Unterschrift des Experten A._. Nach den Angaben des Strassenverkehrs- und Schifffahrtsamts in der Vernehmlassung hat es diese Verfügung im Hinblick auf einen möglichen negativen Ausgang der Kontrollfahrt im voraus verfasst und dem Experten ausgehändigt. Dieser hat, nachdem der Beschwerdeführer die Kontrollfahrt nicht bestanden hatte, das Datum eingesetzt und in der angezeigten Weise die Übergabe an den Beschwerdeführer unterschriftlich bestätigt.
3.2.2 Dies ändert allerdings nichts daran, dass die Entzugsverfügung des Strassenverkehrs- und Schifffahrtsamts nicht unterschrieben und damit mit einem Mangel behaftet ist (Art. 52 Abs. 1 lit. g des Berner Verwaltungsrechtspflegegesetzes vom 23. Mai 1989, BSG 155.21). Bei einem auf eine Kontrollfahrt gestützten provisorischen Führerausweisentzug handelt es sich offensichtlich nicht um ein Geschäft der Massenverwaltung, bei dem nach der eben erwähnten Bestimmung auf die Unterschrift verzichtet werden könnte. Abgesehen davon, dass der Verkehrsexperte die Verfügung nicht unterschrieben, sondern nur deren Übergabe unterschriftlich bestätigt hat, wäre er auch gar nicht unterschriftsberechtigt gewesen: Liegt die Verfügungszuständigkeit bei der Abteilung Administrative Verkehrssicherheit (vgl. Art. 18 der Direktionsverordnung über die Delegation von Befugnissen der Polizei- und Militärdirektion vom 28. Februar 2011, BSG 152.221.141.1), so ist deren Abteilungsleiter und sein Stellvertreter unterschriftsberechtigt. Eine Delegation der Unterschriftsberechtigung - z.B. an den für die Kontrollfahrt zuständigen Verkehrsexperten - müsste im Amtsreglement der betreffenden Organisationseinheit festgelegt sein (Art. 21 Abs. 1 und 2 der erwähnten Direktionsverordnung). Dass dem Verkehrsexperten eine solcherart delegierte Unterschriftsberechtigung zukommt, wird von keiner Seite behauptet.
3.2.3 Damit stellt sich nur die Frage, ob die fehlende Unterschrift einen Nichtigkeitsgrund darstellt.
Bei erheblichen Bedenken an der Fahreignung eines Lenkers kann ihm der Führerausweis vorsorglich entzogen werden (Art. 30 VZV). Besteht ein Lenker die Kontrollfahrt nicht, muss ihm der Ausweis entzogen werden (Art. 29 Abs. 2 lit. a VZV). Beurteilt der Verkehrsexperte die Kontrollfahrt als nicht bestanden, so bestehen damit jedenfalls per sofort ernsthafte Zweifel an der Fahreignung, auch wenn der Lenker mit dieser Beurteilung nicht einverstanden ist und gegen das Ergebnis der Kontrollfahrt Rechtsmittel ergreift. Damit ist der Führerausweis grundsätzlich unmittelbar nach der missglückten Kontrollfahrt vorsorglich solange einzuziehen, bis deren Ergebnis rechtskräftig feststeht. Es ist daher nicht zu beanstanden, dass der Verkehrsexperte den Führerausweis des Beschwerdeführers einbehielt, nachdem er ihm das negative Ergebnis der Kontrollfahrt mündlich erläutert und das Protokoll der Fahrt ausgehändigt hatte. Dem Beschwerdeführer musste somit von Anfang an bewusst sein, dass der vorsorgliche Entzug inhaltlich auf der ihm eröffneten Beurteilung der Kontrollfahrt des Verkehrsexperten beruht und es sich bei der umstrittenen Entzugsverfügung des Strassenverkehrs- und Schifffahrtsamts um den reinen Nachvollzug der vom Experten getroffenen Entscheidung handelt. Insofern wiegt der Mangel der fehlenden Unterschrift weniger schwer, als wenn das Strassenverkehrs- und Schifffahrtsamt eine in eigener Verantwortung getroffene Verfügung nicht unterschrieben hätte. Zudem erscheint es aus Gründen der Verkehrssicherheit ausgeschlossen, Nichtigkeit anzunehmen mit der Folge, dass dem Beschwerdeführer der Ausweis wieder ausgehändigt werden müsste, bevor feststeht, dass die negative Beurteilung seiner Fahreignung durch den Verkehrsexperten im Rechtsmittelverfahren keinen Bestand hat. Die Rüge, der vorsorgliche Entzug des Führerausweises durch das Strassenverkehrs- und Schifffahrtsamt sei mangels Unterschrift nichtig, ist unbegründet.
4. Der Verkehrsexperte hat dem Beschwerdeführer das negative Ergebnis der Kontrollfahrt mündlich eröffnet und erläutert; zudem hat er ihm das Protokoll der Fahrt mit den festgestellten Mängeln (sowie die umstrittene Verfügung des Strassenverkehrs- und Schifffahrtsamts über den vorsorglichen Entzug) übergeben. Damit hat er seine verfassungsrechtliche Begründungspflicht erfüllt, auch wenn die mündliche Begründung kurz ausgefallen, erst einige Minuten nach dem Ende der Kontrollfahrt erfolgt oder beim Beschwerdeführer auf Unverständnis gestossen sein mag. Die Gehörsverweigerungsrüge (Beschwerde S. 6) ist unbegründet.
5. Der Beschwerdeführer kritisiert die Beurteilung der Kontrollfahrt durch den Verkehrsexperten zwar scharf, bringt aber nichts vor, was geeignet wäre, sie als von vornherein haltlos nachzuweisen. Diese Kritik in der Sache ist daher im Einspracheverfahren gegen das Ergebnis der Kontrollfahrt zu prüfen. Den vorsorglichen Entzug des Führerausweises für die Dauer dieses Verfahrens vermag sie nicht in Frage zu stellen.
6. Die Beschwerde ist somit abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Kosten (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Strassenverkehrs- und Schifffahrtsamt des Kantons Bern, der Rekurskommission des Kantons Bern für Massnahmen gegenüber Fahrzeugführerinnen und Fahrzeugführern sowie dem Bundesamt für Strassen schriftlich mitgeteilt.
Lausanne, 20. Juni 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi