Sachverhalt:
A. Am 7. März 2011 stellte X._ beim Strassenverkehrs- und Schifffahrtsamt des Kantons Bern ein Gesuch um Erteilung eines Lernfahrausweises der Kategorie D (Motorwagen zum Personentransport mit mehr als acht Sitzplätzen ausser dem Führersitz). Dieses ordnete am 21. März 2011 an, X._ habe sich einer Eignungsuntersuchung beim Institut für Angewandte Psychologie in Bern zu unterziehen. Die Einsprache von X._ gegen diese Verfügung wies das Strassenverkehrs- und Schifffahrtsamt am 3. Mai 2011 ab.
Dagegen reichte X._ am 6. Mai 2011 bei der Rekurskommission des Kantons Bern für Massnahmen gegenüber Fahrzeugführerinnen und Fahrzeugführern (im Folgenden: Rekurskommission) Beschwerde ein. Im Rahmen der Instruktion bestätigte diese X._ am 1. Juni 2011 in einem mit "Führerausweisentzug Vernehmlassung/Replik" betitelten Schreiben den Eingang der Replik. Mit Schreiben vom 3. Juni 2011 an die Polizei- und Militärdirektion des Kantons Bern, welches am 14. Juni 2011 zuständigkeitshalber der Rekurskommission überwiesen wurde, verlangte X._ den Ausstand der seinen Fall behandelnden Kommissionsmitglieder mit der Begründung, dass eine "Kommission, die nicht einmal weiss, um was es eigentlich geht, weder vertrauenswürdig noch objektiv" sei. Die Rekurskommission stellte X._ am 14. Juni 2011 eine berichtigte Fassung der Eingangsbestätigung vom 1. Juni 2011 zu.
Am 22. Juni 2011 wies die Rekurskommission die Beschwerde von X._ ab.
B. Mit Beschwerde vom 21. Oktober 2011 beantragt X._, diesen Entscheid der Rekurskommission aufzuheben und die Sache nötigenfalls an die Vorinstanz zurückzuweisen zur Neubeurteilung durch andere Richter oder hilfsweise Zurückweisung an ein anderes Gericht. Ausserdem ersucht er um unentgeltliche Rechtspflege.
Am 7. November 2011 reichte X._ ein psychiatrisches Gutachten ein, dass der Forensisch-Psychiatrische Dienst der Universität Bern am 26. Oktober 2011 im Rahmen eines gegen ihn angestrengten Entmündigungsverfahrens erstellt hatte.
C. Das Strassenverkehrs- und Schifffahrtsamt verzichtet unter Hinweis auf seinen Einspracheentscheid auf Vernehmlassung. Die Rekurskommission beantragt, die Beschwerde abzuweisen. Sie führt unter anderem aus, die Ausstandsbegehren des Beschwerdeführers seien notorisch, weshalb sie im angefochtenen Entscheid auf das Ausstandsbegehren vom 7. Juni 2011 nicht näher eingegangen sei.
In seiner Replik hält X._ an der Beschwerde fest.
Erwägungen:
1. Der angefochtene, kantonal letztinstanzliche Entscheid der Rekurskommission betrifft die Anordnung einer verkehrsmedizinischen Abklärung der Fahreignung und damit eine öffentlich-rechtliche Angelegenheit. Dagegen ist die Beschwerde zulässig (Art. 82 Abs. 1 lit. a, Art. 86 Abs. 1 lit. d BGG), und der Beschwerdeführer ist als zur Eignungsabklärung Verpflichteter befugt, sie zu erheben (Art. 89 Abs. 1 BGG). Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Beschwerde einzutreten ist.
2. Der Beschwerdeführer macht vorab geltend, er habe gegen die Kommissionsmitglieder ein Ausstandsgesuch gestellt, welches nicht behandelt worden sei. Damit wirft er der Rekurskommission sinngemäss eine formelle Rechtsverweigerung vor.
Zu Recht. Der Beschwerdeführer hat ein Ausstandsgesuch gestellt und dieses begründet. Darüber wurde nicht formell entschieden. Dem angefochtenen Entscheid lässt sich auch nicht entnehmen, weshalb sich die Rekurskommission für befugt hält, es unbeachtet zu lassen und die Angelegenheit unter Mitwirkung der Kommissionsmitglieder, deren Ausstand der Beschwerdeführer verlangte, zu beurteilen. Das kann zwar bei unzulässigen Ausstandsbegehren angebracht sein (vgl. BGE 114 Ia 278 E. 1 S. 278 f.; 105 Ib 301; Urteil des Bundesgerichts 2C_8/2007 vom 27. September 2007 E. 2.4), muss aber begründet werden. Der Umstand allein, dass der Beschwerdeführer in früheren Verfahren regelmässig und jedenfalls zumeist erfolglos Ausstandsbegehren stellte, rechtfertigte nicht, über das hier strittige Ausstandsbegehren stillschweigend hinwegzugehen, darin liegt eine formelle Rechtsverweigerung. Keiner weiteren Ausführungen bedarf, dass dieser Verfahrensfehler durch die in der Vernehmlassung ans Bundesgericht nachgeschobene Begründung nicht geheilt werden kann.
3. Damit ist die Beschwerde gutzuheissen, der angefochtene Entscheid aufzuheben und die Sache zu neuer Beurteilung an die Vorinstanz zurückzuweisen, ohne dass die inhaltliche Kritik am angefochtenen Entscheid zu prüfen wäre. Bei diesem Ausgang des Verfahrens sind keine Kosten zu erheben (Art. 66 Abs. 4 BGG). Damit wird das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege gegenstandslos.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, der angefochtene Entscheid der Rekurskommission des Kantons Bern für Massnahmen gegenüber Fahrzeugführerinnen und Fahrzeugführern vom 22. Juni 2011 aufgehoben und die Sache zu neuer Beurteilung an die Vorinstanz zurückgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Dieses Urteil wird dem Beschwerdeführer, dem Strassenverkehrs- und Schifffahrtsamt, der Rekurskommission des Kantons Bern für Massnahmen gegenüber Fahrzeugführerinnen und Fahrzeugführern und dem Bundesamt für Strassen, Sekretariat Administrativmassnahmen, schriftlich mitgeteilt.
Lausanne, 27. Januar 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi