Faits:
A. Le 18 février 2011, l'Office de la circulation routière et de la navigation du canton de Berne (OCRN) a ordonné le retrait à titre préventif du permis de conduire à l'essai et du permis d'élève conducteur de A._, jusqu'à détermination de son aptitude à conduire. Cette décision repose sur un rapport de police du 26 janvier 2011 faisant état de plusieurs infractions à la LCR, ainsi que sur un retrait de permis d'un mois prononcé en avril 2010.
B. Par décision du 14 avril 2011, la Commission de recours du canton de Berne contre les mesures LCR a confirmé cette mesure, après avoir écarté une offre de preuve tendant à l'audition d'un policier. Diverses infractions avaient été constatées entre les mois d'octobre 2009 et janvier 2011 (conduite d'une motocyclette sans avoir l'âge requis; excès de vitesse, dépassements dangereux; violations d'une interdiction de circuler). Il y avait donc des doutes sur l'aptitude de l'intéressé à la conduite de véhicules à moteur.
C. Par acte du 16 mai 2011, A._ forme un recours en matière de droit public par lequel il demande la réforme de la décision du 14 avril 2011 en ce sens qu'aucune mesure n'est ordonnée et que le retrait préventif de son permis de conduire est révoqué. Subsidiairement, il conclut à l'annulation de la décision cantonale et au renvoi de la cause à l'autorité inférieure pour nouvelle décision dans le sens des considérants, son permis de conduire lui étant restitué "à titre conditionnel" dans l'attente de l'expertise.
L'effet suspensif a été refusé, par ordonnance du 8 juin 2011.
L'OCRN a renoncé à déposer des observations. La Commission cantonale de recours et l'OFROU concluent au rejet du recours. Le recourant a répliqué
Considérant en droit:
1. La voie du recours en matière de droit public, au sens des art. 82 ss LTF, est ouverte contre les décisions prises en dernière instance cantonale au sujet de mesures administratives de retrait du permis de conduire dans la mesure où aucun motif d'exclusion au sens de l'art. 83 LTF n'entre en considération.
1.1 La contestation porte sur le retrait à titre préventif du permis de conduire, en application de l'art. 30 de l'ordonnance réglant l'admission des personnes et des véhicules à la circulation routière (OAC; RS 741.01). Cette mesure provisoire a été rendue dans le cadre d'une procédure destinée à déterminer l'aptitude à conduire de l'intéressé et la nécessité éventuelle d'un retrait de sécurité. La décision attaquée ne met donc pas fin à la procédure et constitue donc une décision incidente (cf. ATF 122 II 359 consid. 1a p. 361/362). Le recours est néanmoins ouvert, la condition du préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF étant réalisée (arrêt 1C_233/2007 du 14 février 2008 consid. 1.1; cf. ATF 122 II 359 consid. 1b p. 362).
1.2 Le recourant a pris part à la procédure de recours devant l'autorité cantonale. Il a par ailleurs un intérêt digne de protection à ce que l'arrêt attaqué soit annulé en tant qu'il confirme une décision qui le prive de son permis de conduire jusqu'à ce que son aptitude à conduire soit démontrée. Sa qualité pour agir est à l'évidence donnée. Les autres conditions de recevabilité du recours sont réunies de sorte qu'il convient d'entrer en matière.
1.3 Dans le cas d'un recours dirigé, comme en l'espèce, contre une décision portant sur une mesure provisionnelle au sens de l'art. 98 LTF, seule peut être invoquée la violation des droits constitutionnels. Conformément à l'art. 106 al. 2 LTF, les griefs soulevés doivent être suffisamment motivés, sous peine d'être déclarés irrecevables.
2. Le recourant estime qu'une mesure aussi incisive qu'un retrait à titre préventif ne devrait être ordonnée que dans les cas les plus graves, ou en présence d'un rapport médical. Il estime que sa situation serait nettement moins grave que les différents cas traités par la jurisprudence, dans lesquels des manquements particulièrement évidents ou répétés avaient pu être constatés. Le recourant invoque le principe de la légalité. En réalité, il se plaint d'une violation du droit fédéral, soit des art. 16d al. 1 let. c LCR et 30 OAC, grief irrecevable en tant que tel (consid. 1.3). Le recourant se plaint aussi d'une violation du principe de la proportionnalité et d'arbitraire dans l'application des dispositions précitées. Il relève qu'il n'a pas les moyens pour payer l'avance des frais d'expertise. N'étant pas multi-récidiviste et n'ayant commis aucune infraction grave, la mesure litigieuse serait disproportionnée.
2.1 Les permis et les autorisations seront retirés lorsque l'autorité constate que les conditions légales de leur délivrance ne sont pas ou ne sont plus remplies (art. 16 al. 1 1ère phrase LCR). Un nouvel examen sera imposé si la capacité de conduire soulève des doutes (art. 14 al. 3 LCR). L'art. 16d al. 1 LCR, dans sa teneur en vigueur depuis le 1er janvier 2005, prévoit par ailleurs que le permis d'élève conducteur ou le permis de conduire est retiré pour une durée indéterminée à la personne dont les aptitudes physiques et psychiques ne lui permettent pas ou plus de conduire avec sûreté un véhicule automobile (let. a), qui souffre d'une forme de dépendance la rendant inapte à la conduite (let. b) ou qui, en raison de son comportement antérieur, ne peut garantir qu'à l'avenir elle observera les prescriptions et fera preuve d'égards envers autrui en conduisant un véhicule automobile (let. c).
Aux termes de l'art. 30 OAC, le permis de conduire peut être retiré à titre préventif lorsqu'il existe des doutes sérieux quant à l'aptitude à conduire de l'intéressé. Cette disposition institue une mesure provisoire destinée à protéger les intérêts menacés jusqu'à l'issue de la procédure principale portant sur un retrait de sécurité. En effet, vu l'importance du risque inhérent à la conduite des véhicules automobiles, il s'impose qu'un conducteur puisse se voir retirer son permis, à titre préventif, dès que des indices autorisent à penser qu'il représente un risque particulier pour les autres usagers de la route et font douter sérieusement de sa capacité à conduire. Mais, comme l'intéressé ne peut pas être privé durablement de son permis si la preuve de son inaptitude n'est pas faite (art. 16 al. 1 et 16d LCR, a contrario), la mesures doit s'inscrire dans une procédure de retrait de sécurité.
2.2 Le recourant n'a qu'un antécédent, soit un retrait de permis d'un mois prononcé en avril 2010 en raison d'un excès de vitesse qualifié de moyenne gravité. Cela ne suffit pas pour exclure un retrait préventif du permis de conduire. Une telle mesure peut en effet être prononcée si un examen médical ou le comportement de l'intéressé révèlent des indices concrets d'une inaptitude à la conduite, pour des raisons d'ordre caractériel ou pour d'autres motifs (cf. art. 16d al. 1 let. a LCR). Une preuve stricte n'est pas nécessaire. En effet, si une telle preuve était apportée, c'est un retrait de sécurité qu'il y aurait lieu d'ordonner sans plus attendre. Au contraire, le retrait préventif intervient, par définition, avant que tous les éclaircissements nécessaires pour juger de la nécessité d'un retrait de sécurité aient été obtenus. Pour décider d'un retrait préventif, l'autorité doit donc se fonder sur les éléments dont elle dispose en l'état. La prise en considération de tous les éléments plaidant pour ou contre l'aptitude de l'intéressé à la conduite de véhicules automobiles aura lieu à l'issue de la procédure au fond (ATF 125 II 492 consid. 2b p. 496; 122 II 359 consid. 3a p. 364).
2.3 En l'occurrence, l'autorité a répertorié les diverses infractions commises par le recourant durant un laps de temps d'une année et demi. Le 29 octobre 2009, il avait dépassé une patrouille de police en scooter à une vitesse excessive, puis avait dépassé une file de véhicules en roulant sur une surface interdite à la circulation; comme seule explication, il avait déclaré qu'il était pressé. Il est par la suite apparu qu'il conduisait une motocyclette de 125 m3 de cylindrée sans avoir l'âge requis de 18 ans. Le 10 janvier 2010, un automobiliste avait déclaré que le recourant l'avait dépassé à grande vitesse et en franchissant la ligne de sécurité. Le lendemain, le recourant avait été arrêté alors qu'il circulait sur un tronçon interdit aux motocycles et aux automobiles; il a déclaré qu'il empruntait toujours ce tronçon, ajoutant qu'il circulait "volontiers vite", "un peu plus rapidement que d'autres usagers de la route" mais "plus aussi vite que par le passé". Le recourant prétend que certaines de ses déclarations auraient été mal comprises en raison de difficultés de langue. Il estime aussi que la dénonciation de l'automobiliste ne serait pas fiable.
Il n'en demeure pas moins que les circonstances évoquées par la cour cantonale pouvaient, dans leur ensemble, être prises en considération à titre d'indices et qu'il en résulte une certaine indifférence du recourant à l'égard des règles et de la signalisation routières. L'autorité pouvait donc, au moins provisoirement et en l'état actuel de la procédure, légitimement s'interroger sur l'aptitude du recourant à conduire sans danger un véhicule à moteur. Dès l'instant où elle pouvait conclure à l'existence d'un doute fondé sur la capacité de l'intéressé, elle n'avait d'autre choix que de prononcer le retrait immédiat à titre préventif du permis de conduire, jusqu'à droit connu sur le résultat de l'expertise psychiatrique destinée à dissiper ce doute. Le recourant se plaint donc en vain d'arbitraire.
2.4 Le recourant dénonce aussi une violation du principe de la proportionnalité, mais il méconnaît que la mesure litigieuse, fondée sur un intérêt public évident lié à la sécurité routière, est de caractère provisoire. A ce stade, elle ne saurait être assimilée à un retrait de permis définitif et ne revêt pas, par conséquent, la gravité que lui prête le recourant. L'expertise qui a été ordonnée devra intervenir dans les meilleurs délais afin qu'une décision définitive puisse être prise rapidement. S'il apparaît après expertise qu'un retrait de permis n'est pas justifié, l'autorité devra rapporter la mesure (cf. ATF 125 II 396 consid. 3 p. 401). Face à l'intérêt public en jeu, les difficultés d'ordre financier du recourant ne sauraient constituer un motif de renoncer aux investigations nécessaires.
2.5 Quant au grief tiré d'une violation du droit d'être entendu, il doit lui aussi être écarté: au stade d'une décision incidente fondée sur la vraisemblance, l'autorité n'a pas à instruire de manière complète et définitive sur l'ensemble des éléments de fait. A priori, il n'y a pas de raison de croire que l'automobiliste aurait dénoncé le recourant pour des faits inexistants, et que l'auteur du rapport de police du 11 janvier 2010 n'aurait pas compris ses déclarations. Ces éléments n'apparaissaient d'ailleurs pas déterminants, compte tenu du nombre d'infractions constatées. Le rejet des offres de preuves ne viole dès lors pas le droit d'être entendu du recourant. Pour les mêmes motifs, il n'y a pas lieu de donner suite aux offres de preuves formulées par le recourant devant le Tribunal fédéral.
3. Sur le vu de ce qui précède, le recours doit être rejeté. Conformément à l'art. 66 al. 1 LTF, les frais sont mis à la charge du recourant, qui succombe.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, à l'Office de la circulation routière et de la navigation et au Président de la Commission de recours du canton de Berne contre les mesures LCR ainsi qu'à l'Office fédéral des routes.
Lausanne, le 30 septembre 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Kurz