Faits:
A. Le 8 mars 2010, A._ a été entendu par la Police judiciaire de Lausanne dans le cadre d'une instruction pénale pour infraction à la LStup. Il a déclaré consommer de la marijuana depuis plus de dix ans, à raison de deux joints par semaine; par ailleurs, durant la seconde moitié de 2009, il avait consommé deux "traits" de cocaïne lors de fêtes privées. Le cas a été dénoncé au Service des automobiles et de la navigation du canton de Vaud (SAN) qui, par lettre du 24 mars 2010, a ordonné une vérification de l'aptitude à la conduite, consistant en trois contrôles successifs (essentiellement une analyse d'urine) auprès de l'Unité de médecine et de psychologie du trafic, aux frais de l'intéressé. Ce dernier a demandé les bases légales applicables et s'est déclaré incapable de payer les frais d'examen. Il estimait qu'il n'y avait pas de doute suffisant sur son aptitude à conduire.
Considérant ces objections comme une réclamation, le SAN les a rejetées le 4 mai 2010. Une consommation, même isolée, de cocaïne, justifiait une vérification de l'aptitude à conduire.
B. A._ a saisi la Cour de droit administratif et public du Tribunal cantonal vaudois qui, par arrêt du 2 juillet 2010, a rejeté le recours. La consommation de cocaïne entraînait rapidement une forte dépendance psychologique; par ailleurs, la consommation même épisodique de haschich était susceptible d'altérer l'aptitude à conduire. La consommation régulière et de longue date de marijuana, ainsi que les deux prises de cocaïne suffisaient dès lors à faire naître un doute quant à une éventuelle dépendance aux produits stupéfiants. Compte tenu de l'indigence évoquée par le recourant, le SAN devrait se prononcer sur une dispense totale ou partielle des frais au moment de statuer formellement sur la question.
C. Par acte du 27 juin [recte: juillet] 2010, A._ recourt au Tribunal fédéral en demandant l'annulation de la décision du SAN, subsidiairement le renvoi de la cause au Tribunal cantonal pour nouveau jugement. Il demande en outre à être dispensé de l'avance des frais judiciaires.
Le Tribunal cantonal et le SAN se réfèrent à l'arrêt attaqué. L'OFROU conclut au rejet du recours, sans autre motivation.
Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité et la qualification juridique des recours qui lui sont soumis (ATF 136 II 101 consid. 1 p. 103).
2. La voie du recours en matière de droit public, au sens des art. 82 ss LTF, est en principe ouverte contre les décisions prises en dernière instance cantonale en matière de circulation routière. Le recourant, qui a participé à la procédure cantonale, est particulièrement atteint par la décision qui lui impose, à ses frais, un examen d'aptitude; il a un intérêt digne de protection à son annulation et dispose donc de la qualité pour recourir (art. 89 al. 1 LTF).
2.1 Selon l'art. 90 LTF, le recours n'est recevable qu'à l'encontre des décisions finales, soit les décisions qui mettent un terme définitif à la procédure. En l'espèce, l'acte attaqué impose au recourant de se soumettre à des analyses toxicologiques consistant en trois prises d'urine effectuées à une semaine d'intervalle. La décision du SAN du 24 mars 2010 précise en outre que les frais seront à la charge de l'intéressé et que le permis de conduire pourra être retiré en cas de défaut à l'un des contrôles. Comme cela ressort de la décision sur réclamation, la décision du SAN est une mesure d'instruction visant à déterminer si les conditions d'un retrait de permis fondé sur l'art. 16d al. 1 let. b LCR sont réalisées. Il s'agit donc d'une décision d'administration des preuves, de caractère incident puisqu'elle ne met pas fin à la procédure (cf. ATF 136 II 370 consid. 1.4 p. 373).
2.2 Selon l'art. 93 al. 1 LTF, les décisions incidentes peuvent faire l'objet d'un recours si elles peuvent causer un préjudice irréparable (let. a ) ou si l'admission du recours peut conduire immédiatement à une décision finale permettant d'éviter une procédure probatoire longue et coûteuse (let. b). Cette réglementation est fondée sur des motifs d'économie de la procédure; en tant que cour suprême, le Tribunal fédéral ne doit en principe s'occuper qu'une seule fois d'un procès, et cela seulement lorsqu'il est certain que la partie recourante subit effectivement un dommage définitif (ATF 135 I 261 consid. 1.2 p. 263).
2.2.1 Selon la jurisprudence, les décisions relatives à la conduite de la procédure et à l'administration des preuves ne sont en règle générale pas de nature à causer un dommage juridique irréparable (ATF 134 III 188 consid. 2.3 p. 191). En l'espèce, on ne voit pas en quoi l'obligation de se présenter à trois reprises pour un prélèvement d'urine pourrait occasionner un préjudice irréparable. Le recourant n'a pas fait l'objet d'un retrait de permis à titre préventif en vertu de l'art. 30 OAC. La décision du 24 mars 2010 envisage la possibilité d'une telle mesure (au cas notamment où l'intéressé ne se présenterait pas aux contrôles), mais celle-ci pourrait alors faire l'objet d'un recours immédiat (arrêt 1C_173/2009 du 27 mai 2009). L'obligation de payer les frais d'examen ne constitue pas non plus un préjudice irréparable, la cour cantonale ayant d'ailleurs clairement laissé entendre qu'en cas d'indigence avérée du recourant, celui-ci pourrait requérir une dispense de tout ou partie de ces frais.
2.2.2 Il n'apparaît pas non plus que l'admission du recours serait susceptible d'éviter une procédure probatoire longue et coûteuse. Les examens ordonnés sont censés durer trois semaines et ne paraissent pas a priori particulièrement coûteux. Comme cela est relevé ci-dessus, le recourant pourrait demander une exemption partielle ou totale de ces frais.
3. Sur le vu de ce qui précède, le recours est irrecevable. Compte tenu des motifs évoqués par le recourant pour obtenir une dispense d'avance de frais, l'assistance judiciaire peut lui être accordée, sous la forme d'une renonciation aux frais judiciaires.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. La demande d'assistance judiciaire est admise en ce sens qu'il n'est pas perçu de frais judiciaires.
3. Le présent arrêt est communiqué au recourant, au Service des automobiles et de la navigation et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, ainsi qu'à l'Office fédéral des routes.
Lausanne, le 10 novembre 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz