Faits:
A. A._ est titulaire du permis de conduire depuis le 20 mai 1970. Aucun antécédent en matière de circulation routière ne figure à son dossier. Le 16 mai 2006, il circulait au volant de son véhicule en ville de Genève, lorsqu'il a eu une altercation avec un autre usager de la route, B._. Celui-ci, un appointé de gendarmerie en congé, reprochait à A._ d'avoir omis de lui céder la priorité. Accusant le prénommé de l'avoir agressé avec une matraque et heurté avec son véhicule lorsqu'il a tenté de l'empêcher de quitter les lieux, B._ a déposé une plainte pénale contre A._. Celui-ci a été arrêté par la police judiciaire, qui a saisi son permis de conduire le lendemain. Comme l'intéressé était en possession d'un couteau à cran d'arrêt lors de son arrestation, la police a procédé à une visite domiciliaire, au cours de laquelle diverses armes ont été saisies.
Par décision du 26 mai 2006, le Service des automobiles et de la navigation du canton de Genève (ci-après: le SAN; devenu l'Office cantonal des automobiles et de la navigation) a prononcé un retrait du permis de conduire à titre préventif et a soumis A._ à un examen approfondi par l'Institut universitaire de médecine légale (ci-après: l'IUML) afin de déterminer son aptitude à la conduite. Cette décision était motivée par les faits exposés ci-dessus, tels que décrits par le plaignant B._. Le recours formé contre cette décision par A._ a été retiré le 3 octobre 2006.
Le rapport d'expertise de l'IUML, rendu le 11 mai 2007, a conclu que A._ était inapte à la conduite. Ce rapport se fondait sur les événements du 16 mai 2006, tels qu'ils avaient été décrits par le plaignant. Il précisait notamment que l'expertisé n'admettait qu'une partie des faits qui lui étaient reprochés et qu'il expliquait avec véhémence les circonstances de "l'infraction commise". Un examen psychologique du 11 décembre 2006 avait mis en évidence des idées quasi délirantes à thème de persécution, en relation avec un "complot orchestré par la police". Un examen psychiatrique du 30 mars 2007 avait confirmé ce constat et permettait de conclure à un trouble de la personnalité sévère, de type paranoïaque. Selon les experts, le potentiel de dangerosité hétéro-agressif, l'anosognosie du trouble et l'absence de prise en charge constituaient des motifs d'inaptitude à la conduite pour raisons psychiatriques.
Par décision du 29 mai 2007, le SAN a retiré le permis de conduire de A._ pour une durée indéterminée, en application de l'art. 16d de la loi fédérale du 19 décembre 1958 sur la circulation routière (LCR; RS 741.01). Cette décision se fondait sur le rapport d'expertise susmentionné. Le 27 juin 2007, A._ a recouru contre cette décision auprès du Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif).
B. Le 22 novembre 2007, le Procureur général du canton de Genève a classé la plainte déposée par B._ contre A._. Il a relevé qu'aucun des témoins de l'altercation n'avait pu confirmer le coup de matraque allégué et qu'à aucun moment il n'y avait eu mise en danger de la vie d'autrui. Par ordonnance du 14 mai 2008, la Chambre d'accusation du canton de Genève a rejeté le recours formé par B._ contre cette décision. Cette autorité a considéré qu'il n'y avait aucune prévention suffisante de contrainte, de menace, de lésions corporelles simples et de mise en danger de la vie d'autrui. Elle a relevé que les témoignages recueillis ne permettaient pas de retenir que A._ avait eu l'intention de frapper le plaignant avec la matraque qu'il tenait à la main. De même, contrairement à ce qu'affirmait B._, rien ne permettait de penser que l'intéressé avait démarré "comme une bombe" dans le but manifeste et délibéré de le renverser voire de l'écraser. Il ressortait tout au plus de l'instruction que A._ avait avancé son véhicule à faible allure et par à-coups, ce qui a pu déséquilibrer B._ sans le faire tomber à terre, issue que ce dernier avait lui-même provoquée en se plaçant sciemment devant ledit véhicule. Le 27 mai 2008, A._ a transmis une copie de cette ordonnance au Tribunal administratif.
C. Par arrêt du 17 juin 2008, le Tribunal administratif a rejeté le recours formé par A._ contre la décision de retrait de permis du 29 mai 2007. Il a considéré en substance que la décision de retrait se fondait uniquement sur le rapport de l'IUML et que "la contestation des faits du 16 mai 2006" était "assurément hors contexte". Pour parvenir à la conclusion que A._ était inapte à la conduite, les ex-perts l'avaient examiné à trois reprises et ils avaient pris des renseignements auprès de son médecin traitant et procédé à un examen psychiatrique. Le Tribunal administratif a dès lors estimé que les explications des experts étaient parfaitement convaincantes et ne pouvaient qu'être suivies.
D. Par arrêt du 3 juillet 2008, la Cour de droit pénal du Tribunal fédéral a déclaré irrecevable le recours formé par B._ contre l'ordonnance de la Chambre d'accusation du 14 mai 2008.
E. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler l'arrêt du Tribunal administratif du 17 juin 2008, d'ordonner la restitution de son permis de conduire, subsidiairement de renvoyer la cause au Tribunal administratif pour nouvelle décision dans le sens des considérants. Il se plaint d'arbitraire dans la constatation des faits et d'une violation de l'<ref-law>. Il requiert en outre l'assistance judiciaire. L'Office fédéral des routes conclut à l'admission du recours, en précisant que le recourant devrait être soumis à un nouvel examen de psychologie du trafic. Le Tribunal administratif se réfère aux considérants de son arrêt. L'Office cantonal des automobiles et de la navigation s'est déterminé; il conclut au rejet du recours. Le recourant a présenté des observations complémentaires.

Considérant en droit:
1. La voie du recours en matière de droit public, au sens des <ref-law>, est en principe ouverte contre les décisions prises en dernière instance cantonale au sujet de mesures administratives de retrait du permis de conduire. Le recourant est particulièrement atteint par la décision attaquée ? qui confirme le retrait de son permis de conduire pour une durée indéterminée ? et il a un intérêt digne de protection à son annulation; il a donc la qualité pour recourir au sens de l'<ref-law>. Pour le surplus, interjeté en temps utile et dans les formes requises contre une décision finale prise en dernière instance cantonale non susceptible de recours devant le Tribunal administratif fédéral, le recours satisfait aux exigences des art. 42, 86 al. 1 let. d, 90 et 100 al. 1 LTF et est recevable comme recours en matière de droit public.
2. Le recourant reproche au Tribunal administratif d'avoir fait preuve d'arbitraire dans l'établissement des faits et l'appréciation des preuves. Il lui fait en particulier grief de n'avoir pas tenu compte de l'ordonnance de la Chambre d'accusation mettant en doute la version des faits de B._. Or, c'est sur cette version erronée que se fonde l'expertise de l'IUML, de sorte que le Tribunal administratif ne pouvait pas se fier aveuglément aux conclusions des experts.
2.1 Les constatations de faits importants pour le jugement de la cause ne peuvent être critiquées que si elles ont été faites en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte (<ref-law>), ce que le recourant doit démontrer par une argumentation répondant aux exigences de l'<ref-law>, respectivement de l'<ref-law> (<ref-ruling> consid. 1.4.3 p. 254 s.). L'existence de faits constatés de manière inexacte ou en violation du droit doit en outre être susceptible d'avoir une influence déterminante sur l'issue de la procédure (art. 97 al. 1 in fine LTF). Selon la jurisprudence, l'appréciation des preuves ou l'établissement des faits sont arbitraires (art. 9 Cst.; pour une définition de l'arbitraire cf. <ref-ruling> consid. 3.1 p. 153) lorsque l'autorité n'a manifestement pas compris le sens et la portée d'un moyen de preuve, si elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision ou lorsqu'elle tire des constatations insoutenables des éléments recueillis (<ref-ruling> consid. 2.1 p. 9; <ref-ruling> consid. 2a p. 41).
2.2 Le retrait du permis de conduire pour une durée indéterminée en application de l'<ref-law> porte une atteinte grave à la personnalité de l'automobiliste concerné; il doit donc reposer sur une instruction approfondie des circonstances déterminantes (<ref-ruling> consid. 3.1 p. 388). En ce qui concerne la valeur probante d'un rapport médical, ce qui est décisif c'est que les points litigieux aient fait l'objet d'une étude circonstanciée, que le rapport se fonde sur des examens complets, qu'il prenne également en considération les plaintes exprimées par la personne examinée, qu'il ait été établi en pleine connaissance de l'anamnèse, que la description du contexte médical et l'appréciation de la situation médicale soient claires et enfin que les conclusions de l'expert soient dûment motivées. Au demeurant, l'élément déterminant pour la valeur probante n'est ni l'origine du moyen de preuve ni sa désignation comme rapport ou comme expertise, mais bel et bien son contenu (<ref-ruling> consid. 3a p. 352; <ref-ruling> consid. 1c p. 160 et les références).
Selon la jurisprudence, le juge ne peut s'écarter de l'avis d'un expert judiciaire que s'il a de sérieux motifs de le faire. Il lui incombe d'apprécier les preuves et de résoudre les questions juridiques qui en découlent. Aussi lui appartient-il d'examiner, sur le vu des preuves et des allégués des parties, s'il y a des motifs suffisants de douter de l'exactitude de l'expertise. Si tel est le cas, il doit recueillir des preuves complémentaires pour tenter de dissiper ces doutes. A défaut, en se fondant sur une expertise non concluante, il peut commettre une appréciation arbitraire des preuves (<ref-ruling> consid. 4.2.3 p. 391; <ref-ruling> consid. 1c p. 146).
2.3 En l'espèce, les faits sur lesquels porte la contestation sont déterminants pour l'issue du litige, puisqu'il s'agit des éléments qui fondent la décision de retrait du permis pour inaptitude à la conduite. Le recourant est dès lors recevable à critiquer la constatation de ces faits. Devant le Tribunal administratif, il mettait en doute l'exactitude de l'expertise de l'IUML, au motif que celle-ci se fondait sur des faits qui n'avaient pas été démontrés. Les experts tenaient en effet pour avérées certaines accusations de B._ qui étaient contestées. Le recourant a encore envoyé au Tribunal administratif l'ordonnance de la Chambre d'accusation du 14 mai 2008, constatant l'absence de prévention suffisante et relevant que ni le coup de matraque ni la tentative de renverser B._ n'avaient été établis.
Sur la base de ces éléments, les juges précédents auraient dû éprouver des doutes quant à la pertinence de l'expertise litigieuse. En effet, celle-ci commence par un exposé des faits retenant que le recourant "ne s'est pas arrêté à un signal « stop » et a failli heurter un autre usager de la route au guidon d'un motocycle", qu'il "s'est mis à insulter le motocycliste puis l'a agressé à l'aide d'une matraque en bois, lui occasionnant un traumatisme crânien" et qu'il a "encore heurté une personne qui tentait de l'arrêter en se mettant devant son véhicule". Il ressort donc de l'expertise que les accusations de B._ sont tenues pour avérées, les experts parlant plus loin de "l'infraction commise", en précisant que l'expertisé "n'admet qu'une partie des faits qui lui sont reprochés". De même, les conclusions de l'expertise mentionnent que "l'anamnèse routière révèle que, en mai 2006, M. A._ s'est violemment opposé à un autre usager de la route qui a déposé plainte pour coups et blessures". Il est évident que cet état de fait a joué un rôle dans l'analyse des experts, notamment en ce qui concerne le "potentiel de dangerosité hétéro-agressif" diagnostiqué chez le recourant. On peut donc légitimement douter que les experts seraient arrivés à la même conclusion s'ils avaient su qu'aucune infraction ne pouvait être retenue contre le recourant et que les faits susmentionnés reposaient sur des accusations qui n'ont pas été établies.
L'autre élément sur lequel semble se fonder la conclusion d'inaptitude à la conduite est le "trouble de la personnalité sévère, de type paranoïaque" décelé chez le recourant. L'expertise n'explique cependant pas en quoi cette pathologie serait de nature à contre-indiquer la conduite d'une automobile, alors que le recourant est titulaire du permis de conduire depuis 1970 et ne présente aucun antécédent. Il est dès lors douteux que l'expertise ait une valeur probante conforme aux exigences susmentionnées. Au demeurant, ce diagnostic apparaît également biaisé, puisqu'il part notamment du principe que l'expertisé nourri des idées délirantes à thème de persécution, en relation avec un complot orchestré par la police. Or, il ne faut pas perdre de vue que l'individu avec lequel le recourant a eu une altercation était un policier en congé, que celui-ci a déposé une plainte pénale à la suite de laquelle le recourant a été arrêté par la police judiciaire, qui lui a retiré son permis le lendemain et qui a procédé à une visite de son domicile, où des objets ont été saisis. Etant donné que cet impressionnant cortège de mesures - sans compter la procédure administrative et l'obligation de se soumettre à une expertise psychiatrique - découle d'accusations qui n'ont pas pu être étayées, il est compréhensible que le recourant se soit senti victime d'un certain acharnement de la part des autorités, en particulier de la police. L'expertise litigieuse n'ayant pas pris en considération ce qui précède, les conclusions de la procédure pénale étant intervenues ultérieurement, son exactitude apparaissait douteuse pour ce motif également.
2.4 Ainsi, en omettant de prendre en compte les éléments exposés ci-dessus ainsi que le contenu de l'ordonnance de la Chambre d'accusation du 14 mai 2008 et en se fondant uniquement sur l'expertise de l'IULM alors que les experts n'avaient pas eu connaissance des résultats de la procédure pénale, le Tribunal administratif a procédé à une appréciation arbitraire des preuves. Il s'ensuit que le recours doit être admis et l'arrêt attaqué annulé.
3. Vu le sort de la procédure pénale, on peut se demander si le recourant doit toujours être soumis à une expertise psychiatrique. Les faits qui ont motivé cette mesure ont en effet été remis en question par le classement de la plainte pénale et l'ordonnance de la Chambre d'accusation du 14 mai 2008. Cependant, malgré les vices dont il est affecté, le rapport d'expertise litigieux fait naître un certain doute quant à l'aptitude à la conduite du recourant. Il se justifie donc d'éclaircir cette question en ordonnant une nouvelle expertise, qui sera conduite par d'autres experts. En revanche, il est douteux que ce seul élément soit suffisant pour justifier une mesure de retrait préventif du permis de conduire - sur la base de l'art. 30 de l'ordonnance du 27 octobre 1976 réglant l'admission à la circulation routière (OAC; RS 741.51) - en attendant le dépôt du nouveau rapport d'expertise. Une telle mesure s'impose en effet uniquement si des indices objectifs autorisent à penser que le conducteur concerné représente un risque particulier pour les autres usagers de la route et font douter sérieusement de sa capacité à conduire (cf. <ref-ruling> consid. 2b p. 495 s., 396 consid. 3 p. 401). De tels indices paraissent faire défaut en l'espèce, le recourant étant en outre titulaire du permis depuis 1970 sans qu'on lui connaisse aucun antécédent. Il appartiendra cependant au Tribunal administratif de trancher cette question, en examinant si le maintien de la mesure de retrait préventif est encore justifié au vu des nouvelles circonstances exposées ci-dessus ou si le permis de conduire du recourant doit lui être restitué en attendant les conclusions de la nouvelle expertise. Compte tenu de l'atteinte importante causée par cette mesure, qui dure déjà depuis près de trois ans, le Tribunal administratif est invité à statuer sur ce point dans les meilleurs délais.
4. Le recours doit donc être admis et l'arrêt attaqué annulé. La cause est renvoyée au Tribunal administratif pour qu'il mette en oeuvre les mesures d'instruction nécessaires et qu'il statue sur le maintien éventuel du retrait préventif. Il n'y a pas lieu de percevoir des frais judiciaires (<ref-law>). Le recourant, assisté d'un avocat, a droit à des dépens, à la charge de l'Etat de Genève (<ref-law>). Dans ces conditions, sa demande d'assistance judiciaire est sans objet.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis; l'arrêt attaqué est annulé et la cause est renvoyée au Tribunal administratif du canton de Genève pour nouvelle décision dans le sens des considérants.
2. Il n'est pas perçu de frais judiciaires.
3. Une indemnité de 2'000 fr. est allouée à A._ à titre de dépens, à la charge de l'Etat de Genève.
4. Le présent arrêt est communiqué au mandataire du recourant, à l'Office cantonal des automobiles et de la navigation et au Tribunal administratif du canto n de Genève, ainsi qu'à l'Office fédéral des routes.
Lausanne, le 23 février 2009
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant: Le Greffier:
Aemisegger Rittener