Faits : A. A.a Le 22 décembre 1995, vers 3 heures 30, X._, accompagné de son amie, s'est présenté au service des urgences de l'Hôpital cantonal de Fribourg (ci-après: l'Hôpital cantonal). Il souffrait de céphalées violentes, aiguës et persistantes malgré la prise de six aspirines, ainsi que de nausées, vomissements et douleurs abdominales au niveau épigastrique. Contrôlés par une infirmière dès la prise en charge, les signes vitaux du patient se sont révélés normaux. Le médecin assistant de garde a ensuite examiné X._. Il a effectué un examen neurologique afin de rechercher des signes d'irritation méningée; il n'a pas décelé de tels symptômes. Il a également questionné X._ et son amie à propos d'une cicatrice sur l'abdomen du patient et compris qu'elle correspondait à une opération du pancréas (alors qu'en réalité, le patient avait subi une ablation de la rate ou splénectomie). Au terme de son examen, le médecin a posé le diagnostic présumé d'un état grippal et d'une sensibilité épigastrique probablement due à l'absorption des analgésiques. Il a administré au patient des médicaments antidouleur par voie orale, puis par voie anale et enfin, par voie intraveineuse. Vers 6 heures 30, incommodé par le bruit qui régnait dans le service des urgences et estimant n'être pas pris en charge correctement, X._ a émis le souhait de rentrer chez lui et déclaré qu'il allait mieux. Le médecin assistant ne s'est pas opposé au départ du patient, mais lui a conseillé de consulter son médecin traitant dans la matinée. A 9 heures 55, X._ a été réadmis en urgence à l'Hôpital cantonal; il se trouvait dans un état stuporeux. L'examen du patient a révélé des signes d'irritation méningée; le diagnostic de méningite bactérienne à pneumocoques a été rapidement établi. Un traitement par antibiotiques a été entrepris sans délai. L'évolution de la maladie s'est caractérisée par des complications neurologiques et cardio-vasculaires sévères, nécessitant une réanimation neurologique, respiratoire et cardiaque prolongée. X._ est sorti du coma le 28 décembre 1995; il est resté hospitalisé jusqu'au 8 février 1996. A l'heure actuelle, il souffre de séquelles neurologiques, sous forme d'une surdité bilatérale totale sur lésion bilatérale de l'oreille interne. A.b Une plainte pénale pour lésions corporelles graves par négligence, subsidiairement lésions corporelles simples par négligence, et éventuellement pour omission de prêter secours a été déposée par X._ contre le médecin assistant qui l'avait reçu lors de sa première admission aux urgences. Dans le cadre de la procédure pénale, le Juge d'instruction a ordonné une expertise judiciaire, confiée à deux médecins de l'Institut de médecine légale de l'Université de Lausanne. Selon le rapport du 18 avril 1997 de ces médecins, assistés à leur demande d'un troisième praticien, l'état du patient n'a pas été apprécié conformément aux règles de l'art et le médecin assistant a commis une faute, qui n'est toutefois pas dans un lien de causalité avec les séquelles neurologiques subies par X._. Selon les experts, les symptômes que le patient présentait - céphalées aiguës, violentes, résistantes aux analgésiques et associées à un état fébrile supérieur à 39°C depuis deux jours, à des nausées et vomissements, ainsi qu'à une baisse de l'état général - devaient impérativement faire suspecter une méningite ou une autre affection du système nerveux. A leur avis, l'absence, lors de l'examen, de fièvre et de signes d'irritation méningée ne permettait pas d'exclure ce diagnostic; les règles de l'art imposaient de procéder d'emblée à une ponction lombaire à but diagnostique, associée ou non à un examen par scanner. Les experts imputent au médecin assistant une faute professionnelle, notamment pour n'avoir pas pris en compte les renseignements anamnestiques donnés par le patient et pour avoir considéré à tort l'absence de signes cliniques objectifs comme autorisant à écarter la suspicion d'une méningite. Selon le rapport, il n'existe toutefois pas de lien de causalité entre la faute commise et les séquelles dont le patient souffre. Cette dernière opinion était motivée comme suit: «Si les règles de l'art veulent qu'une méningite soit diagnostiquée précocement, de manière à ce que le traitement puisse être débuté immédiatement, on sait aussi que la maladie en elle-même comporte un risque élevé de mortalité et de séquelles neurologiques. Malgré le délai supplémentaire de 4 à 5 heures avant le début des antibiotiques, il est impossible de dire dans le cas présent si la prescription plus précoce d'antibiotiques aurait permis d'éviter les séquelles neurologiques [que présente] le patient.» Le 18 novembre 1997, le Juge d'instruction a rendu une ordonnance de non-lieu; il a retenu l'absence d'un lien de causalité naturelle entre le retard dans le diagnostic et le traitement, imputable au médecin assistant, et la lésion subie par le plaignant. X._ a recouru contre cette ordonnance. A cette occasion, il a produit une contre-expertise privée établie le 30 mars 1998 par un professeur de la faculté de médecine de Rouen, également chef de la clinique neurologique du Centre hospitalier universitaire de ladite ville. Selon cette expertise, il ne fait aucun doute que le médecin assistant a méconnu le diagnostic de méningite; malgré l'absence de signes méningés à l'examen neurologique, l'ensemble du tableau clinique (hyperthermie fluctuante, céphalées très violentes, vomissements) était suffisamment évocateur pour redouter de passer à côté d'une méningite, dont l'expression clinique peut être variable et tronquée. Le professeur relève à cet égard qu'au moindre doute, une ponction lombaire - précédée ou non, selon l'urgence, d'un examen de neuro-imagerie - constitue une règle absolue à ne jamais transgresser. D'après l'expert privé, le retard dans le diagnostic et, partant, dans le traitement de la méningite à pneumocoques a provoqué pour X._ une perte de chance réelle, en augmentant le risque de complications, en particulier de surdité. Par arrêt du 14 mai 1999, la Chambre pénale du Tribunal cantonal du canton de Fribourg a rejeté le recours de X._. Ce dernier a interjeté un recours de droit public au Tribunal fédéral, qui l'a rejeté en date du 30 septembre 1999 (arrêt 1P.383/1999). A.c Par requête du 23 décembre 1996, X._ avait présenté à l'Hôpital cantonal ses prétentions, qu'il chiffrait à 2'875'041 fr. D'entente entre les parties, cette procédure avait été suspendue jusqu'à droit connu dans la procédure pénale. Par décision du 19 octobre 2001, l'Hôpital cantonal a rejeté les prétentions de X._. Il s'est fondé notamment sur l'avis du Dr A._, spécialiste FMH en médecine interne et médecin-conseil auprès de l'assurance Z._. Ce praticien conteste l'expertise du 18 avril 1997; il est d'avis que les experts ont été influencés par la connaissance de l'évolution du cas et qu'ils n'ont pu se résoudre à ignorer le diagnostic final. B. Le 19 avril 2002, X._ a déposé une action de droit administratif, concluant à ce que l'Hôpital cantonal soit condamné à lui verser un montant à arrêter à dire d'expert sur la base d'un préjudice total de 2'916'042 fr., avec intérêts à 5% dès le 22 décembre 1996. L'Hôpital cantonal a conclu au rejet de l'action. Se fondant sur trois avis médicaux, il a notamment contesté toute faute professionnelle de la part du médecin assistant, rappelant en particulier qu'une méningite à pneumocoques est précédée d'un état grippal et qu'elle peut se développer en quelques heures lorsque le patient a subi une splénectomie. Le 1er janvier 2007, la loi concernant le Réseau hospitalier fribourgeois (LRHF; RSF 822.0.1) est entrée en vigueur. Elle a abrogé la loi sur l'Hôpital cantonal. Le Réseau hospitalier fribourgeois (ci-après: RHF) est un établissement de droit public doté de la personnalité juridique, qui réunit les structures hospitalières publiques existant dans le canton de Fribourg, dont l'Hôpital cantonal, à l'exception de l'Hôpital psychiatrique. Le RHF a repris l'exploitation et les biens de l'Hôpital cantonal, de même que les droits et obligations découlant des contrats passés entre l'Hôpital cantonal et des tiers. Par arrêt du 12 février 2007, la Ière Cour administrative du Tribunal administratif du canton de Fribourg a d'abord constaté que le RHF avait succédé à l'Hôpital cantonal dans la procédure ouverte contre celui-ci, puis a rejeté l'action introduite par X._. En substance, l'autorité cantonale a laissé ouverte la question de l'illicéité du comportement reproché au médecin assistant; elle a retenu en effet qu'un lien de causalité naturelle entre l'acte illicite invoqué et le dommage subi par le patient n'était pas établi avec une haute vraisemblance, ce qui excluait la responsabilité du RHF. C. X._ (le demandeur) interjette un «recours en matière de droit public». Il demande au Tribunal fédéral d'annuler l'arrêt attaqué et de renvoyer la cause au Tribunal administratif pour nouvelle décision dans le sens des considérants. Le RHF (le défendeur) propose le rejet du recours dans la mesure où celui-ci est recevable. Invitée à se déterminer sur le recours, l'autorité cantonale a fait savoir qu'elle n'avait pas d'observations à formuler.