avoir] l'impression que la machine fait le travail et que le médecin n'a qu'à signer » (une partie au moins du respect du patient pour son médecin vient du fait qu'il sache beaucoup de choses, qu'il ait un bon diagnostic, que le résultat de son traitement soit bon : quid du médecin qui s'appuie systématiquement sur l'IA ? Voir également [144]), un autre « [la consultation] peut devenir une interview standardisée ». La confiance en son médecin est tenue pour fondamentale et ces technologies sont perçues comme une menace étant donné le partage des informations ou de la conversation avec un système souvent connecté à un réseau ou des bases de données à distance dont on ne connaît rien. Les données en rapport avec le patient pourraient être interceptées, et utilisées à leur insu ou contre leur intérêt (l'un des médecins évoque même la possibilité qu'une grande firme pharmaceutique soit derrière une IA volontairement biaisée dans le but de vendre un médicament). Les médecins craignent aussi la possibilité d'être surveillés ou contrôlés par le fait d'être en rapport avec l'IA. Enfin, s'en remettre à une IA pour le diagnostic peut introduire un biais ou éloigner le médecin de sa propre intuition, éducation ou expérience, ce qui est à mettre en relation avec les « effets indésirables » de l'IA en médecine[124, 145]. Un autre thème central de la discussion est celui de ce qu'on peut attendre de l'IA en médecine générale, en bien ou en mal. Les médecins espèrent bénéficier du concours de l'IA pour améliorer la qualité (précision par exemple) et l'efficacité (rapidité par exemple) du diagnostic, et leur permettre de se concentrer sur les cas les plus importants (par priorisation des cas par exemple). Certains pensent que la responsabilité peut être transférée à l'IA. Le défaut le plus important que les médecins s'attendent unanimement à trouver pour les IA reste le manque d'humanité. Ceci peut paraître trivial, mais ils mentionnent certaines qualités inhérentes à la relation avec un patient, dont ils pensent qu'elles sont purement humaines : l'empathie, l'intuition, les gestes, l'expérience et le raisonnement clinique. L'un des participants écrit « [l'empathie] est quelque chose qui définit un bon médecin et ne peut pas être remplacé par l'IA ». Certains patients sont avides du contact humain et ne consultent parfois pour rien d'autre (« L'homme est certainement dépassé par l'IA dans beaucoup de domaines, mais pas dans le domaine émotionnel »). Knop et al., une autre équipe allemande intéressée par la question philosophique de la collaboration homme-machine, notent les mêmes remarques chez les médecins interrogés[146]. Enfin, certains médecins doutent du fait que l'IA puisse leur faire gagner du temps, faisant l'hypothèse qu'il faille prendre le temps de lui donner des informations alors que le diagnostic est parfois rapidement posé. L'attitude des généralistes envers l'IA peut évoluer en fonction d'influences environnementales : la démographie médicale, le volume des connaissances médicales par exemple, mais aussi les tendances (« un cabinet médical suit le marché comme une petite entreprise ») et l'avis des sociétés savantes. Les médecins admettent ne pas connaître l'état de l'art et seraient disposés à lire des articles en rapport dans les media. Ils ont également conscience que ces technologies reposent sur une infrastructure technique qui doit fonctionner impeccablement : logiciel, ordinateur, réseau, électricité et leurs périphériques. L'âge, ou l'affinité pour la technologie, sont deux possibles facteurs
avoir] l'impression que la machine fait le travail et que le médecin n'a qu'à signer » (une partie au moins du respect du patient pour son médecin vient du fait qu'il sache beaucoup de choses, qu'il ait un bon diagnostic, que le résultat de son traitement soit bon : quid du médecin qui s'appuie systématiquement sur l'IA ? Voir également [144]), un autre « [la consultation] peut devenir une interview standardisée ». La confiance en son médecin est tenue pour fondamentale et ces technologies sont perçues comme une menace étant donné le partage des informations ou de la conversation avec un système souvent connecté à un réseau ou des bases de données à distance dont on ne connaît rien. Les données en rapport avec le patient pourraient être interceptées, et utilisées à leur insu ou contre leur intérêt (l'un des médecins évoque même la possibilité qu'une grande firme pharmaceutique soit derrière une IA volontairement biaisée dans le but de vendre un médicament). Les médecins craignent aussi la possibilité d'être surveillés ou contrôlés par le fait d'être en rapport avec l'IA. Enfin, s'en remettre à une IA pour le diagnostic peut introduire un biais ou éloigner le médecin de sa propre intuition, éducation ou expérience, ce qui est à mettre en relation avec les « effets indésirables » de l'IA en médecine[124, 145]. Un autre thème central de la discussion est celui de ce qu'on peut attendre de l'IA en médecine générale, en bien ou en mal. Les médecins espèrent bénéficier du concours de l'IA pour améliorer la qualité (précision par exemple) et l'efficacité (rapidité par exemple) du diagnostic, et leur permettre de se concentrer sur les cas les plus importants (par priorisation des cas par exemple). Certains pensent que la responsabilité peut être transférée à l'IA. Le défaut le plus important que les médecins s'attendent unanimement à trouver pour les IA reste le manque d'humanité. Ceci peut paraître trivial, mais ils mentionnent certaines qualités inhérentes à la relation avec un patient, dont ils pensent qu'elles sont purement humaines : l'empathie, l'intuition, les gestes, l'expérience et le raisonnement clinique. L'un des participants écrit « [l'empathie] est quelque chose qui définit un bon médecin et ne peut pas être remplacé par l'IA ». Certains patients sont avides du contact humain et ne consultent parfois pour rien d'autre (« L'homme est certainement dépassé par l'IA dans beaucoup de domaines, mais pas dans le domaine émotionnel »). Knop et al., une autre équipe allemande intéressée par la question philosophique de la collaboration homme-machine, notent les mêmes remarques chez les médecins interrogés[146]. Enfin, certains médecins doutent du fait que l'IA puisse leur faire gagner du temps, faisant l'hypothèse qu'il faille prendre le temps de lui donner des informations alors que le diagnostic est parfois rapidement posé. L'attitude des généralistes envers l'IA peut évoluer en fonction d'influences environnementales : la démographie médicale, le volume des connaissances médicales par exemple, mais aussi les tendances (« un cabinet médical suit le marché comme une petite entreprise ») et l'avis des sociétés savantes. Les médecins admettent ne pas connaître l'état de l'art et seraient disposés à lire des articles en rapport dans les media. Ils ont également conscience que ces technologies reposent sur une infrastructure technique qui doit fonctionner impeccablement : logiciel, ordinateur, réseau, électricité et leurs périphériques. L'âge, ou l'affinité pour la technologie, sont deux possibles facteurs
de modification du comportement vis-à-vis de ces technologies. Les médecins, pour utiliser ces technologies, déterminent des critères minimaux : l'efficacité (vitesse et qualité du diagnostic), la sécurité des données, la viabilité économique, la transparence (à mettre en rapport avec le concept d'explicabilité développé plus haut), la préservation de l'autonomie du praticien. Au final les résultats de cette étude sont en accord avec ceux présentés par d'autres équipes (voir [147, 148] par exemple).

Nash et al. [149], l'équipe responsable de la revue de la littérature présentée en page 32, rappellent que le résultat d'une consultation est moins bien défini en médecine générale que dans d'autres spécialités, et la population ciblée plus hétérogène. Leur étude qualitative porte sur l'utilisation potentielle d'outils d'IA pour les soins de premier recours prodigués à une population défavorisée au Canada, servie par un « centre de santé communautaire »<fnref n="9" /> où travaillent des professionnels de différents métiers avec qui les entretiens ont eu lieu : médecins, infirmières mais aussi travailleurs sociaux, managers. Il semble avant tout que ces derniers soient pour la plupart peu versés dans les technologies dont ont voulu discuter les auteurs de l'article (ce qui reflète sans doute la réalité dans notre environnement également : peu parmi le personnel soignant français le sont). Le thème le plus important et le plus souvent évoqué par les participants était celui de la confiance en l'IA. L'un d'entre eux suggère qu'il faudrait une période où la technologie serait seulement informative avant d'avoir un impact réel, pour gagner la confiance des potentiels utilisateurs. Cette confiance dépend de critères déjà identifiés dans les études précédemment citées : la performance démontrée par la technologie est très importante, mais également la qualité des données sur lesquelles elle se base, autrement dit l'IA a besoin d'un dossier médical (informatisé) qui soit complet et fiable pour donner un résultat fiable. Il convient donc de résoudre d'abord le problème de la qualité du dossier médical informatisé pour obtenir une adhésion plus franche. L'acceptabilité, notion que nous avons abordée plus haut, est conditionnée à la confiance que le médecin et le patient peuvent placer en l'IA mais aussi à la facilité d'utilisation, cette technologie ne doit pas être un nouveau distracteur éloignant toujours plus le praticien du patient. Elle ne doit pas non plus être incontournable, les utilisateurs expriment le souhait de garder la main [142]. D'autres motifs d'inquiétude cités et attendus sont en particulier la sécurité des données et la vie privée, mais surtout la détérioration du lien entre le patient et le professionnel de la santé.

Kocaballi et al. ont également interrogé 16 médecins généralistes australiens dans une étude qualitative explorant les rôles possibles d'un futur « assistant documentaliste médical »[144] (ou « scribe médical », ce terme pouvant référer à des outils existant déjà, voir section suivante). Leur méthodologie basée sur des *future workshops* [150] où les participants étaient invités dans un cadre mis au point par des chercheurs intéressés par la conception de solutions futures à d'abord identifier les problèmes dans le contexte d'une consultation, puis imaginer des solutions futures à ces problèmes, et enfin en discuter.

<footnote n="9">9. Community Health Center ou CHC, au service d'un bassin de population de 600000 personnes correspondant environ au dixième d'une province canadienne. Ils ont servi de modèle pour le Medicare américain, organisant la prévention et les soins de premier recours aux populations dans le besoin.</footnote>
de modification du comportement vis-à-vis de ces technologies. Les médecins, pour utiliser ces technologies, déterminent des critères minimaux : l'efficacité (vitesse et qualité du diagnostic), la sécurité des données, la viabilité économique, la transparence (à mettre en rapport avec le concept d'explicabilité développé plus haut), la préservation de l'autonomie du praticien. Au final les résultats de cette étude sont en accord avec ceux présentés par d'autres équipes (voir [147, 148] par exemple).

Nash et al. [149], l'équipe responsable de la revue de la littérature présentée en page 32, rappellent que le résultat d'une consultation est moins bien défini en médecine générale que dans d'autres spécialités, et la population ciblée plus hétérogène. Leur étude qualitative porte sur l'utilisation potentielle d'outils d'IA pour les soins de premier recours prodigués à une population défavorisée au Canada, servie par un « centre de santé communautaire »<fnref n="9" /> où travaillent des professionnels de différents métiers avec qui les entretiens ont eu lieu : médecins, infirmières mais aussi travailleurs sociaux, managers. Il semble avant tout que ces derniers soient pour la plupart peu versés dans les technologies dont ont voulu discuter les auteurs de l'article (ce qui reflète sans doute la réalité dans notre environnement également : peu parmi le personnel soignant français le sont). Le thème le plus important et le plus souvent évoqué par les participants était celui de la confiance en l'IA. L'un d'entre eux suggère qu'il faudrait une période où la technologie serait seulement informative avant d'avoir un impact réel, pour gagner la confiance des potentiels utilisateurs. Cette confiance dépend de critères déjà identifiés dans les études précédemment citées : la performance démontrée par la technologie est très importante, mais également la qualité des données sur lesquelles elle se base, autrement dit l'IA a besoin d'un dossier médical (informatisé) qui soit complet et fiable pour donner un résultat fiable. Il convient donc de résoudre d'abord le problème de la qualité du dossier médical informatisé pour obtenir une adhésion plus franche. L'acceptabilité, notion que nous avons abordée plus haut, est conditionnée à la confiance que le médecin et le patient peuvent placer en l'IA mais aussi à la facilité d'utilisation, cette technologie ne doit pas être un nouveau distracteur éloignant toujours plus le praticien du patient. Elle ne doit pas non plus être incontournable, les utilisateurs expriment le souhait de garder la main [142]. D'autres motifs d'inquiétude cités et attendus sont en particulier la sécurité des données et la vie privée, mais surtout la détérioration du lien entre le patient et le professionnel de la santé.

Kocaballi et al. ont également interrogé 16 médecins généralistes australiens dans une étude qualitative explorant les rôles possibles d'un futur « assistant documentaliste médical »[144] (ou « scribe médical », ce terme pouvant référer à des outils existant déjà, voir section suivante). Leur méthodologie basée sur des *future workshops* [150] où les participants étaient invités dans un cadre mis au point par des chercheurs intéressés par la conception de solutions futures à d'abord identifier les problèmes dans le contexte d'une consultation, puis imaginer des solutions futures à ces problèmes, et enfin en discuter.

<footnote n="9">9. Community Health Center ou CHC, au service d'un bassin de population de 600000 personnes correspondant environ au dixième d'une province canadienne. Ils ont servi de modèle pour le Medicare américain, organisant la prévention et les soins de premier recours aux populations dans le besoin.</footnote>
Les principaux thèmes se dégageant de la discussion sont : l'autonomie professionnelle, autrement dit la possibilité de travailler à sa manière et non à celle de l'IA (nécessité d'une réflexion bottom-up ou venant des praticiens, pour la conception d'un tel assistant), la collaboration humain-machine (tâches de l'humain : raisonnement clinique, communication, interaction, empathie ; rôle de l'IA : documentation, adresser à un spécialiste, formalités) ; et enfin de nouveaux modèles de soin. Pour ce dernier thème, les médecins interrogés proposent des notions relativement novatrices : par exemple la « préconsultation » qui aurait lieu dans la salle d'attente, avec un assistant virtuel, qui pourrait par exemple recueillir l'anamnèse ou les antécédents, ou bien l'équivalent à domicile, permettant de remplir son propre dossier médical à distance, et d'éviter par exemple de se lever le matin lorsque vous êtes malade et d'avoir à vous frotter à d'autres malades. Forts de ces résultats, les auteurs jugent extrêmement probable l'intégration de ce type de « scribe » automatique à la pratique en médecine générale, pourvu qu'ils soient supervisés jusqu'à preuve de leur performance en autonomie. Ils suggèrent que des modèles de collaboration homme-machine devront être élaborés et évalués de façon à ce que les soins prodigués soient sûrs. Pour Coiera, l'avenir verra l'IA documenter les interactions entre médecin et patient et donc produire l'équivalent de notes d'abord comme les médecins le font, puis de plus en plus dans un souci d'efficacité au bénéfice du patient sans rapport avec la façon de faire des médecins, c'est-à-dire à l'usage de la machine. Il existera également une pression pour conserver l'enregistrement d'origine pour pouvoir le réévaluer et produire de nouvelles interprétations médicales, mais aussi légales. Il existera donc également un courant contre, voulant effacer justement cet enregistrement et n'en garder que l'interprétation, qui se défend d'un point de vue médico-légal. Autant de problèmes que la technologie génèrera au fur et à mesure de son adoption.

## Familiarisation à l'IA dans les facultés de médecine ?

Les étudiants en médecine actuels vont arriver à un moment où les systèmes de soin vont changer rapidement [151]. Dans un rapport dont il a été chargé par le NHS<fnref n="10" /> sur la façon dont le rôle des professionnels de la santé va changer pour les deux prochaines décennies, Topol se prononce également sur les compétences qui leur seront alors demandées et partant comment les sélectionner et les former[152]. Une étude allemande de 2018 impliquant des étudiants en médecine de trois universités montre qu'ils connaissent l'existence des enjeux concernant l'arrivée de l'intelligence artificielle dans la médecine, sans toutefois en comprendre la partie technique, mais qu'ils ne craignent pas le remplacement par ces technologies (biais de sélection ? Voir ingénuité des médecins page 36) qui devraient selon eux faire partie des matières étudiées dans les facultés de médecine[153]. Cette éventualité est déjà envisagée par les différents groupes de pédagogues à travers le monde[154, 155] et par exemple dans un sondage réalisé par Wood et al. [156], où l'on apprend que seuls 30% des étudiants sont au courant de l'existence du domaine de l'IA médicale et que

<footnote n="10">10. National Health Service, système de santé anglais</footnote>
Les principaux thèmes se dégageant de la discussion sont : l'autonomie professionnelle, autrement dit la possibilité de travailler à sa manière et non à celle de l'IA (nécessité d'une réflexion bottom-up ou venant des praticiens, pour la conception d'un tel assistant), la collaboration humain-machine (tâches de l'humain : raisonnement clinique, communication, interaction, empathie ; rôle de l'IA : documentation, adresser à un spécialiste, formalités) ; et enfin de nouveaux modèles de soin. Pour ce dernier thème, les médecins interrogés proposent des notions relativement novatrices : par exemple la « préconsultation » qui aurait lieu dans la salle d'attente, avec un assistant virtuel, qui pourrait par exemple recueillir l'anamnèse ou les antécédents, ou bien l'équivalent à domicile, permettant de remplir son propre dossier médical à distance, et d'éviter par exemple de se lever le matin lorsque vous êtes malade et d'avoir à vous frotter à d'autres malades. Forts de ces résultats, les auteurs jugent extrêmement probable l'intégration de ce type de « scribe » automatique à la pratique en médecine générale, pourvu qu'ils soient supervisés jusqu'à preuve de leur performance en autonomie. Ils suggèrent que des modèles de collaboration homme-machine devront être élaborés et évalués de façon à ce que les soins prodigués soient sûrs. Pour Coiera, l'avenir verra l'IA documenter les interactions entre médecin et patient et donc produire l'équivalent de notes d'abord comme les médecins le font, puis de plus en plus dans un souci d'efficacité au bénéfice du patient sans rapport avec la façon de faire des médecins, c'est-à-dire à l'usage de la machine. Il existera également une pression pour conserver l'enregistrement d'origine pour pouvoir le réévaluer et produire de nouvelles interprétations médicales, mais aussi légales. Il existera donc également un courant contre, voulant effacer justement cet enregistrement et n'en garder que l'interprétation, qui se défend d'un point de vue médico-légal. Autant de problèmes que la technologie génèrera au fur et à mesure de son adoption.

## Familiarisation à l'IA dans les facultés de médecine ?

Les étudiants en médecine actuels vont arriver à un moment où les systèmes de soin vont changer rapidement [151]. Dans un rapport dont il a été chargé par le NHS<fnref n="10" /> sur la façon dont le rôle des professionnels de la santé va changer pour les deux prochaines décennies, Topol se prononce également sur les compétences qui leur seront alors demandées et partant comment les sélectionner et les former[152]. Une étude allemande de 2018 impliquant des étudiants en médecine de trois universités montre qu'ils connaissent l'existence des enjeux concernant l'arrivée de l'intelligence artificielle dans la médecine, sans toutefois en comprendre la partie technique, mais qu'ils ne craignent pas le remplacement par ces technologies (biais de sélection ? Voir ingénuité des médecins page 36) qui devraient selon eux faire partie des matières étudiées dans les facultés de médecine[153]. Cette éventualité est déjà envisagée par les différents groupes de pédagogues à travers le monde[154, 155] et par exemple dans un sondage réalisé par Wood et al. [156], où l'on apprend que seuls 30% des étudiants sont au courant de l'existence du domaine de l'IA médicale et que

<footnote n="10">10. National Health Service, système de santé anglais</footnote>
les 3/4 en ont entendu parler à travers les media. Le problème principal à l'intégration de ce domaine dans un cursus déjà chargé est le temps nécessaire, cependant étudiants comme professeurs s'accordent sur le fait qu'il serait bon de l'organiser[157]. Ganapathi et al. ont interrogé des médecins impliqués dans le développement ou l'adoption de l'IA médicale[158], pour comprendre comment les médecins vont adopter ces technologies. Il en ressort que l'éducation des futurs et actuels médecins est primordiale, soit dans leur cursus de base, soit pour ceux qui travaillent en leur ménageant du temps, ou en prévoyant pour eux des opportunités d'apprendre ou d'essayer sans perte de temps par ailleurs.

## Applications concrètes

Dans la revue Medical Economics, Mary Pratt interviewe d'éminents médecins impliqués dans l'adoption de l'IA dans la médecine de premier recours qui évoquent les potentielles utilisations. L'un des avantages attendus est d'avoir accès à des modules de diagnostic spécialisés depuis le cabinet[159], comme par exemple IDx, premier outil adopté par la FDA<sup>11</sup> permettant de détecter une rétinopathie diabétique[160, 161]. Elle mentionne beaucoup d'autres bénéfices attendus de l'utilisation de l'IA : la possibilité de croiser les informations de toutes les sources de données en rapport avec le patient en un temps négligeable, y compris les données physiologiques comme celles de sa montre connectée par exemple ; les utiliser pour faire de la prédiction ; ou pour adapter des recommandations à un patient en particulier (décision sur-mesure) ; utiliser des indicateurs subtils comme la voix du patient pour détecter une humeur particulière ; prendre des notes et remplir le dossier médical, etc. Notons qu'il existe déjà aux Etats-Unis au moins une solution de prise de notes commercialisée (voir chapitre suivant) : l'assistant Robin<sup>12</sup>, qui ressemble à Siri ou Alexa.

Le problème de la reconnaissance vocale et celui de la compréhension de l'information contenue dans le discours sont résolus, mais ce n'est pas tout. Une équipe bangladaise affiliée à l'université de Kyushu a récemment démontré que l'écriture légendairement incompréhensible des médecins était à la volée correctement reconnue par leur programme dans 93% des cas[162], ce qui ouvre la voie à la numérisation automatique des dossiers et documents actuellement sous forme physique, c'est-à-dire la plupart des anciens dossiers patients.

Karakulah et al.[163] ont réalisé un programme permettant de récupérer automatiquement sur internet la littérature d'intérêt pour un cas particulier d'affection congénitale dans le but d'aider le clinicien à prendre une décision. Ils ont utilisé pour cela des outils de NLP pour classifier les articles en ligne selon des termes d'intérêt correspondant à une nomenclature existante et ne présenter à l'utilisateur que ceux traitant effectivement du problème d'intérêt en analysant la construction des phrases de ces articles (par exemple en excluant un article où il est écrit « not affected with X », où X est un terme jugé

<footnote n="11">11. Food and Drug Administration, agence émettant l'autorisation d'utilisation des médicaments et dispositifs médicaux sur le territoire américain</footnote>

<footnote n="12">12. http://www.robinhealthcare.com</footnote>
les 3/4 en ont entendu parler à travers les media. Le problème principal à l'intégration de ce domaine dans un cursus déjà chargé est le temps nécessaire, cependant étudiants comme professeurs s'accordent sur le fait qu'il serait bon de l'organiser[157]. Ganapathi et al. ont interrogé des médecins impliqués dans le développement ou l'adoption de l'IA médicale[158], pour comprendre comment les médecins vont adopter ces technologies. Il en ressort que l'éducation des futurs et actuels médecins est primordiale, soit dans leur cursus de base, soit pour ceux qui travaillent en leur ménageant du temps, ou en prévoyant pour eux des opportunités d'apprendre ou d'essayer sans perte de temps par ailleurs.

## Applications concrètes

Dans la revue *Medical Economics*, Mary Pratt interviewe d'éminents médecins impliqués dans l'adoption de l'IA dans la médecine de premier recours qui évoquent les potentielles utilisations. L'un des avantages attendus est d'avoir accès à des modules de diagnostic spécialisés depuis le cabinet[159], comme par exemple IDx, premier outil adopté par la FDA<sup>11</sup> permettant de détecter une rétinopathie diabétique[160, 161]. Elle mentionne beaucoup d'autres bénéfices attendus de l'utilisation de l'IA : la possibilité de croiser les informations de toutes les sources de données en rapport avec le patient en un temps négligeable, y compris les données physiologiques comme celles de sa montre connectée par exemple ; les utiliser pour faire de la prédiction ; ou pour adapter des recommandations à un patient en particulier (décision sur-mesure) ; utiliser des indicateurs subtils comme la voix du patient pour détecter une humeur particulière ; prendre des notes et remplir le dossier médical, etc. Notons qu'il existe déjà aux Etats-Unis au moins une solution de prise de notes commercialisée (voir chapitre suivant) : l'assistant Robin<sup>12</sup>, qui ressemble à Siri ou Alexa.

Le problème de la reconnaissance vocale et celui de la compréhension de l'information contenue dans le discours sont résolus, mais ce n'est pas tout. Une équipe bangladaise affiliée à l'université de Kyushu a récemment démontré que l'écriture légendairement incompréhensible des médecins était à la volée correctement reconnue par leur programme dans 93% des cas[162], ce qui ouvre la voie à la numérisation automatique des dossiers et documents actuellement sous forme physique, c'est-à-dire la plupart des anciens dossiers patients.

Karakulah et al.[163] ont réalisé un programme permettant de récupérer automatiquement sur internet la littérature d'intérêt pour un cas particulier d'affection congénitale dans le but d'aider le clinicien à prendre une décision. Ils ont utilisé pour cela des outils de NLP pour classifier les articles en ligne selon des termes d'intérêt correspondant à une nomenclature existante et ne présenter à l'utilisateur que ceux traitant effectivement du problème d'intérêt en analysant la construction des phrases de ces articles (par exemple en excluant un article où il est écrit « not affected with X », où X est un terme jugé

<footnote n="11">11. Food and Drug Administration, agence émettant l'autorisation d'utilisation des médicaments et dispositifs médicaux sur le territoire américain</footnote>

<footnote n="12">12. http://www.robinhealthcare.com</footnote>
d'intérêt décrivant une anomalie).

A domicile, les patients ou les médecins peuvent d'ores et déjà exploiter certaines applications telles que Kardia <fnref n="13" /> (électrocardiogramme au moyen d'un dispositif de la taille d'une carte de crédit compatible avec un smartphone) ou pour analyser des lésions dermatologiques. A l'hôpital, Regard co-pilot <fnref n="14" />, une solution logicielle développée par d'anciens du MIT Media Lab et Google entre autres, s'intègre directement dans le dossier médical, propose des diagnostics en fonction des données et génère automatiquement des compte-rendus et observations cliniques. Une différence entre ce programme et d'autres réside dans le fait d'être déterministe, au sens mathématique ou informatique du terme, c'est-à-dire que la réponse du programme avec un même ensemble de données en entrée sera toujours la même. En effet, les LLM produisent des réponses valables mais différentes pour une même demande réitérée, étant donné leur fonctionnement intrinsèque.

D'autres tâches rébarbatives peuvent désormais être automatisées, Akasa, une entreprise américaine, réalise automatiquement le codage des actes pour ses clients, à partir d'un compte-rendu médical par exemple <fnref n="15" />.

Il existe actuellement une application de partage des cas cliniques à travers le monde, l'idée est de soumettre un cas à la réflexion de médecins utilisateurs, qui essaient de résoudre le problème. Cette application s'appelle Human Dx ou Human Diagnosis Project (voir http://www.humandx.com). Derrière cette idée de partage se trouve en réalité probablement une méthode déjà employée par le passé pour nourrir des algorithmes : l'exploitation d'une expertise bénévole pour la génération de modèles de « sens commun » (voir à ce titre le travail de Douglas Lenat [41], Marvin Minsky [164], John McCarthy [165], ou plus récemment Hugo Liu [166]) et plus précisément ici de « sens clinique ». Nous pouvons en effet lire sur le site internet que l'application « combine l'intelligence collective avec le machine learning » pour « créer une cartographie des étapes pour aider n'importe quel patient ». Malheureusement la méthodologie est opaque, il n'existe pas d'article décrivant la technologie, et pour le moment le projet n'a été explicitement exploité scientifiquement que pour produire des moyens de mesure de performance de diagnostic pour un médecin ou de comparer la performance d'un médecin versus un groupe de médecins, c'est-à-dire sans rapport avec le but réel du projet qui est vraisemblablement de recueillir la substance du raisonnement médical en construisant un graphe décisionnel qui permettra de simuler le raisonnement clinique[167].

## *Assistants actuellement utilisables par les généralistes*

En théorie les médecins généralistes pourraient adopter l'usage de certains assistants déjà au point, en particulier les « scribes » automatiques[62]. Nabla copilot <fnref n="16" /> génère par exemple un compte-rendu médical structuré en écoutant simplement la conversation entre

<footnote n="13">13. https://www.kardia.com</footnote>

<footnote n="14">14. https://withregard.com/</footnote>

<footnote n="15">15. https://akasa.com/</footnote>

<footnote n="16">16. https://www.nabla.com/</footnote>
d'intérêt décrivant une anomalie).

A domicile, les patients ou les médecins peuvent d'ores et déjà exploiter certaines applications telles que Kardia <fnref n="13" /> (électrocardiogramme au moyen d'un dispositif de la taille d'une carte de crédit compatible avec un smartphone) ou pour analyser des lésions dermatologiques. A l'hôpital, Regard co-pilot <fnref n="14" />, une solution logicielle développée par d'anciens du MIT Media Lab et Google entre autres, s'intègre directement dans le dossier médical, propose des diagnostics en fonction des données et génère automatiquement des compte-rendus et observations cliniques. Une différence entre ce programme et d'autres réside dans le fait d'être déterministe, au sens mathématique ou informatique du terme, c'est-à-dire que la réponse du programme avec un même ensemble de données en entrée sera toujours la même. En effet, les LLM produisent des réponses valables mais différentes pour une même demande réitérée, étant donné leur fonctionnement intrinsèque.

D'autres tâches rébarbatives peuvent désormais être automatisées, Akasa, une entreprise américaine, réalise automatiquement le codage des actes pour ses clients, à partir d'un compte-rendu médical par exemple <fnref n="15" />.

Il existe actuellement une application de partage des cas cliniques à travers le monde, l'idée est de soumettre un cas à la réflexion de médecins utilisateurs, qui essaient de résoudre le problème. Cette application s'appelle Human Dx ou Human Diagnosis Project (voir http://www.humandx.com). Derrière cette idée de partage se trouve en réalité probablement une méthode déjà employée par le passé pour nourrir des algorithmes : l'exploitation d'une expertise bénévole pour la génération de modèles de « sens commun » (voir à ce titre le travail de Douglas Lenat [41], Marvin Minsky [164], John McCarthy [165], ou plus récemment Hugo Liu [166]) et plus précisément ici de « sens clinique ». Nous pouvons en effet lire sur le site internet que l'application « combine l'intelligence collective avec le machine learning » pour « créer une cartographie des étapes pour aider n'importe quel patient ». Malheureusement la méthodologie est opaque, il n'existe pas d'article décrivant la technologie, et pour le moment le projet n'a été explicitement exploité scientifiquement que pour produire des moyens de mesure de performance de diagnostic pour un médecin ou de comparer la performance d'un médecin versus un groupe de médecins, c'est-à-dire sans rapport avec le but réel du projet qui est vraisemblablement de recueillir la substance du raisonnement médical en construisant un graphe décisionnel qui permettra de simuler le raisonnement clinique[167].

## *Assistants actuellement utilisables par les généralistes*

En théorie les médecins généralistes pourraient adopter l'usage de certains assistants déjà au point, en particulier les « scribes » automatiques[62]. Nabla copilot <fnref n="16" /> génère par exemple un compte-rendu médical structuré en écoutant simplement la conversation entre

<footnote n="13">13. https://www.kardia.com</footnote>

<footnote n="14">14. https://withregard.com/</footnote>

<footnote n="15">15. https://akasa.com/</footnote>

<footnote n="16">16. https://www.nabla.com/</footnote>
le médecin et son patient. Derrière ce logiciel français se cache facebook/Meta AI (actuellement dirigé par Yann Le Cun, précurseur du deep learning), des médecins français impliqués dans la formation des internes et la formation continue des médecins généralistes comme le Pr Claire Le Jeunne (faculté de médecine de l'Université Paris-Cité<fnref n="17" />) font partie des mentors. Cet assistant utilise pour l'instant GPT-3, l'ancienne génération du LLM d'OpenAI. D'autres entreprises proposent le même type de service : Robin Healthcare, Scribematic<fnref n="18" />, Deepscribe<fnref n="19" />, ou Phenopad[168] qui prend des notes pour le médecin pendant qu'il pose des questions au patient. Les grandes entreprises ont chacune une équipe travaillant spécifiquement dans ce domaine : Amazon a dévoilé Amazon Transcribe Medical<fnref n="20" />, Microsoft travaillait sur EmpowerMD<fnref n="21" /> et a récemment fait l'acquisition de Nuance Dragon<fnref n="22" />, à l'origine d'un système de reconnaissance vocale pour la rédaction de compte-rendus médicaux et désormais d'une solution de type scribe médical artificiel.

Nous pouvons certainement attendre beaucoup de Google avec Med-PaLM[169] et plus récemment Med-PaLM 2²³, un LLM spécialisé en médecine basé sur Google PaLM. Il peut répondre aux questions médicales et interpréter les examens complémentaires comme des images radiologiques, ophtalmologiques, dermatologiques ou anatomopathologiques, il passe les examens de licence de pratique médicale aux Etats-Unis avec 86,5% de réussite et sera bientôt disponible « en phase de test ».

## Remplacement des médecins généralistes ?

Avec ces avancées majeures, les informaticiens acquièrent un tel pouvoir que certains se moquent même des médecins. John Lynn, fondateur et présentateur de la chaîne Healthcare IT today considère que la plupart des médecins de premier recours vont disparaître (voir par exemple Will Physician Practices Survive? - Healthcare IT Today Podcast Episode 99). D'autres vendent même la peau de l'ours avant de l'avoir tué. Babylon Health propose un service de soins de premier recours appelé Babylon 360, nous pouvons lire sur leur site internet (accès le 23/08/2023) : « Let's face it. Healthcare today isn't really healthcare. It's designed to help you when it's too late or you're already sick. Goodbye traditional healthcare providers. Hello Babylon 360. Meet Babylon 360. Unlike traditional healthcare providers, it focuses on both preventative and primary care. ». Cette entreprise était également à l'origine d'un chatbot testé en 2017 en Angleterre pour la régulation des appels aux urgences médicales[170].

Nous avons abordé le fait qu'en Chine se confier à une IA n'était pas tabou. Même avec une bonne intention, les informaticiens prévoient de remplacer au moins en partie

<footnote n="17">17. fusion en 2021 de Paris V Descartes avec Paris VII Diderot, qui elles-mêmes avaient regroupé Necker, Cochin, Bichat etc après le morcellement de la faculté de médecine de Paris en 1970</footnote>

<footnote n="18">18. https://scribematic.ai/</footnote>

<footnote n="19">19. https://www.deepscribe.ai/</footnote>

<footnote n="20">20. https://aws.amazon.com/fr/transcribe/medical/</footnote>

<footnote n="21">21. https://www.microsoft.com/en-us/research/project/empowermd/</footnote>

<footnote n="22">22. https://www.nuance.com/healthcare/ambient-clinical-intelligence.html</footnote>

<footnote n="23">23. https://sites.research.google/med-palm/</footnote>
le médecin et son patient. Derrière ce logiciel français se cache facebook/Meta AI (actuellement dirigé par Yann Le Cun, précurseur du deep learning), des médecins français impliqués dans la formation des internes et la formation continue des médecins généralistes comme le Pr Claire Le Jeunne (faculté de médecine de l'Université Paris-Cité<fnref n="17" />) font partie des mentors. Cet assistant utilise pour l'instant GPT-3, l'ancienne génération du LLM d'OpenAI. D'autres entreprises proposent le même type de service : Robin Healthcare, Scribematic<fnref n="18" />, Deepscribe<fnref n="19" />, ou Phenopad[168] qui prend des notes pour le médecin pendant qu'il pose des questions au patient. Les grandes entreprises ont chacune une équipe travaillant spécifiquement dans ce domaine : Amazon a dévoilé Amazon Transcribe Medical<fnref n="20" />, Microsoft travaillait sur EmpowerMD<fnref n="21" /> et a récemment fait l'acquisition de Nuance Dragon<fnref n="22" />, à l'origine d'un système de reconnaissance vocale pour la rédaction de compte-rendus médicaux et désormais d'une solution de type scribe médical artificiel.

Nous pouvons certainement attendre beaucoup de Google avec Med-PaLM[169] et plus récemment Med-PaLM 2²³, un LLM spécialisé en médecine basé sur Google PaLM. Il peut répondre aux questions médicales et interpréter les examens complémentaires comme des images radiologiques, ophtalmologiques, dermatologiques ou anatomopathologiques, il passe les examens de licence de pratique médicale aux Etats-Unis avec 86,5% de réussite et sera bientôt disponible « en phase de test ».

## Remplacement des médecins généralistes ?

Avec ces avancées majeures, les informaticiens acquièrent un tel pouvoir que certains se moquent même des médecins. John Lynn, fondateur et présentateur de la chaîne Healthcare IT today considère que la plupart des médecins de premier recours vont disparaître (voir par exemple Will Physician Practices Survive? - Healthcare IT Today Podcast Episode 99). D'autres vendent même la peau de l'ours avant de l'avoir tué. Babylon Health propose un service de soins de premier recours appelé Babylon 360, nous pouvons lire sur leur site internet (accès le 23/08/2023) : « Let's face it. Healthcare today isn't really healthcare. It's designed to help you when it's too late or you're already sick. Goodbye traditional healthcare providers. Hello Babylon 360. Meet Babylon 360. Unlike traditional healthcare providers, it focuses on both preventative and primary care. ». Cette entreprise était également à l'origine d'un chatbot testé en 2017 en Angleterre pour la régulation des appels aux urgences médicales[170].

Nous avons abordé le fait qu'en Chine se confier à une IA n'était pas tabou. Même avec une bonne intention, les informaticiens prévoient de remplacer au moins en partie

<footnote n="17">17. fusion en 2021 de Paris V Descartes avec Paris VII Diderot, qui elles-mêmes avaient regroupé Necker, Cochin, Bichat etc après le morcellement de la faculté de médecine de Paris en 1970</footnote>

<footnote n="18">18. https://scribematic.ai/</footnote>

<footnote n="19">19. https://www.deepscribe.ai/</footnote>

<footnote n="20">20. https://aws.amazon.com/fr/transcribe/medical/</footnote>

<footnote n="21">21. https://www.microsoft.com/en-us/research/project/empowermd/</footnote>

<footnote n="22">22. https://www.nuance.com/healthcare/ambient-clinical-intelligence.html</footnote>

<footnote n="23">23. https://sites.research.google/med-palm/</footnote>
et probablement avant les médecins d'abord un manque de médecins par des (agents conversationnels) : il faut savoir que l'ACM (Association for Computing Machinery), qui organise la CHI (Conference on Human Factors in Computing Systems) qui est l'une des plus prestigieuses conférences en informatique, a hébergé en 2020 à cette occasion un atelier (*workshop*) nommé « Conversational Agents for Health and Well-being » (que nous pourrions traduire par « agents conversationnels pour la santé et le bien-être »). On y a présenté par exemple des coachs diététiques pour les diabétiques, ou différents agents conversationnels : pour les personnes âgées (ex : ADELE), dans un cadre psychiatrique, motivationnels, ou même d'auto-diagnostic[171].

## 4.6 Un exemple

Pour illuster notre propos, voici un exemple de réponse donnée par ChatGPT 4²⁴ au moment où nous écrivons ces lignes (interrogé à travers Bing, le moteur de recherche de Microsoft) :

Question :

Quelles sont les applications de l'IA pour la médecine générale ?

Réponse :

L'IA peut avoir de nombreuses applications pour la médecine générale, comme :

- Aider au diagnostic, en analysant des données cliniques, des images médicales ou des résultats de laboratoire et en proposant des hypothèses ou des recommandations.

- Suivre les patients, en utilisant des objets connectés, des applications mobiles ou des assistants virtuels, et en fournissant des conseils personnalisés ou des alertes en cas d'anomalie.

- Prédire l'évolution d'une maladie, en utilisant des modèles statistiques, des données génomiques ou des données environnementales, et en estimant le risque ou le pronostic d'un patient.

- Développer de nouveaux traitements, en utilisant des techniques de simulation, de synthèse ou de découverte de molécules, et en accélérant la recherche et le développement de médicaments.

- Gérer les systèmes de santé, en utilisant des techniques d'optimisation, de planification ou de coordination, et en améliorant l'efficacité, la qualité et la sécurité des soins.

<footnote n="24">24. https://openai.com/chatgpt</footnote>
et probablement avant les médecins d'abord un manque de médecins par des (agents conversationnels) : il faut savoir que l'ACM (Association for Computing Machinery), qui organise la CHI (Conference on Human Factors in Computing Systems) qui est l'une des plus prestigieuses conférences en informatique, a hébergé en 2020 à cette occasion un atelier (workshop) nommé « Conversational Agents for Health and Well-being » (que nous pourrions traduire par « agents conversationnels pour la santé et le bien-être »). On y a présenté par exemple des coachs diététiques pour les diabétiques, ou différents agents conversationnels : pour les personnes âgées (ex : ADELE), dans un cadre psychiatrique, motivationnels, ou même d'auto-diagnostic[171].

## 4.6 Un exemple

Pour illuster notre propos, voici un exemple de réponse donnée par ChatGPT 4²⁴ au moment où nous écrivons ces lignes (interrogé à travers Bing, le moteur de recherche de Microsoft) :

Question :

Quelles sont les applications de l'IA pour la médecine générale ?

Réponse :

L'IA peut avoir de nombreuses applications pour la médecine générale, comme :

- Aider au diagnostic, en analysant des données cliniques, des images médicales ou des résultats de laboratoire et en proposant des hypothèses ou des recommandations.

- Suivre les patients, en utilisant des objets connectés, des applications mobiles ou des assistants virtuels, et en fournissant des conseils personnalisés ou des alertes en cas d'anomalie.

- Prédire l'évolution d'une maladie, en utilisant des modèles statistiques, des données génomiques ou des données environnementales, et en estimant le risque ou le pronostic d'un patient.

- Développer de nouveaux traitements, en utilisant des techniques de simulation, de synthèse ou de découverte de molécules, et en accélérant la recherche et le développement de médicaments.

- Gérer les systèmes de santé, en utilisant des techniques d'optimisation, de planification ou de coordination, et en améliorant l'efficacité, la qualité et la sécurité des soins.

<footnote n="24">24. https://openai.com/chatgpt</footnote>
# 5. DISCUSSION

> « I have only proven the algorithm correct, not tested it. »

> Donald Knuth

> « Faire confiance aux hommes c'est déjà se faire tuer un peu. »

> Louis-Ferdinand Céline

## Sur l'IA

Crawford et al. expliquent que l'IA est un changement culturel autant qu'un changement technique[172], ce qui est similaire aux révolutions technologiques du passé comme par exemple l'introduction de l'impression ou les chemins de fer. Les systèmes autonomes sont en train de changer les lieux de travail, les rues et les écoles. Nous devons faire en sorte que ces changements soient bénéfiques, avant qu'ils ne fassent encore plus partie de l'infrastructure de la vie de tous les jours. Cependant, le progrès de l'IA est plus rapide que la capacité de réaction du corps médical, et même de l'humanité entière. Ceci pose des problèmes éthiques pratiquement inaccessibles à l'entendement.

Attardons-nous sur le deep learning qui est, à l'heure où nous écrivons ces lignes, le dernier cri en IA. Il faut réaliser qu'il est désormais possible pour un logiciel exploitant cette technologie de découvrir en un temps négligeable des liens dans un grand ensemble de données éventuellement hétérogènes qui sont ceux qu'un humain pourrait faire, mais aussi des liens inédits encore jamais découverts ou des liens cachés dans les données inaccessibles à un humain. Ceci est vrai pour, par exemple, la classification de vignettes représentant des animaux en deux groupes chiens et chats (par détection de motifs caractéristiques de l'un ou l'autre animal), mais aussi pour des images beaucoup plus complexes (par exemple radiologiques ou histologiques) ou d'autres types de données : des sons, des séquences d'événements, des ensembles de données vitales provenant de différentes modalités d'enregistrement (électrophysiologie, oxymétrie, pression artérielle, ...). Il faut donc considérer que cette tâche de synthèse qui était la substance du métier du médecin est dorénavant mieux réalisée par la machine étant donné le temps et la mémoire infinis qu'il faudrait pour pouvoir prendre en compte l'ensemble des données concernant un patient, sans compter celles qui sont inaccessibles à nos sens ou tout simplement à notre entendement. C'est ici que la notion de centaure chère à Kasparov entre en jeu, ou intelligence
# 5. DISCUSSION

> « I have only proven the algorithm correct, not tested it. »
> 
> Donald Knuth

> « Faire confiance aux hommes c'est déjà se faire tuer un peu. »
> 
> Louis-Ferdinand Céline

## Sur l'IA

Crawford et al. expliquent que l'IA est un changement culturel autant qu'un changement technique[172], ce qui est similaire aux révolutions technologiques du passé comme par exemple l'introduction de l'impression ou les chemins de fer. Les systèmes autonomes sont en train de changer les lieux de travail, les rues et les écoles. Nous devons faire en sorte que ces changements soient bénéfiques, avant qu'ils ne fassent encore plus partie de l'infrastructure de la vie de tous les jours. Cependant, le progrès de l'IA est plus rapide que la capacité de réaction du corps médical, et même de l'humanité entière. Ceci pose des problèmes éthiques pratiquement inaccessibles à l'entendement.

Attardons-nous sur le deep learning qui est, à l'heure où nous écrivons ces lignes, le dernier cri en IA. Il faut réaliser qu'il est désormais possible pour un logiciel exploitant cette technologie de découvrir en un temps négligeable des liens dans un grand ensemble de données éventuellement hétérogènes qui sont ceux qu'un humain pourrait faire, mais aussi des liens inédits encore jamais découverts ou des liens cachés dans les données inaccessibles à un humain. Ceci est vrai pour, par exemple, la classification de vignettes représentant des animaux en deux groupes chiens et chats (par détection de motifs caractéristiques de l'un ou l'autre animal), mais aussi pour des images beaucoup plus complexes (par exemple radiologiques ou histologiques) ou d'autres types de données : des sons, des séquences d'événements, des ensembles de données vitales provenant de différentes modalités d'enregistrement (électrophysiologie, oxymétrie, pression artérielle, ...). Il faut donc considérer que cette tâche de synthèse qui était la substance du métier du médecin est dorénavant mieux réalisée par la machine étant donné le temps et la mémoire infinis qu'il faudrait pour pouvoir prendre en compte l'ensemble des données concernant un patient, sans compter celles qui sont inaccessibles à nos sens ou tout simplement à notre entendement. C'est ici que la notion de centaure chère à Kasparov entre en jeu, ou intelligence
hybride[173] : nous tenons qu'il faut se saisir de l'outil IA, le pratiquer pour le maîtriser et devenir un meilleur médecin que la meilleure IA seule ou le meilleur médecin seul, a minima ne pas être dangereux[174].

## L'avenir de la médecine

Topol (pionnier parmi les médecins à s'intéresser à l'IA médicale) résume l'impact de l'IA dans la médecine à trois niveaux[175] : celui des cliniciens, celui des systèmes de santé, et celui des patients. Nous avons vu que les cliniciens pourront avoir accès à une aide diagnostique rapide, en particulier pour l'interprétation des images, et pourront voir les tâches répétitives et chronophages de leur pratique automatisées, ce qui permettra de gagner du temps et par conséquent d'en consacrer plus au patient. Dans son rapport auprès de la NHS[152], il définit quatre conditions à remplir pour permettre l'adoption de l'IA par les professionnels : du temps et de la volonté, la compréhension de la technologie, une technologie bien conçue répondant à un besoin, le soutien de l'employeur pour maximiser le potentiel de cette technologie (par exemple libérer du temps pour la maîtriser et en recueillir les fruits, plutôt que de l'introduire de force sans adhésion des utilisateurs).

P. Szolovits (pionnier de l'IA médicale) commentant le livre d'E. Topol de 2019 « Deep Medicine »[176] s'inquiète de ce que les « forces économiques et administratives » ne fassent pas dérailler l'idée de soins médicaux qui soient à nouveau des soins réellement humains[177]. Il fait ici référence à la vision d'une médecine à nouveau empathique per-mise par l'automatisation des tâches répétitives et chronophages, autorisant le médecin à passer du temps avec son patient. Topol ne décrit pas dans son livre l'avènement des machines pour remplacer l'humain dans la médecine, bien au contraire il attend de cette révolution technologique une réponse à la dégradation de la qualité des soins telle que nous l'avons décrite en préambule. Ses précédents ouvrages ont jeté les bases d'une nou-velle médecine envers la proverbiale résistance au changement du corps médical et ont permis d'envisager d'une part la numérisation du patient par l'utilisation de technologies telles que les capteurs (classiquement au nombre de 5 chez les humains - les 5 sens, mais infinis et infiniment plus précis chez les machines), de la télémédecine, du séquençage génétique, de l'imagerie, entre autres[178] ; et d'autre part comment la médecine pouvait se démocratiser (entendre que le pouvoir de décision sera transféré du médecin au patient lui-même) avec non seulement la génération par les patients de leurs données mais leur possession de celles-ci[179].

Ces changements déjà déconcertants sont des prérequis au changement majeur que représente ce qu'il appelle *deep medicine*, terme dérivé de *deep learning*. L'un de ces changements d'environnement est le déploiement du *Medical Internet Of Things* ou MIOT[180], un concept en train de prendre forme dans la réalité représentant l'ensemble des terminaux matériels et logiciels reliés en réseau pour former des systèmes d'information médicaux,
hybride[173] : nous tenons qu'il faut se saisir de l'outil IA, le pratiquer pour le maîtriser et devenir un meilleur médecin que la meilleure IA seule ou le meilleur médecin seul, a minima ne pas être dangereux[174].

## L'avenir de la médecine

Topol (pionnier parmi les médecins à s'intéresser à l'IA médicale) résume l'impact de l'IA dans la médecine à trois niveaux[175] : celui des cliniciens, celui des systèmes de santé, et celui des patients. Nous avons vu que les cliniciens pourront avoir accès à une aide diagnostique rapide, en particulier pour l'interprétation des images, et pourront voir les tâches répétitives et chronophages de leur pratique automatisées, ce qui permettra de gagner du temps et par conséquent d'en consacrer plus au patient. Dans son rapport auprès de la NHS[152], il définit quatre conditions à remplir pour permettre l'adoption de l'IA par les professionnels : du temps et de la volonté, la compréhension de la technologie, une technologie bien conçue répondant à un besoin, le soutien de l'employeur pour maximiser le potentiel de cette technologie (par exemple libérer du temps pour la maîtriser et en recueillir les fruits, plutôt que de l'introduire de force sans adhésion des utilisateurs).

P. Szolovits (pionnier de l'IA médicale) commentant le livre d'E. Topol de 2019 « Deep Medicine »[176] s'inquiète de ce que les « forces économiques et administratives » ne fassent pas dérailler l'idée de soins médicaux qui soient à nouveau des soins réellement humains[177]. Il fait ici référence à la vision d'une médecine à nouveau empathique per-mise par l'automatisation des tâches répétitives et chronophages, autorisant le médecin à passer du temps avec son patient. Topol ne décrit pas dans son livre l'avènement des machines pour remplacer l'humain dans la médecine, bien au contraire il attend de cette révolution technologique une réponse à la dégradation de la qualité des soins telle que nous l'avons décrite en préambule. Ses précédents ouvrages ont jeté les bases d'une nou-velle médecine envers la proverbiale résistance au changement du corps médical et ont permis d'envisager d'une part la numérisation du patient par l'utilisation de technologies telles que les capteurs (classiquement au nombre de 5 chez les humains - les 5 sens, mais infinis et infiniment plus précis chez les machines), de la télémédecine, du séquençage génétique, de l'imagerie, entre autres[178] ; et d'autre part comment la médecine pouvait se démocratiser (entendre que le pouvoir de décision sera transféré du médecin au patient lui-même) avec non seulement la génération par les patients de leurs données mais leur possession de celles-ci[179].

Ces changements déjà déconcertants sont des prérequis au changement majeur que représente ce qu'il appelle *deep medicine*, terme dérivé de *deep learning*. L'un de ces changements d'environnement est le déploiement du *Medical Internet Of Things* ou MIOT[180], un concept en train de prendre forme dans la réalité représentant l'ensemble des terminaux matériels et logiciels reliés en réseau pour former des systèmes d'information médicaux,
de moins en moins centralisés donc et en même temps « centralisés » dans des clouds<fnref n="1" /> propriétaires.

Le fait que ces informations normalement protégées par le secret médical (c'est-à-dire normalement partagées uniquement entre médecins) soient désormais aux mains de grandes corporations à but lucratif et non intrinsèquement bien intentionnées (par ailleurs souvent elles-mêmes détentrices voire créatrices desdites technologies d'IA), est un autre problème. A une plus petite échelle, l'échange de ces informations implique leur transit par des chemins pas toujours fiables, où une interception par un agent mal intentionné est à craindre. L'article de Mirsky et al. décrit comment, en obtenant l'accès aux données d'imagerie d'un hôpital par le biais d'un malware (ou logiciel malveillant), les images d'un scanner thoracique peuvent être modifiées par deep learning pour faire apparaître ou disparaître un nodule cancéreux[181]. Ceci ouvre en effet un monde de nouvelles possibilités de nuisance.

Au sujet de l'explicabilité d'un résultat obtenu via une IA : nous sautons une étape mais rien n'empêche l'IA ou son concepteur de servir une explication simple et attrayante au médecin pour son patient, sans qu'elle reflète la réalité. En effet : une explication dès lors qu'elle est simplifiée n'est plus absolument juste, il existe dès lors un delta de justesse et ce delta peut être fixé à une valeur « acceptable » qui peut varier dans le temps, i.e. être tirée jusqu'à un point où l'explication n'a plus besoin d'avoir un quelconque rapport avec ce qui se passe réellement. En tant que médecins, il s'agira de garder le contrôle de ce delta.

Les problèmes éthiques en médecine ont fait l'objet de centaines d'ouvrages, et l'appariation de l'IA dans les soins posent de nombreuses autres questions éthiques et légales (Voir [182] pour une vue d'ensemble). D'après Rajkomar et al.[183] par exemple, un patient devrait idéalement bénéficier d'une décision médicale basée sur l'ensemble des connaissances sur un problème donné, un but impossible à atteindre pour un médecin seul, mais en théorie à la portée d'un système capable d'accéder à l'intégralité de la littérature et des éventuelles autres sources de données à jour. Dès lors, que dire des pauvres patients encore à la merci de la médecine « préhistorique », pré-IA ? En Europe, des erreurs médicales prévisibles ont lieu dans environ 10% des hospitalisations, dont la moitié pourraient être évitées[184]. Rappelons qu'il s'agit de la 3ème cause de décès aux Etats-Unis. L'IA pourrait surveiller les processus intra- ou extra-hospitaliers pour prévenir les erreurs ou les détecter précocément. Faut-il que les médecins se soumettent à cette surveillance constante ? On pourra argumenter que si cela sauve une vie, oui.

Emanuel et al. rappellent que ce n'est pas la quantité de données ou de moyens de les analyser qu'il faut améliorer pour diminuer les coûts de la santé, problème crucial dans tous les pays du monde, mais le comportement à la fois des médecins et des patients[50]. Nous pourrions argumenter que si ces comportements n'ont jamais changé et sont consubstantiels à l'homme, autant abandonner l'idée de chercher à les modifier et s'en remettre

<footnote n="1">1. Cloud ou nuage : disponibilité à la demande de ressources informatiques à distance, en particulier stockage de données et puissance de calcul, gérées par l'administrateur et non par l'utilisateur.</footnote>
de moins en moins centralisés donc et en même temps « centralisés » dans des clouds<fnref n="1" /> propriétaires.

Le fait que ces informations normalement protégées par le secret médical (c'est-à-dire normalement partagées uniquement entre médecins) soient désormais aux mains de grandes corporations à but lucratif et non intrinsèquement bien intentionnées (par ailleurs souvent elles-mêmes détentrices voire créatrices desdites technologies d'IA), est un autre problème. A une plus petite échelle, l'échange de ces informations implique leur transit par des chemins pas toujours fiables, où une interception par un agent mal intentionné est à craindre. L'article de Mirsky et al. décrit comment, en obtenant l'accès aux données d'imagerie d'un hôpital par le biais d'un malware (ou logiciel malveillant), les images d'un scanner thoracique peuvent être modifiées par deep learning pour faire apparaître ou disparaître un nodule cancéreux[181]. Ceci ouvre en effet un monde de nouvelles possibilités de nuisance.

Au sujet de l'explicabilité d'un résultat obtenu via une IA : nous sautons une étape mais rien n'empêche l'IA ou son concepteur de servir une explication simple et attrayante au médecin pour son patient, sans qu'elle reflète la réalité. En effet : une explication dès lors qu'elle est simplifiée n'est plus absolument juste, il existe dès lors un delta de justesse et ce delta peut être fixé à une valeur « acceptable » qui peut varier dans le temps, i.e. être tirée jusqu'à un point où l'explication n'a plus besoin d'avoir un quelconque rapport avec ce qui se passe réellement. En tant que médecins, il s'agira de garder le contrôle de ce delta.

Les problèmes éthiques en médecine ont fait l'objet de centaines d'ouvrages, et l'appariation de l'IA dans les soins posent de nombreuses autres questions éthiques et légales (Voir [182] pour une vue d'ensemble). D'après Rajkomar et al.[183] par exemple, un patient devrait idéalement bénéficier d'une décision médicale basée sur l'ensemble des connaissances sur un problème donné, un but impossible à atteindre pour un médecin seul, mais en théorie à la portée d'un système capable d'accéder à l'intégralité de la littérature et des éventuelles autres sources de données à jour. Dès lors, que dire des pauvres patients encore à la merci de la médecine « préhistorique », pré-IA ? En Europe, des erreurs médicales prévisibles ont lieu dans environ 10% des hospitalisations, dont la moitié pourraient être évitées[184]. Rappelons qu'il s'agit de la 3ème cause de décès aux Etats-Unis. L'IA pourrait surveiller les processus intra- ou extra-hospitaliers pour prévenir les erreurs ou les détecter précocément. Faut-il que les médecins se soumettent à cette surveillance constante ? On pourra argumenter que si cela sauve une vie, oui.

Emanuel et al. rappellent que ce n'est pas la quantité de données ou de moyens de les analyser qu'il faut améliorer pour diminuer les coûts de la santé, problème crucial dans tous les pays du monde, mais le comportement à la fois des médecins et des patients[50]. Nous pourrions argumenter que si ces comportements n'ont jamais changé et sont consubstantiels à l'homme, autant abandonner l'idée de chercher à les modifier et s'en remettre

<footnote n="1">1. Cloud ou nuage : disponibilité à la demande de ressources informatiques à distance, en particulier stockage de données et puissance de calcul, gérées par l'administrateur et non par l'utilisateur.</footnote>
à une nouvelle technologie pour agir sur les coûts de la santé.

Nous l'avons vu, il existe encore de nombreux freins à l'adoption de l'IA, cependant certains auteurs maintiennent que ces bouleversements arriveront de toutes façons par l'amélioration de la qualité et de la quantité de l'information disponible même si la technologie ne s'améliorait pas[185]. Il peut avoir semblé prématuré de la part des organes de régulation comme la FDA et l'EMA d'avoir adopté des technologies mal comprises par la plupart des médecins, créant un précédent sur lequel il sera difficile de revenir : la boîte de Pandore est désormais ouverte pour l'adoption de systèmes toujours plus performants d'où l'intervention humaine pourra être jugée de plus en plus inutile « pour la sécurité du patient ». Nous avons abordé le fait que ces systèmes sont auto-évolutifs, autrement dit un dispositif obtenant un blanc-seing de la part de l'EMA peut évoluer assez rapidement pour qu'une de ses caractéristiques ou un risque échappe à sa vigilance. Le EU AI act est censé répondre à ces questions.

## Du décalage entre informaticiens et médecins

La grande majorité des informaticiens prédit que les technologies à venir vont bouleverser la médecine[186-188], cependant que les médecins bien que parmi les premiers intéressés n'en sont pas encore convaincus. Buck et al. listent un ensemble de compétences jugées purement humaines par les médecins allemands interrogés : l'empathie, l'intuition, les gestes, l'expérience, le raisonnement médical[142]. Il serait possible de présenter pour chacune de ces compétences au moins un article pour montrer qu'elles ne sont plus l'appliance de l'humain, à l'exception près de l'empathie réelle (quoiqu'elle puisse être simulée comme tout comportement).

Les médecins sont en effet occupés et préoccupés, cela demande une certaine acuité sur les nouvelles technologies, un certain temps de calme et une certaine flexibilité mentale pour pouvoir imaginer que le monde qui change puisse faire changer une activité relativement invariable depuis sa création et pour laquelle il a fallu sacrifier des années de sa vie pour maîtriser. Cela, alors que les médecins qui avaient accepté avec plus ou moins d'enthousiasme l'informatique y ont perdu beaucoup de temps médical. Ceux qui se sont intéressés à l'informatique médicale ont pensé qu'elle pouvait être leur chose, mais c'est toujours en réalité celle des informaticiens, c'est eux qui l'ont créée ainsi que l'IA, dont ils en comprennent les limites et les possibilités techniques. Les médecins les plus optimistes aspirent maintenant à récupérer avec l'IA le temps que l'informatique leur a pris pour pouvoir à nouveau exercer leur art, mais cette idée se téléscope avec celle de la disparition pure et simple du médecin, hypothèse pour nous effrayante mais à laquelle les informaticiens peuvent évidemment penser avec plus de sang-froid. Du reste les médecins mettent eux-mêmes une pression de sélection telle que le produit se présentera un jour déjà supérieur à eux dans plusieurs domaines. Buck et al. imaginent que les médecins vont arriver eux-mêmes à la conclusion qu'ils sont dépassés[142], John Lynn, informaticien dont nous avons parlé plus haut, est d'accord avec cela mais évoque le fait que beaucoup refuseront
à une nouvelle technologie pour agir sur les coûts de la santé.

Nous l'avons vu, il existe encore de nombreux freins à l'adoption de l'IA, cependant certains auteurs maintiennent que ces bouleversements arriveront de toutes façons par l'amélioration de la qualité et de la quantité de l'information disponible même si la technologie ne s'améliorait pas[185]. Il peut avoir semblé prématuré de la part des organes de régulation comme la FDA et l'EMA d'avoir adopté des technologies mal comprises par la plupart des médecins, créant un précédent sur lequel il sera difficile de revenir : la boîte de Pandore est désormais ouverte pour l'adoption de systèmes toujours plus performants d'où l'intervention humaine pourra être jugée de plus en plus inutile « pour la sécurité du patient ». Nous avons abordé le fait que ces systèmes sont auto-évolutifs, autrement dit un dispositif obtenant un blanc-seing de la part de l'EMA peut évoluer assez rapidement pour qu'une de ses caractéristiques ou un risque échappe à sa vigilance. Le EU AI act est censé répondre à ces questions.

Du décalage entre informaticiens et médecins

La grande majorité des informaticiens prédit que les technologies à venir vont bouleverser la médecine[186-188], cependant que les médecins bien que parmi les premiers intéressés n'en sont pas encore convaincus. Buck et al. listent un ensemble de compétences jugées purement humaines par les médecins allemands interrogés : l'empathie, l'intuition, les gestes, l'expérience, le raisonnement médical[142]. Il serait possible de présenter pour chacune de ces compétences au moins un article pour montrer qu'elles ne sont plus l'appliance de l'humain, à l'exception près de l'empathie réelle (quoiqu'elle puisse être simulée comme tout comportement).

Les médecins sont en effet occupés et préoccupés, cela demande une certaine acuité sur les nouvelles technologies, un certain temps de calme et une certaine flexibilité mentale pour pouvoir imaginer que le monde qui change puisse faire changer une activité relativement invariable depuis sa création et pour laquelle il a fallu sacrifier des années de sa vie pour maîtriser. Cela, alors que les médecins qui avaient accepté avec plus ou moins d'enthousiasme l'informatique y ont perdu beaucoup de temps médical. Ceux qui se sont intéressés à l'informatique médicale ont pensé qu'elle pouvait être leur chose, mais c'est toujours en réalité celle des informaticiens, c'est eux qui l'ont créée ainsi que l'IA, dont ils en comprennent les limites et les possibilités techniques. Les médecins les plus optimistes aspirent maintenant à récupérer avec l'IA le temps que l'informatique leur a pris pour pouvoir à nouveau exercer leur art, mais cette idée se téléscope avec celle de la disparition pure et simple du médecin, hypothèse pour nous effrayante mais à laquelle les informaticiens peuvent évidemment penser avec plus de sang-froid. Du reste les médecins mettent eux-mêmes une pression de sélection telle que le produit se présentera un jour déjà supérieur à eux dans plusieurs domaines. Buck et al. imaginent que les médecins vont arriver eux-mêmes à la conclusion qu'ils sont dépassés[142], John Lynn, informaticien dont nous avons parlé plus haut, est d'accord avec cela mais évoque le fait que beaucoup refuseront
de l'admettre. Ceci ne manquera pas de causer une crise existentielle, avec la diminution du prestige, la perte de la place dans la société, et enfin la perte de l'affection des patients qui parfois répond à un manque chez le médecin.

## Quand la révolution arrivera-t-elle ?

Il ne semble pas qu'un « 3ème hiver » se profile après l'avènement du deep learning, cette fois la technologie semble répondre aux attentes et les esprits sont plus murs. Comme toute technologie, il ne faut pas avoir la naïveté de croire que son déploiement et son utilisation ne dépendent pas de forces économiques et politiques souveraines. Le grand changement viendra quand les acteurs puissants le voudront : politique, assurances (remboursement des soins), reconnaissance par les instances de régulation et décisions consécutives en cascade (« si l'IA passe les ECN, ne peut-elle pas faire fonction d'interne ? »). En effet, maintenant que les patients et médecins dépendent beaucoup des remboursements, une manière d'obtenir l'adoption de l'IA par tous serait de dérembourser certains soins décrétés moins efficaces ou plus coûteux sans intervention de l'IA, et d'en rembourser d'autres faisant appel à ces technologies. Si l'IA remplit ses engagements (une médecine plus efficace et moins chère), elle serait adoptée naturellement, mais elle sera probablement de toutes façons imposée indépendamment de son efficacité ou de son prix, étant donné le pouvoir qu'elle donne aux gouvernements ou aux entreprises fournissant ces services.

## Du dossier médical informatisé

Nous avons vu que le temps du médecin est de plus en plus accaparé par des tâches répétitives et administratives, notamment liées à l'obligation légale et éthique de documenter chaque interaction avec son patient. Imaginons un cuisinier qui devrait obligatoirement pour chaque plat servi prendre 2 fois le temps passé à le réaliser pour laborieusement documenter au moyen d'un outil mal conçu les détails de comment ce plat a été fait, avec un historique des goûts du patient, certaines expériences culinaires notoires dans son passé de gourmet, son péché mignon, quels vins il affectionne, comment articuler tout ceci avec le menu actuel, comment se passe le repas et comment il aura été vécu, la digestion, ... Combien de couverts seraient servis dans ce cas ?<fnref n="2" />

Considérons l'article de Meinert et al. [189], qui reflète la façon de présenter les dossiers médicaux informatisés en 2004 où il était déjà question d'« améliorer la relation médecin patient » en « libérant le temps de l'un et de l'autre ». Nous savons maintenant que l'informatique a considérablement réduit le temps de contact engagé, réel, entre eux car l'interaction avec le patient et sa documentation ne peuvent être réalisés en même temps, et demandent chacun un temps incompressible. L'article évoque même l'avis des médecins sceptiques qui craignaient cette funeste possibilité, et le fait que certains théoriciens du

<footnote n="2">². Nous pourrions continuer : Combien de temps le cuisinier pourrait-il passer avec ses enfants ? La préparation des plats ne disparaîtrait-elle pas du restaurant ? Pourquoi deviendrait-on cuisinier si c'est pour finir par taper au clavier ? ...</footnote>
de l'admettre. Ceci ne manquera pas de causer une crise existentielle, avec la diminution du prestige, la perte de la place dans la société, et enfin la perte de l'affection des patients qui parfois répond à un manque chez le médecin.

## Quand la révolution arrivera-t-elle ?

Il ne semble pas qu'un « 3ème hiver » se profile après l'avènement du deep learning, cette fois la technologie semble répondre aux attentes et les esprits sont plus murs. Comme toute technologie, il ne faut pas avoir la naïveté de croire que son déploiement et son utilisation ne dépendent pas de forces économiques et politiques souveraines. Le grand changement viendra quand les acteurs puissants le voudront : politique, assurances (remboursement des soins), reconnaissance par les instances de régulation et décisions consécutives en cascade (« si l'IA passe les ECN, ne peut-elle pas faire fonction d'interne ? »). En effet, maintenant que les patients et médecins dépendent beaucoup des remboursements, une manière d'obtenir l'adoption de l'IA par tous serait de dérembourser certains soins décrétés moins efficaces ou plus coûteux sans intervention de l'IA, et d'en rembourser d'autres faisant appel à ces technologies. Si l'IA remplit ses engagements (une médecine plus efficace et moins chère), elle serait adoptée naturellement, mais elle sera probablement de toutes façons imposée indépendamment de son efficacité ou de son prix, étant donné le pouvoir qu'elle donne aux gouvernements ou aux entreprises fournissant ces services.

## Du dossier médical informatisé

Nous avons vu que le temps du médecin est de plus en plus accaparé par des tâches répétitives et administratives, notamment liées à l'obligation légale et éthique de documenter chaque interaction avec son patient. Imaginons un cuisinier qui devrait obligatoirement pour chaque plat servi prendre 2 fois le temps passé à le réaliser pour laborieusement documenter au moyen d'un outil mal conçu les détails de comment ce plat a été fait, avec un historique des goûts du patient, certaines expériences culinaires notoires dans son passé de gourmet, son péché mignon, quels vins il affectionne, comment articuler tout ceci avec le menu actuel, comment se passe le repas et comment il aura été vécu, la digestion, ... Combien de couverts seraient servis dans ce cas ?<fnref n="2" />

Considérons l'article de Meinert et al. [189], qui reflète la façon de présenter les dossiers médicaux informatisés en 2004 où il était déjà question d'« améliorer la relation médecin patient » en « libérant le temps de l'un et de l'autre ». Nous savons maintenant que l'informatique a considérablement réduit le temps de contact engagé, réel, entre eux car l'interaction avec le patient et sa documentation ne peuvent être réalisés en même temps, et demandent chacun un temps incompressible. L'article évoque même l'avis des médecins sceptiques qui craignaient cette funeste possibilité, et le fait que certains théoriciens du

<footnote n="2">². Nous pourrions continuer : Combien de temps le cuisinier pourrait-il passer avec ses enfants ? La préparation des plats ne disparaîtrait-elle pas du restaurant ? Pourquoi deviendrait-on cuisinier si c'est pour finir par taper au clavier ? ...</footnote>
dossier médical partagé avaient à l'époque recommandé de le rendre obligatoire, ce qui est finalement arrivé dans les hôpitaux. Nous pouvons nous attendre à ce que l'adoption de l'IA soit également rendue obligatoire dans la pratique dès lors que la plupart des décideurs seront convaincus de son utilité (ou plutôt de sa viabilité économique).

Le résultat de cette adoption a certes facilité le partage des informations concernant les patients, mais a rendu les médecins malheureux [59, 190], qui ont finalement perdu un temps considérable, la réalité des organisations humaines et administratives en ayant fait un outil envahissant, obligatoire, et inefficace. La documentation est en réalité encore à ce jour faite à la main, ce qui a toujours été le cas, mais à travers des outils rébarbatifs, dans un environnement où les médecins ne sont pas à l'aise. Maintenant que nous voyons ce qui se profile, il apparaît qu'il s'agissait en fait seulement d'une phase transitoire vers l'état stable suivant où la documentation sera automatique, ceux qui ont utilisé le dossier médical informatisé (rappelons que la grande majorité des généralistes y ont été incités financièrement, ce qui a suffi à convertir la grande majorité) étaient donc dans une phase expérimentale qui heureusement se termine, et seront enfin récompensés de leurs efforts par l'utilisation fréquente par les assistants des informations saisies pendant toutes ces années.

## Nivelage de l'expérience par l'IA et conséquences possibles

Misawa et al 2018 [117] considèrent que leur système de détection de polypes du tube digestif peut permettre aux endoscopistes moins expérimentés d'être aussi fiables que les plus expérimentés. Peut-on considérer que, comme dans notre génération où les examens complémentaires sont désormais au premier plan pour le diagnostic par opposition à la génération précédente où la clinique primait absolument, l'avenir verrait la formation de spécialistes délestée de la partie technique ou analytique voire décisionnelle ? Peut-on même généraliser le fait que l'IA va réduire l'écart entre jeunes diplômés et experts à toute la médecine ? Sur le papier, il semble que l'expérience d'un médecin soit désormais peu de chose, alors que les algorithmes de machine learning se sont entraînés sur mille fois plus de cas que n'en peut voir un médecin sur une seule vie<fnref n="3" />. Ceci risque de mener à la baisse du niveau de compétence des médecins, un problème appelé *deskilling* [191].

Nous avons vu qu'il existe un certain nombre de programmes capables de donner des diagnostics fiables dans des disciplines difficiles d'accès pour les patients, comme la dermatologie, avec comme simple information la photographie de la lésion. Il est donc techniquement possible de proposer dès le cabinet médical du généraliste une application permettant de donner un diagnostic et donc un traitement, ou dumoins de classer cette lésion par rapport à un risque de malignité. De tels outils de diagnostic précoce utilisés au cabinet feraient gagner un temps non négligeable aux médecins et aux patients, et seraient économiquement intéressants.

<footnote n="3">3. Admettons que ceci est une preuve du progrès qui reste à réaliser pour surpasser l'humain, qui a besoin de rencontrer moins de cas pour former un ensemble de règles efficace, son expertise.</footnote>
dossier médical partagé avaient à l'époque recommandé de le rendre obligatoire, ce qui est finalement arrivé dans les hôpitaux. Nous pouvons nous attendre à ce que l'adoption de l'IA soit également rendue obligatoire dans la pratique dès lors que la plupart des décideurs seront convaincus de son utilité (ou plutôt de sa viabilité économique).

Le résultat de cette adoption a certes facilité le partage des informations concernant les patients, mais a rendu les médecins malheureux [59, 190], qui ont finalement perdu un temps considérable, la réalité des organisations humaines et administratives en ayant fait un outil envahissant, obligatoire, et inefficace. La documentation est en réalité encore à ce jour faite à la main, ce qui a toujours été le cas, mais à travers des outils rébarbatifs, dans un environnement où les médecins ne sont pas à l'aise. Maintenant que nous voyons ce qui se profile, il apparaît qu'il s'agissait en fait seulement d'une phase transitoire vers l'état stable suivant où la documentation sera automatique, ceux qui ont utilisé le dossier médical informatisé (rappelons que la grande majorité des généralistes y ont été incités financièrement, ce qui a suffi à convertir la grande majorité) étaient donc dans une phase expérimentale qui heureusement se termine, et seront enfin récompensés de leurs efforts par l'utilisation fréquente par les assistants des informations saisies pendant toutes ces années.

## Nivelage de l'expérience par l'IA et conséquences possibles

Misawa et al 2018 [117] considèrent que leur système de détection de polypes du tube digestif peut permettre aux endoscopistes moins expérimentés d'être aussi fiables que les plus expérimentés. Peut-on considérer que, comme dans notre génération où les examens complémentaires sont désormais au premier plan pour le diagnostic par opposition à la génération précédente où la clinique primait absolument, l'avenir verrait la formation de spécialistes délestée de la partie technique ou analytique voire décisionnelle ? Peut-on même généraliser le fait que l'IA va réduire l'écart entre jeunes diplômés et experts à toute la médecine ? Sur le papier, il semble que l'expérience d'un médecin soit désormais peu de chose, alors que les algorithmes de machine learning se sont entraînés sur mille fois plus de cas que n'en peut voir un médecin sur une seule vie<fnref n="3" />. Ceci risque de mener à la baisse du niveau de compétence des médecins, un problème appelé *deskilling* [191].

Nous avons vu qu'il existe un certain nombre de programmes capables de donner des diagnostics fiables dans des disciplines difficiles d'accès pour les patients, comme la dermatologie, avec comme simple information la photographie de la lésion. Il est donc techniquement possible de proposer dès le cabinet médical du généraliste une application permettant de donner un diagnostic et donc un traitement, ou dumoins de classer cette lésion par rapport à un risque de malignité. De tels outils de diagnostic précoce utilisés au cabinet feraient gagner un temps non négligeable aux médecins et aux patients, et seraient économiquement intéressants.

<footnote n="3">3. Admettons que ceci est une preuve du progrès qui reste à réaliser pour surpasser l'humain, qui a besoin de rencontrer moins de cas pour former un ensemble de règles efficace, son expertise.</footnote>
En extrapolant sur le fait que le médecin ne soit plus qu'utilisateur de ce type d'outil,
il est possible d'envisager le fait qu'une infirmière soit tout aussi capable de l'employer,
c'est-à-dire d'obtenir un diagnostic, de documenter le problème puis de prodiguer des
soins selon instructions. Ceci délesterait également les systèmes de santé en diminuant la
charge de travail des médecins généralistes et spécialistes[183].

En 1976 Maxmen a prédit pour le XXI<sup>ème</sup> siècle une ère « post-médecin », où les soins seraient donnés par des paramedics (équivalent d'infirmier aux Etats-Unis formé à certaines prises de décision médicales, déployés par exemple sur les accidents à la manière du SAMU qui chez nous est médicalisé) guidés par des ordinateurs[192]. Saluons l'un de ses détracteurs de l'époque, qui se sera fendu dans JAMA d'un commentaire méprisant sur son livre[193]. Lequel des deux avait raison ?

Ce que nous entrevoyons, c'est d'abord l'introduction progressive de ces technologies comme une aide au diagnostic sur la base du volontariat, sur laquelle médecins comme patients se reposeront de plus en plus (pensons en plus à une potentielle incitation de la part de l'assurance maladie), puis éventuellement (comme cela a été tout naturellement fait pendant l'épisode du COVID19) : la dilution des prérogatives du corps médical dans les corps adjacents (pharmacien, infirmier) dont le temps est moins cher, moins précieux, moins réglementé (utile pour l'introduction de nouveautés). Pour faire un peu de prospective, en suivant ce continuum, la compétence médicale de l'utilisateur devient superflue et la meilleure personne devient le technicien : l'infirmière, voire celle qui communique : le psychologue, ou celle capable d'exploiter le programme : l'informaticien, et finalement pour tout simplifier le patient lui-même. Autrement dit le médecin est d'abord assisté par l'IA, puis l'IA assistée par le médecin, dont elle n'emploie plus à un certain point que les compétences non médicales, et qui finit par disparaître purement et simplement de l'équation pour ce cas particulier. Notons tout de même que selon ce scénario ce n'est pas le généraliste qui disparaît en premier mais le spécialiste, comme le prédisent certains auteurs[67]. Nous imaginons qu'il y a une composante humaine essentielle, consubstantielle à la pratique de la médecine générale, qui rend l'IA moins dangereuse pour notre raison d'être que pour d'autres spécialités essentiellement techniques.

Pour ce qui est d'une autre part technique du soin, celle de « techniquer » un patient (le munir de dispositifs médicaux), il semble qu'elle soit plus difficile à automatiser car potentiellement plus dangereuse, en tous cas plus immédiatement dangereuse, et les infirmiers ou effecteurs même s'ils auront à être formés spécifiquement seront encore longtemps nécessaires.

Ce qui semble vraisemblable à moyen voire court terme : les généralistes hardis armés de l'IA pourraient empiéter sur l'expertise de certains spécialistes, pour le bien de tous probablement. Mais jusqu'où ? Ceci est bien entendu conditionné au fait qu'ils n'y perdent pas de temps, que les systèmes soient au point, autorisés, réglementés, remboursés, ... Car qui prend la responsabilité ? Probablement comme bien souvent : le médecin. Reprenons notre exercice de prospective : existera-t-il un nouveau paradigme où des cabinets ou
En extrapolant sur le fait que le médecin ne soit plus qu'utilisateur de ce type d'outil,
il est possible d'envisager le fait qu'une infirmière soit tout aussi capable de l'employer,
c'est-à-dire d'obtenir un diagnostic, de documenter le problème puis de prodiguer des
soins selon instructions. Ceci délesterait également les systèmes de santé en diminuant la
charge de travail des médecins généralistes et spécialistes[183].

En 1976 Maxmen a prédit pour le XXI<sup>ème</sup> siècle une ère « post-médecin », où les soins seraient donnés par des paramedics (équivalent d'infirmier aux Etats-Unis formé à certaines prises de décision médicales, déployés par exemple sur les accidents à la manière du SAMU qui chez nous est médicalisé) guidés par des ordinateurs[192]. Saluons l'un de ses détracteurs de l'époque, qui se sera fendu dans JAMA d'un commentaire méprisant sur son livre[193]. Lequel des deux avait raison ?

Ce que nous entrevoyons, c'est d'abord l'introduction progressive de ces technologies comme une aide au diagnostic sur la base du volontariat, sur laquelle médecins comme patients se reposeront de plus en plus (pensons en plus à une potentielle incitation de la part de l'assurance maladie), puis éventuellement (comme cela a été tout naturellement fait pendant l'épisode du COVID19) : la dilution des prérogatives du corps médical dans les corps adjacents (pharmacien, infirmier) dont le temps est moins cher, moins précieux, moins réglementé (utile pour l'introduction de nouveautés). Pour faire un peu de prospective, en suivant ce continuum, la compétence médicale de l'utilisateur devient superflue et la meilleure personne devient le technicien : l'infirmière, voire celle qui communique : le psychologue, ou celle capable d'exploiter le programme : l'informaticien, et finalement pour tout simplifier le patient lui-même. Autrement dit le médecin est d'abord assisté par l'IA, puis l'IA assistée par le médecin, dont elle n'emploie plus à un certain point que les compétences non médicales, et qui finit par disparaître purement et simplement de l'équation pour ce cas particulier. Notons tout de même que selon ce scénario ce n'est pas le généraliste qui disparaît en premier mais le spécialiste, comme le prédisent certains auteurs[67]. Nous imaginons qu'il y a une composante humaine essentielle, consubstantielle à la pratique de la médecine générale, qui rend l'IA moins dangereuse pour notre raison d'être que pour d'autres spécialités essentiellement techniques.

Pour ce qui est d'une autre part technique du soin, celle de « techniquer » un patient (le munir de dispositifs médicaux), il semble qu'elle soit plus difficile à automatiser car potentiellement plus dangereuse, en tous cas plus immédiatement dangereuse, et les infirmiers ou effecteurs même s'ils auront à être formés spécifiquement seront encore longtemps nécessaires.

Ce qui semble vraisemblable à moyen voire court terme : les généralistes hardis armés de l'IA pourraient empiéter sur l'expertise de certains spécialistes, pour le bien de tous probablement. Mais jusqu'où ? Ceci est bien entendu conditionné au fait qu'ils n'y perdent pas de temps, que les systèmes soient au point, autorisés, réglementés, remboursés, ... Car qui prend la responsabilité ? Probablement comme bien souvent : le médecin. Reprenons notre exercice de prospective : existera-t-il un nouveau paradigme où des cabinets ou
petites cliniques d'assistants ou infirmiers munis d'IA diagnostiques ou robotiques plus
ou moins spécialisés, supervisés par un médecin, pourront traiter un bassin de population
à la manière d'un cabinet ou d'une maison médicale (que nous considérons encore comme
l'unité médicale actuellement la plus flexible, la plus réactive localement) ? Autrement dit
une augmentation de la capacité de traitement et de la compétence du cabinet médical.
Ou au contraire, les médecins de premier recours seront-il vus comme une chose du passé,
et les patients se confieront et confieront leurs données médicales à « Google doctor »
(nom choisi au hasard) dans leur poche, dont on aura prouvé qu'il existe en comparaison
une « perte de chance » à consulter un médecin humain faillible ?

Fiction

Voici une courte fiction élaborée sans trop d'exagération selon nos recherches, illus-
trant comment l'IA pourrait faire évoluer dans un avenir relativement proche la médecine
générale.

Imaginons la journée typique du Dr Jeanmi, médecin de campagne. L'assistant d'IA
pourrait, avant même le début de la consultation, avoir alerté le médecin sur l'état d'un
patient, ayant recueilli par des capteurs ambiants (MIOT) des informations suggérant la
préparation d'une dégradation de l'état de santé, avoir placé automatiquement en priorité
cette visite sur le planning que le médecin consultera à son arrivée au cabinet (il aurait
alerté directement le 15 si l'urgence était vitale). Il pourra avoir rassemblé les informations
importantes à avoir en tête pour réfléchir au problème, préparé un résumé des résultats
des examens complémentaires pertinents et en fonction du passé médico-chirurgical et
familial voire en fonction de sa génétique suggérer d'autres examens pour tester telle ou
telle hypothèse. Les autres patients auront reçu automatiquement un message les préve-
nant qu'une urgence décale d'une heure leur rendez-vous ou leur propose d'autres plages
horaires dans le planning qui peut changer dynamiquement en fonction des urgences per-
çues par l'IA, mais selon des contraintes décidées par le médecin et par chaque patient,
dictées oralement à l'assistant virtuel comme si l'on parle à sa secrétaire (par exemple
pour le médecin : plus de changement de planning après midi sauf urgence, pas de visites
ou consultation après 19h ; pour le patient : flexibilité entre 9h et 11h le 11 août mais plus
de changement SVP à partir de la veille). Le médecin commence par 2 visites : pour la
plus urgente l'examen clinique de cette patiente de 85 ans révèle des crépitants bi-basaux
chez qui l'IA avait détecté grâce à la montre connectée deux épisodes de tachycardie pa-
roxystiques dans la nuit, avec cette nouvelle donnée et sachant qu'un tel épisode avait
été documenté lors d'une hospitalisation en service de chirurgie pour une prothèse de
hanche et s'était soldé par un passage en fibrillation atriale et un oedème pulmonaire, il
faut envisager une récidive, c'est l'une des hypothèses qui étaient proposées par l'assistant
avant la visite qui n'attend que l'accord du médecin pour appeler l'ambulance et réserver
un lit en service de médecine dans l'un des hôpitaux rapidement accessibles. Le méde-
cin choisit de traiter à domicile cette patiente étant donné que le traitement hospitalier
petites cliniques d'assistants ou infirmiers munis d'IA diagnostiques ou robotiques plus
ou moins spécialisés, supervisés par un médecin, pourront traiter un bassin de population
à la manière d'un cabinet ou d'une maison médicale (que nous considérons encore comme
l'unité médicale actuellement la plus flexible, la plus réactive localement) ? Autrement dit
une augmentation de la capacité de traitement et de la compétence du cabinet médical.
Ou au contraire, les médecins de premier recours seront-il vus comme une chose du passé,
et les patients se confieront et confieront leurs données médicales à « Google doctor »
(nom choisi au hasard) dans leur poche, dont on aura prouvé qu'il existe en comparaison
une « perte de chance » à consulter un médecin humain faillible ?

Fiction

Voici une courte fiction élaborée sans trop d'exagération selon nos recherches, illus-
trant comment l'IA pourrait faire évoluer dans un avenir relativement proche la médecine
générale.

Imaginons la journée typique du Dr Jeanmi, médecin de campagne. L'assistant d'IA
pourrait, avant même le début de la consultation, avoir alerté le médecin sur l'état d'un
patient, ayant recueilli par des capteurs ambiants (MIOT) des informations suggérant la
préparation d'une dégradation de l'état de santé, avoir placé automatiquement en priorité
cette visite sur le planning que le médecin consultera à son arrivée au cabinet (il aurait
alerté directement le 15 si l'urgence était vitale). Il pourra avoir rassemblé les informations
importantes à avoir en tête pour réfléchir au problème, préparé un résumé des résultats
des examens complémentaires pertinents et en fonction du passé médico-chirurgical et
familial voire en fonction de sa génétique suggérer d'autres examens pour tester telle ou
telle hypothèse. Les autres patients auront reçu automatiquement un message les préve-
nant qu'une urgence décale d'une heure leur rendez-vous ou leur propose d'autres plages
horaires dans le planning qui peut changer dynamiquement en fonction des urgences per-
çues par l'IA, mais selon des contraintes décidées par le médecin et par chaque patient,
dictées oralement à l'assistant virtuel comme si l'on parle à sa secrétaire (par exemple
pour le médecin : plus de changement de planning après midi sauf urgence, pas de visites
ou consultation après 19h ; pour le patient : flexibilité entre 9h et 11h le 11 août mais plus
de changement SVP à partir de la veille). Le médecin commence par 2 visites : pour la
plus urgente l'examen clinique de cette patiente de 85 ans révèle des crépitants bi-basaux
chez qui l'IA avait détecté grâce à la montre connectée deux épisodes de tachycardie pa-
roxystiques dans la nuit, avec cette nouvelle donnée et sachant qu'un tel épisode avait
été documenté lors d'une hospitalisation en service de chirurgie pour une prothèse de
hanche et s'était soldé par un passage en fibrillation atriale et un oedème pulmonaire, il
faut envisager une récidive, c'est l'une des hypothèses qui étaient proposées par l'assistant
avant la visite qui n'attend que l'accord du médecin pour appeler l'ambulance et réserver
un lit en service de médecine dans l'un des hôpitaux rapidement accessibles. Le méde-
cin choisit de traiter à domicile cette patiente étant donné que le traitement hospitalier
aurait été basé sur les mêmes recommandations que ce que suggère l'assistant, il décide cependant que la prochaine alerte déclenchera directement le transfert à l'hôpital plutôt qu'une visite de sa part (en accord avec le chef du service de médecine déjà prévenu). La deuxième visite est un constat de décès, le certificat est prérempli par l'IA qui a récupéré l'ensemble des informations nécessaires et est à contresigner par le médecin. L'IA établit un lien causal entre la récente administration d'un vaccin et la dégradation clinique du patient que le médecin choisit de ne pas inclure dans le certificat. La famille n'a pas à verser d'argent au médecin qui est rémunéré instantanément sur son compte car tous ces actes sont codés et facturés à la volée. La consultation commence par les cas les plus préoccupants selon l'IA (qui a réalisé une partie de l'interrogatoire) qui a donc modifié le planning en conséquence : une otalgie chez un enfant, une douleur testiculaire apparue brutalement, une confusion chez une personne âgée. Chaque consultation est de façon transparente transcrite intégralement par l'assistant qui enrichit le dossier médical (les patients ont donné leur accord), établit des liens parmi tous les documents depuis la naissance (conversion et inclusion automatiques dans le dossier médical informatisé des kilos de dossiers papier du prédecesseur qui a cédé sa patientèle le Dr Jaborandi) et au-delà (historique familial), propose un résumé du parcours médical visible en un coup d'oeil avec les problèmes en cours à l'entrée du patient dans la salle, saisit automatiquement les constantes et les données de l'examen clinique, propose un résumé de cette entrevue et plusieurs réponses jugées adéquates dans l'ordre de leur qualité perçue. La réponse choisie par le médecin entraîne l'« impression » dans la carte vitale du patient intégrée à son smartphone des ordonnances numériques, où il n'y aura jamais d'interaction médicamenteuse, et chez le pharmacien qui prépare déjà le pilulier, ainsi que des arrêts de travail en fonction des contraintes des patients. La 4ème consultation est un patient qui vient car son téléphone lui a dit de consulter pour un naevus suspect. Le médecin prend une photo qui est immédiatement analysée par l'assistant qui classifie l'image avec 99% de précision, l'envoie automatiquement chez le dermatologue Dr Betnev et dialogue une fraction de seconde avec son assistant IA pour prévoir un rendez-vous. Le dermatologue verra apparaître dans sa boîte e-mail un courrier médical comme s'il avait été écrit par le Dr Jeanmi lui-même (avec sa façon d'écrire), qui ne retouche même plus ces courriers. La prochaine consultation est un patient du Dr Benichou, oncologue, qui a pris l'habitude de laisser les généralistes s'occuper d'inclure les patients dans ses protocoles de recherche, ce qui est réalisé automatiquement par l'assistant, le Dr Jeanmi ne fait que répondre à quelques demandes de celui-ci comme de prendre la pression artérielle et évaluer la présence d'un ganglion de Troisier. Le Dr Benichou ne voit guère plus les patients que lorsqu'il faut annoncer une bonne nouvelle, l'expérience a en effet montré que l'assistant se chargeait mieux que lui d'annoncer les mauvaises nouvelles. Le Dr Jeanmi a ensuite un planning de visites, c'est l'assistant qui lui donne le trajet en voiture pour minimiser le nombre de kilomètres. L'état rembourse en effet les frais kilométriques uniquement si le trajet est respecté à 10% près. Etc etc.
aurait été basé sur les mêmes recommandations que ce que suggère l'assistant, il décide cependant que la prochaine alerte déclenchera directement le transfert à l'hôpital plutôt qu'une visite de sa part (en accord avec le chef du service de médecine déjà prévenu). La deuxième visite est un constat de décès, le certificat est prérempli par l'IA qui a récupéré l'ensemble des informations nécessaires et est à contresigner par le médecin. L'IA établit un lien causal entre la récente administration d'un vaccin et la dégradation clinique du patient que le médecin choisit de ne pas inclure dans le certificat. La famille n'a pas à verser d'argent au médecin qui est rémunéré instantanément sur son compte car tous ces actes sont codés et facturés à la volée. La consultation commence par les cas les plus préoccupants selon l'IA (qui a réalisé une partie de l'interrogatoire) qui a donc modifié le planning en conséquence : une otalgie chez un enfant, une douleur testiculaire apparue brutalement, une confusion chez une personne âgée. Chaque consultation est de façon transparente transcrite intégralement par l'assistant qui enrichit le dossier médical (les patients ont donné leur accord), établit des liens parmi tous les documents depuis la naissance (conversion et inclusion automatiques dans le dossier médical informatisé des kilos de dossiers papier du prédecesseur qui a cédé sa patientèle le Dr Jaborandi) et au-delà (historique familial), propose un résumé du parcours médical visible en un coup d'oeil avec les problèmes en cours à l'entrée du patient dans la salle, saisit automatiquement les constantes et les données de l'examen clinique, propose un résumé de cette entrevue et plusieurs réponses jugées adéquates dans l'ordre de leur qualité perçue. La réponse choisie par le médecin entraîne l'« impression » dans la carte vitale du patient intégrée à son smartphone des ordonnances numériques, où il n'y aura jamais d'interaction médicamenteuse, et chez le pharmacien qui prépare déjà le pilulier, ainsi que des arrêts de travail en fonction des contraintes des patients. La 4ème consultation est un patient qui vient car son téléphone lui a dit de consulter pour un naevus suspect. Le médecin prend une photo qui est immédiatement analysée par l'assistant qui classifie l'image avec 99% de précision, l'envoie automatiquement chez le dermatologue Dr Betnev et dialogue une fraction de seconde avec son assistant IA pour prévoir un rendez-vous. Le dermatologue verra apparaître dans sa boîte e-mail un courrier médical comme s'il avait été écrit par le Dr Jeanmi lui-même (avec sa façon d'écrire), qui ne retouche même plus ces courriers. La prochaine consultation est un patient du Dr Benichou, oncologue, qui a pris l'habitude de laisser les généralistes s'occuper d'inclure les patients dans ses protocoles de recherche, ce qui est réalisé automatiquement par l'assistant, le Dr Jeanmi ne fait que répondre à quelques demandes de celui-ci comme de prendre la pression artérielle et évaluer la présence d'un ganglion de Troisier. Le Dr Benichou ne voit guère plus les patients que lorsqu'il faut annoncer une bonne nouvelle, l'expérience a en effet montré que l'assistant se chargeait mieux que lui d'annoncer les mauvaises nouvelles. Le Dr Jeanmi a ensuite un planning de visites, c'est l'assistant qui lui donne le trajet en voiture pour minimiser le nombre de kilomètres. L'état rembourse en effet les frais kilométriques uniquement si le trajet est respecté à 10% près. Etc etc.
Ce texte peut sembler délirant en 2023 pour qui n'a pas lu le reste de ce travail mais nous espérons avoir convaincu au moins en partie le lecteur qu'il décrit un avenir qui s'en vient peut-être plus vite qu'on ne pense. Vinod Khosla, fondateur de Sun microsystems et entrepreneur émérite, aime à présenter une photographie de la 5ème avenue à New York prise pendant le dimanche de Pâques en 1900 où se pressent des dizaines de voitures à cheval, et une automobile. Seulement 13 ans plus tard, la même rue est photographiée pleine d'autos.

C'est ainsi que le temps fastidieux de la saisie à deux doigts des constantes dans de petites cases apparues après 5 clics de souris s'éloigne, au profit d'assistants qui peuvent automatiquement récupérer les informations collectées pendant l'entretien, produire une observation valable et la confronter à l'ensemble des observations passées d'un patient pour proposer un résumé des problèmes, des diagnostics voire une thérapeuthique respectant des recommandations scientifiquement établies. Ce futur que nous croyons proche permettra nous le croyons de récupérer le temps humain précieux qui est l'une des raisons d'être du médecin. Espérons que ces technologies bien conçues et bien utilisées fassent même de nous de meilleurs médecins, pour le bien des gens que nous soignons.

## Autocritique

Les points forts de ce travail sur le plan méthodologique incluent probablement la stratégie de recherche des articles assez exhaustive, à partir d'un groupe « germinal » de publications dont les références ont été à leur tour récursivement explorées de la même manière si leur contenu s'avérait utile, sans restriction a priori de date ou de langue, avec des critères d'inclusion et d'exclusion simples. Les limites de la méthodologie incluent au moins le fait que la stratégie de recherche des articles soit seulement en partie reproductible étant donné le caractère partiellement subjectif de l'intérêt ou non du propos d'un article pour notre propre propos, la réalisation par un unique auteur du travail favorisant en toute décision la subjectivité (biais de sélection possible), le manque de définition standard acceptées dans le monde entier pour des termes fondamentaux comme family medicine ou AI. Les articles inaccessibles aux moteurs de recherche employés sont absents de notre réflexion. Ce travail aurait pu gagner en clarté si nous avions eu le temps de le rendre plus concis.

Il n'existe pas à notre connaissance d'article scientifique mettant en relation l'algorithisation des études de médecine et le progrès de l'IA dans le domaine médical, ceci aboutissant à une sorte de « singularité locale » en médecine<fnref n="4" />.

<footnote n="4">4. Singularité technologique : concept probablement plus ancien que les années 50 où l'on attribue à John Von Neumann des conversations en rapport avec le développement technologique constant qui pourrait mener à concurrencer voire nuir à l'espèce humaine, repris avec un sens plus proche du terme actuel par I.J. Good en 1965 puis plus récemment par Vernor Vinge[81] et Ray Kurzweil : un point hypotétique dans le futur où l'évolution de la technologie devient incontrôlable et irréversible, résultant en changements radicaux imprévisibles de la civilisation humaine.</footnote>
Ce texte peut sembler délirant en 2023 pour qui n'a pas lu le reste de ce travail mais nous espérons avoir convaincu au moins en partie le lecteur qu'il décrit un avenir qui s'en vient peut-être plus vite qu'on ne pense. Vinod Khosla, fondateur de Sun microsystems et entrepreneur émérite, aime à présenter une photographie de la 5ème avenue à New York prise pendant le dimanche de Pâques en 1900 où se pressent des dizaines de voitures à cheval, et une automobile. Seulement 13 ans plus tard, la même rue est photographiée pleine d'autos.

C'est ainsi que le temps fastidieux de la saisie à deux doigts des constantes dans de petites cases apparues après 5 clics de souris s'éloigne, au profit d'assistants qui peuvent automatiquement récupérer les informations collectées pendant l'entretien, produire une observation valable et la confronter à l'ensemble des observations passées d'un patient pour proposer un résumé des problèmes, des diagnostics voire une thérapeuthique respectant des recommandations scientifiquement établies. Ce futur que nous croyons proche permettra nous le croyons de récupérer le temps humain précieux qui est l'une des raisons d'être du médecin. Espérons que ces technologies bien conçues et bien utilisées fassent même de nous de meilleurs médecins, pour le bien des gens que nous soignons.

## Autocritique

Les points forts de ce travail sur le plan méthodologique incluent probablement la stratégie de recherche des articles assez exhaustive, à partir d'un groupe « germinal » de publications dont les références ont été à leur tour récursivement explorées de la même manière si leur contenu s'avérait utile, sans restriction a priori de date ou de langue, avec des critères d'inclusion et d'exclusion simples. Les limites de la méthodologie incluent au moins le fait que la stratégie de recherche des articles soit seulement en partie reproductible étant donné le caractère partiellement subjectif de l'intérêt ou non du propos d'un article pour notre propre propos, la réalisation par un unique auteur du travail favorisant en toute décision la subjectivité (biais de sélection possible), le manque de définition standard acceptées dans le monde entier pour des termes fondamentaux comme family medicine ou AI. Les articles inaccessibles aux moteurs de recherche employés sont absents de notre réflexion. Ce travail aurait pu gagner en clarté si nous avions eu le temps de le rendre plus concis.

Il n'existe pas à notre connaissance d'article scientifique mettant en relation l'algorithisation des études de médecine et le progrès de l'IA dans le domaine médical, ceci aboutissant à une sorte de « singularité locale » en médecine<fnref n="4" />.

<footnote n="4">4. Singularité technologique : concept probablement plus ancien que les années 50 où l'on attribue à John Von Neumann des conversations en rapport avec le développement technologique constant qui pourrait mener à concurrencer voire nuir à l'espèce humaine, repris avec un sens plus proche du terme actuel par I.J. Good en 1965 puis plus récemment par Vernor Vinge[81] et Ray Kurzweil : un point hypotétique dans le futur où l'évolution de la technologie devient incontrôlable et irréversible, résultant en changements radicaux imprévisibles de la civilisation humaine.</footnote>
## 6. CONCLUSION :

### EVOLUTION POSSIBLE DE LA MÉDECINE GÉNÉRALE AVEC L'IA

> « Ubik ... Safe when taken as directed. »
> Philip K. Dick

> 敵は本能寺にあり<fnref n="1" />
> Proverbe japonais

L'IA nous promet une révolution qui se fait attendre dans la mesure où une partie de l'humanité connaît une angoisse existentielle à cause de l'automatisation des métiers[80], alors que le parachèvement de cette automatisation devrait au contraire libérer leur esprit et leur corps des contingences matérielles pour leur permettre de s'adonner à une vie choisie, à l'utilisation optimale de leur temps, à l'éducation des enfants, à l'apport de ce qui est purement humain à l'existence, c'est-à-dire mener à une utopie[194].

Nous imaginons que son déploiement changera d'une façon difficilement concevable la vie telle que nous la connaissons (voir encore [118], où l'on fait l'hypothèse que l'IA surpassera l'humain en toutes tâches dans 40 ans, ou bien la réflexion de Russell & Norvig sur cette question<fnref n="2" />), ce déploiement sera-t-il contrôlé et bienveillant, ou se fera-t-il de façon pseudo-anarchique, humaine, avant de s'auto-organiser ? Se fera-t-il de façon incontrôlée, au détriment de l'espèce humaine[195] (thèse de la singularité) ? Ou bien encore, se fera-t-il de façon forcée, subreptice, contrôlée par des intérêts privés ou malintentionnés ?

Nous présumons que même passivement l'IA s'introduira progressivement dans la vie de tous les jours, y compris dans la médecine, et en tant que technologie disruptive jusqu'à saturation.

Il s'agit en premier lieu d'admettre le fait que l'IA puisse nous surpasser pour certaines tâches. Nous tempérerons en rappelant que les médecins généralistes accomplissent encore tellement de tâches différentes qu'ils sont parmi les moins immédiatement remplaçables. Ensuite, nous proposons de se cultiver pour être capable d'exploiter le potentiel de l'IA, et de cultiver ce qui nous rend indispensable pour les patients : l'empathie. Aux informaticiens, nous proposons notre connaissance du terrain : connaissance des conditions de

<footnote n="1">1. Le véritable ennemi est ailleurs.</footnote>

<footnote n="2">2. Page 1040 de la 3ième édition[7] : « Des machines ultra-intelligentes pourraient nous mener à un futur très différent d'aujourd'hui - nous pourrions ne pas l'apprécier, et à ce stade nous n'aurions pas le choix. »</footnote>
## 6. CONCLUSION :

### EVOLUTION POSSIBLE DE LA MÉDECINE GÉNÉRALE AVEC L'IA

> « Ubik ... Safe when taken as directed. »
> Philip K. Dick

> 敵は本能寺にあり<fnref n="1" />
> Proverbe japonais

L'IA nous promet une révolution qui se fait attendre dans la mesure où une partie de l'humanité connaît une angoisse existentielle à cause de l'automatisation des métiers[80], alors que le parachèvement de cette automatisation devrait au contraire libérer leur esprit et leur corps des contingences matérielles pour leur permettre de s'adonner à une vie choisie, à l'utilisation optimale de leur temps, à l'éducation des enfants, à l'apport de ce qui est purement humain à l'existence, c'est-à-dire mener à une utopie[194].

Nous imaginons que son déploiement changera d'une façon difficilement concevable la vie telle que nous la connaissons (voir encore [118], où l'on fait l'hypothèse que l'IA surpassera l'humain en toutes tâches dans 40 ans, ou bien la réflexion de Russell & Norvig sur cette question<fnref n="2" />), ce déploiement sera-t-il contrôlé et bienveillant, ou se fera-t-il de façon pseudo-anarchique, humaine, avant de s'auto-organiser ? Se fera-t-il de façon incontrôlée, au détriment de l'espèce humaine[195] (thèse de la singularité) ? Ou bien encore, se fera-t-il de façon forcée, subreptice, contrôlée par des intérêts privés ou malintentionnés ?

Nous présumons que même passivement l'IA s'introduira progressivement dans la vie de tous les jours, y compris dans la médecine, et en tant que technologie disruptive jusqu'à saturation.

Il s'agit en premier lieu d'admettre le fait que l'IA puisse nous surpasser pour certaines tâches. Nous tempérerons en rappelant que les médecins généralistes accomplissent encore tellement de tâches différentes qu'ils sont parmi les moins immédiatement remplaçables. Ensuite, nous proposons de se cultiver pour être capable d'exploiter le potentiel de l'IA, et de cultiver ce qui nous rend indispensable pour les patients : l'empathie. Aux informaticiens, nous proposons notre connaissance du terrain : connaissance des conditions de

<footnote n="1">1. Le véritable ennemi est ailleurs.</footnote>

<footnote n="2">2. Page 1040 de la 3ième édition[7] : « Des machines ultra-intelligentes pourraient nous mener à un futur très différent d'aujourd'hui - nous pourrions ne pas l'apprécier, et à ce stade nous n'aurions pas le choix. »</footnote>
vie réelles de nos patients, des liens entre soignants et avec l'administration, des problématiques de premier recours, c'est-à-dire la majorité de la médecine[135], dans le but de collaborer efficacement pour contribuer à la santé de l'humanité.

Sans se prononcer sur le fait qu'il soit bien ou mal que l'IA se mêle à la médecine, il faut y voir une aide providentielle là où le temps nous manque pour les choses les plus élémentaires. Il faut y voir également l'opportunité de devenir, allié avec l'IA, meilleur au bénéfice des patients, et de retrouver l'essence de notre métier qui demande du temps et de la tranquillité d'esprit : réconforter et soigner les gens[125].

## 6.1 Proposition

L'avenir de la médecine devant quoiqu'il arrive composer avec les avancées technologiques, nous proposons, en accord avec certains auteurs et c'est déjà le cas dans certaines universités, qu'il y ait à la faculté de médecine à minima une veille technologique sur l'IA en particulier, ainsi que des cours d'ouverture aux étudiants. Ce cours pourrait selon toute vraisemblance prendre de l'importance, pour un jour mériter une chaire d'IA médicale à la faculté de médecine comme cela existe aux Etats-Unis.

Nous avons souligné dans l'introduction le fait que les études de médecine reposaient de plus en plus sur l'apprentissage d'algorithmes de prise en charge. Les examens des connaissances sont désormais des QCM ne favorisant pas l'articulation d'une réponse mûrement réfléchie ou la nuance, mais permettent un recueil immédiat, l'obtention immédiate d'un score, et la réalisation de statistiques individuelles et collectives en un clin d'oeil, progrès peu pertinents si l'on abandonne en échange l'opportunité de juger certaines qualités déterminantes chez les candidats. Les jeunes médecins sont recrutés en fonction de leur performance à ces tests alors que les chercheurs sont d'accord pour dire que leur plus-value par rapport à l'IA ne se situe pas ici. Du reste ChatGPT, sans entraînement spécifique, est déjà capable de passer les examens américains[3, 143].

Il apparaît donc que l'humain, pour ces tâches algorithmiques, est par définition dépassé. Il s'agit donc de concentrer la plus-value du médecin humain sur ce qu'il ne peut que mieux faire que l'IA par définition : l'humanité.

Nous proposons donc plus ambitieusement de recentrer les études de médecine sur deux points : d'une part la sélection non pas des étudiants les plus performants sur des tâches que l'IA peut mieux réaliser qu'eux ou sur des connaissances de toutes façons accessibles immédiatement sur internet (un progrès indéniable), mais sur leur capacité à trouver l'information critique, à raisonner d'une façon à la fois logique et innovante, élégante (au sens mathématique du terme), sur leur curiosité, leur ouverture, sur leur morale, leur éthique, leur empathie, leur bienveillance, en bref leur philosophie; et d'autre part sur leur capacité à comprendre et utiliser à bon escient la machine (notion d'« intelligence hybride »[173]) ou dumoins à dialoguer avec les informaticiens. Le premier point est le plus important, et le second sous-entend de former à l'informatique, ce qui peut sembler paradoxal, mais l'utilisation à son plein potentiel et la compréhension des limites ou
vie réelles de nos patients, des liens entre soignants et avec l'administration, des problématiques de premier recours, c'est-à-dire la majorité de la médecine[135], dans le but de collaborer efficacement pour contribuer à la santé de l'humanité.

Sans se prononcer sur le fait qu'il soit bien ou mal que l'IA se mêle à la médecine, il faut y voir une aide providentielle là où le temps nous manque pour les choses les plus élémentaires. Il faut y voir également l'opportunité de devenir, allié avec l'IA, meilleur au bénéfice des patients, et de retrouver l'essence de notre métier qui demande du temps et de la tranquillité d'esprit : réconforter et soigner les gens[125].

## 6.1 Proposition

L'avenir de la médecine devant quoiqu'il arrive composer avec les avancées technologiques, nous proposons, en accord avec certains auteurs et c'est déjà le cas dans certaines universités, qu'il y ait à la faculté de médecine à minima une veille technologique sur l'IA en particulier, ainsi que des cours d'ouverture aux étudiants. Ce cours pourrait selon toute vraisemblance prendre de l'importance, pour un jour mériter une chaire d'IA médicale à la faculté de médecine comme cela existe aux Etats-Unis.

Nous avons souligné dans l'introduction le fait que les études de médecine reposaient de plus en plus sur l'apprentissage d'algorithmes de prise en charge. Les examens des connaissances sont désormais des QCM ne favorisant pas l'articulation d'une réponse mûrement réfléchie ou la nuance, mais permettent un recueil immédiat, l'obtention immédiate d'un score, et la réalisation de statistiques individuelles et collectives en un clin d'oeil, progrès peu pertinents si l'on abandonne en échange l'opportunité de juger certaines qualités déterminantes chez les candidats. Les jeunes médecins sont recrutés en fonction de leur performance à ces tests alors que les chercheurs sont d'accord pour dire que leur plus-value par rapport à l'IA ne se situe pas ici. Du reste ChatGPT, sans entraînement spécifique, est déjà capable de passer les examens américains[3, 143].

Il apparaît donc que l'humain, pour ces tâches algorithmiques, est par définition dépassé. Il s'agit donc de concentrer la plus-value du médecin humain sur ce qu'il ne peut que mieux faire que l'IA par définition : l'humanité.

Nous proposons donc plus ambitieusement de recentrer les études de médecine sur deux points : d'une part la sélection non pas des étudiants les plus performants sur des tâches que l'IA peut mieux réaliser qu'eux ou sur des connaissances de toutes façons accessibles immédiatement sur internet (un progrès indéniable), mais sur leur capacité à trouver l'information critique, à raisonner d'une façon à la fois logique et innovante, élégante (au sens mathématique du terme), sur leur curiosité, leur ouverture, sur leur morale, leur éthique, leur empathie, leur bienveillance, en bref leur philosophie; et d'autre part sur leur capacité à comprendre et utiliser à bon escient la machine (notion d'« intelligence hybride »[173]) ou dumoins à dialoguer avec les informaticiens. Le premier point est le plus important, et le second sous-entend de former à l'informatique, ce qui peut sembler paradoxal, mais l'utilisation à son plein potentiel et la compréhension des limites ou
capacités d'un outil informatique comme l'IA nécessite un certain bagage que n'ont pas les médecins. Il ne s'agit pas de bureautique ou d'apprendre par coeur des algorithmes, mais de savoir comment modéliser un problème en termes symboliques et se représenter un algorithme pour le résoudre, éventuellement le concevoir soi-même. On pourra argumenter que le meilleur pilote n'est pas forcément un excellent mécanicien, mais nous avançons qu'il faut avoir certaines notions de mécanique, du reste il ne faut pas être complètement dépendant des mécaniciens pour un problème facile à résoudre ou pour l'entretien du véhicule.

Ces deux points réconcilient un peu les humanités avec la science, et feraient retrouver
à la médecine devenue passive, formée en négatif sur des ouvertures de parapluie, sa grâce
et son prestige par l'engendrement ou la sélection de polymathes comme il en a existé par
le passé.

## 6.2 Portée de ce travail

Cette revue de la littérature pourrait être exploitée pour, par exemple, guider une ana-
lyse qualitative avec des médecins français (comme cela a été fait dans d'autres pays[139,
142, 144]), élaborer une réflexion éthique ou pédagogique, ou encore politique dans l'in-
tégration de l'IA dans la médecine française. Elle pourrait être utile également pour qui
souhaiterait mener une étude de marché dans le but d'introduire une nouvelle technologie.

<figure><img src="image_3.png" /></figure>
capacités d'un outil informatique comme l'IA nécessite un certain bagage que n'ont pas les médecins. Il ne s'agit pas de bureautique ou d'apprendre par coeur des algorithmes, mais de savoir comment modéliser un problème en termes symboliques et se représenter un algorithme pour le résoudre, éventuellement le concevoir soi-même. On pourra argumenter que le meilleur pilote n'est pas forcément un excellent mécanicien, mais nous avançons qu'il faut avoir certaines notions de mécanique, du reste il ne faut pas être complètement dépendant des mécaniciens pour un problème facile à résoudre ou pour l'entretien du véhicule.

Ces deux points réconcilient un peu les humanités avec la science, et feraient retrouver
à la médecine devenue passive, formée en négatif sur des ouvertures de parapluie, sa grâce
et son prestige par l'engendrement ou la sélection de polymathes comme il en a existé par
le passé.

## 6.2 Portée de ce travail

Cette revue de la littérature pourrait être exploitée pour, par exemple, guider une ana-
lyse qualitative avec des médecins français (comme cela a été fait dans d'autres pays[139,
142, 144]), élaborer une réflexion éthique ou pédagogique, ou encore politique dans l'in-
tégration de l'IA dans la médecine française. Elle pourrait être utile également pour qui
souhaiterait mener une étude de marché dans le but d'introduire une nouvelle technologie.

<figure><img src="image_4.png" /></figure>
BIBLIOGRAPHIE

1. POTVIN, A. R., CROSIER, W. G., FROMM, E., LIN, J. C., NEUMAN, M. R., PILKINGTON, T. C. *et al*. Report of an IEEE Task Force - An IEEE Opinion on Research Needs for Biomedical Engineering Systems. *IEEE transactions on biomedical engineering*, 48-59 (1986).

2. CBINSIGHTS. https://www.cbinsights.com/research/artificial-intelligence-healthcare-startups-investors/. consulté le 17 juillet 2023. (2017).

3. KUNG, T. H., CHEATHAM, M., MEDENILLA, A., SILLOS, C., DE LEON, L., ELEPAÑO, C. et al. Performance of ChatGPT on USMLE : Potential for AI-assisted medical education using large language models. *PLoS digital health* 2, e0000198 (2023).

4. TRUONG, J.-M. *Totalement inhumaine : essai* (Les empêcheurs de penser en rond, 2001).

5. HAIECH, J. Parcourir l'histoire de l'intelligence artificielle, pour mieux la définir et la comprendre. *Med Sci (Paris)* **36**, 919-923. https://doi.org/10.1051/medsci/2020145 (2020).

6. LAURIÈRE, J.-L. Intelligence artificielle : résolution de problèmes par l'homme et la machine (1987).

7. RUSSELL, S. & NORVIG, P. *Artificial Intelligence : A Modern Approach* 3e éd. http://aima.cs.berkeley.edu/global-index.html (Prentice Hall, 2010).

8. TURING, A. M. Mind. *Mind* **59**, 433-460 (1950).

9. EDDY, D. M. & BILLINGS, J. The quality of medical evidence : implications for quality of care. *Health Affairs* **7**, 19-32 (1988).

10. DIXON-WOODS, M., AGARWAL, S., JONES, D., YOUNG, B. & SUTTON, A. Synthesising qualitative and quantitative evidence : a review of possible methods. *Journal of Health Services Research and Policy* **10**, 45-53b. ISSN : 13558196, 17581060. http://www.jstor.org/stable/26749970 (2023) (2005).

11. ARKSEY, H. & O'MALLEY, L. Scoping studies : towards a methodological framework. *International journal of social research methodology* **8**, 19-32 (2005).

12. GOUGH, D., THOMAS, J. & OLIVER, S. Clarifying differences between review designs and methods. en. *Syst. Rev.* **1**, 28 (juin 2012).
BIBLIOGRAPHIE

1. POTVIN, A. R., CROSIER, W. G., FROMM, E., LIN, J. C., NEUMAN, M. R., PILKINGTON, T. C. et al. Report of an IEEE Task Force - An IEEE Opinion on Research Needs for Biomedical Engineering Systems. *IEEE transactions on biomedical engineering*, 48-59 (1986).

2. CBINSIGHTS. https://www.cbinsights.com/research/artificial-intelligence-healthcare-startups-investors/. consulté le 17 juillet 2023. (2017).

3. KUNG, T. H., CHEATHAM, M., MEDENILLA, A., SILLOS, C., DE LEON, L., ELEPAÑO, C. et al. Performance of ChatGPT on USMLE: Potential for AI-assisted medical education using large language models. *PLoS digital health* 2, e0000198 (2023).

4. TRUONG, J.-M. *Totalement inhumaine : essai* (Les empêcheurs de penser en rond, 2001).

5. HAIECH, J. Parcourir l'histoire de l'intelligence artificielle, pour mieux la définir et la comprendre. *Med Sci (Paris)* **36**, 919-923. https://doi.org/10.1051/medsci/2020145 (2020).

6. LAURIÈRE, J.-L. Intelligence artificielle : résolution de problèmes par l'homme et la machine (1987).

7. RUSSELL, S. & NORVIG, P. *Artificial Intelligence: A Modern Approach* 3e éd. http://aima.cs.berkeley.edu/global-index.html (Prentice Hall, 2010).

8. TURING, A. M. Mind. *Mind* **59**, 433-460 (1950).

9. EDDY, D. M. & BILLINGS, J. The quality of medical evidence : implications for quality of care. *Health Affairs* **7**, 19-32 (1988).

10. DIXON-WOODS, M., AGARWAL, S., JONES, D., YOUNG, B. & SUTTON, A. Synthesising qualitative and quantitative evidence : a review of possible methods. *Journal of Health Services Research and Policy* **10**, 45-53b. ISSN : 13558196, 17581060. http://www.jstor.org/stable/26749970 (2023) (2005).

11. ARKSEY, H. & O'MALLEY, L. Scoping studies : towards a methodological framework. *International journal of social research methodology* **8**, 19-32 (2005).

12. GOUGH, D., THOMAS, J. & OLIVER, S. Clarifying differences between review designs and methods. en. *Syst. Rev.* **1**, 28 (juin 2012).
13. ALEC, C. W., MATHIEU, T. & GUY, P. (Re)considering the Concept of Literature Review Reproducibility. *Journal of the Association for Information Systems*, 5. https://aisel.aisnet.org/jais/vol21/iss5/10 (2020).

14. TRICCO, A. C., LILLIE, E., ZARIN, W., O'BRIEN, K., COLQUHOUN, H., KASTNER, M. *et al*. A scoping review on the conduct and reporting of scoping reviews. *BMC medical research methodology* **16**, 1-10 (2016).

15. TEMPLIER, M. & PARÉ, G. Transparency in literature reviews : an assessment of reporting practices across review types and genres in top IS journals. en. *Eur. J. Inf. Syst.* **27**, 503-550 (sept. 2018).

16. PARÉ, G., TATE, M., JOHNSTONE, D. & KITSIOU, S. Contextualizing the twin concepts of systematicity and transparency in information systems literature reviews. en. *Eur. J. Inf. Syst.* **25**, 493-508 (nov. 2016).

17. GUO, Y., HAO, Z., ZHAO, S., GONG, J. & YANG, F. Artificial intelligence in health care : bibliometric analysis. *Journal of Medical Internet Research* **22**, e18228 (2020).

18. VARGHESE, J. Artificial intelligence in medicine : chances and challenges for wide clinical adoption. *Visceral medicine* **36**, 443-449 (2020).

19. MCCORDUCK, P. & CFE, C. *Machines who think : A personal inquiry into the history and prospects of artificial intelligence* (CRC Press, 2004).

20. MIROWSKI, P. McCorduck's Machines Who Think after Twenty-Five Years Revisiting the Origins of AI. *AI Magazine* **24**, 135-135 (2003).

21. CREVIER, D. *AI : the tumultuous history of the search for artificial intelligence* (Basic Books, Inc., 1993).

22. De LA METTRIE, J. & ASSÉZAT, J. *L'homme machine* https://books.google.ch/books?id=aQN9Etbut7IC (F. Henry, 1865).

23. WIENER, N. Cybernetics. *Scientific American* **179**, 14-19 (1948).

24. McCulloch, W. S. & Pitts, W. A logical calculus of the ideas immanent in nervous activity. *The bulletin of mathematical biophysics* **5**, 115-133 (1943).

25. GAULD, C. Une brève histoire des sciences computationnelles. *Revue Médecine et Philosophie* **4**, 45 (2020).

26. WERBOS, P. Beyond regression : New tools for prediction and analysis in the behavioral sciences. *PhD thesis, Committee on Applied Mathematics, Harvard University, Cambridge, MA* (1974).

27. RUMELHART, D. E., HINTON, G. E. & WILLIAMS, R. J. Learning representations by back-propagating errors. *nature* **323**, 533-536 (1986).

28. WHITEHEAD, A. N. & RUSSELL, B. *Principia Mathematica* (Cambridge University Press, 1925-1927).
13. ALEC, C. W., MATHIEU, T. & GUY, P. (Re)considering the Concept of Literature Review Reproducibility. *Journal of the Association for Information Systems*, 5. https://aisel.aisnet.org/jais/vol21/iss5/10 (2020).

14. TRICCO, A. C., LILLIE, E., ZARIN, W., O'BRIEN, K., COLQUHOUN, H., KASTNER, M. *et al*. A scoping review on the conduct and reporting of scoping reviews. *BMC medical research methodology* **16**, 1-10 (2016).

15. TEMPLIER, M. & PARÉ, G. Transparency in literature reviews : an assessment of reporting practices across review types and genres in top IS journals. en. *Eur. J. Inf. Syst.* **27**, 503-550 (sept. 2018).

16. PARÉ, G., TATE, M., JOHNSTONE, D. & KITSIOU, S. Contextualizing the twin concepts of systematicity and transparency in information systems literature reviews. en. *Eur. J. Inf. Syst.* **25**, 493-508 (nov. 2016).

17. GUO, Y., HAO, Z., ZHAO, S., GONG, J. & YANG, F. Artificial intelligence in health care : bibliometric analysis. *Journal of Medical Internet Research* **22**, e18228 (2020).

18. VARGHESE, J. Artificial intelligence in medicine : chances and challenges for wide clinical adoption. *Visceral medicine* **36**, 443-449 (2020).

19. MCCORDUCK, P. & CFE, C. *Machines who think : A personal inquiry into the history and prospects of artificial intelligence* (CRC Press, 2004).

20. MIROWSKI, P. McCorduck's Machines Who Think after Twenty-Five Years Revisiting the Origins of AI. *AI Magazine* **24**, 135-135 (2003).

21. CREVIER, D. *AI : the tumultuous history of the search for artificial intelligence* (Basic Books, Inc., 1993).

22. De LA METTRIE, J. & ASSÉZAT, J. *L'homme machine* https://books.google.ch/books?id=aQN9Etbut7IC (F. Henry, 1865).

23. WIENER, N. Cybernetics. *Scientific American* **179**, 14-19 (1948).

24. McCulloch, W. S. & Pitts, W. A logical calculus of the ideas immanent in nervous activity. *The bulletin of mathematical biophysics* **5**, 115-133 (1943).

25. GAULD, C. Une brève histoire des sciences computationnelles. *Revue Médecine et Philosophie* **4**, 45 (2020).

26. WERBOS, P. Beyond regression : New tools for prediction and analysis in the behavioral sciences. *PhD thesis, Committee on Applied Mathematics, Harvard University, Cambridge, MA* (1974).

27. RUMELHART, D. E., HINTON, G. E. & WILLIAMS, R. J. Learning representations by back-propagating errors. *nature* **323**, 533-536 (1986).

28. WHITEHEAD, A. N. & RUSSELL, B. *Principia Mathematica* (Cambridge University Press, 1925-1927).
29. KULIKOWSKI, C. A. Beginnings of artificial intelligence in medicine (AIM) : computational artifice assisting scientific inquiry and clinical art-with reflections on present aim challenges. *Yearbook of medical informatics* **28**, 249-256 (2019).

30. LANDSTEINER, N. https://www.masswerk.at/elizabot/. consulté le 2 septembre 2023. (2005).

31. WEIZENBAUM, J. ELIZA - a computer program for the study of natural language communication between man and machine. *Communications of the ACM* **9**, 36-45 (1966).

32. SZOLOVITS, P. *Artificial Intelligence in Medicine* ISBN : 0891589007 (Westview Press, Inc., USA, 1982).

33. SZOLOVITS, P. *Artificial intelligence in medicine* (Routledge, 2019).

34. PAUKER, S. G., GORRY, G. A., KASSIRER, J. P. & SCHWARTZ, W. B. Towards the simulation of clinical cognition : taking a present illness by computer. *The American journal of medicine* **60**, 981-996 (1976).

35. WEISS, S., KULIKOWSKI, C. A. & SAFIR, A. Glaucoma consultation by computer. *Computers in Biology and Medicine* **8**, 25-40 (1978).

36. MYERS, J. & POPLE, H. E. *INTERNIST : A consultative diagnostic program in internal medicine in Proceedings of the Annual Symposium on Computer Application in Medical Care* (1977), 52.

37. SILVERMAN, H. *A Digitalis Therapy Advisor, Project MAC, Massachusetts Institute of Technology* rapp. tech. (Technical Report TR-143, 1975).

38. FEIGENBAUM, E. A. *Knowledge engineering : the applied side of artificial intelligence* (Department of Computer Science, Stanford University, 1980).

39. FEIGENBAUM, E. A. *Innovation and Symbol Manipulation in Fifth Generation Computer Systems in Fifth Generation Computer Systems* (1982), 223-224.

40. BARNETT, G. O., CIMINO, J. J., HUPP, J. A. & HOFFER, E. P. DXplain : an evolving diagnostic decision-support system. *Jama* **258**, 67-74 (1987).

41. LENAT, D. B., PRAKASH, M. & SHEPHERD, M. CYC : Using common sense knowledge to overcome brittleness and knowledge acquisition bottlenecks. *AI magazine* **6**, 65-65 (1985).

42. HOLLIS, K. F., SOUALMIA, L. F. & SÉROUSSI, B. Artificial intelligence in health informatics : hype or reality ? *Yearbook of medical informatics* **28**, 003-004 (2019).

43. FERRUCCI, D., LEVAS, A., BAGCHI, S., GONDEK, D. & MUELLER, E. T. Watson : beyond jeopardy! *Artificial Intelligence* **199**, 93-105 (2013).

44. RAMNARAYAN, P., TOMLINSON, A., RAO, A., COREN, M., WINROW, A. & BRITTO, J. ISABEL : a web-based differential diagnostic aid for paediatrics : results from an initial performance evaluation. *Archives of disease in childhood* **88**, 408-413 (2003).
29. KULIKOWSKI, C. A. Beginnings of artificial intelligence in medicine (AIM) : computational artifice assisting scientific inquiry and clinical art-with reflections on present aim challenges. *Yearbook of medical informatics* **28**, 249-256 (2019).

30. LANDSTEINER, N. https://www.masswerk.at/elizabot/. consulté le 2 septembre 2023. (2005).

31. WEIZENBAUM, J. ELIZA - a computer program for the study of natural language communication between man and machine. *Communications of the ACM* **9**, 36-45 (1966).

32. SZOLOVITS, P. *Artificial Intelligence in Medicine* ISBN : 0891589007 (Westview Press, Inc., USA, 1982).

33. SZOLOVITS, P. *Artificial intelligence in medicine* (Routledge, 2019).

34. PAUKER, S. G., GORRY, G. A., KASSIRER, J. P. & SCHWARTZ, W. B. Towards the simulation of clinical cognition : taking a present illness by computer. *The American journal of medicine* **60**, 981-996 (1976).

35. WEISS, S., KULIKOWSKI, C. A. & SAFIR, A. Glaucoma consultation by computer. *Computers in Biology and Medicine* **8**, 25-40 (1978).

36. MYERS, J. & POPLE, H. E. *INTERNIST : A consultative diagnostic program in internal medicine in Proceedings of the Annual Symposium on Computer Application in Medical Care* (1977), 52.

37. SILVERMAN, H. *A Digitalis Therapy Advisor, Project MAC, Massachusetts Institute of Technology* rapp. tech. (Technical Report TR-143, 1975).

38. FEIGENBAUM, E. A. *Knowledge engineering : the applied side of artificial intelligence* (Department of Computer Science, Stanford University, 1980).

39. FEIGENBAUM, E. A. *Innovation and Symbol Manipulation in Fifth Generation Computer Systems in Fifth Generation Computer Systems* (1982), 223-224.

40. BARNETT, G. O., CIMINO, J. J., HUPP, J. A. & HOFFER, E. P. DXplain : an evolving diagnostic decision-support system. *Jama* **258**, 67-74 (1987).

41. LENAT, D. B., PRAKASH, M. & SHEPHERD, M. CYC : Using common sense knowledge to overcome brittleness and knowledge acquisition bottlenecks. *AI magazine* **6**, 65-65 (1985).

42. HOLLIS, K. F., SOUALMIA, L. F. & SÉROUSSI, B. Artificial intelligence in health informatics : hype or reality ? *Yearbook of medical informatics* **28**, 003-004 (2019).

43. FERRUCCI, D., LEVAS, A., BAGCHI, S., GONDEK, D. & MUELLER, E. T. Watson : beyond jeopardy! *Artificial Intelligence* **199**, 93-105 (2013).

44. RAMNARAYAN, P., TOMLINSON, A., RAO, A., COREN, M., WINROW, A. & BRITTO, J. ISABEL : a web-based differential diagnostic aid for paediatrics : results from an initial performance evaluation. *Archives of disease in childhood* **88**, 408-413 (2003).
45. DEVARAKONDA, M. & TSOU, C.-H. *Automated problem list generation from electronic medical records in IBM Watson* in *Proceedings of the AAAI Conference on Artificial Intelligence* **29** (2015), 3942-3947.

46. BAKKAR, N., KOVALIK, T., LORENZINI, I., SPANGLER, S., LACOSTE, A., SPONAUGLE, K. *et al*. Artificial intelligence in neurodegenerative disease research : use of IBM Watson to identify additional RNA-binding proteins altered in amyotrophic lateral sclerosis. *Acta neuropathologica* **135**, 227-247 (2018).

47. COMENDADOR, B. E. V., FRANCISCO, B. M. B., MEDENILLA, J. S. & MAE, S. Pharmabot : a pediatric generic medicine consultant chatbot. *Journal of Automation and Control Engineering* **3** (2015).

48. NI, L., LU, C., LIU, N. & LIU, J. *Mandy : Towards a smart primary care chatbot application* in *International symposium on knowledge and systems sciences* (2017), 38-52.

49. BEAM, A. L. & KOHANE, I. S. Big data and machine learning in health care. *Jama* **319**, 1317-1318 (2018).

50. EMANUEL, E. J. & WACHTER, R. M. Artificial intelligence in health care : will the value match the hype? *Jama* **321**, 2281-2282 (2019).

51. HEALTH, R. https://rockhealth.com/insights/2018-year-end-funding-report-is-digital-health-in-a-bubble/. consulté le 18 septembre 2023. (2019).

52. DEVEUGELE, M., DERESE, A., van den BRINK-MUINEN, A., BENSING, J. & DE MAESENEER, J. Consultation length in general practice : cross sectional study in six European countries. *Bmj* **325**, 472 (2002).

53. NAKAJIMA, Y., YAMADA, K., IMAMURA, K. & KOBAYASHI, K. Radiologist supply and workload : international comparison : Working Group of Japanese College of Radiology. *Radiation medicine* **26**, 455-465 (2008).

54. ABBO, E. D., ZHANG, Q., ZELDER, M. & HUANG, E. S. The increasing number of clinical items addressed during the time of adult primary care visits. *Journal of General Internal Medicine* **23**, 2058-2065 (2008).

55. YARNALL, K. S., POLLAK, K. I., ØSTBYE, T., KRAUSE, K. M. & MICHENER, J. L. Primary care : is there enough time for prevention? *American journal of public health* **93**, 635-641 (2003).

56. DELBROUCK, M. Burn-out et médecine 1 : Le syndrome d'épuisement professionnel. *Cahiers de psychologie clinique*, 121-132 (2007).

57. GALAM, É. Burn out des médecins libéraux. Deuxième partie : une identité professionnelle remise en question. *Médecine* **3**, 474-477 (2007).
45. DEVARAKONDA, M. & TSOU, C.-H. *Automated problem list generation from electronic medical records in IBM Watson* in *Proceedings of the AAAI Conference on Artificial Intelligence* **29** (2015), 3942-3947.

46. BAKKAR, N., KOVALIK, T., LORENZINI, I., SPANGLER, S., LACOSTE, A., SPONAUGLE, K. *et al*. Artificial intelligence in neurodegenerative disease research : use of IBM Watson to identify additional RNA-binding proteins altered in amyotrophic lateral sclerosis. *Acta neuropathologica* **135**, 227-247 (2018).

47. COMENDADOR, B. E. V., FRANCISCO, B. M. B., MEDENILLA, J. S. & MAE, S. Pharmabot : a pediatric generic medicine consultant chatbot. *Journal of Automation and Control Engineering* **3** (2015).

48. NI, L., LU, C., LIU, N. & LIU, J. *Mandy : Towards a smart primary care chatbot application* in *International symposium on knowledge and systems sciences* (2017), 38-52.

49. BEAM, A. L. & KOHANE, I. S. Big data and machine learning in health care. *Jama* **319**, 1317-1318 (2018).

50. EMANUEL, E. J. & WACHTER, R. M. Artificial intelligence in health care : will the value match the hype? *Jama* **321**, 2281-2282 (2019).

51. HEALTH, R. https://rockhealth.com/insights/2018-year-end-funding-report-is-digital-health-in-a-bubble/. consulté le 18 septembre 2023. (2019).

52. DEVEUGELE, M., DERESE, A., VAN DEN BRINK-MUINEN, A., BENSING, J. & DE MAESENEER, J. Consultation length in general practice : cross sectional study in six European countries. *Bmj* **325**, 472 (2002).

53. NAKAJIMA, Y., YAMADA, K., IMAMURA, K. & KOBAYASHI, K. Radiologist supply and workload : international comparison : Working Group of Japanese College of Radiology. *Radiation medicine* **26**, 455-465 (2008).

54. ABBO, E. D., ZHANG, Q., ZELDER, M. & HUANG, E. S. The increasing number of clinical items addressed during the time of adult primary care visits. *Journal of General Internal Medicine* **23**, 2058-2065 (2008).

55. YARNALL, K. S., POLLAK, K. I., ØSTBYE, T., KRAUSE, K. M. & MICHENER, J. L. Primary care : is there enough time for prevention? *American journal of public health* **93**, 635-641 (2003).

56. DELBROUCK, M. Burn-out et médecine 1 : Le syndrome d'épuisement professionnel. *Cahiers de psychologie clinique*, 121-132 (2007).

57. GALAM, É. Burn out des médecins libéraux. Deuxième partie : une identité professionnelle remise en question. *Médecine* **3**, 474-477 (2007).
58. ARNDT, B. G., BEASLEY, J. W., WATKINSON, M. D., TEMTE, J. L., TUAN, W.-J., SINSKY, C. A. et al. Tethered to the EHR: primary care physician workload assessment using EHR event log data and time-motion observations. *The Annals of Family Medicine* **15**, 419-426 (2017).

59. YOUNG, R., BURGE, S., KUMAR, K., WILSON, J. & ORTIZ, D. A time-motion study of primary care physicians' work in the electronic health record era. *Family medicine* **50**, 91-99 (2018).

60. FRY, E. & SCHULTE, F. Death by a thousand clicks: where electronic health records went wrong. *Fortune Mag* **18** (2019).

61. COIERA, E. When conversation is better than computation. *Journal of the American Medical Informatics Association* **7**, 277-286 (2000).

62. COIERA, E., KOCABALLI, B., HALAMKA, J. & LARANJO, L. The digital scribe. *NPJ digital medicine* **1**, 58 (2018).

63. BAHNIWAL, R. Environmental Scan of Primary Care Needs in the Last Decade (2010-2020) (2021).

64. ASSOCIATION, A. C. https://www.cancer.org/cancer/risk-prevention/understanding-cancer-risk/lifetime-probability-of-developing-or-dying-from-cancer.html. consulté le 10 septembre 2023. (2023).

65. Of STROKE COLLABORATORS, G. L. R. Global, regional, and country-specific lifetime risks of stroke, 1990 and 2016. *New England Journal of Medicine* **379**, 2429-2437 (2018).

66. HIGGINS, D. & MADAI, V. I. From bit to bedside: a practical framework for artificial intelligence product development in healthcare. *Advanced intelligent systems* **2**, 2000052 (2020).

67. OBERMEYER, Z. & EMANUEL, E. J. Predicting the future - big data, machine learning, and clinical medicine. en. *N. Engl. J. Med.* **375**, 1216-1219 (sept. 2016).

68. REINSEL, D., GANTZ, J., RYDNING, J. et al. The digitization of the world from edge to core. *IDC white paper* **13** (2018).

69. CHEN, J. H. & ASCH, S. M. Machine learning and prediction in medicine — beyond the peak of inflated expectations. *N. Engl. J. Med.* **376**, 2507-2509 (juin 2017).

70. BOELLE, P.-Y., THIÉBAUT, R. & COSTAGLIOLA, D. Données massives, vous avez dit données massives ? *Quest. Santé Publique* **30**, 1-4 (2015).

71. LAZER, D., KENNEDY, R., KING, G. & VESPIGNANI, A. The Parable of Google Flu: Traps in Big Data Analysis. *Science* **343**, 1203-1205 (2014).

72. RECTOR, A. L. Terminology and concept representation languages: where are we? *Artificial Intelligence in Medicine* **15**, 1-4 (1999).
58. ARNDT, B. G., BEASLEY, J. W., WATKINSON, M. D., TEMTE, J. L., TUAN, W.-J., SINSKY, C. A. et al. Tethered to the EHR : primary care physician workload assessment using EHR event log data and time-motion observations. *The Annals of Family Medicine* **15**, 419-426 (2017).

59. YOUNG, R., BURGE, S., KUMAR, K., WILSON, J. & ORTIZ, D. A time-motion study of primary care physicians' work in the electronic health record era. *Family medicine* **50**, 91-99 (2018).

60. FRY, E. & SCHULTE, F. Death by a thousand clicks : where electronic health records went wrong. *Fortune Mag* **18** (2019).

61. COIERA, E. When conversation is better than computation. *Journal of the American Medical Informatics Association* **7**, 277-286 (2000).

62. COIERA, E., KOCABALLI, B., HALAMKA, J. & LARANJO, L. The digital scribe. *NPJ digital medicine* **1**, 58 (2018).

63. BAHNIWAL, R. Environmental Scan of Primary Care Needs in the Last Decade (2010-2020) (2021).

64. ASSOCIATION, A. C. https://www.cancer.org/cancer/risk-prevention/understanding-cancer-risk/lifetime-probability-of-developing-or-dying-from-cancer.html. consulté le 10 septembre 2023. (2023).

65. Of STROKE COLLABORATORS, G. L. R. Global, regional, and country-specific lifetime risks of stroke, 1990 and 2016. *New England Journal of Medicine* **379**, 2429-2437 (2018).

66. HIGGINS, D. & MADAI, V. I. From bit to bedside : a practical framework for artificial intelligence product development in healthcare. *Advanced intelligent systems* **2**, 2000052 (2020).

67. OBERMEYER, Z. & EMANUEL, E. J. Predicting the future - big data, machine learning, and clinical medicine. en. *N. Engl. J. Med.* **375**, 1216-1219 (sept. 2016).

68. REINSEL, D., GANTZ, J., RYDNING, J. et al. The digitization of the world from edge to core. *IDC white paper* **13** (2018).

69. CHEN, J. H. & ASCH, S. M. Machine learning and prediction in medicine — beyond the peak of inflated expectations. *N. Engl. J. Med.* **376**, 2507-2509 (juin 2017).

70. BOELLE, P.-Y., THIÉBAUT, R. & COSTAGLIOLA, D. Données massives, vous avez dit données massives ? *Quest. Santé Publique* **30**, 1-4 (2015).

71. LAZER, D., KENNEDY, R., KING, G. & VESPIGNANI, A. The Parable of Google Flu : Traps in Big Data Analysis. *Science* **343**, 1203-1205 (2014).

72. RECTOR, A. L. Terminology and concept representation languages : where are we ? *Artificial Intelligence in Medicine* **15**, 1-4 (1999).
73. HORN, W. AI in medicine on its way from knowledge-intensive to data-intensive systems. *Artificial intelligence in medicine* **23**, 5-12 (2001).

74. SITTIG, D. F. Grand challenges in medical informatics? *Journal of the American Medical Informatics Association* **1**, 412 (1994).

75. KELLY, C. J., KARTHIKESALINGAM, A., SULEYMAN, M., CORRADO, G. & KING, D. Key challenges for delivering clinical impact with artificial intelligence. *BMC medicine* **17**, 1-9 (2019).

76. DAVENPORT, T. H., RONANKI, R. et al. Artificial intelligence for the real world. *Harvard business review* **96**, 108-116 (2018).

77. LIAW, W. & KAKADIARIS, I. A. Primary care artificial intelligence : a branch hiding in plain sight. *Annals of family medicine* **18**, 194 (2020).

78. LAENNEC, R. T. *De l'auscultation médiate : ou traité du diagnostic des maladies des poumons et du coeur* (1819).

79. MESKO, B. Artificial intelligence is the stethoscope of the 21st century. *The Medical Futurist* (2019).

80. GILL, K. S. Uncommon voices of AI. *AI & society* **32**, 475-482 (2017).

81. VINGE, V. The coming technological singularity : How to survive in the post-human era. *Science fiction criticism : An anthology of essential writings*, 352-363 (1993).

82. HAWKING, O. M. S. Artificial intelligence could be the greatest disaster in human history 2016.

83. NAUGHTON, J. Giving Google our private NHS data is simply illegal. *The Guardian* **9**, 9 (2017).

84. SHAH, N. D., STEYERBERG, E. W. & KENT, D. M. Big data and predictive analytics : recalibrating expectations. *Jama* **320**, 27-28 (2018).

85. BUCH, V. H., AHMED, I. & MARUTHAPPU, M. Artificial intelligence in medicine : current trends and future possibilities. *British Journal of General Practice* **68**, 143-144 (2018).

86. GRUSON, D. Les effets du déploiement de l'intelligence artificielle sur les métiers de la santé. *Soins* **7630**, 1-50. ISSN : 0038-0814. http://www.sciencedirect.com/science/article/pii/S0038-0814(22)00112-8 (2022).

87. REDDY, S. Explainability and artificial intelligence in medicine. en. *Lancet Digit. Health* **4**, e214-e215 (avr. 2022).

88. SAMEK, W. & MÜLLER, K.-R. Towards explainable artificial intelligence. *Explai-nable AI : interpreting, explaining and visualizing deep learning*, 5-22 (2019).

89. AMANN, J., BLASIMME, A., VAYENA, E., FREY, D., MADAI, V. I. & PRECISE4Q CONSORTIUM. Explainability for artificial intelligence in healthcare : a multidisciplinary perspective. en. *BMC Med. Inform. Decis. Mak.* **20**, 310 (nov. 2020).
73. HORN, W. AI in medicine on its way from knowledge-intensive to data-intensive systems. *Artificial intelligence in medicine* **23**, 5-12 (2001).

74. SITTIG, D. F. Grand challenges in medical informatics? *Journal of the American Medical Informatics Association* **1**, 412 (1994).

75. KELLY, C. J., KARTHIKESALINGAM, A., SULEYMAN, M., CORRADO, G. & KING, D. Key challenges for delivering clinical impact with artificial intelligence. *BMC medicine* **17**, 1-9 (2019).

76. DAVENPORT, T. H., RONANKI, R. et al. Artificial intelligence for the real world. *Harvard business review* **96**, 108-116 (2018).

77. LIAW, W. & KAKADIARIS, I. A. Primary care artificial intelligence : a branch hiding in plain sight. *Annals of family medicine* **18**, 194 (2020).

78. LAENNEC, R. T. *De l'auscultation médiate : ou traité du diagnostic des maladies des poumons et du coeur* (1819).

79. MESKO, B. Artificial intelligence is the stethoscope of the 21st century. *The Medical Futurist* (2019).

80. GILL, K. S. Uncommon voices of AI. *AI & society* **32**, 475-482 (2017).

81. VINGE, V. The coming technological singularity : How to survive in the post-human era. *Science fiction criticism : An anthology of essential writings*, 352-363 (1993).

82. HAWKING, O. M. S. Artificial intelligence could be the greatest disaster in human history 2016.

83. NAUGHTON, J. Giving Google our private NHS data is simply illegal. *The Guardian* **9**, 9 (2017).

84. SHAH, N. D., STEYERBERG, E. W. & KENT, D. M. Big data and predictive analytics : recalibrating expectations. *Jama* **320**, 27-28 (2018).

85. BUCH, V. H., AHMED, I. & MARUTHAPPU, M. Artificial intelligence in medicine : current trends and future possibilities. *British Journal of General Practice* **68**, 143-144 (2018).

86. GRUSON, D. Les effets du déploiement de l'intelligence artificielle sur les métiers de la santé. *Soins* **7630**, 1-50. ISSN : 0038-0814. http://www.sciencedirect.com/science/article/pii/S0038-0814(22)00112-8 (2022).

87. REDDY, S. Explainability and artificial intelligence in medicine. en. *Lancet Digit. Health* **4**, e214-e215 (avr. 2022).

88. SAMEK, W. & MÜLLER, K.-R. Towards explainable artificial intelligence. *Explai-nable AI : interpreting, explaining and visualizing deep learning*, 5-22 (2019).

89. AMANN, J., BLASIMME, A., VAYENA, E., FREY, D., MADAI, V. I. & PRECISE4Q CONSORTIUM. Explainability for artificial intelligence in healthcare : a multidisciplinary perspective. en. *BMC Med. Inform. Decis. Mak.* **20**, 310 (nov. 2020).
90. DORAN, D., SCHULZ, S. & BESOLD, T. R. *What Does Explainable AI Really Mean?*
*A New Conceptualization of Perspectives* 2017. arXiv : 1710.00794 [cs.AI].

91. KUNDU, S. AI in medicine must be explainable. *Nature medicine* **27**, 1328-1328 (2021).

92. POST, B., BADEA, C., FAISAL, A. & BRETT, S. J. Breaking bad news in the era of artificial intelligence and algorithmic medicine : an exploration of disclosure and its ethical justification using the hedonic calculus. en. *AI Ethics*, 1-14 (oct. 2022).

93. OBERMEYER, Z., POWERS, B., VOGELI, C. & MULLAINATHAN, S. Dissecting racial bias in an algorithm used to manage the health of populations. *Science* **366**, 447-453 (2019).

94. VELLIDO, A., MARTÍN-GUERRERO, J. D. & LISBOA, P. J. *Making machine learning models interpretable*. in *ESANN 12* (2012), 163-172.

95. BASTANI, O., KIM, C. & BASTANI, H. Interpretability via model extraction. *arXiv preprint arXiv :1706.09773* (2017).

96. CUTILLO, C. M., SHARMA, K. R., FOSCHINI, L., KUNDU, S., MACKINTOSH, M., MANDL, K. D. *et al*. Machine intelligence in healthcare - perspectives on trust-worthiness, explainability, usability, and transparency. *NPJ digital medicine* **3**, 47 (2020).

97. GHASSEMI, M., OAKDEN-RAYNER, L. & BEAM, A. L. The false hope of current approaches to explainable artificial intelligence in health care. *The Lancet Digital Health* **3**, e745-e750 (2021).

98. LONGONI, C., BONEZZI, A. & MOREWEDGE, C. K. Resistance to medical artificial intelligence. *Journal of Consumer Research* **46**, 629-650 (2019).

99. MUEHLEMATTER, U. J., DANIORE, P. & VOKINGER, K. N. Approval of artificial intelligence and machine learning-based medical devices in the USA and Europe (2015–20) : a comparative analysis. *The Lancet Digital Health* **3**, e195-e203 (2021).

100. LUCAS, G. M., GRATCH, J., KING, A. & MORENCY, L.-P. It's only a computer : Virtual humans increase willingness to disclose. *Computers in Human Behavior* **37**, 94-100 (2014).

101. ARNOLD, D. & WILSON, T. *What doctor ? Why AI and robotics will define new health* in *PwC* (2017).

102. NADARZYNSKI, T., MILES, O., COWIE, A. & RIDGE, D. Acceptability of artificial intelligence (AI)-led chatbot services in healthcare : A mixed-methods study. *DI-GITAL HEALTH* **5**. PMID : 31467682, 2055207619871808. https://doi.org/10.1177/2055207619871808 (2019).

103. WINN, A. N., SOMAI, M., FERGESTROM, N. & CROTTY, B. H. Association of use of online symptom checkers with patients’ plans for seeking care. *JAMA network open* **2**, e1918561-e1918561 (2019).
90. DORAN, D., SCHULZ, S. & BESOLD, T. R. *What Does Explainable AI Really Mean?*
*A New Conceptualization of Perspectives* 2017. arXiv : 1710.00794 [cs.AI].

91. KUNDU, S. AI in medicine must be explainable. *Nature medicine* **27**, 1328-1328 (2021).

92. POST, B., BADEA, C., FAISAL, A. & BRETT, S. J. Breaking bad news in the era of artificial intelligence and algorithmic medicine : an exploration of disclosure and its ethical justification using the hedonic calculus. en. *AI Ethics*, 1-14 (oct. 2022).

93. OBERMEYER, Z., POWERS, B., VOGELI, C. & MULLAINATHAN, S. Dissecting racial bias in an algorithm used to manage the health of populations. *Science* **366**, 447-453 (2019).

94. VELLIDO, A., MARTÍN-GUERRERO, J. D. & LISBOA, P. J. *Making machine learning models interpretable*. in *ESANN 12* (2012), 163-172.

95. BASTANI, O., KIM, C. & BASTANI, H. Interpretability via model extraction. *arXiv preprint arXiv :1706.09773* (2017).

96. CUTILLO, C. M., SHARMA, K. R., FOSCHINI, L., KUNDU, S., MACKINTOSH, M., MANDL, K. D. *et al*. Machine intelligence in healthcare - perspectives on trust-worthiness, explainability, usability, and transparency. *NPJ digital medicine* **3**, 47 (2020).

97. GHASSEMI, M., OAKDEN-RAYNER, L. & BEAM, A. L. The false hope of current approaches to explainable artificial intelligence in health care. *The Lancet Digital Health* **3**, e745-e750 (2021).

98. LONGONI, C., BONEZZI, A. & MOREWEDGE, C. K. Resistance to medical artificial intelligence. *Journal of Consumer Research* **46**, 629-650 (2019).

99. MUEHLEMATTER, U. J., DANIORE, P. & VOKINGER, K. N. Approval of artificial intelligence and machine learning-based medical devices in the USA and Europe (2015–20) : a comparative analysis. *The Lancet Digital Health* **3**, e195-e203 (2021).

100. LUCAS, G. M., GRATCH, J., KING, A. & MORENCY, L.-P. It's only a computer : Virtual humans increase willingness to disclose. *Computers in Human Behavior* **37**, 94-100 (2014).

101. ARNOLD, D. & WILSON, T. *What doctor ? Why AI and robotics will define new health* in *PwC* (2017).

102. NADARZYNSKI, T., MILES, O., COWIE, A. & RIDGE, D. Acceptability of artificial intelligence (AI)-led chatbot services in healthcare : A mixed-methods study. *DI-GITAL HEALTH* **5**. PMID : 31467682, 2055207619871808. https://doi.org/10.1177/2055207619871808 (2019).

103. WINN, A. N., SOMAI, M., FERGESTROM, N. & CROTTY, B. H. Association of use of online symptom checkers with patients’ plans for seeking care. *JAMA network open* **2**, e1918561-e1918561 (2019).
104. ZHOU, L., GAO, J., LI, D. & SHUM, H.-Y. The Design and Implementation of XiaoIce, an Empathetic Social Chatbot. *Computational Linguistics* **46**, 53-93. ISSN: 0891-2017. eprint: https://direct.mit.edu/coli/article-pdf/46/1/53/1847834/coli_a_00368.pdf (mars 2020).

105. FIRSTPOST. https://www.firstpost.com/tech/news-analysis/xiaoice-is-the-ai-chatbot-that-millions-of-lonely-chinese-are-turning-to-for-comfort-9910921.html. consulté le 20 juillet 2023. (2021).

106. DARCY, A. M., LOUIE, A. K. & ROBERTS, L. W. Machine learning and the profession of medicine. *Jama* **315**, 551-552 (2016).

107. GAO, S., HE, L., CHEN, Y., LI, D. & LAI, K. Public perception of artificial intelligence in medical care: content analysis of social media. *Journal of Medical Internet Research* **22**, e16649 (2020).

108. TEARE, P., FISHMAN, M., BENZAQUEN, O., TOLEDANO, E. & ELNEKAVE, E. Mali gnancy detection on mammography using dual deep convolutional neural networks and genetically discovered false color input enhancement. en. *J. Digit. Imaging* **30**, 499-505 (août 2017).

109. BLUEMKE, D. A. Radiology in 2018 : are you working with AI or being replaced by AI? *Radiology* **287**, 365-366 (2018).

110. DUSENBURY, W., MATHIESEN, C., WHALEY, M., ADEOYE, O., LESLIE-MAZWI, T., WILLIAMS, S. et al. Ideal Foundational Requirements for Stroke Program Devel opment and Growth : A Scientific Statement From the American Heart Association. *Stroke* **54**, e175-e187 (2023).

111. YU, K.-H., ZHANG, C., BERRY, G. J., ALTMAN, R. B., RÉ, C., RUBIN, D. L. et al. Predicting non-small cell lung cancer prognosis by fully automated microscopic pathology image features. *Nature communications* **7**, 12474 (2016).

112. BEJNORDI, B. E., VETA, M., VAN DIEST, P. J., VAN GINNEKEN, B., KARSSEMEIJER, N., LITJENS, G. et al. Diagnostic assessment of deep learning algorithms for detection of lymph node metastases in women with breast cancer. *Jama* **318**, 2199-2210 (2017).

113. ESTEVA, A., KUPREL, B., NOVOA, R. A., KO, J., SWETTER, S. M., BLAU, H. M. et al. Dermatologist-level classification of skin cancer with deep neural networks. en. *Nature* **542**, 115-118 (fév. 2017).

114. SOMASHEKHAR, S., SEPÚLVEDA, M.-J., PUGLIELLI, S, NORDEN, A., SHORTLIFFE, E. H., KUMAR, C. R. et al. Watson for Oncology and breast cancer treatment recommendations : agreement with an expert multidisciplinary tumor board. *Annals of Oncology* **29**, 418-423 (2018).
104. ZHOU, L., GAO, J., LI, D. & SHUM, H.-Y. The Design and Implementation of XiaoIce, an Empathetic Social Chatbot. *Computational Linguistics* **46**, 53-93. ISSN: 0891-2017. eprint: https://direct.mit.edu/coli/article-pdf/46/1/53/1847834/coli_a_00368.pdf (mars 2020).

105. FIRSTPOST. https://www.firstpost.com/tech/news-analysis/xiaoice-is-the-ai-chatbot-that-millions-of-lonely-chinese-are-turning-to-for-comfort-9910921.html. consulté le 20 juillet 2023. (2021).

106. DARCY, A. M., LOUIE, A. K. & ROBERTS, L. W. Machine learning and the profession of medicine. *Jama* **315**, 551-552 (2016).

107. GAO, S., HE, L., CHEN, Y., LI, D. & LAI, K. Public perception of artificial intelligence in medical care : content analysis of social media. *Journal of Medical Internet Research* **22**, e16649 (2020).

108. TEARE, P., FISHMAN, M., BENZAQUEN, O., TOLEDANO, E. & ELNEKAVE, E. Mali gnancy detection on mammography using dual deep convolutional neural networks and genetically discovered false color input enhancement. en. *J. Digit. Imaging* **30**, 499-505 (août 2017).

109. BLUEMKE, D. A. Radiology in 2018 : are you working with AI or being replaced by AI? *Radiology* **287**, 365-366 (2018).

110. DUSENBURY, W., MATHIESEN, C., WHALEY, M., ADEOYE, O., LESLIE-MAZWI, T., WILLIAMS, S. et al. Ideal Foundational Requirements for Stroke Program Devel opment and Growth : A Scientific Statement From the American Heart Association. *Stroke* **54**, e175-e187 (2023).

111. YU, K.-H., ZHANG, C., BERRY, G. J., ALTMAN, R. B., RÉ, C., RUBIN, D. L. et al. Predicting non-small cell lung cancer prognosis by fully automated microscopic pathology image features. *Nature communications* **7**, 12474 (2016).

112. BEJNORDI, B. E., VETA, M., VAN DIEST, P. J., VAN GINNEKEN, B., KARSSEMEIJER, N., LITJENS, G. et al. Diagnostic assessment of deep learning algorithms for detection of lymph node metastases in women with breast cancer. *Jama* **318**, 2199-2210 (2017).

113. ESTEVA, A., KUPREL, B., NOVOA, R. A., KO, J., SWETTER, S. M., BLAU, H. M. et al. Dermatologist-level classification of skin cancer with deep neural networks. en. *Nature* **542**, 115-118 (fév. 2017).

114. SOMASHEKHAR, S., SEPÚLVEDA, M.-J., PUGLIELLI, S, NORDEN, A., SHORTLIFFE, E. H., KUMAR, C. R. et al. Watson for Oncology and breast cancer treatment recommendations : agreement with an expert multidisciplinary tumor board. *Annals of Oncology* **29**, 418-423 (2018).
115. SLOMKA, P. J., DEY, D., SITEK, A., MOTWANI, M., BERMAN, D. S. & GERMANO, G. Cardiac imaging: working towards fully-automated machine analysis & interpretation. *Expert review of medical devices* **14**, 197-212 (2017).

116. GULSHAN, V., PENG, L., CORAM, M., STUMPE, M. C., WU, D., NARAYANASWAMY, A. *et al.* Development and validation of a deep learning algorithm for detection of diabetic retinopathy in retinal fundus photographs. *Jama* **316**, 2402-2410 (2016).

117. MISAWA, M., KUDO, S.-e., MORI, Y., CHO, T., KATAOKA, S., YAMAUCHI, A. *et al.* Artificial intelligence-assisted polyp detection for colonoscopy: initial experience. *Gastroenterology* **154**, 2027-2029 (2018).

118. GRACE, K., SALVATIER, J., DAFOE, A., ZHANG, B. & EVANS, O. When will AI exceed human performance? Evidence from AI experts. *Journal of Artificial Intelligence Research* **62**, 729-754 (2018).

119. STEINHUBL, S. R., MUSE, E. D. & TOPOL, E. J. Can mobile health technologies transform health care? *Jama* **310**, 2395-2396 (2013).

120. FOGEL, A. L. & KVEDAR, J. C. Artificial intelligence powers digital medicine. *NPJ digital medicine* **1**, 5 (2018).

121. COIERA, E. The fate of medicine in the time of AI. English. *Lancet* **392**, 2331-2332. ISSN: 0140-6736 (déc. 2018).

122. VERGHESE, A., SHAH, N. H. & HARRINGTON, R. A. What this computer needs is a physician: humanism and artificial intelligence. *Jama* **319**, 19-20 (2018).

123. ALPERT, J. S. Will physicians stop performing physical examinations? *The American Journal of Medicine* **130**, 759-760 (2017).

124. CABITZA, F., RASOINI, R. & GENSINI, G. F. Unintended consequences of machine learning in medicine. *Jama* **318**, 517-518 (2017).

125. ROSENTHAL, D. I. & VERGHESE, A. Meaning and the nature of physicians' work. *N Engl J Med* **375**, 1813-1815 (2016).

126. KUEPER, J. K., TERRY, A. L., ZWARENSTEIN, M. & LIZOTTE, D. J. Artificial intelligence and primary care research: a scoping review. *The annals of family medicine* **18**, 250-258 (2020).

127. ORIENT, J. Evaluation of abdominal pain: clinicians' performance compared with three protocols. *Southern medical journal* **79**, 793-799 (1986).

128. KUEPER, J. K., TERRY, A., BAHNIWAL, R., MEREDITH, L., BELENO, R., BROWN, J. B. *et al.* Connecting artificial intelligence and primary care challenges: findings from a multi-stakeholder collaborative consultation. *BMJ Health & Care Informatics* **29** (2022).
115. SLOMKA, P. J., DEY, D., SITEK, A., MOTWANI, M., BERMAN, D. S. & GERMANO, G. Cardiac imaging: working towards fully-automated machine analysis & interpretation. *Expert review of medical devices* **14**, 197-212 (2017).

116. GULSHAN, V., PENG, L., CORAM, M., STUMPE, M. C., WU, D., NARAYANASWAMY, A. *et al.* Development and validation of a deep learning algorithm for detection of diabetic retinopathy in retinal fundus photographs. *Jama* **316**, 2402-2410 (2016).

117. MISAWA, M., KUDO, S.-e., MORI, Y., CHO, T., KATAOKA, S., YAMAUCHI, A. *et al.* Artificial intelligence-assisted polyp detection for colonoscopy: initial experience. *Gastroenterology* **154**, 2027-2029 (2018).

118. GRACE, K., SALVATIER, J., DAFOE, A., ZHANG, B. & EVANS, O. When will AI exceed human performance? Evidence from AI experts. *Journal of Artificial Intelligence Research* **62**, 729-754 (2018).

119. STEINHUBL, S. R., MUSE, E. D. & TOPOL, E. J. Can mobile health technologies transform health care? *Jama* **310**, 2395-2396 (2013).

120. FOGEL, A. L. & KVEDAR, J. C. Artificial intelligence powers digital medicine. *NPJ digital medicine* **1**, 5 (2018).

121. COIERA, E. The fate of medicine in the time of AI. English. *Lancet* **392**, 2331-2332. ISSN: 0140-6736 (déc. 2018).

122. VERGHESE, A., SHAH, N. H. & HARRINGTON, R. A. What this computer needs is a physician: humanism and artificial intelligence. *Jama* **319**, 19-20 (2018).

123. ALPERT, J. S. Will physicians stop performing physical examinations? *The American Journal of Medicine* **130**, 759-760 (2017).

124. CABITZA, F., RASOINI, R. & GENSINI, G. F. Unintended consequences of machine learning in medicine. *Jama* **318**, 517-518 (2017).

125. ROSENTHAL, D. I. & VERGHESE, A. Meaning and the nature of physicians' work. *N Engl J Med* **375**, 1813-1815 (2016).

126. KUEPER, J. K., TERRY, A. L., ZWARENSTEIN, M. & LIZOTTE, D. J. Artificial intelligence and primary care research: a scoping review. *The annals of family medicine* **18**, 250-258 (2020).

127. ORIENT, J. Evaluation of abdominal pain: clinicians' performance compared with three protocols. *Southern medical journal* **79**, 793-799 (1986).

128. KUEPER, J. K., TERRY, A., BAHNIWAL, R., MEREDITH, L., BELENO, R., BROWN, J. B. *et al.* Connecting artificial intelligence and primary care challenges: findings from a multi-stakeholder collaborative consultation. *BMJ Health & Care Informatics* **29** (2022).
129. Van de Ven, A. H. & Delbecq, A. L. The nominal group as a research instrument for exploratory health studies. *American journal of public health* **62**, 337-342 (1972).

130. Krist, A. H., Green, L. A., Phillips, R. L., Beasley, J. W., DeVoe, J. E., Klinkman, M. S. *et al*. Health information technology needs help from primary care researchers. *The Journal of the American Board of Family Medicine* **28**, 306-310 (2015).

131. Saleh, S., Boag, W., Erdman, L. & Naumann, T. *Clinical collabsheets : 53 questions to guide a clinical collaboration in Machine Learning for Healthcare Conference* (2020), 783-812.

132. Lin, S. Y., Mahoney, M. R. & Sinsky, C. A. Ten ways artificial intelligence will transform primary care. *Journal of general internal medicine* **34**, 1626-1630 (2019).

133. Liaw, W. & Kakkadiaris, I. Artificial intelligence and family medicine : better together. *Family Medicine* **52**, 8-10 (2020).

134. McWHINNEY, I. General practice as an academic discipline : reflections after a visit to the United States. *The Lancet* **287**, 419-423 (1966).

135. Lin, S. A clinician's guide to artificial intelligence (AI) : why and how primary care should lead the health care AI revolution. *The Journal of the American Board of Family Medicine* **35**, 175-184 (2022).

136. Smith, M., Sattler, A., Hong, G. & Lin, S. From code to bedside : implementing artificial intelligence using quality improvement methods. *Journal of General Internal Medicine* **36**, 1061-1066 (2021).

137. Starfield, B. *et al*. *Primary care : concept, evaluation, and policy* (Oxford University Press, 1992).

138. Varkey, P., Reller, M. K. & Resar, R. K. *Basics of quality improvement in health care* in *Mayo Clinic Proceedings* **82** (2007), 735-739.

139. Blease, C., Kaptchuk, T. J., Bernstein, M. H., MANDL, K. D., Halamka, J. D. & DesRoches, C. M. Artificial intelligence and the future of primary care : exploratory qualitative study of UK general practitioners' views. *Journal of medical Internet research* **21**, e12802 (2019).

140. Bartlett, M. S., Littlewort, G. C., Frank, M. G. & Lee, K. Automatic decoding of facial movements reveals deceptive pain expressions. *Current Biology* **24**, 738-743 (2014).

141. Youyou, W., Kosinski, M. & Stillwell, D. Computer-based personality judgments are more accurate than those made by humans. *Proceedings of the National Academy of Sciences* **112**, 1036-1040 (2015).

142. Buck, C., Doctor, E., Henrich, J., Jöhnk, J. & Eymann, T. General practitioners' attitudes toward artificial intelligence-enabled systems : interview study. *Journal of Medical Internet Research* **24**, e28916 (2022).
129. Van de Ven, A. H. & Delbecq, A. L. The nominal group as a research instrument for exploratory health studies. *American journal of public health* **62**, 337-342 (1972).

130. Krist, A. H., Green, L. A., Phillips, R. L., Beasley, J. W., DeVoe, J. E., Klinkman, M. S. *et al*. Health information technology needs help from primary care researchers. *The Journal of the American Board of Family Medicine* **28**, 306-310 (2015).

131. Saleh, S., Boag, W., Erdman, L. & Naumann, T. *Clinical collabsheets : 53 questions to guide a clinical collaboration in Machine Learning for Healthcare Conference* (2020), 783-812.

132. Lin, S. Y., Mahoney, M. R. & Sinsky, C. A. Ten ways artificial intelligence will transform primary care. *Journal of general internal medicine* **34**, 1626-1630 (2019).

133. Liaw, W. & Kakkadiaris, I. Artificial intelligence and family medicine : better together. *Family Medicine* **52**, 8-10 (2020).

134. McWHINNEY, I. General practice as an academic discipline : reflections after a visit to the United States. *The Lancet* **287**, 419-423 (1966).

135. Lin, S. A clinician's guide to artificial intelligence (AI) : why and how primary care should lead the health care AI revolution. *The Journal of the American Board of Family Medicine* **35**, 175-184 (2022).

136. Smith, M., Sattler, A., Hong, G. & Lin, S. From code to bedside : implementing artificial intelligence using quality improvement methods. *Journal of General Internal Medicine* **36**, 1061-1066 (2021).

137. Starfield, B. *et al*. *Primary care : concept, evaluation, and policy* (Oxford University Press, 1992).

138. Varkey, P., Reller, M. K. & Resar, R. K. *Basics of quality improvement in health care* in *Mayo Clinic Proceedings* **82** (2007), 735-739.

139. Blease, C., Kaptchuk, T. J., Bernstein, M. H., MANDL, K. D., Halamka, J. D. & DesRoches, C. M. Artificial intelligence and the future of primary care : exploratory qualitative study of UK general practitioners' views. *Journal of medical Internet research* **21**, e12802 (2019).

140. Bartlett, M. S., Littlewort, G. C., Frank, M. G. & Lee, K. Automatic decoding of facial movements reveals deceptive pain expressions. *Current Biology* **24**, 738-743 (2014).

141. Youyou, W., Kosinski, M. & Stillwell, D. Computer-based personality judgments are more accurate than those made by humans. *Proceedings of the National Academy of Sciences* **112**, 1036-1040 (2015).

142. Buck, C., Doctor, E., Henrich, J., Jöhnk, J. & Eymann, T. General practitioners' attitudes toward artificial intelligence-enabled systems : interview study. *Journal of Medical Internet Research* **24**, e28916 (2022).
143. PETERSON, C. ChatGPT and Medicine: Fears, Fantasy, and the Future of Physicians. *The Southwest Respiratory and Critical Care Chronicles* **11**, 18-30 (2023).

144. KOCABALLI, A. B., IJAZ, K., LARANJO, L., QUIROZ, J. C., REZAZADEGAN, D., TONG, H. L. *et al*. Envisioning an artificial intelligence documentation assistant for future primary care consultations: A co-design study with general practitioners. *Journal of the American Medical Informatics Association* **27**, 1695-1704 (2020).

145. D'ELIA, A., GABBAY, M., RODGERS, S., KIERANS, C., JONES, E., DURRANI, I. *et al*. Artificial intelligence and health inequities in primary care : a systematic scoping review and framework. *Family Medicine and Community Health* **10**. ISSN : 2305-6983. eprint : https://fmch.bmj.com/content/10/Suppl\_1/e001670.full.pdf. https://fmch.bmj.com/content/10/Suppl\_1/e001670 (2022).

146. KNOP, M., MUELLER, M., FREUDE, H., RESSING, C. & NIEHAVES, B. Perceived limitations of telemedicine from a phenomenological perspective (2020).

147. CHAIBI, A. & ZAIEM, I. Doctor Resistance of Artificial Intelligence in Healthcare. *International Journal of Healthcare Information Systems and Informatics (IJHISI)* **17**, 1-13 (2022).

148. ABDULLAH, R. & FAKIEH, B. Health care employees' perceptions of the use of artificial intelligence applications : survey study. *Journal of medical Internet research* **22**, e17620 (2020).

149. NASH, D. M., THORPE, C., BROWN, J. B., KUEPER, J. K., RAYNER, J., LIZOTTE, D. J. *et al*. Perceptions of Artificial Intelligence Use in Primary Care : A Qualitative Study with Providers and Staff of Ontario Community Health Centres. *The Journal of the American Board of Family Medicine* **36**, 221-228 (2023).

150. KENSING, F. & MADSEN, H. in *Design at work* 155-168 (CRC Press, 2020).

151. LEVY, J., MADRIGAL, E. & VAICKUS, L. Artificial intelligence : applications in clinical medicine. *Frontiers in Medical Technology* **5**, 1206969 (2023).

152. TOPOL, E. *et al*. The topol review. *Preparing the healthcare workforce to deliver the digital future*, 1-48 (2019).

153. Pinto dos SANTOS, D., GIESE, D., BRODEHL, S., CHON, S.-H., STAAB, W., KLEINERT, R *et al*. Medical students' attitude towards artificial intelligence : a multicentre survey. *European radiology* **29**, 1640-1646 (2019).

154. HAN, E.-R., YEO, S., KIM, M.-J., LEE, Y.-H., PARK, K.-H. & ROH, H. Medical education trends for future physicians in the era of advanced technology and artificial intelligence : an integrative review. *BMC medical education* **19**, 1-15 (2019).

155. HEDDERICH, D. M., KEICHER, M., Wiestler, B., GRUBER, M. J., BURWINKEL, H., HINTERWIMMER, F. *et al*. AI For doctors - a course to educate medical professionals in artificial intelligence for medical imaging in Healthcare **9** (2021), 1278.
143. PETERSON, C. ChatGPT and Medicine: Fears, Fantasy, and the Future of Physicians. *The Southwest Respiratory and Critical Care Chronicles* **11**, 18-30 (2023).

144. KOCABALLI, A. B., IJAZ, K., LARANJO, L., QUIROZ, J. C., REZAZADEGAN, D., TONG, H. L. *et al*. Envisioning an artificial intelligence documentation assistant for future primary care consultations: A co-design study with general practitioners. *Journal of the American Medical Informatics Association* **27**, 1695-1704 (2020).

145. D'ELIA, A., GABBAY, M., RODGERS, S., KIERANS, C., JONES, E., DURRANI, I. *et al*. Artificial intelligence and health inequities in primary care : a systematic scoping review and framework. *Family Medicine and Community Health* **10**. ISSN : 2305-6983. eprint : https://fmch.bmj.com/content/10/Suppl\_1/e001670.full.pdf. https://fmch.bmj.com/content/10/Suppl\_1/e001670 (2022).

146. KNOP, M., MUELLER, M., FREUDE, H., RESSING, C. & NIEHAVES, B. Perceived limitations of telemedicine from a phenomenological perspective (2020).

147. CHAIBI, A. & ZAIEM, I. Doctor Resistance of Artificial Intelligence in Healthcare. *International Journal of Healthcare Information Systems and Informatics (IJHISI)* **17**, 1-13 (2022).

148. ABDULLAH, R. & FAKIEH, B. Health care employees' perceptions of the use of artificial intelligence applications : survey study. *Journal of medical Internet research* **22**, e17620 (2020).

149. NASH, D. M., THORPE, C., BROWN, J. B., KUEPER, J. K., RAYNER, J., LIZOTTE, D. J. *et al*. Perceptions of Artificial Intelligence Use in Primary Care : A Qualitative Study with Providers and Staff of Ontario Community Health Centres. *The Journal of the American Board of Family Medicine* **36**, 221-228 (2023).

150. KENSING, F. & MADSEN, H. in *Design at work* 155-168 (CRC Press, 2020).

151. LEVY, J., MADRIGAL, E. & VAICKUS, L. Artificial intelligence : applications in clinical medicine. *Frontiers in Medical Technology* **5**, 1206969 (2023).

152. TOPOL, E. *et al*. The topol review. *Preparing the healthcare workforce to deliver the digital future*, 1-48 (2019).

153. Pinto dos SANTOS, D., GIESE, D., BRODEHL, S., CHON, S.-H., STAAB, W., KLEINERT, R *et al*. Medical students' attitude towards artificial intelligence : a multicentre survey. *European radiology* **29**, 1640-1646 (2019).

154. HAN, E.-R., YEO, S., KIM, M.-J., LEE, Y.-H., PARK, K.-H. & ROH, H. Medical education trends for future physicians in the era of advanced technology and artificial intelligence : an integrative review. *BMC medical education* **19**, 1-15 (2019).

155. HEDDERICH, D. M., KEICHER, M., Wiestler, B., GRUBER, M. J., BURWINKEL, H., HINTERWIMMER, F. *et al*. AI For doctors - a course to educate medical professionals in artificial intelligence for medical imaging in Healthcare **9** (2021), 1278.
156. WOOD, E. A., ANGE, B. L. & MILLER, D. D. Are we ready to integrate artificial intelligence literacy into medical school curriculum : students and faculty survey. *Journal of Medical Education and Curricular Development* 8, 23821205211024078 (2021).

157. OH, S., KIM, J. H., CHOI, S.-W., LEE, H. J., HONG, J. & KWON, S. H. Physician confidence in artificial intelligence : an online mobile survey. *Journal of medical Internet research* 21, e12422 (2019).

158. GANAPATHI, S. & DUGGAL, S. Exploring the experiences and views of doctors working with Artificial Intelligence in English healthcare; a qualitative study. *Plos one* 18, e0282415 (2023).

159. PRATT, M. Artificial intelligence in primary care. *Medical economics* 95. https://www.medicaleconomics.com/business/artificial-intelligenceprimary-care (2018).

160. ABRÁMOFF, M. D., LOU, Y., ERGINAY, A., CLARIDA, W., AMELON, R., FOLK, J. C. et al. Improved automated detection of diabetic retinopathy on a publicly available dataset through integration of deep learning. *Investigative ophthalmology & visual science* 57, 5200-5206 (2016).

161. ABRÁMOFF, M. D., LAVIN, P. T., BIRCH, M., SHAH, N. & FOLK, J. C. Pivotal trial of an autonomous AI-based diagnostic system for detection of diabetic retinopathy in primary care offices. *NPJ digital medicine* 1, 39 (2018).

162. TABASSUM, S., ABEDIN, N., RAHMAN, M. M., RAHMAN, M. M., AHMED, M. T., ISLAM, R. et al. An online cursive handwritten medical words recognition system for busy doctors in developing countries for ensuring efficient healthcare service delivery. *Scientific reports* 12, 3601 (2022).

163. KARAKÜLAH, G., DICLE, O., KOŞANER, Ö., SUNER, A., BIRANT, Ç. C., BERBER, T. et al. in *e-Health–For Continuity of Care* 570-574 (IOS Press, 2014).

164. MINSKY, M. Society of mind (Simon et Schuster, 1988).

165. MCCARTHY, J. Formalizing common sense (Intellect Books, 1990).

166. LIU, H. & SINGH, P. ConceptNet - a practical commonsense reasoning tool-kit. *BT technology journal* 22, 211-226 (2004).

167. CAHAN, A. & CIMINO, J. J. A learning health care system using computer-aided diagnosis. *Journal of medical Internet research* 19, e54 (2017).

168. WANG, J., YANG, J., ZHANG, H., LU, H., SKRETA, M., HUSIĆ, M. et al. Pheno-Pad : Building AI enabled note-taking interfaces for patient encounters. *NPJ digital medicine* 5, 12 (2022).

169. SINGHAL, K., AZIZI, S., TU, T., MAHDAVI, S. S., WEI, J., CHUNG, H. W. et al. Large language models encode clinical knowledge. *Nature*, 1-9 (2023).
156. WOOD, E. A., ANGE, B. L. & MILLER, D. D. Are we ready to integrate artificial intelligence literacy into medical school curriculum : students and faculty survey. *Journal of Medical Education and Curricular Development* 8, 23821205211024078 (2021).

157. OH, S., KIM, J. H., CHOI, S.-W., LEE, H. J., HONG, J. & KWON, S. H. Physician confidence in artificial intelligence : an online mobile survey. *Journal of medical Internet research* 21, e12422 (2019).

158. GANAPATHI, S. & DUGGAL, S. Exploring the experiences and views of doctors working with Artificial Intelligence in English healthcare; a qualitative study. *Plos one* 18, e0282415 (2023).

159. PRATT, M. Artificial intelligence in primary care. *Medical economics* 95. https://www.medicaleconomics.com/business/artificial-intelligenceprimary-care (2018).

160. ABRÁMOFF, M. D., LOU, Y., ERGINAY, A., CLARIDA, W., AMELON, R., FOLK, J. C. et al. Improved automated detection of diabetic retinopathy on a publicly available dataset through integration of deep learning. *Investigative ophthalmology & visual science* 57, 5200-5206 (2016).

161. ABRÁMOFF, M. D., LAVIN, P. T., BIRCH, M., SHAH, N. & FOLK, J. C. Pivotal trial of an autonomous AI-based diagnostic system for detection of diabetic retinopathy in primary care offices. *NPJ digital medicine* 1, 39 (2018).

162. TABASSUM, S., ABEDIN, N., RAHMAN, M. M., RAHMAN, M. M., AHMED, M. T., ISLAM, R. et al. An online cursive handwritten medical words recognition system for busy doctors in developing countries for ensuring efficient healthcare service delivery. *Scientific reports* 12, 3601 (2022).

163. KARAKÜLAH, G., DICLE, O., KOŞANER, Ö., SUNER, A., BIRANT, Ç. C., BERBER, T. et al. in *e-Health–For Continuity of Care* 570-574 (IOS Press, 2014).

164. MINSKY, M. *Society of mind* (Simon et Schuster, 1988).

165. MCCARTHY, J. *Formalizing common sense* (Intellect Books, 1990).

166. LIU, H. & SINGH, P. ConceptNet - a practical commonsense reasoning tool-kit. *BT technology journal* 22, 211-226 (2004).

167. CAHAN, A. & CIMINO, J. J. A learning health care system using computer-aided diagnosis. *Journal of medical Internet research* 19, e54 (2017).

168. WANG, J., YANG, J., ZHANG, H., LU, H., SKRETA, M., HUSIĆ, M. et al. Pheno-Pad : Building AI enabled note-taking interfaces for patient encounters. *NPJ digital medicine* 5, 12 (2022).

169. SINGHAL, K., AZIZI, S., TU, T., MAHDAVI, S. S., WEI, J., CHUNG, H. W. et al. Large language models encode clinical knowledge. *Nature*, 1-9 (2023).
170. BURGESS, M. The NHS is trialling an AI chatbot to answer your medical questions. *Wired UK* (2017, January 5). Retrieved from https://www.wired.co.uk/article/babylon-nhs-chatbot-app (2017).

171. KOCABALLI, A. B., SEZGIN, E., CLARK, L., CARROLL, J. M., HUANG, Y., HUHYOO, J. et al. Design and evaluation challenges of conversational agents in health care and well-being : selective review study. *Journal of medical Internet research* **24**, e38525 (2022).

172. CRAWFORD, K. & CALO, R. There is a blind spot in AI research. *Nature* **538**, 311-313 (2016).

173. DELLERMANN, D., EBEL, P., SÖLLNER, M. & LEIMEISTER, J. M. Hybrid intelligence. *Business & Information Systems Engineering* **61**, 637-643 (2019).

174. SARIA, S., BUTTE, A. & SHEIKH, A. *Better medicine through machine learning : What's real, and what's artificial ?* 2018.

175. TOPOL, E. J. High-performance medicine : the convergence of human and artificial intelligence. *Nature medicine* **25**, 44-56 (2019).

176. TOPOL, E. *Deep medicine : how artificial intelligence can make healthcare human again* (Hachette UK, 2019).

177. SZOLOVITS, P. AI for the MD deep medicine Eric topol. en. *Science* **363**, 1402-1402 (mars 2019).

178. TOPOL, E. *The Creative Destruction of Medicine : How the Digital Revolution Will Create Better Health Care* ISBN : 9780465061839. https://books.google.fr/books?id=lN4ItAEACAAJ (Basic Books, 2013).

179. TOPOL, E. *The Patient Will See You Now : The Future of Medicine is in Your Hands* ISBN : 9780465054749. https://books.google.fr/books?id = HfXQDQAAQBAJ (Basic Books, 2015).

180. AKHTAR, N., RAHMAN, S., SADIA, H. & PERWEJ, Y. A holistic analysis of Medical Internet of Things (MIoT). *Journal of Information and Computational Science* **11**, 209-222 (2021).

181. MIRSKY, Y., MAHLER, T., SHELEF, I. & ELOVICI, Y. *CT-GAN : Malicious tampering of 3d medical imagery using deep learning in 28th USENIX Security Symposium (USENIX Security 19)* (2019), 461-478.

182. GERKE, S., MINSSEN, T. & COHEN, G. in *Artificial intelligence in healthcare* 295-336 (Elsevier, 2020).

183. RAJKOMAR, A., DEAN, J. & KOHANE, I. Machine learning in medicine. *New England Journal of Medicine* **380**, 1347-1358 (2019).
170. BURGESS, M. The NHS is trialling an AI chatbot to answer your medical questions. *Wired UK* (2017, January 5). Retrieved from https://www.wired.co.uk/article/babylon-nhs-chatbot-app (2017).

171. KOCABALLI, A. B., SEZGIN, E., CLARK, L., CARROLL, J. M., HUANG, Y., HUHYOO, J. *et al*. Design and evaluation challenges of conversational agents in health care and well-being : selective review study. *Journal of medical Internet research* **24**, e38525 (2022).

172. CRAWFORD, K. & CALO, R. There is a blind spot in AI research. *Nature* **538**, 311-313 (2016).

173. DELLERMANN, D., EBEL, P., SÖLLNER, M. & LEIMEISTER, J. M. Hybrid intelligence. *Business & Information Systems Engineering* **61**, 637-643 (2019).

174. SARIA, S., BUTTE, A. & SHEIKH, A. *Better medicine through machine learning : What's real, and what's artificial ?* 2018.

175. TOPOL, E. J. High-performance medicine : the convergence of human and artificial intelligence. *Nature medicine* **25**, 44-56 (2019).

176. TOPOL, E. *Deep medicine : how artificial intelligence can make healthcare human again* (Hachette UK, 2019).

177. SZOLOVITS, P. AI for the MD deep medicine Eric topol. en. *Science* **363**, 1402-1402 (mars 2019).

178. TOPOL, E. *The Creative Destruction of Medicine : How the Digital Revolution Will Create Better Health Care* ISBN : 9780465061839. https://books.google.fr/books?id=lN4ItAEACAAJ (Basic Books, 2013).

179. TOPOL, E. *The Patient Will See You Now : The Future of Medicine is in Your Hands* ISBN : 9780465054749. https://books.google.fr/books?id = HfXQDQAAQBAJ (Basic Books, 2015).

180. AKHTAR, N., RAHMAN, S., SADIA, H. & PERWEJ, Y. A holistic analysis of Medical Internet of Things (MIoT). *Journal of Information and Computational Science* **11**, 209-222 (2021).

181. MIRSKY, Y., MAHLER, T., SHELEF, I. & ELOVICI, Y. *CT-GAN : Malicious tampering of 3d medical imagery using deep learning in 28th USENIX Security Symposium (USENIX Security 19)* (2019), 461-478.

182. GERKE, S., MINSSEN, T. & COHEN, G. in *Artificial intelligence in healthcare* 295-336 (Elsevier, 2020).

183. RAJKOMAR, A., DEAN, J. & KOHANE, I. Machine learning in medicine. *New England Journal of Medicine* **380**, 1347-1358 (2019).
184. AHSANI-ESTAHBANATI, E., SERGEEVICH GORDEEV, V. & DOSHMANGIR, L. Interventions to reduce the incidence of medical error and its financial burden in health care systems : A systematic review of systematic reviews. *Frontiers in Medicine* **9**. ISSN : 2296-858X. https://www.frontiersin.org/articles/10.3389/fmed.2022.875426 (2022).

185. NAYLOR, C. D. On the prospects for a (deep) learning health care system. *Jama* **320**, 1099-1100 (2018).

186. KOHANE, I. S., DRAZEN, J. M. & CAMPION, E. W. A Glimpse of the Next 100 Years in Medicine. *New England Journal of Medicine* **367**. PMID : 23268669, 2538-2539 (2012).

187. HINTON, G. Deep Learning - A Technology With the Potential to Transform Health Care. *JAMA* **320**, 1101-1102. ISSN : 0098-7484. eprint : https://jamanetwork.com/journals/jama/articlepdf/2701666/jama\_hinton\_2018\_vp\_180096.pdf. https://doi.org/10.1001/jama.2018.11100 (sept. 2018).

188. MURDOCH, T. B. & DETSKY, A. S. The Inevitable Application of Big Data to Health Care. *JAMA* **309**, 1351-1352. ISSN : 0098-7484. eprint : https://jamanetwork.com/journals/jama/articlepdf/1674245/jvp130007\_1351\_1352.pdf. https://doi.org/10.1001/jama.2013.393 (avr. 2013).

189. MEINERT, D. B. Resistance to Electronic Medical Records(EMRs) : A Barrier to Improved Quality of Care. *Informing Science : International Journal of an Emerging Transdiscipline* **2**, 493-504 (2005).

190. FRIEDBERG, M. W., CHEN, P. G., VAN BUSUM, K. R., AUNON, F., PHAM, C., CALOYERAS, J. et al. Factors affecting physician professional satisfaction and their implications for patient care, health systems, and health policy. *Rand health quarterly* **3** (2014).

191. AQUINO, Y. S. J., ROGERS, W. A., BRAUNACK-MAYER, A., FRAZER, H., WIN, K. T., HOUSSAMI, N. et al. Utopia versus dystopia : Professional perspectives on the impact of healthcare artificial intelligence on clinical roles and skills. *International Journal of Medical Informatics* **169**, 104903 (2023).

192. MAXMEN, J. S. The Post-Physician Era Medicine in the 21st Century (1976).

193. ANDERSON, P. C. The post-physician Era : medicine in the 21st century. *JAMA* **237**, 2336-2337 (1977).

194. SANTOW, E. *Emerging from AI utopia* 2020.

195. REES, M. *Denial of catastrophic risks* 2013.
184. AHSANI-ESTAHBANATI, E., SERGEEVICH GORDEEV, V. & DOSHMANGIR, L. Interventions to reduce the incidence of medical error and its financial burden in health care systems : A systematic review of systematic reviews. *Frontiers in Medicine* **9**. ISSN : 2296-858X. https://www.frontiersin.org/articles/10.3389/fmed.2022.875426 (2022).

185. NAYLOR, C. D. On the prospects for a (deep) learning health care system. *Jama* **320**, 1099-1100 (2018).

186. KOHANE, I. S., DRAZEN, J. M. & CAMPION, E. W. A Glimpse of the Next 100 Years in Medicine. *New England Journal of Medicine* **367**. PMID : 23268669, 2538-2539 (2012).

187. HINTON, G. Deep Learning - A Technology With the Potential to Transform Health Care. *JAMA* **320**, 1101-1102. ISSN : 0098-7484. eprint : https://jamanetwork.com/journals/jama/articlepdf/2701666/jama\_hinton\_2018\_vp\_180096.pdf. https://doi.org/10.1001/jama.2018.11100 (sept. 2018).

188. MURDOCH, T. B. & DETSKY, A. S. The Inevitable Application of Big Data to Health Care. *JAMA* **309**, 1351-1352. ISSN : 0098-7484. eprint : https://jamanetwork.com/journals/jama/articlepdf/1674245/jvp130007\_1351\_1352.pdf. https://doi.org/10.1001/jama.2013.393 (avr. 2013).

189. MEINERT, D. B. Resistance to Electronic Medical Records(EMRs) : A Barrier to Improved Quality of Care. *Informing Science : International Journal of an Emerging Transdiscipline **2***, 493-504 (2005).

190. FRIEDBERG, M. W., CHEN, P. G., VAN BUSUM, K. R., AUNON, F., PHAM, C., CALOYERAS, J. *et al*. Factors affecting physician professional satisfaction and their implications for patient care, health systems, and health policy. *Rand health quarterly **3*** (2014).

191. AQUINO, Y. S. J., ROGERS, W. A., BRAUNACK-MAYER, A., FRAZER, H., WIN, K. T., HOUSSAMI, N. *et al*. Utopia versus dystopia : Professional perspectives on the impact of healthcare artificial intelligence on clinical roles and skills. *International Journal of Medical Informatics **169***, 104903 (2023).

192. MAXMEN, J. S. The Post-Physician Era Medicine in the 21st Century (1976).

193. ANDERSON, P. C. The post-physician Era : medicine in the 21st century. *JAMA* **237**, 2336-2337 (1977).

194. SANTOW, E. *Emerging from AI utopia* 2020.

195. REES, M. *Denial of catastrophic risks* 2013.
Résumé

La médecine a connu une évolution théorique (découvertes scientifiques fondamentales) et
technique (examens complémentaires), mais la façon de la pratiquer a relativement peu évolué
malgré l'introduction de l'informatique. La santé coûte de plus en plus cher, le volume des don-
nées générées croît de façon explosive et seule une petite partie de ces données est effectivement
exploitée, par des opérateurs dont le temps est limité et précieux. A l'échelle du médecin généra-
liste, la prévention, la surveillance des patients, le temps administratif et de liaison avec d'autres
professionnels de la santé, le maintien à jour des connaissances, et surtout la documentation re-
présentent entre autres un travail considérable. L'intelligence artificielle (IA) a démontré qu'elle
pouvait résoudre un certain nombre de problèmes médicaux et fait en ce moment l'objet d'in-
vestissements extraordinaires, dans l'espoir d'améliorer la prise en charge tout en diminuant le
coût des soins.

Cette revue de la littérature concernant l'IA dans la médecine a pour objectif de répondre
à la question suivante : dans quelle mesure l'intelligence artificielle pourrait-elle faire évoluer la
médecine générale ?

Les progrès concernent surtout les spécialités médicales basées sur l'analyse de données en
particulier d'imagerie, avec des outils diagnostiques que le généraliste pourra vraisemblablement
invoquer au cabinet. Par ailleurs l'automatisation de la documentation, de la synthèse des in-
formations du dossier médical, et l'assistance au diagnostic, sont déjà au point. Ces assistants
pourront soulager la charge de travail des médecins, [en permettant probablement d'éliminer du
temps administratif et ainsi récupérer du temps médical, ]mais soulèvent des questions d'ordre
éthique voire existentiel.

**Mots-clefs** : médecine générale, intelligence artificielle, IA, premier recours, revue de la littérature, cybernétique, informatique, apprentissage profond

Abstract

Medicine has evolved theoretically (fundamental scientific discoveries) and technically (com-
plementary exams), however practicing itself has relatively little changed despite the introduction
of computers. Healthcare is more and more expensive, the volume of generated data is growing
explosively and only a small part of this data is actually being used, by operators whose time
is limited and therefore precious. At the general practitioner scale, prevention, patient moni-
toring, administrative time and liaison with other healthcare professionals, keeping up-to-date
expertise, and above all documentation, result among other duties in a considerable workload.
Artificial Intelligence (AI) demonstrated that it could solve a number of medical problems and
is at this time being tremendously invested in, in the hope of improving care while reducing
costs.

This review about AI in medicine aims at answering the following question : In which respect could primary care evolve with AI ?

Advances especially apply to medical specialties based on data analysis and particularly
imaging, with diagnostic tools that the general practitioner will be able to invoke at his practice.
Furthermore, automation of documentation, synthesis of the information lying in the medical
record, and diagnostic support, are already up and running. These assistants could relieve the
doctors of part of their tasks, probably ridding them of some administrative time and thus
redeeming some medical time, they nevertheless raise some ethical, even existential concerns.

**Keywords** : general medicine, artificial intelligence, AI, primary care, literature review, cybernetics, computer science, deep learning