# Une place pour l'IA, mais l'IA à sa place.

Olivier Ocquidant

► To cite this version:

Olivier Ocquidant. Une place pour l'IA, mais l'IA à sa place.. Séminaire Santé et Big Data, Institut Santé Numérique en Société - ISNS, May 2025, PariSanté Campus, Paris, France. halshs-05250416

HAL Id: halshs-05250416

https://shs.hal.science/halshs-05250416v1

Submitted on 11 Sep 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
« Une place pour l'IA, mais l'IA à sa place ».
Enquête sur l'utilisation des logiciels d'aide au diagnostic de type IA dans la détection du cancer du sein.

Olivier Ocquidant, chercheur post doctoral en sociologie, Télécom Paris.
Un projet supervisé par Christian Licoppe (Télécom Paris) et Gérald Gaglio (Université Nice Côte d'Azur)
# Plan

Une présentation en 3 temps.

1. Projet de recherche, recueil de données et méthodologie

2. Premier éléments de comprehension de terrain

3. Travailler avec l'IA
# Projet et objet de recherche

Un projet post doctoral, visant à interroger les potentielles transformations et redistributions de l'expertise et de l'autorité, à l'oeuvre avec l'usage de l'IA en radiologie dans le domaine de la sénologie (mammographie).

Domaine d'étude avec un peu de recul – outils d'aide au diagnostic existants avant l'IA, également reconnus comme performants.

<figure><img src="image_2.png" /></figure>
# Projet et objet de recherche

Projet d'enquête de terrain donc, au croisement de 2 approches :

- Sociologie de l'innovation (STS) : saisir la technologie à travers ce qu'elle fait faire, des (re) configurations qu'elle engage dans l'activité et au niveau organisationnel.

- Ethnométhodologie de l'activité : enquêter sur les ordres locaux (cours d'actions) de l'activité, et leurs problématiques pour l'implantation de l'outil.
# Projet et objet de recherche

Constat d'un manque dans la littérature sur la comprehension des enjeux de l'IA
dans la pratique et dans l'activité : Comment s'intègre-t-elle ou non ? Quelles
compréhensions des processus d'implantation ou de rejet (problèmes, apports,
etc.) ?

Une production scientifique sur l'IA en mammographie fournie côté ingénierie,
moins en sciences sociales - travaux empiriques de terrain assez peu nombreux :
Anichini, Geffroy, 2021 ; Lebovitz et al, 2022 ; Gaglio, Loute, 2023 ; Abdel Karim
et al, 2023.
# Projet et objet de recherche

Approches ethnographiques et « micro » de référence sur l'activité des radiologues : Slack et al, 2007 ; 2010 ; Saunders, 2007.

Emergence d'un objet :
la place faite à l'IA, son integration ou non.

<figure><img src="image_3.png" /></figure>
## Recueil de données

Conduite d'« entretiens postés » enregistrés et retranscrits, N = 8.
« Vacations » de radiologie (d'une durée de 3 ou 4 heures chacune).
20 heures d'entretiens.

Captations vidéos, négociées sur place. Prise de vues fixes (trépied) et mobiles
(téléphone, caméscope) = 15 heures de rushs.

Recherche documentaire sur le sujet – presse, internet, aspects « techniques »
(imagerie médicale, médecine).
# Éléments de méthodologie d'analyse

Travail avec un double matériau

## Entretiens

- Emergence de catégories (via les « entretiens »)

- Focus sur des moments et interactions-types (moments de lecture de l'IA, les « cas », les interactions avec les manipulateurs radio, etc.)

## Vidéo

- Visionnage et montage de séquences (par « cas »).

- Interrogation sur les gestes, la lecture (interactions avec les écrans)

- ...
# 1. Premiers éléments de compréhension de terrain

## 1.1. Débarquer dans une salle d'interprétation radiologique

<figure><img src="image_4.png" /></figure>

<figure><img src="image_5.png" /></figure>
## 1.1. Débarquer dans une salle d'interprétation radiologique

Une entrée sur le terrain grâce à un contact avec une entreprise fabriquant des logiciels d'IA en mammographie, nous introduisant auprès de radiologues.

Notre porte d'entrée sur le projet et sur le terrain était l'IA, connoté (ingénierie) – buzz médiatique facilitant « l'explication » de notre présence.

<figure><img src="image_6.png" /></figure>
## 1.1. Débarquer dans une salle d'interprétation radiologique

Ajustements de notre présence/rôle sur le terrain, expliciter notre demande - nous faire expliquer « l'examen radiologique » et « ce que les personnes sont en train de faire »

<figure><img src="image_7.png" /></figure>
## Espaces de l'examen radiologique

<figure><img src="image_8.png" /></figure>
# 1. Premiers éléments de compréhension de terrain

## 1.2. Comment se présente l'IA ?

Un affichage en 2 temps : scores (liste) et clichés (lésions identifiées)

Une liste, avec les scores de risque

<figure><img src="image_9.png" /></figure>
<figure><img src="image_10.png" /><figcaption>Affichage des anomalies détectées par une IA</figcaption></figure>

<figure><img src="image_11.png" /></figure>
Un autre modèle d'IA

<figure><img src="image_12.png" /></figure>

<figure><img src="image_13.png" /></figure>
## 2. Travailler avec l'IA

### Quelles coordinations avec l'IA ?

Place courante et attendue de la consultation de l'IA dans le processus d'interprétation radiologique (en « deuxième lecture »)

<figure><img src="image_14.png" /></figure>
Interprétation avec IA

<figure><img src="image_15.png" /></figure>

- « Apprendre à travailler avec l'IA », c'est d'abord ajouter une étape dans l'interprétation, c'est-à-dire négativer ou positiver l'IA.

Existe-t-il des formes de coopération/coordination différentes avec l'IA ?
## 2.1 - Distinction et étanchéité entre avis radiologue et indication IA.

- Une place de l'IA bien délimitée et circonscrite (en 2e lecture)

- Une distinction et mise à distance des 2 autorités et épistémies.

- Un usage de l'IA comme « filet de sécurité » pouvant conduire à un délaissement de l'IA (place à la marge).
## 2.2 – Un entrelacement entre avis radiologue et indication IA, par une distribution en échos de l'IA durant l'interprétation.

- Place de l'IA circoncrite (2e lecture) mais avec des « appels » anticipant ou prédisant la réponse de l'IA pendant l'interprétation du radiologue.

- Procédure de négativation/positivation de l'IA anticipée par cet entrelacement.

- Efforts de compréhension de « l'altérité épistémique » de l'IA

- L'IA comme un quasi partenaire dans l'interprétation. Expertise et autorité en partie distribuées.
## 2.3 – L'interprétation radiologue et l'indication IA intriquées et quasiment fusionnées.

- Atténuation voire effacement de la séparation des 2 autorités et épistémies.

- S'appuie fortement sur l'IA, IA utilisée en « quasi première lecture ».

- Ici un contexte avec une pression et des enjeux de rapidité de la lecture.
# Conclusion

Autres éléments d'interrogation dans l'enquête en cours...

* Des positionnements tranchés vis-à-vis d'une réforme ou non du dépistage

* Un effet de réassurance de l'IA dans l'interprétation des radiologues largement reconnu en pratique.

* Question de l'occultation de l'IA (dans les comptes-rendus) ou de sa mise en avant (publicisation, spécification dans documents administratifs)

* L'opacité épistémique de l'IA ne semble pas poser de problème – efficacité qui produit une confiance (Vuarin, Steyer, 2023).
Conclusion

Question de l'altérité épistémique, ses atténuations et accentuations et
pourquoi.

Question des transformations du raisonnement diagnostic et de ses potentielles modifications (augmenté, appauvri) selon les contextes.

Question de l'influence des différents contextes organisationnels sur les usages

Question de la régulation institutionnelle.
Abdel-Karim, Benjamin, Nicolas Pfeuffer, K. Valerie Carl, Oliver Hinz. 2023. « How AI-Based Systems Can Induce Reflections: The Case of AI-Augmented Diagnostic Work ».
*MIS Quarterly* 47 (4): 1395-1424.

Anichini, Giulia, et Benedicte Geffroy. 2021. « L'intelligence artificielle à l'épreuve des savoirs tacites. Analyse des pratiques d'utilisation d'un outil d'aide à la détection en radiologie ».
*Sciences Sociales et Santé* 39(2): 43-69.

Cicourel, Aaron Victor. 2002. *Le raisonnement médical: une approche socio-cognitive*. Paris: Seuil.

Gaglio, Gérald, et Alain Loute. 2023. « L'émergence d'enjeux éthiques lors d'expérimentations de logiciels d'intelligence artificielle: Le cas de la radiologie ».
*Réseaux* N° 240 (4): 145-78.

Jacques, Béatrice, et Anne-Laurence Penchaud. 2011. « Les effets de la politique du dépistage organisé du cancer du sein sur l'expérience du travail mammographique des radiologues ».
*Revue française des affaires sociales* (2): 210-25.

Lebovitz, Sarah, Hila Lifshitz-Assaf, et Natalia Levina. 2022. « To Engage or Not to Engage with AI for Critical Judgments: How Professionals Deal with Opacity When Using AI for Medical Diagnosis ».
*Organization Science* 33 (1): 126-48.

Mathieu-Fritz, Alexandre, et Dilara Vanessa Trupia. 2025. « Le dermatologue, le mélanome et l'intelligence artificielle. Le (lent) développement des usages et les transformations de la réflexivité clinique ».
*Réseaux* N° 248 (6): 111-52.

Mignot, Léo, et Émilien Schultz. 2022. « Les innovations d'intelligence artificielle en radiologie à l'épreuve des régulations du système de santé ».
*Réseaux* N° 232-233 (2): 65-97.

Saunders, Barry F. 2008. *CT suite: the work of diagnosis in the age of noninvasive cutting*. Durham: Duke University Press.

Slack, Roger, Mark Hartswood, Rob Procter, et Mark Rouncefield. 2007. « Cultures of Reading: On Professional Vision and the Lived Work of Mammography ».
P. 175-93 in *Orders of Ordinary Action Respecifying Sociological Knowledge*. London: Routledge.

Slack, Roger S., Rob Procter, Mark Hartswood, Alexander Voss, et Mark Rouncefield. 2010. « Suspicious Minds? » P. 227-44 in
*Ethnographies of Diagnostic Work*, édité par M. Büscher, D. Goodwin, et J. Mesman. London: Palgrave Macmillan UK.

Vuarin, Louis, et Véronique Steyer. 2023. « Le principe d'explicabilité de l'IA et son application dans les organisations »
*Réseaux* N° 240 (4): 179-210.
« Une place pour l'IA, mais l'IA à sa place ».
Enquête sur l'utilisation des logiciels d'aide au diagnostic de type IA dans la détection du cancer du sein.

Olivier Ocquidant, chercheur post doctoral en sociologie, Télécom Paris.
Un projet supervisé par Christian Licoppe (Télécom Paris) et Gérald Gaglio (Université Nice Côte d'Azur)
# ANNEXE

## Sur l'altérité épistémique de l'IA vis-à-vis du radiologue

- Détection de zones associés à des degrés (score) de malignité

- Scores spécifiques à l'IA autres que ceux de la classifications internationale des radiologues BI RADS (ACR 1 à 6)

- Caractérisation et sémiologie minimale (masses, calcifications)

- Une opacité épistémique

- 2 avis différents sur la 2D et la tomosynthèse

- Pas de conduite à tenir à donner
## Saisir une diversité de contextes

Différents contextes d'exercices avec leurs patientèles types.

1 - Petits cabinets de radiologie généraliste (cabinet de ville)

2 - Centre de radiologie ou sénologie (groupement)

3 - Centre de cancérologie

4 - Hôpitaux (CHU, CH, privés)

1 & 2 = Dépistage très majoritairement

3 = suivis de cancers très majoritairement

4 = Suivis de cancer et dépistages.
# L'examen radiologique dans un ensemble d'actions médicales coordonnées

<figure><img src="image_16.png" /></figure>

## ETAPE 1 Pré radiologie

## ETAPE 2 Radiologie : un avis, diagnostic si négatif

## ETAPE 3 Anatomopathologie : le gold standard du diagnostic

## ETAPE 4 Opératoire / oncologie
## « Interprétation » du radiologue et domaine d'action de l'IA

<figure><img src="image_17.png" /></figure>