[en] In medical practice, the development process for IT tools, and in particular artificial intelligence (AI), is an important step towards its acceptability and appropriation by end-users. The aim of our study was to propose a design process for AI tools in healthcare to facilitate integration. We rely on the results of a survey conducted between October 2018 and May 2019 among doctors in the city of Le Havre on their uses of connected objects and healthcare applications, their opinion on the use of AI in medical practice and their perceptions on the risks linked to big data and AI on medical practice for the proposal of our tool design process. The theories used were design thinking, which is a collective intelligence method that places humans, their uses and needs at the center of reflection, and trust, with a classification into three typologies. Initially, we identified the various players involved in the design of AI tools and the different relationships between them, describing their roles and interactions. In addition to the three stages of design thinking (inspiration, ideation and implementation), we added an evaluation stage comprising: clinical trial, technical evaluation, medico-economic evaluation and certification. The evaluation process continued after the product was placed on the market, as part of the health monitoring process. Involving all the players in the various tool design processes in a climate of trust ensures that the tools are more readily accepted and appropriated. It also helps to empower and enhance the value of the players involved.

[fr] Dans la pratique médicale, le processus de développement des outils informatiques et en particulier de l'intelligence artificielle (IA) est une étape importante pour son acceptabilité et son appropriation par les utilisateurs finaux. L'objectif de notre étude était de proposer un processus de conception des outils de l'IA en santé pour une intégration facilité. Nous nous appuyons sur les résultats d'une enquête réalisée entre Octobre 2018 et Mai 2019 auprès des médecins de la ville du Havre sur leurs usages des objets connectés et des applications de santé, leur avis sur l'utilisation de l'IA en pratique médicale et leurs perceptions sur les risques liés au big data et à l'IA sur la pratique médicale pour la proposition de notre processus de conception des outils. Les théories utilisées étaient le design thinking qui est une méthode d'intelligence collective qui place l'humain, ses usages et ses besoins au centre de la réflexion et la confiance avec une classification en trois typologie. Dans un premier temps, nous avons identifié les différents acteurs de la conception des outils d'IA et les différentes relation existant entre ces acteurs avec une description des rôles et des interactions entre eux. En plus des trois étapes du design thinking (inspiration, idéation et implémentation), nous avons ajouté une étape d'évaluation comportant : l'essai clinique, l'évaluation technique, l'évaluation médico-économique et la certification. Le processus d'évaluation était poursuivi après la mise sur le marché dans le cadre de vigilance sanitaire. La participation de tous les acteurs aux différents processus de conception des outils dans un climat de confiance permet une meilleure acceptabilité et appropriation des outils. Elle permet également une responsabilisation et une valorisation des acteurs.