[en] In medical practice, the development process for IT tools, and in particular artificial intelligence (AI), is an important step towards its acceptability and appropriation by end-users. The aim of our study was to propose a design process for AI tools in healthcare to facilitate integration. We rely on the results of a survey conducted between October 2018 and May 2019 among doctors in the city of Le Havre on their uses of connected objects and healthcare applications, their opinion on the use of AI in medical practice and their perceptions on the risks linked to big data and AI on medical practice for the proposal of our tool design process. The theories used were design thinking, which is a collective intelligence method that places humans, their uses and needs at the center of reflection, and trust, with a classification into three typologies. Initially, we identified the various players involved in the design of AI tools and the different relationships between them, describing their roles and interactions. In addition to the three stages of design thinking (inspiration, ideation and implementation), we added an evaluation stage comprising: clinical trial, technical evaluation, medico-economic evaluation and certification. The evaluation process continued after the product was placed on the market, as part of the health monitoring process. Involving all the players in the various tool design processes in a climate of trust ensures that the tools are more readily accepted and appropriated. It also helps to empower and enhance the value of the players involved.

[it] Nella pratica medica, il processo di sviluppo degli strumenti informatici, e in particolare dell'intelligenza artificiale (IA), è una fase importante per la loro accettabilità e appropriazione da parte degli utenti finali. L'obiettivo del nostro studio è stato quello di proporre un processo di progettazione degli strumenti di IA in ambito sanitario per facilitarne l'integrazione. Per proporre il nostro processo di progettazione degli strumenti, ci siamo basati sui risultati di un sondaggio condotto tra ottobre 2018 e maggio 2019 tra i medici della città di Le Havre sull'utilizzo di oggetti connessi e applicazioni per la salute, sulla loro opinione sull'uso dell'IA nella pratica medica e sulla loro percezione dei rischi legati ai big data e all'IA sulla pratica medica. Le teorie utilizzate sono state il design thinking, un metodo di intelligenza collettiva che pone le persone, i loro usi e le loro esigenze al centro della riflessione, e la fiducia, con una classificazione in tre tipologie. In primo luogo, abbiamo identificato i vari attori coinvolti nella progettazione di strumenti di IA e le diverse relazioni tra di loro, descrivendo i loro ruoli e le loro interazioni. Oltre alle tre fasi del design thinking (ispirazione, ideazione e implementazione), abbiamo aggiunto una fase di valutazione che comprende: sperimentazione clinica, valutazione tecnica, valutazione medico-economica e certificazione. Il processo di valutazione è proseguito dopo l'immissione del prodotto sul mercato, come parte del processo di monitoraggio della salute.Coinvolgere tutti gli attori nei vari processi di progettazione degli strumenti in un clima di fiducia fa sì che gli strumenti siano più facilmente accettati e adottati. Inoltre, contribuisce a responsabilizzare e valorizzare gli attori coinvolti.