L’intelligence artificielle (IA) et le numérique suscitent tant l’engouement que la méfiance. Covid-19 oblige, les développeurs de solutions fondées sur l’IA et le numérique tentent de faire vite : traçage, diagnostics, prévisions, etc.

Cependant, l’urgence d’agir ne doit pas miner notre capacité d’intervenir efficacement et sur les bons problèmes.

En temps de crise, comment innover de façon responsable ? En sortant du « sentier » qui a été tracé bien avant la pandémie et dont les écueils sont prévisibles. Cette « dépendance au sentier » est une notion bien établie dans la littérature sur l’innovation. Elle fait référence à la façon dont les solutions antérieures renforcent les choix technologiques et commerciaux subséquents. Des acteurs dominants désirent maintenir leur position, ce qui limite le développement de nouvelles entreprises et de nouvelles solutions.

Les plus visibles d’entre eux, en 2020, restent les GAFAM (Google, Amazon, Facebook, Apple et Microsoft). Leurs données générées par les interactions numériques valent leur pesant d’or. La pandémie a bien démontré notre dépendance envers les solutions numériques. Elle a aussi contribué à accroître la dominance des GAFAM. Plus que jamais, l’IA et le numérique ont besoin d’un cadre réglementaire performant et transparent.

Read more: Fatigués de donner vos infos personnelles ? Habituez-vous, elles sont la monnaie du 21ᵉ siècle

Un tel cadre contribuerait à rehausser les standards du secteur pour mériter la confiance du public. Toutefois, la réflexion ne s’arrête pas là. Les décideurs publics, tout comme les développeurs de solutions fondées sur l’IA et le numérique, ont avantage à maîtriser les principes de l’innovation responsable.

C’est ce qui motive les travaux de l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) et notre équipe de recherche à l’Université de Montréal. Notre programme, In Fieri, porte sur les innovations responsables en santé, qui favorisent l’équité et la pérennité des systèmes de santé.

## Ce que l’innovation responsable propose

Mieux connue sous l’acronyme RRI (Responsible Research & Innovation), l’innovation responsable promeut la conception d’innovations « éthiquement acceptables, socialement souhaitables et durables ». La RRI a largement influencé les politiques scientifiques européennes. Depuis la première édition du Programme Horizon 2020 en 2014, ces politiques encouragent ceux qui innovent à répondre aux grands défis sociétaux.

L’application des quatre principes de la RRI permettrait de développer des solutions fondées sur l’IA et le numérique plus efficaces et plus responsables pour lutter contre la pandémie. Ces principes sont l’anticipation, la réflexivité, l’inclusivité et la réactivité.

<figure><img src="image_1.png" /><figcaption>Quatre principes favorisant le développement responsable des innovations.</figcaption></figure>

## De la télésanté aux applis de traçage

Le principe d’anticipation rappelle que les innovations sont susceptibles d’entraîner des effets négatifs et des conséquences inattendues. Récemment, les soins offerts à distance par le biais de plates-formes numériques ont été déployés à large échelle. Or, malgré les avantages qu’offre la télésanté, on ne connaît pas tous ses effets indésirables sur la qualité et la continuité des soins et sur les conditions de travail des soignants. Idéalement, il faudrait réfléchir aux effets possibles, en amont.

La réflexivité nous invite à nous interroger sur les biais que comportent les solutions technologiques. Imaginons qu’afin de prioriser l’accès aux soins intensifs, un algorithme fondé sur l’IA puisse prédire les chances de survie d’un patient hospitalisé pour la Covid-19. Sa performance dépendrait des données qui lui sont fournies pour « apprendre ». Le problème ? Les chances de survie d’un patient ne dépendent pas uniquement de sa capacité biologique à combattre le virus. Elles reposent aussi sur des déterminants socioéconomiques (âge, genre, comorbidité, etc.). Un algorithme devrait donc « savoir » que les patients ne sont pas tous égaux face à la Covid-19.

Le principe d’inclusivité aurait dû s’imposer dans les débats sur les applis de traçage visant à réduire la propagation du SARS-CoV-2. Ici comme ailleurs dans le monde, ces applis ont fait couler beaucoup d’encre. Après des auditions publiques, le gouvernement du Québec a décidé qu’il n’ira pas de l’avant. Mais voilà qu'alors que se pointe la deuxième vague appréhendée de Covid-19, leur utilisation refait surface.

Une telle appli devrait minimalement assurer la protection des renseignements personnels et de la vie privée. Pour être efficace, elle devrait aussi être compréhensible par tous, et être accompagnée de tests diagnostiques offerts au bon moment, aux bons endroits. Avant sa mise en marché, les développeurs d’une appli de traçage devraient donc inclure des points de vue diversifiés sur les forces et faiblesses de différents scénarios de solutions. Et pas seulement ceux des experts, des citoyens aussi : ils soutiennent le développement d’innovations comme contribuables, et sont exposés à leurs risques comme utilisateurs. C’est d’ailleurs pourquoi l’OBVIA a produit un guide illustré sur les applis de notifications à l’intention du public.

Enfin le dernier principe est la réactivité. Afin de tester des vaccins contre le SARS-CoV-2, des chercheurs américains proposent des essais cliniques de type « human challenge ». Grâce aux médias sociaux, la plate-forme 1 Day Sooner a recruté plus de 34 800 volontaires qui acceptent d’être exposés au virus. Le but ? Réduire la durée des essais et le nombre de volontaires requis avant l’approbation de mise en marché.

Or, pour déterminer si un vaccin comporte plus de bénéfices que de risques, des essais de longue durée doivent être menés sur un grand nombre de patients. Plutôt que de contourner les exigences réglementaires existantes, la réactivité exige de savoir piloter la trajectoire d’une innovation vers le bien commun. Avant même de penser à la déployer, les décideurs publics doivent être en mesure de corriger ses éventuels dérapages ou la retirer du marché, si nécessaire.

## Tracer un sentier plus responsable

Bien que l’avenir soit incertain, le développement technologique, lui, est prévisible : les entreprises où se concentrent les ressources humaines, financières et technologiques sont connues. Jusqu’à maintenant, comment les GAFAM ont-elles appliqué les exigences en matière de vie privée et de droit du travail ? À qui ces entreprises doivent-elles rendre des comptes ? Comment les pouvoirs publics ont-ils réussi à leur imposer des exigences ?

Contrer la concentration économique dans le secteur du numérique est un enjeu de taille pour tous les gouvernements à travers le monde, même les plus puissants, comme en témoignent les travaux initiés par le Congrès américain sur le sujet.

Pour innover de manière responsable, il est fondamental d’instaurer collectivement une gouvernance transparente. En temps de pandémie, la marge de manœuvre est mince et toutes les ressources doivent être utilisées à bon escient.

Une version plus détaillée de cette analyse est disponible en anglais et en français sous la forme d’une « Note à l’intention des décideurs publics et développeurs de solutions fondées sur l’IA et le numérique ».