Les Cahiers : Pourquoi avoir créé un Observatoire de l’intelligence artificielle à l’université Paris 1 Panthéon-Sorbonne ?

Célia Zolynski : Créé il y a deux ans, l’Observatoire de l’intelligence artificielle de Paris 1 vise à fédérer les actions menées par les différentes équipes de recherche de l’université sur le développement de l’intelligence artificielle dans les différents champs disciplinaires de notre université comme l’informatique, les mathématiques, le droit, l’histoire, la géographie, la philosophie, l’économie ou encore la gestion, la sociologie et les arts. Ce sont aujourd’hui plus d’une cinquantaine de nos enseignants-chercheurs qui travaillent sur des enjeux liés à l’intelligence artificielle. L’Observatoire de l’intelligence artificielle a spécialement pour objectif d’explorer les richesses de la recherche et de la formation au sein de notre université et mettre ainsi en lumière les enjeux d’aujourd’hui pour préparer l’avenir en portant une approche réflexive et multidisciplinaire. Parmi ces enjeux, l’Observatoire s’intéresse en particulier aux enjeux sociaux. Il s’inscrit dans la politique de recherche et de formation de l’université Paris 1 qui entend jouer un rôle auprès de la société et des pouvoirs publics pour démystifier les discours et aborder autrement l’intelligence artificielle. Il s’agit d’en faire comprendre les opportunités et les risques, de susciter l’échange et le débat, de construire une expertise pour éclairer les choix sociaux. Voulu comme un carrefour pour les enseignants-chercheurs en sciences humaines et sociales, l’Observatoire de l’intelligence artificielle a été pensé pour ce faire autour de quatre missions : observer les principaux concepts qui structurent la recherche sur l’IA afin d’initier de nouvelles dynamiques interdisciplinaires (par exemple comment définir les notions de transparence et d’intelligibilité pour mieux saisir les mécanismes de prise de décision ?) ; analyser les nouveaux comportements émergents en lien avec un usage massif de l’IA (par exemple le recours aux trajectoires d’accès aux contenus culturels au moyen d’un assistant virtuel dans le but de garantir le pluralisme des médias) ; former les étudiants ainsi que le grand public par la production d’outils de compréhension dans le domaine de l’IA et en lien avec différentes disciplines, notamment en expliquant le fonctionnement des larges modèles de langage et en développant des outils pédagogiques pour aider à la rédaction d’instructions à un système d’IA générative ou prompting ; et enfin éclairer les politiques publiques et sensibiliser le public aux enjeux de l’IA.

1 <https://www.una-europa.eu/study/mooc-ai-society>. L’ouverture internationale est également au cœur des missions de l’Observatoire. Elle s’exprime aujourd’hui par l’implication de plusieurs de ses membres au sein de l’alliance Una Europa que notre université a rejointe il y a plus de six ans. L’Intelligence artificielle est l’une des thématiques pilotes de cette alliance composée de onze universités européennes dont les universités de Bologne, d’Helsinki, de Dublin, la Complutense ou K Leuven qui sont nos principaux partenaires sur cette thématique. Notre Université s’investit notamment dans la création d’un MOOC Una Europa intitulé « Artificial intelligence in society1 » en proposant notamment deux modules : l’un sur l’IA et la démocratie, l’autre sur l’IA et la justice.

Les Cahiers : Quels sont les travaux réalisés au cours de ces deux années d’activité ?

2 <https://observatoire-ia.pantheonsorbonne.fr/>. Célia Zolynski : Les sujets à traiter autour des enjeux sociaux de l’intelligence artificielle sont multiples. On songe en particulier aux questions de transparence et d’explicabilité, de biais algorithmiques et de risques de discrimination, ou encore de traitement de grandes masses de données et de protection des données personnelles. Plusieurs thématiques sont désormais approfondies au sein de l’Observatoire dont l’utilisation de l’IA dans le cadre de campagnes de désinformation et la préservation de nos démocraties, les impacts environnementaux de ces techniques ou encore les risques d’atteinte à la dignité de la personne que l’on voit illustrés ces derniers mois avec la multiplication de deep fakes à caractère pornographique. L’ensemble des activités et ressources (publications, formations, entretiens avec des chercheurs, veilles scientifiques, vidéos de colloques…) sont disponibles sur son site internet2.

Les Cahiers : Pouvez-vous nous dire ce qu’a de spécifique l’intervention du droit dans ce domaine ?

Célia Zolynski : Parmi les travaux menés au cours de ces deux dernières années, plusieurs ont été consacrés aux enjeux de la régulation de l’intelligence artificielle. Nous avons ainsi pu analyser les différentes étapes de la négociation du Règlement sur l’intelligence artificielle, qui a été voté par le Parlement européen en mars 2024, ainsi que de la Convention- cadre du Conseil de l’Europe, et proposer des approches de droit comparé, en particulier avec le Canada qui a été un des premiers pays à promouvoir une charte éthique en ce domaine avec la Déclaration de Montréal, et ce afin de mieux comprendre la construction du nouveau cadre normatif de l’IA. L’objectif était de mieux appréhender la logique de compliance désormais consacrée (notamment par le recours aux analyses de risques et aux études d’impact) ainsi que les enjeux de protection des droits fondamentaux, majeurs en ce domaine. Il s’agissait par ailleurs d’accompagner la compréhension de ces textes pour assurer demain leur mise en œuvre pratique. Ce besoin est en effet primordial pour que les développeurs et les utilisateurs des systèmes algorithmiques puissent pleinement se saisir de ces nouveaux principes et les respecter afin d’en prévenir les effets délétères.

3 J. Cattan et C. Zolynski, « Le défi d’une régulation de l’intelligence artificielle », AOC 14 déc. (...) Pour évoquer un champ en particulier, plusieurs de nos activités se sont portées sur l’impact de l’Intelligence artificielle dans le champ de la création artistique. En ce domaine, le respect du droit d’auteur est au cœur des questionnements actuels dès lors que des œuvres protégées peuvent composer les bases de données d’entraînement des intelligences artificielles génératives, ce qui est à l’origine de nombreux contentieux depuis la diffusion massive de ces systèmes auprès du grand public. Nous poursuivons désormais ces études par l’organisation d’une école d’été qui vise à réunir les doctorants des différentes universités de l’Alliance UNA EUROPA autour des enjeux de l’IA et de la création. Au-delà des enjeux de propriété intellectuelle, qui sont tout à fait essentiels, il nous apparaît également déterminant de mieux comprendre comment déployer des systèmes algorithmiques pour assurer la mise en pouvoir d’agir de leurs utilisateurs, en s’ancrant dans une démarche de promotion de leur agentivité, afin de préserver l’autonomie des personnes. Or cette approche, qui entend préserver la place de l’humain dans ses interactions avec la machine, suppose de mener des travaux interdisciplinaires afin de penser des solutions techniques ainsi que les prérogatives juridiques qui doivent y être associées. C’est d’ailleurs en ce sens que nous réfléchissons à la reconnaissance d’un droit au paramétrage qui pourrait être consacré au bénéfice de l’utilisateur final d’un agent conversationnel afin de lui offrir une capacité à agir sur ses fonctionnalités et paramètres essentiels. Il s’agit d’inscrire ce pouvoir d’agir de l’humain dans l’architecture même des outils d’intelligence artificielle que nous utiliserons massivement demain et non pas de se voir imposer l’utilisation « d’une boîte noire qui est à prendre ou à laisser3 ».