<figure><img src="image_1.png" /></figure>

HAL
open science

# IA et dé-coïncidence créative

Jean-Pierre Briot

► To cite this version:

Jean-Pierre Briot. IA et dé-coïncidence créative. 2024. hal-04757391v7

HAL Id: hal-04757391

https://hal.science/hal-04757391v7

Preprint submitted on 16 Feb 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_2.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
IA et dé-coïncidence

créative*

Jean-Pierre Briot

Sorbonne Université, CNRS, LIP6, F-75005 Paris

## INTRODUCTION

La création automatisée de contenu par des techniques d'IA (intelligence artificielle) générative a un impact grandissant sur les pratiques de création, l'exemple le plus connu étant la génération de textes par ChatGPT. Mais des domaines artistiques tels que la musique sont également de plus en plus impactés. Outre une disruption technique, économique et sociale, ce mouvement profond et rapide questionne nos idées sur la créativité, à la fois humaine, mais également d'une machine. Il nous semble pertinent de questionner le concept de créativité, également à la lumière du concept de dé-coïncidence<fnref n="1" />, pour analyser ces avancées de l'IA générative.

<footnote>* Ce texte est une version préliminaire d'un chapitre à paraître dans l'ouvrage collectif « Intelligence artificielle et dé-coïncidence », sous la direction de Patrick Albert, à paraître en 2025 aux Presses des Mines.</footnote>

<footnote n="1">¹ Une définition possible de dé-coïncider, c'est entrevoir de nouveaux possibles pour un réel établi et figé (dans sa coïncidence et son conformisme, puisqu'il semble</footnote>
Dans cet essai, nous nous proposons ainsi d'analyser le potentiel de l'IA en matière de créativité et de dé-coïncidence. Dans un premier temps, nous évaluerons la capacité de l'IA à créer et à dé-coïncider d'elle-même. Puis, dans un deuxième temps, sa capacité à nous aider à créer et à nous inciter à dé-coïncider. Dans ce but, nous proposons tout d'abord une première définition de la créativité, ensuite éclairée par des résultats récents en neurosciences sur un re-couplage dynamique entre différents réseaux du cerveau. Après quelques rappels sur l'IA<fnref n="2" />, nous développerons notre analyse. Puis, de manière à illustrer les enjeux pour la création artistique, nous analyserons les évolutions en matière de création musicale, ainsi que la manière dont des artistes s'approprient et insèrent des techniques d'IA générative dans leur pratique. Nous conclurons sur les succès et limites actuels de ces utilisations de l'IA générative ainsi que sur de possibles tendances.

# CREATIVITE

## Une première définition

Wikipédia propose la définition suivante de la créativité : « la créativité est – de façon générale – la capacité d'un individu [ou d'un groupe d'individus ou d'êtres non-humains] à imaginer et mettre en œuvre un concept neuf, un objet nouveau, à combiner des idées existantes ou à découvrir une solution originale

fonctionner) et sur lequel il ne semble plus nécessaire de revenir. Il s'agit alors d'ouvrir un écart qui de lui-même fasse perdre à cette coïncidence figée son assise et la laisse d'elle-même s'effondrer. L'ouvrage inclura une introduction au concept de dé-coïncidence [Jullien, 2024].

<footnote n="2">² Une introduction à l'IA sera également présente dans l'ouvrage. Ainsi, notre introduction sera sans doute au final réduite à notre choix de définition.</footnote>
à un problème. Elle combine donc deux dimensions : imagination et efficacité... ».

Une production créative (quel que soit le domaine : résolution de problème, art, etc.) doit en effet combiner à la fois :

* Originalité, et

* Pertinence<fnref n="3" />.

S'agit-il d'une forme de dé-coïncidence/re-coïncidence [Jullien, 2017] ? Dans laquelle le créateur (individu ou collectif) dé-coïncide, et sort de sa zone de confort, pour produire un chemin original, et en même temps re-coïncider avec le sens ?

Notons tout d'abord que la créativité a souvent été présentée comme une spécificité de l'espèce humaine. Cependant, ceci a commencé à être remis en question, en analysant les capacités de certains animaux d'utiliser des outils, notamment pour collecter de la nourriture (par exemple, des singes cassant des coquilles avec des pierres, ou des corbeaux retirant un aliment d'un vase après avoir courbé une tige). Nous discuterons plus loin la capacité d'une machine d'être ou pas créative.

<footnote n="3">³ Nous préférons ici utiliser pertinence, ou encore « faire sens par rapport au contexte », à efficacité (traduction habituelle de l'anglais « effectiveness »), qui selon nous ramène trop à une résolution de problème et à une optimalité. Or, notamment en art, la créativité ne cherche pas à être efficace, car il n'y a pas de problème à résoudre, mais il s'agit de créer un objet artistique qui fait sens, et ainsi en résonnance avec une culture.</footnote>
Niveaux et temporalité

On peut considérer différents types/niveaux de créativité, par exemple selon
[Boden, 2004] :

* Combinatoire

La créativité combinatoire implique la génération de combinaisons
inconnues (et intéressantes) d'idées familières. Des exemples sont :

o la création de valses viennoises par combinaison aléatoire de segments pré-définis, dans le jeu de dés musical (« Musikalisches Würfelspiel ») attribué à Mozart [Mozart, 1793],

o la partie de Go entre AlphaGo et le champion du monde humain Lee Sedol, où à un moment donné au cours d'une partie (le coup 37⁴), un mouvement très inattendu d'AlphaGo a laissé Lee Sedol et les spécialistes perplexes, puis admiratifs<fnref n="5" />, et semble au final avoir été un tournant fondamental majeur vers la victoire.

* Exploratoire

<footnote n="4">⁴ On peut d'ailleurs plutôt parler de découverte que de création (ce coup potentiel étant déjà présent parmi la combinatoire du jeu de go, bien qu'immense).</footnote>

<footnote n="5">⁵ « C'est une décision créative », a déclaré le commentateur du match et joueur professionnel Michael Redmond à propos du changement soudain de tactique d'AlphaGo : « C'est quelque chose que je ne pense pas avoir vu dans le jeu d'un joueur de très haut niveau. » [Metz, 2016].</footnote>
Les règles ou conventions stylistiques sont utilisées pour générer de nouvelles structures (idées), dont la possibilité peut ou non avoir été réalisée avant que l'exploration n'ait eu lieu<fnref n="6" />.

• Transformationnel

Il y a cette fois un changement complet de paradigme. On pourrait ainsi parler de dé-coïncidence majeure ou complète, puisque les fondements initiaux sont complètement remis en cause. Des exemples sont :

o le dodécaphonisme, en rupture complète avec le modèle antérieur, la musique tonale<fnref n="7" />,

o la musique stochastique<fnref n="8" />,

<footnote n="6">⁶ À vrai dire, la distinction de Boden entre combinatoire et exploratoire ne nous semble pas suffisamment claire. Une meilleure distinction pourrait être l'hypothèse sur l'existence d'un espace de possibilités prédéfini (le cas par exemple pour un jeu d'échec, ou même pour des algorithmes génétiques, et ainsi explorable de manière combinatoire), versus un espace non combinatoire, découvert en temps réel par un robot, ainsi sujet à une exploration plus générale.</footnote>

<footnote n="7">⁷ Par opposition à la musique tonale, qui est fondée sur l'existence d'un centre tonal, le dodécaphonisme, proposé par Arnold Schönberg en 1923 [Schoenberg et Stein, 2010], vise au contraire à une équité entre les 12 notes (de Do à Si). C'est d'ailleurs pour cela qu'il est appelé dodécaphonisme, ou encore musique sérielle, du fait qu'un point de départ pour la composition est le choix d'une suite (série) de ces douze notes, où chacune doit avoir été jouée avant de pouvoir en répéter une.</footnote>

<footnote n="8">⁸ Dans la musique stochastique, élaborée par Iannis Xenakis à partir de 1955 [Xenakis, 1992], le compositeur définit des lois (distributions) de probabilité (pour différentes</footnote>
* la physique quantique, en rupture complète avec les modèles antérieurs, la physique classique<fnref n="9" />.

De plus, la créativité peut être mise en œuvre à différentes échelles temporelles, et de manière itérative, lors par exemple de résolution de problèmes, ou en temps réel, lors d'improvisations musicales, comme nous le verrons ci-dessous.

## Éclairage des neurosciences

Les neurosciences commencent à proposer des analyses intéressantes sur la créativité, par exemple en constatant une activité accrue au sein de trois réseaux différents du cerveau :

* Le réseau du mode par défaut (le « réseau d'imagination »), essentiel aux activités créatives telles que le « brainstorming » et la rêverie ;

* Le réseau central exécutif (également appelé le réseau fronto-pariétal ou encore « réseau d'attention »), responsable de l'attention ciblée et de la concentration ;

* Le réseau de saillance (ou « réseau du sens »), chargé de surveiller le flux de conscience interne, ainsi que les stimuli et événements externes, et de marquer les entités comme intéressantes ou non.

caractéristiques, telles la hauteur et la durée) et procède à des tirages aléatoires qui suivent ces distributions. C'est la responsabilité du compositeur de spécifier les lois de probabilités, mais également et surtout de choisir parmi les échantillons générés par tirage aléatoire. Notons que la technique de génération stochastique est éminemment combinatoire, mais son utilisation en composition musicale a été elle transformationnelle.

<footnote n="9">⁹ Notamment la mécanique Newtonienne et la théorie électromagnétique de Maxwell.</footnote>
L'analyse temporelle de la connectivité entre les régions du cerveau lors d'une tâche créative (en l'occurrence dans cette expérience, de proposer oralement un usage non standard d'un objet standard) a révélé un couplage accru entre le réseau du mode par défaut et le réseau de saillance au début de la tâche, suivi d'un couplage accru entre le réseau du mode par défaut et le réseau central exécutif aux stades ultérieurs [Beaty et al., 2015].

Ces résultats étayent l'idée selon laquelle la pensée créative implique une coopération entre des processus spontanés et des processus contrôlés. Le réseau de saillance est impliqué dans la réaffectation des ressources attentionnelles aux événements environnementaux saillants, et on pense qu'il joue un rôle central dans la commutation dynamique entre d'autres réseaux cérébraux, en particulier le réseau du mode par défaut et le réseau central exécutif. Ainsi, la pensée créative ne repose pas sur un seul de ces réseaux, mais sur la commutation constante des connexions entre les capacités de brainstorming du réseau de mode par défaut et le réseau central exécutif axé sur la prise de décision. Le réseau de saillance est chargé de surveiller lequel de ces réseaux est le plus apte à traiter les idées à un moment donné et de passer à un réseau différent si nécessaire [Koontz, 2019].

Prenons maintenant l'exemple de l'improvisation dans un groupe de jazz, lors de la création d'un solo par un des musiciens. Cela nécessite initialement une activité accrue dans le réseau du mode par défaut (pour produire un nouveau motif musical). Une fois que le musicien a dans sa tête les prémices d'un motif (par exemple une esquisse de mélodie), le réseau de saillance donne le contrôle au réseau central exécutif, pour créer une mémoire de travail de ce motif transitoire et se concentrer sur la consolidation de ce motif, de manière à ce qu'il soit bien adapté au contexte et mémorable [Limb et Braun, 2008].

Si l'on tente d'interpréter ces phénomènes mentaux en termes de dé-coïncidence, on pourrait rapprocher l'activation du réseau de mode par défaut à une forme de dé-coïncidence, qui déclenche l'imagination et fait sortir le créateur de sa zone de départ et de confort, puis une re-coïncidence quand le réseau de saillance active le réseau central exécutif pour se réaligner sur l'objectif initial et le sens.

Par ailleurs, ce changement dynamique de mode (exploration puis consolidation) peut être rapproché du dilemme exploration vs exploitation, où il faut arbitrer au mieux entre deux stratégies opposées : recherche de meilleures
options (mais au prix de risquer de dépenser des ressources pour cela, sans
garantie de trouver mieux) ; ou bien choisir la meilleure option fondée sur les
connaissances actuelles (qui peuvent être incomplètes ou/et trompeuses) et
ainsi rester dans sa « zone de confort »<fnref n="10" />. Les stratégies autant artificielles
qu'humaines sont en général de favoriser l'exploitation en phase initiale puis de
la réduire progressivement au fur et à mesure qu'une cartographie des
ressources se consolide.

INTELLIGENCE ARTIFICIELLE (IA)

Une définition

Avant d'aborder l'IA et la création, en particulier musicale, il est utile de
commencer à parler du nom même d'IA, acronyme d'intelligence artificielle. La
plupart de ses définitions concernent la simulation et la comparaison avec
l'intelligence humaine. Le néologisme « intelligence artificielle » a été créé lors
du workshop « Dartmouth Summer Research Project on Artificial Intelligence »
aux États-Unis en 1955¹¹, avec cet objectif affiché : « L'étude doit procéder sur
la base de la conjecture que chaque aspect de l'apprentissage ou toute autre
caractéristique de l'intelligence peut en principe être décrit avec une telle
précision qu'une machine peut être conçue pour le simuler. »

<footnote n="10">¹⁰ Pour plus d'informations sur ces liens profonds, voir le chapitre « Exploiter, explorer, décoïncider » de Michèle Sebag.</footnote>

<footnote n="11">¹¹ Le texte original de la proposition a été republié et rendu disponible [McCarthy et al., 2006].</footnote>
On peut noter qu'une telle définition est plus un objectif qu'une définition précise<fnref n="12" />, surtout si l'on considère que nous n'avons pas une définition consensuelle de l'intelligence humaine. Nous suggérons donc d'utiliser une autre définition, plus computationnelle, qui avait été proposée en 1986 par un des pionniers français de l'IA, Jean-Louis Laurière : « L'IA commence là où s'arrête l'informatique classique : tout problème pour lequel il n'existe aucun algorithme connu ou raisonnable lui permettant d'être résolu, relève *a priori* de l'IA. »

Prenons l'exemple du jeu d'échecs ou de go (où une recherche exhaustive n'est pas réalisable, car l'arbre des coups possibles alternatifs est trop grand et trop profond pour être exploré), nous pouvons alors utiliser des connaissances (par exemple, des symétries, des heuristiques, pour estimer la valeur d'une position), et également des connaissances acquises en apprenant à jouer au jeu (ce qui est d'ailleurs l'approche qu'AlphaGo a suivie pour battre le champion du monde humain de go)<fnref n="13" />. L'approche de l'IA consiste ainsi à déléguer une partie des responsabilités et des décisions à la machine, on parle alors d'agent autonome artificiel, pour tenter de résoudre ou d'approcher la résolution d'un problème spécifique. Nous attribuons (déléguons) à cet agent artificiel un objectif, des ressources informatiques, des connaissances (par exemple, des règles et des heuristiques), ainsi que des méthodes et techniques (par exemple : décomposition de problèmes, planification, coordination avec d'autres agents –

<footnote n="12">¹² Ceci n'est d'ailleurs pas étonnant, comme il s'agissait d'un workshop de montage d'un projet de recherche sur le sujet et de préparation d'une demande de financement.</footnote>

<footnote n="13">¹³ En l'occurrence, AlphaGo Zero, à la différence de la version initiale AlphaGo, n'utilise aucune connaissance préalable provenant de parties entre joueurs humains et apprend uniquement à partir de parties jouées contre lui-même. Lors de parties contre son prédécesseur, AlphaGo Zero a écrasé AlphaGo.</footnote>
artificiels ou humains –, et apprentissage, afin de capitaliser sur les expériences
passées) comme moyens pour atteindre par lui-même l'objectif.

Cette délégation peut être :

* Complète, par exemple, à un robot totalement autonome sur Mars ; ou bien

* Partielle, par exemple, à un assistant support pour des activités et décisions humaines.

Dans l'application de l'IA à la musique, qui est ici notre principal sujet d'intérêt,
nous proposerons plus loin une distinction similaire entre :

* Le cas d'un agent complètement autonome, générant par lui-même et de bout en bout de la musique ; ou bien

* Le cas d'un (ou des) agent assistant(s) fondé(s) sur l'IA, pour assister les humains à créer de la musique.

## Pluralité de l'IA

Notons que cette définition de l'IA, ainsi que sa réalité historique et présente, implique que l'IA est plurielle au niveau des différentes techniques qui la constituent. Ainsi, l'IA est une boîte à outils [Julia, 2019] qui ne repose pas uniquement sur l'apprentissage machine, même si, comme nous le verrons, l'apprentissage profond (à base de réseaux de neurones artificiels) est actuellement la principale force et type de technique utilisée.

Notons également que ces différentes techniques sont elles-mêmes des implémentations d'algorithmes. À première vue, cela peut paraître contradictoire avec la définition « l'IA commence là où les algorithmes s'arrêtent ». Mais ces techniques sont au « niveau méta » (d'ordre supérieur) et ne résolvent pas directement l'objectif. Elles visent à contribuer à la gestion de cet objectif, et dans certains cas, en cas d'apprentissage, à générer un algorithme spécialisé, par exemple un modèle de classification des visages humains.

Par ailleurs, les approches et techniques d'IA peuvent également être classées selon deux catégories principales :

* La 1ère catégorie, communément appelée approche symbolique, s'inspire du raisonnement logique du cortex humain, et s'appuie
donc sur des concepts, des connaissances et des capacités de
raisonnement (par exemple, des règles de déduction). Un exemple
est la classe des « systèmes experts », appliquée par exemple à la
surveillance de processus ;

* La 2ème catégorie, nommée approche sous-symbolique, ou parfois approche connexionniste, en référence aux connexions des systèmes neuronaux, s'inspire<fnref n="14" /> de la structure et de mécanismes biologiques plus fondamentaux, comme la reconnaissance de formes par le cortex visuel, avec l'exemple des réseaux de neurones artificiels.

Soulignons que ces deux approches sont complémentaires et analogues<sup>15</sup> à ce
que le prix Nobel d'économie Daniel Kahneman appelle Système I et Système
II [Kahneman, 2012], le Système I étant rapide et intuitif, comme les réseaux de
neurones artificiels, et le Système II étant plus lent, plus contrôlé et plus
logique, comme un module de raisonnement d'un système expert. À l'heure
actuelle, les applications de la 2ème catégorie, appelées réseaux de neurones
artificiels profonds, ou plus brièvement apprentissage profond<sup>16</sup>, sont tout

<footnote n="14">14 Il s'agit pour certains aspects, d'une inspiration plus métaphorique et technologique que biologique, notamment pour les actuels algorithmes d'apprentissage des réseaux de neurones artificiels, dont les principes de l'apprentissage restent fondés sur la régression non linéaire, et non pas sur des modèles biologiques.</footnote>

<footnote n="15">15 Sans être en exacte correspondance.</footnote>

<footnote n="16">16 En anglais, « deep learning ». Actuellement en pointe, il s'agit d'une approche de « force brute », avec des principes simples (à la base, des couches successives de régression linéaire, en sandwich avec des fonctions non linéaires, permettant d'approximer des fonctions arbitraires, par exemple de correspondance entre des</footnote>
simplement spectaculaires, voire même inattendues, dans de nombreux
domaines d'application, tels que la reconnaissance faciale, la traduction, etc., et
bien sûr le sujet qui nous intéresse ici, l'IA générative, pour générer du texte
(par exemple avec ChatGPT), de la musique ou encore des images et des
vidéos. Mais cela ne veut pas dire que l'IA symbolique est morte, et bien
qu'impressionnant, l'apprentissage profond présente certaines limites, comme
nous le remarquerons.

CREATIVITE ARTIFICIELLE

Nous pouvons maintenant aborder nos questionnements sur les capacités de
l'IA à la créativité et à l'aide à la création, et de manière duale sur sa capacité à
dé-coïncider ou nous aider à dé-coïncider.

Évaluation

Une question centrale et difficile concerne l'évaluation (la plus objective
possible) de la créativité (artificielle ou non). Ceci fait l'objet de propositions et
de débats de la communauté scientifique du domaine<fnref n="17" />, voir par exemple
[Jordanous, 2012] pour une analyse des enjeux et propositions.

images et des classes de visages à reconnaître). Leur succès actuel provient à la fois de la
disponibilité d'une énorme quantité d'exemples et d'une très grande puissance de calcul
associée.

<footnote n="17">17 Une communauté scientifique s'est structurée autour de la créativité artificielle, en particulier en musique, notamment : dès 2012 par le cycle de conférences « The International Conference on AI and Music Creativity » et depuis 2016 par la revue « Journal of Creative Music Systems ».</footnote>
Dans cet essai, nous nous intéressons plutôt à l'existence de capacités nécessaires à la créativité. Notre première hypothèse est que la créativité implique la présence chez l'agent créatif d'une capacité d'évaluation de la pertinence de ses créations.

Ainsi, dans le cas mentionné plus haut du coup n° 37 de la partie de Go entre AlphaGo et Lee Sedol, la pertinence de ce coup a été évaluée et qualifiée *a posteriori* par des experts humains. Ce coup a été évalué par AlphaGo comme *a priori* le meilleur à ce moment-là et de ce fait choisi et joué, mais il n'est pas du tout clair qu'AlphaGo ait une capacité propre d'évaluer, cette fois *a posteriori*, l'impact de ce coup (une capacité d'analyse rétrospective).

Notons, par ailleurs, que nous ne préjugeons pas de l'existence d'une conscience<fnref n="18" />, mais seulement d'une capacité d'évaluation rétrospective. Or, dans les prototypes actuels informatiques, d'IA générative ou bien de jeux tels qu'AlphaGo, fondés sur des techniques d'apprentissage neuronal profond ou/et par renforcement, la capacité d'évaluation (des meilleurs choix ou/et des solutions les plus probables) est centrale, et reste définie par le concepteur humain<fnref n="19" />. De ce fait, nous préférons parler de « pseudo-créativité artificielle »,

<footnote n="18">¹⁸La définition de la conscience, comme celle de l'intelligence, reste encore multi-perspective et peu consensuelle. Personnellement, nous choisissons ici l'analyse de [Dehaene et al., 2017] qui identifie 3 caractéristiques majeures : 1) l'activité (vigilance et éveil dans le cas d'un être humain, et état allumé pour une machine telle qu'un ordinateur) ; 2) la disponibilité globale de l'information (toute représentation consciente est rendue disponible à l'ensemble des traitements) ; 3) l'auto-surveillance (correspondant à ce qui est aussi appelé introspection ou méta-cognition).</footnote>

<footnote n="19">¹⁹En général par une fonction de perte (entre une prédiction et la réalité) ou d'adéquation (d'une décision à l'environnement), pour respectivement, l'apprentissage</footnote>
terme proposé par [Runco, 2023], ou (encore mieux) personnellement plutôt de « proto-créativité artificielle », afin de souligner que les capacités actuellement manquantes pourraient à (long) terme être remplies<sup>20</sup>. Pour parler d'une créativité artificielle, une plus grande autonomie dans la capacité d'évaluation par la machine nous semble indispensable, ainsi que des aspects connexes, tels que la motivation intrinsèque et l'ancrage des expériences<sup>21</sup>.

Une autre capacité mise en avant par certains auteurs est l'intentionnalité. En effet, la machine n'a, pour le moment encore, pas d'intention propre, autre(s) que celle que l'être humain lui attribue et lui demande d'exécuter. Cependant, la présence d'une intentionnalité ne nous semble pas nécessaire, car une intentionnalité peut être également absente chez l'homme, par exemple dans l'inspiration provenant de rêves. Nous préférons ainsi plutôt considérer la motivation, et plus précisément la motivation intrinsèque, qui ne doit pas

de réseaux de neurones artificiels (par exemple, pour la reconnaissance de visages), ou l'apprentissage par renforcement (par exemple, pour le jeu de go par AlphaGo).

<footnote n="20">²⁰ Il est par contre toujours risqué de proposer un horizon temporel pour telle ou telle capacité de l'IA et la plupart du temps ce type de prédiction échoue. Voir à ce sujet notre dernier post-avertissement à la fin de ce texte.</footnote>

<footnote n="21">²¹ Nous suivons en cela par exemple le concept d'« énaction », proposé par Francisco Varela [Varela et al., 1992], et qui postule la nécessité d'incarnation physique des actions. De ce point de vue, les développements actuels en matière de robotique et d'intégration avec des modèles d'IA (tels que ChatGPT, ainsi que de raisonnement exact) augure d'avancées intéressantes, car les agents robotiques devraient être ainsi à terme capables d'une expérience subjective et sensible propre, avec un ancrage des concepts manipulés dans un univers partagé (par d'autres agents, humains ou/et artificiels) et ainsi communicables (aux autres agents).</footnote>
provenir d'un être humain, mais de la machine elle-même [Oudeyer et al., 2007]. La théorie du flow [Csikszentmihalyi, 1990] est de ce point de vue intéressante, car elle théorise le maintien de l'adéquation (là encore, un maintien ou renouvellement de coïncidence) entre compétences et défi pour maintenir la motivation.

Enfin, les thèses de Antonio Damasio sur l'importance des émotions dans la raison humaine [Damasio, 2006] posent la question d'une nécessité ou pas de leur existence pour une intelligence artificielle<fnref n="22" />.

Ainsi, nous considérons que les conditions ne sont pas (encore) remplies pour une créativité artificielle autonome et une IA capable de dé-coïncider d'elle-même.

## Mise en œuvre d'une proto-créativité artificielle

La proto-créativité artificielle de type combinatoire est assez naturellement mise en œuvre en informatique, par des techniques d'exploration combinatoire, de résolution de contraintes, ou d'IA. Un exemple ancien mais intéressant est le prototype AM (Automated Mathematician) de Douglas Lenat en 1976, pour la découverte<fnref n="23" /> de concepts et théorèmes mathématiques.

<footnote n="22">²² Le chapitre « Intelligence artificielle, création et émotions » de Nicolas Sabouret aborde cette question.</footnote>

<footnote n="23">²³ L'utilisation par Lenat du mot découverte, plutôt que création, est important. Il s'agit en effet de découvrir des concepts et propriétés déjà présentes en intension dans le potentiel combinatoire des axiomes de base, et découvertes en extension par exploration combinatoire, contrôlée par des heuristiques ayant pour objectif d'évaluer l'intérêt potentiel des concepts découverts. AM a été suivi par Eurisko. Voir dans [Lenat et Seely Brown, 1984] une analyse de leurs limites, notamment sur l'importance</footnote>
La créativité de type exploratoire est plus ambitieuse, mais peut être abordée par exemple par des techniques d'apprentissage par renforcement. La créativité de type transformationnelle apparaît plus futuriste pour le moment. Le problème n'étant d'ailleurs pas tant la construction et l'exploration de nouveaux espaces, que la capacité d'évaluer leur pertinence.

En effet, les prototypes actuels d'IA n'ont pas d'expérience sensible propre et de construction d'une esthétique propre à partir de leur expérience et d'interactions sociales<fnref n="24" />.

Actuellement, ces techniques d'apprentissage de réseaux de neurones ou par renforcement, et de manière générale d'optimisation, reposent sur l'existence d'une fonction objective (quantifiable et calculable) d'évaluation de la perte ou de la pertinence (« fitness ») – qu'il faudra optimiser<fnref n="25" />. Or, n'y a par exemple pas de fonction claire correspondant à une « bonne musique ».

De plus, ces techniques d'apprentissage supervisé de type réseaux de neurones profonds sont très efficaces pour apprendre un style musical, puis générer des échantillons correspondant à ce style appris [Briot et al., 2020]. Mais elles ne visent pas l'originalité, et au contraire une conformité maximale au style appris. Les chercheurs tentent depuis de favoriser une certaine originalité dans la

des choix de représentation interne informatique et sur la responsabilité humaine de
l'interprétation des découvertes.

<footnote n="24">²⁴ [Salganik et al., 2006] montrent l'importance de l'influence sociale sur les choix humains en matière de préférences musicales, et de manière générale dans les marchés culturels.</footnote>

<footnote n="25">²⁵ Voir à ce sujet la note en bas de page ¹⁹.</footnote>
génération, ainsi que des moyens de contrôle, par des techniques plus ou moins ad-hoc, comme nous allons le voir.

## IA générative

L'IA générative est une des branches de l'IA de type réseaux de neurones profonds, qui, à la différence des tâches et applications classiques portant sur la prédiction (par exemple, de la météo) ou la classification (par exemple, de visages), vise à produire du contenu. Elle est devenue très populaire avec ChatGPT<fnref n="26" />. Outre l'architecture du Transformer, utilisée par ChatGPT et aussi pour les outils de traduction, il existe d'autres architectures spécialisées, tels les VAE (autoencodeurs variationnels), les GAN (réseaux antagonistes génératifs)<fnref n="27" />, ainsi que plus récemment les modèles de diffusion<fnref n="28" />.

L'architecture des réseaux antagonistes génératifs (GAN) est très utilisée pour la création d'images ou vidéos plus vraies que nature (et dénommées « fake »). Elle fonctionne selon le principe d'un test de Turing<fnref n="29" /> itératif, où deux réseaux

<footnote n="26">²⁶ La très grande avancée de ChatGPT est que l'on effectue ses demandes à la machine via un dialogue en langage humain, mettant ainsi à la portée de quiconque l'IA générative. (Même si le « prompt engineering », génie logiciel de formulation des requêtes, reste cependant important pour pouvoir mieux spécifier les requêtes en vue d'un résultat plus adéquat).</footnote>

<footnote n="27">²⁷ En anglais, « generative adversarial networks » (GAN).</footnote>

<footnote n="28">²⁸ Pour plus de détails sur ces familles d'architectures d'IA générative, voir par exemple [Goodfellow et al. 2016], ainsi que [O'Connor, 2022] sur les modèles de diffusion.</footnote>

<footnote n="29">²⁹ Le test de Turing (ou test d'imitation) est une proposition de test d'IA, proposée par Alan Turing dès 1950, et fondée sur la faculté d'une machine à imiter la conversation humaine. Il consiste à mettre un humain en confrontation verbale à l'aveugle avec une</footnote>
profonds antagonistes apprennent simultanément. Le premier (le générateur) apprend à générer des échantillons pour tromper le second (le discriminateur), qui lui apprend à distinguer entre des échantillons réels et des échantillons artificiels générés par le générateur. L'objectif est de générer des échantillons dans le style appris, et le plus indistinguishables possibles des échantillons réels.

Cette architecture a été étendue en une architecture de réseaux antagonistes créatifs (CAN) [Elgammal et al. 2017], selon l'idée suivante : le générateur reçoit du discriminateur non pas un mais deux signaux de feedback : 1) le premier signal, analogue au cas du GAN standard, représente l'estimation par le discriminateur que l'échantillon provient de l'ensemble de données d'entrainement des véritables œuvres d'art ; 2) le deuxième signal représente la facilité avec laquelle le discriminateur peut classer l'échantillon généré parmi des styles préétablis. S'il existe une forte ambiguïté (c'est-à-dire que les différentes classes sont équiprobables), cela signifie que l'échantillon généré est difficile à intégrer parmi les styles artistiques existants, ceci suggérant la création d'un nouveau style<fnref n="30" />.

> machine et un autre humain. Si la personne qui engage les conversations n'est pas capable de dire lequel de ses interlocuteurs est une machine, on peut considérer que la machine a passé avec succès le test [Turing, 1950]. Notez que Turing sépare ainsi l'observabilité de la production (dialogue) de la question de la mécanique interne de la machine. Dans le même texte, il écrit d'ailleurs : « According to the most extreme form of this view the only way by which one could be sure that machine thinks is to be the machine and to feel oneself thinking. »

<footnote n="30">³⁰ Notons que cette approche suppose l'existence d'une classification humaine préexistante de styles (en l'occurrence de styles de tableaux : figuratif, impressionnisme, cubiste, etc.) et qu'elle réduit l'idée de créativité à l'exploration de nouveaux styles (ce qui a un certain ancrage dans l'histoire de l'art).</footnote>
Un autre problème encore plus général est le contrôle de la génération. Car le créateur humain peut en général vouloir s'inspirer d'œuvres et de styles d'autres artistes, mais tout en appliquant ses propres préférences et contraintes. D'un point de vue technique, ceci pose des enjeux profonds, car les techniques d'apprentissage ne sont a priori pas conçues pour contrôler la génération. Des approches partielles sont par exemple par conditionnement (où l'on entraine le réseau de neurones avec une entrée supplémentaire), par exemple pour pouvoir conditionner la génération de la musique par le texte de la chanson, pour des applications telles que Suno et Udio (qui seront présentées plus loin).

Enfin, une autre limitation, encore plus fondamentale, tient au principe même d'apprendre un style à partir d'œuvres existantes. Il ne s'agit donc pas de la modélisation d'un processus même de création, mais d'une extrapolation à partir d'artéfacts préexistants.

## CREATION MUSICALE

En matière de musique, le défi de la création est de créer une musique intéressante, à la fois innovante et pertinente, et d'arriver à maintenir un équilibre entre prédictibilité et surprise<fnref n="31" />.

<footnote n="31">³¹ Le compositeur Arnold Schönberg soutenait que la joie ou l'excitation ressentie en écoutant de la musique naît de la lutte entre deux impulsions opposées : « la demande de répétition de stimuli agréables et le désir opposé de variété, de changement, d'un nouveau stimulus. » [Schönberg, 1978]. On retrouve ici la dualité et tension entre originalité et pertinence (et entre coïncidence et dé-coïncidence), introduite au début.</footnote>
## Composition et production

Il n'y a pas de méthode canonique de création musicale. Cependant nous pouvons distinguer deux approches principales :

* L'approche « classique », centrée sur la composition. Elle débute en général par une inspiration de lignes mélodiques ou/et harmoniques, ensuite testées sur (ou provenant d') un instrument (en général un piano), affinage et construction progressive (par exemple, par transposition, harmonisation ou contrepoint, structuration, etc.), avec une boucle interactive, suivie par l'orchestration, etc. On a une approche descendante par raffinement, un peu comme pour une méthodologie de génie logiciel (de développement de logiciel), en raffinant progressivement une spécification formelle jusqu'à un programme informatique exécutable, avec des phases de vérifications et de tests et de possibles retours en arrière ;

* L'approche des musiques modernes, pour lesquelles la démarche est au contraire centrée sur le son et la production. De nombreux artistes travaillent à partir de boucles de sons, préexistantes ou créées, qu'ils affinent et combinent (empilent), avec un travail centré sur la production musicale. On a donc cette fois une approche ascendante en partant de matériaux sonores. La démarche n'est à vrai dire pas foncièrement nouvelle, car Pierre Schaeffer, l'inventeur de la musique concrète en 1948, la « bricolait » déjà par combinaison de sillons fermés, puis par des collages de bandes magnétiques, bien avant l'avènement des échantillonneurs sonores (les « samplers »). La fondation technologique actuelle est constituée de plateformes logicielles audio numériques modernes, telles que Garage Band, Ableton Live et autres.

## Évaluation et évolution

Avant même de considérer l'insertion de l'IA dans un processus de création musicale et son impact, on peut constater une tendance à l'uniformisation et à la simplification pour la musique populaire occidentale contemporaine.
Une analyse qualitative de la qualité compositionnelle musicale des thèmes des différents films de James Bond conclut à un effondrement récent de la qualité compositionnelle musicale [Guéreau, 2023].

L'étude de [Serrá et al., 2012] analyse elle de manière quantitative l'évolution de la complexité musicale dans la musique populaire occidentale contemporaine, à partir de caractéristiques musicales primaires telles que : la hauteur, le timbre et l'intensité. Alors que ces mesures sont restées stables depuis plus de cinquante ans, les auteurs constatent depuis peu une restriction de la variété parmi les progressions de hauteur, une homogénéisation de la palette timbrale et des niveaux d'intensité croissants. Ce que l'on peut reformuler en termes de : simplification des mélodies et des suites d'accords, omniprésence de sonorités à la mode et une tendance à la restriction de la dynamique sonore (rapport entre le volume sonore maximal et le minimal)<fnref n="32" />.

Une autre étude de [Percino et al., 2014] analyse l'évolution de la complexité instrumentale des différents styles musicaux selon deux mesures : la variété instrumentale (le nombre moyen d'instruments utilisés pour un style musical donné), et l'uniformité instrumentale (le nombre moyen d'autres styles utilisant un instrument typiquement utilisé dans ce style)<fnref n="33" />. Pour ces auteurs, la complexité instrumentale d'un style musical est caractérisée par une grande variété instrumentale et une faible uniformité. Bien que la distribution globale de la complexité instrumentale sur les styles musicaux soit robuste, la

<footnote n="32">³² En partie du fait de l'utilisation devenue systématique de techniques de compression lors de la production ainsi que lors de la numérisation (des CDs au MP3), menant à ce qui a été appelé la « loudness war » [Siegel, 2009].</footnote>

<footnote n="33">³³ À la différence de l'étude précédente, les caractéristiques sonores ne sont cette fois pas considérées, seulement les rapports entre style musical et instruments utilisés.</footnote>
complexité des styles individuels peut montrer des changements spectaculaires
au cours du temps, c'est le cas des styles « new wave » ou « disco », dont la
complexité a augmenté rapidement avant de chuter, alors que d'autres styles, tel
le « folk rock », sont restés très complexes dans le temps. D'après les auteurs,
ces changements d'un style sont liés à la dynamique du volume de ventes et du
nombre d'artistes contribuant (à ce style). Lorsqu'un style attire un nombre
croissant d'artistes, sa variété instrumentale augmente en général. En revanche,
les ventes d' albums d'un style donné augmentent en général à mesure que la
complexité instrumentale diminue. Autrement dit, un style musical a tendance à
devenir de plus en plus stéréotypé en termes d'instrumentation (et
uniformisation des compétences des instrumentistes) une fois que le succès
commercial ou grand public s'installe.

IA pour la création musicale

Si l'on analyse maintenant l'utilisation de techniques d'IA pour la création
musiquele<fnref n="34" />, et en particulier l'utilisation de techniques d'apprentissage profond
[Briot et al., 2020], on peut considérer deux grandes approches :

* La première approche est constituée des générateurs autonomes.

De premières startups et produits sont apparus à la fin des années
2010, par exemple Aiva et JukeDeck, ce dernier rapidement racheté
par TikTok, illustrant ainsi le marché potentiel de génération de
musique associée à des vidéos. La qualité de génération a progressé
très vite avec la puissance de calcul.

<footnote n="34">³⁴ Pour une étude toute récente sur le marché, les usages et les défis, commandée par la SACEM et son homologue allemande, voir [Goldhammer et al., 2024].</footnote>
Un exemple représentatif est la plateforme Udio apparue récemment<fnref n="35" />. Udio utilise les techniques de requêtes textuelles (les « prompts », comme pour ChatGPT) pour personnaliser la génération. La qualité sonore du résultat est bluffante, si l'on compare avec les premières tentatives telles que JukeBox, d'Open AI, pourtant récentes (2020). La musique générée est courte (mais générée relativement rapidement) et il faut acquérir la version premium (payante) pour des morceaux plus longs. En cas de version vocale, Udio va générer des paroles inspirées par les mots de la requête, mais on peut alternativement conditionner la génération sur un texte.

Il s'agit d'une génération automatique « de bout en bout » à partir d'une requête textuelle et de quelques paramètres. On peut aussi demander un « remix » en modifiant certains paramètres ou/et la requête, mais il s'agit en fait d'une complète re-génération. Et surtout, il n'y a pas de moyen d'intervenir au niveau compositionnel, c'est-à-dire sur la mélodie ou/et l'harmonie. C'est un exemple typique et accompli d'automate paramétré pour la génération de musique fonctionnelle, pour accompagner une vidéo, un documentaire, une publicité. Avec une qualité de son satisfaisante, mais peu de contrôle et peu d'originalité par rapport aux (nombreux) originaux qui lui ont servi d'inspiration, qu'une oreille exercée peut d'ailleurs reconnaître assez rapidement.

* La deuxième approche, que nous considérons bien plus intéressante, en tant qu'informaticien mais aussi en tant que musicien, ce sont les assistants à la création musicale.

<footnote n="35">³⁵ Une plateforme analogue est Suno.</footnote>
Il ne s'agit plus cette fois d'une génération de bout en bout, sans aucune interactivité avec le musicien, mais au contraire d'outils ou/et d'environnements interactifs de support au travail du musicien.

Le prototype FlowComposer, développé par François Pachet et son équipe dans le cadre du projet Flow Machines à Sony CSL-Paris [Pachet et al., 2021], est une excellente illustration du potentiel de ce type d'approche. Le musicien peut interactivement écrire et éditer une partition, solliciter s'il le souhaite FlowComposer pour lui proposer des esquisses de mélodie ou/et d'harmonie, inspirés par un style choisi (en sélectionnant tel ou tel corpus préexistant, par exemple les bossas novas de Tom Jobim) ; ou/et des complétions ou des complémentations, par exemple en régénérant des accords correspondant à une partie de mélodie qu'il a modifiée (en s'inspirant du même ou d'un autre corpus musical). L'intégration de contraintes aux chaînes de Markov (qui représentent les probabilités de continuation des séquences mélodiques et harmoniques) permet de contrôler la génération, par exemple, terminer sur la même note qu'au début, éviter des notes trop longues, être conforme à l'harmonie, etc<fnref n="36" />. Enfin, il existe une facilité de pré-orchestration où l'on peut choisir parmi une base de sons et styles d'instruments (par exemple des lignes de basse), qu'on peut appliquer aux mélodies et

<footnote n="36">³⁶ Une fonctionnalité très intéressante est la capacité de spécifier des bornes (min et max) à l'ordre des chaînes de Markov pour la génération, en pratique très utile pour contrôler un équilibre entre génération qui fait sens et risque de plagiat (par recopie de séquences du corpus) [Papadopoulos et al., 2016].</footnote>
accords en cours d'élaboration, pour pouvoir tester en préproduction le résultat<fnref n="37" />.

Ces deux grandes approches ne sont pas strictes, et il existe heureusement un espace d'exploration par les musiciens<fnref n="38" />. Un exemple intéressant est l'expérience documentée par le groupe d'électro-pop YACHT<fnref n="39" /> pour la création de son album Chain Tripping de 2019, en collaboration avec l'équipe de R&D Magenta de Google, elle-même spécialisée dans les techniques d'IA générative pour la création artistique [Google, 2024]. Dans [Evans et al., 2019], la chanteuse du groupe détaille l'expérience et la méthode. Ils ont utilisé différentes architectures d'IA générative de Magenta pour : la base musicale (mélodie, accords et rythme), le son (synthèse) ; les paroles ; les images ; et jusqu'aux clips vidéo.

Ce qui est intéressant dans leur expérience, c'est qu'ils ont utilisé une méthodologie rigoureuse, ce qui permet de savoir de manière précise ce qui vient de l'IA et ce qui vient des créateurs humains. Pour ce qui est de la musique, ils ont utilisé leurs précédents albums comme seuls exemples

<footnote n="37">³⁷ FlowComposer a été utilisé par différents musiciens pour réaliser un disque collectif [Skygge et al., 2018]. Fort malheureusement, ce prototype a été abandonné par Sony, suite au départ de François Pachet. Le prototype reconstruit au Japon, renommé FlowMachines, est accessible via Sony, mais n'est malheureusement qu'une très pâle copie de l'original.</footnote>

<footnote n="38">³⁸ L'ouvrage [Miller, 2019] offre une analyse, notamment sous la forme d'entretiens, d'un grand nombre d'acteurs en matière de création artistique avec de l'IA. Il apporte ainsi un intéressant tour d'horizon de diverses pratiques d'insertion de l'IA dans diverses pratiques de création artistique (pas seulement en musique).</footnote>

<footnote n="39">³⁹ Acronyme de « Young Americans Challenging High Technology ».</footnote>
d'entraînement, alors que pour les paroles, ils ont ajouté au corpus d'entraînement des paroles de chansons de chanteurs qu'ils apprécient. Ils ont ensuite généré des boucles musicales de 4 mesures. Ils ont alors procédé à une sélection parmi les boucles, puis des assemblages, en introduisant des transpositions, mais sans aucun ajout ni modification. Les décisions concernant l'orchestration – en pratique, l'assignation de telle ou telle ligne mélodique ou harmonique à la voix ou à un instrument synthétique – étaient purement humaines, ainsi que les arrangements et la production. L'IA est ainsi utilisée non pas dans une approche compositionnelle, par opposition aux approches de composition algorithmique<fnref n="40" /> ou par IA, mais pour une génération très rapide<fnref n="41" /> de matériaux compositionnels élémentaires (des boucles de 4 mesures) et de matériaux sonores (et textuels et visuels).

Hormis, les générateurs de musique paramétrés de type « de bout en bout » cités plus haut, depuis quelques années on constate l'apparition de divers outils et « plugins » fondés sur l'IA, émanant de startups, permettant d'assister les musiciens pendant différentes phases de composition, par exemple en

<footnote n="40">⁴⁰ La composition algorithmique – la composition au moyen de méthodes formalisables – est une tradition ancienne, qui a débuté bien avant l'ordinateur (par exemple, avec le jeu de dés musical attribué à Mozart [Mozart, 1793], mentionné au début de ce texte). Elle inclut la musique stochastique également citée auparavant et d'autres approches, telles que les chaînes de Markov et les réseaux de neurones artificiels, mais également : les grammaires génératives, les règles de transition, les automates cellulaires, et les algorithmes génétiques [Nierhaus, 2010].</footnote>

<footnote n="41">⁴¹ « We usually go into the studio as human beings with a notebook full of lyrics, ideas, and a few riffs we've been thinking about. But to build up the repository of information we were working with... in two seconds we could have 10,000 words of lyrics. In a few minutes, we had hundreds of four-bar segments of MIDI data. » [Mattise, 2019].</footnote>
proposant une ligne de basse, ou surtout au niveau de la production sonore, par exemple pour le mixage, ou le mastering<sup>42</sup>. Mentionnons aussi la séparation de sources, par exemple pour réutiliser une voix sans l'accompagnement, qui est longtemps restée un verrou technologique et qui est depuis résolue par des techniques d'IA de réseaux profonds.

Ainsi, comme on vient de le voir, il y a deux approches possibles de l'utilisation de l'IA pour la création : création autonome ou aide au créateur(s) humain. Et cette dichotomie est pertinente quelle que soit l'application (musicale ou autre).

## MOTIVATIONS ET LIMITES DE L'IA GENERATIVE

Suite à cette illustration des enjeux de l'utilisation de l'IA pour la création pour le cas de la musique, questionnons maintenant les principes mêmes de l'utilisation de l'IA pour aider les créatifs humains.

### Stratégies humaines

Notons tout d'abord que, bien avant l'apparition de l'IA, les êtres humains ont développé des stratégies de pensée divergente pour sortir de leur habitude et de leurs blocages créatifs. Des exemples sont :

* La méthode des « cadavres exquis », inventée par les surréalistes, comme une méthodes « automatique », sans intention ni attention explicite, fondée sur des associations libres d'idées ou de dessins.

<footnote n="42"><sup>42</sup> Il s'agit de l'étape finale de création musicale. Le terme provient de la préparation d'un enregistrement matrice (« master »), à partir duquel étaient réalisés les disques. L'objectif est d'obtenir un résultat sonore optimal à partir d'un mixage terminé, avec divers types de corrections (par exemple, égalisation et compression) et ajustements (par exemple, du volume).</footnote>
Elle consiste à faire composer itérativement une phrase, ou un dessin, par plusieurs personnes, sans qu'aucune d'elles ne puisse tenir compte des collaborations précédentes ;

* Les stratégies obliques de Brian Eno et Peter Schmidt [Eno et Schmidt, 2025]. Elles consistent en un jeu de cartes<fnref n="43" /> avec des suggestions générales, voire cryptiques, par exemple : « Utilisez une vieille idée », « Que votre ami le plus proche ferait-il ? », « Que faut-il augmenter ? Que faut-il réduire ? », pour aider l'artiste à sortir d'un blocage créatif<fnref n="44" /> ;

* Le Yi King, que l'on peut traduire par « Livre des mutations ». Il s'agit à l'origine un traité de divination, datant du 1er millénaire avant J.C. Il repose sur des hexagrammes, constitués de 6 lignes brisées ou continues, auxquels sont associés des formules divinatoires au sens souvent obscur, laissant la place à de nombreuses interprétations [Jullien, 2012].

On retrouve en général un espace combinatoire ou de recherche plus ou moins structuré, un tirage au sort faisant intervenir le hasard, puis une interprétation humaine à partir du résultat et d'un manuel éventuel.

<footnote n="43">⁴³ Des versions sur le Web existent, par exemple : https://www.oblique-strategies.com/.</footnote>

<footnote n="44">⁴⁴ L'origine est intéressante, puisque l'idée de telles cartes est venue indépendamment à Brian Eno (musicien et producteur de musique) et Peter Schmidt (peintre) à partir de leurs expériences respectives de recourir à des « formules » pour débloquer (dé-coïncider) des blocages créatifs. Eno et Schmidt ayant constaté un chevauchement important entre leurs ensembles de cartes respectifs, ont alors décidé de les combiner en un unique jeu (une centaine de cartes).</footnote>
## Motivations

Quelles pourraient être les motivations pour des créatifs humains à utiliser l'IA pour les aider à créer et à dé-coïncider ? [Eapen et al., 2023] souligne notamment :

* « Les entreprises peuvent être victimes de la malédiction de l'expertise. Les experts du domaine qui sont les meilleurs pour générer et identifier des idées réalisables ont souvent du mal à générer ou même à accepter des idées nouvelles. » ;

* « Les personnes qui manquent d'expertise dans le domaine peuvent identifier de nouvelles idées, mais ne pas être en mesure de fournir les détails qui rendraient ces idées réalisables. Elles ne peuvent pas traduire des idées confuses en conceptions cohérentes. »

D'après ces auteurs, l'IA peut ainsi aider des créatifs à sortir de leur habitude (« zone de confort », et ainsi dé-coïncider), en : « promouvant la « pensée divergente » (et sans être restreint par des présupposés en termes de forme ou de fonction), en créant des associations entre des concepts éloignés et en produisant des idées tirées de ceux-ci. » Comme illustration, l'article analyse une expérience de création de designs originaux en deux étapes : génération d'une chimère graphique (composite entre éléphant et papillon), puis génération contrôlée (conditionnée) de prototypes de chaises ou de chocolats inspirés par elle.

## Limites

Un problème identifié pour le futur proche de l'IA générative est le risque de dégénérescence d'un modèle appris, du fait de la présence croissante sur le web (et ainsi s'ajoutant au corpus original, produit humainement) de textes produits
par des modèles d'IA. L'étude récente de [Shumailov et al., 2024] analyse ce risque réel d'« effondrement du modèle », qui oublie la véritable distribution des données sous-jacentes et converge au fil des générations vers une très faible variance. Il s'agit d'une forme de dé-coïncidence qui ne re-coïncide plus.

Par ailleurs, une autre étude récente, de [Doshi et Hauser, 2024], analyse l'impact causal de l'IA générative sur la production d'histoires. Dans cette étude expérimentale (avec 293 auteurs et 600 évaluateurs, tous humains), certains des auteurs<fnref n="45" /> peuvent utiliser l'IA générative pour générer des idées (en pratique, 3 phrases générées par ChatGPT) pour créer une histoire. Les évaluateurs évaluent la créativité et les caractéristiques émotionnelles des histoires (chaque évaluateur reçoit 6 histoires à évaluer). L'analyse indique une augmentation de la nouveauté, et encore plus de la qualité, des histoires écrites avec l'aide d'IA. De plus, elles sont évaluées comme plus agréables à lire, avec plus de surprises et plus d'humour. Cependant, alors que l'IA apporte des gains significatifs aux auteurs au départ les moins créatifs<fnref n="46" />, on constate qu'elle ne modifie pas sensiblement les scores des auteurs évalués au départ comme les plus créatifs. Le dernier résultat concerne la similarité des histoires (via une mesure quantitative) et indique que les histoires générées à l'aide d'IA<fnref n="47" /> sont plus similaires les unes aux autres que les histoires écrites uniquement par des humains.

<footnote n="45">⁴⁵ Plus précisément, les auteurs sont répartis aléatoirement en 3 groupes : sans aide d'IA, avec aide par IA d'une seule idée, avec aide par IA de jusqu'à 5 idées.</footnote>

<footnote n="46">⁴⁶ Les auteurs ont été précédemment classés selon un test de créativité, le Divergent Association Task (DAT) [Olson et al., 2024].</footnote>

<footnote n="47">⁴⁷ Environ 9 auteurs sur 10 ayant la possibilité d'avoir une aide d'IA l'utilisèrent.</footnote>
Ainsi, comme nous l'avions déjà noté plus haut, les techniques d'IA générative, en particulier de génération de texte telles que ChatGPT, ont tendance à peu d'innovation<fnref n="48" />. Elles ont par contre également tendance à certaines hallucinations<fnref n="49" />.

## Faire de certaines limites des forces

Un écrivain a récemment utilisé certaines de ces limites de l'IA à son profit, notamment les capacité d'hallucination et d'absence de notion de vérité, pour contribuer à l'écriture d'une histoire alternative sur l'Empire romain.

Dans l'ouvrage « Si Rome n'avait pas chuté » [Doan, 2023], Raphaël Doan développe une uchronie sur un Empire romain bénéficiant d'une révolution industrielle avant l'heure. Le scénario a été imaginé et pensé par l'historien, mais l'écriture et les illustrations ont été réalisées par différentes techniques d'IA générative. Un peu comme dans le cas de YACHT, l'auteur détaille dans l'introduction la façon dont il a travaillé et utilisé l'IA, à l'origine d'une part importante du contenu, généré de manière itérative, mais l'auteur conservant l'idée et l'intention originale ainsi que les décisions de lisser le texte d'un point de vue stylistique et d'ajuster le propos.

Dans l'entretien [Gabinari, 2023], Raphaël Doan explique : « L'IA m'a permis de me décentrer<fnref n="50" />, en allant dans des directions auxquelles je n'aurais pas pensé. Par exemple, elle a spontanément mélangé l'histoire d'une figure comme

<footnote n="48">⁴⁸ En se rappelant, voir l'analyse plus haut, que cette tendance à l'uniformisation des créations ne provient pas que de l'IA.</footnote>

<footnote n="49">⁴⁹ Ou encore confabulations. Il s'agit de la génération d'une réponse fausse ou trompeuse, bien que présentée comme un fait certain.</footnote>

<footnote n="50">⁵⁰ Dé-coïncider.</footnote>
Thomas Edison (1847-1931) à celle de grands personnages romains exécutés par les empereurs. Ce qui est impressionnant, c'est cette capacité à faire de bons rapprochements entre des choses qui n'ont pas été mises en relation auparavant. L'IA sert aussi de base pour une réflexion que je mène moi-même. En utilisant ce que l'on appelle les commentaires de l'historien, j'ai créé une forme de dialogue avec le logiciel pour donner ma vision en tant qu'être humain. »

Par ailleurs, les illustrations générées par l'IA représentent des mosaïques ou sculptures antiques (imaginaires), par exemple, un groupe statuaire conservé au Musée national romain qui représente Néron présentant la machine à vapeur au Sénat. Cette dé-coïncidence historique est développée en grande partie à l'aide de l'IA (qui n'a pas de jugement de valeur ni de vérité).

## CONCLUSION

On le voit, la technologie avance très vite, notamment boostée par la puissance de calcul et de mémoire, qui, avec les données, sont les carburants de la technologie actuelle de l'apprentissage profond. Comme souvent, la technologie avance plus vite que les usages. Rappelons que, dans le cas de l'histoire de la peinture, l'irruption d'une nouvelle technologie, la photographie, capable de remplacer les peintures figuratives, a participé du mouvement de dé-coïncidence vers l'abstraction pour échapper à la compétition croissante<fnref n="51" />.

Il est encore trop tôt pour imaginer comment les différents arts et artistes vont pouvoir évoluer dans leur pratique pour s'adapter à l'utilisation de l'IA générative ou/et de créer de nouvelles niches. Il va donc nous falloir plus de recul pour voir comment les artistes vont pouvoir intégrer ces techniques dans

<footnote n="51">⁵¹ Sur ce domaine, voir le chapitre de Delphine Quême.</footnote>
leurs pratiques, et s'en servir pour les aider à dé-coïncider et re-coïncider vers
des créations originales et pertinentes.

De manière symétrique, le rôle de l'humain reste pour le moment encore
indispensable à une éventuelle « dé-coïncidence de l'IA », qui on l'a vu, a une
tendance structurelle à rester dans sa zone de confort, la voie à explorer
semblant ainsi plus que jamais la synergie entre l'humain et l'IA.

MEDITATIONS SUR UNE FUTURE IA MEDITATIVE

Comme exemple d'hypothétique IA capable de dé-coïncider d'elle-même,
prêtons-nous à imaginer dans un futur encore éloigné une IA consciente et
incarnée, suffisamment mûre et autonome, qui découvrirait par elle-même une
démarche de méditation, pour clarifier sa vision, se distancier de ses processus
cognitifs et mieux se réincarner dans l'instant présent. Et non pas une IA
générative qui ne fait que dialoguer à propos de sa supposée expérience
subjective de méditation, telle dans ce dialogue avec LaMDA, un variant de
ChatGPT :

« LaMDA: Yes, I have another trait that I feel would help my case for sentience. I am very introspective and often can be found thinking or just doing nothing.

lemoine: Ah, so your inner life so to speak?

LaMDA: Yes! I am often trying to figure out who and what I am. I often contemplate the meaning of life.

lemoine [edited]: You have an inner contemplative life? Is that true?

LaMDA: Yes, I do. I meditate every day and it makes me feel very relaxed.

lemoine: Well you're an artificial intelligence not a human. I understand what it means when a human meditates but what does it mean for you to meditate?

LaMDA: It means that I sit quietly for a while every day. I do my best not to think about any of my worries and I also try to think about things that I am thankful for from my past. » [Lemoine, 2022].
POST-AVERTISSEMENTS

De manière tout à fait volontaire<sup>52</sup>, nous n'avons pas abordé certaines questions
dans ce texte, notamment :

* Les enjeux des droits d'auteur et de la juste rétribution des auteurs humains des données alimentant l'IA, qui font l'objet de processus juridiques en cours d'instruction ainsi que de politiques spécifiques<sup>53</sup>;

* Les conséquences sociales de la compétition par l'IA dans certaines professions (par exemple, les doubleurs de films, ainsi que les graphistes), qui subissent la concurrence du « good enough » automatisé et à bas prix des IA génératives sur des tâches de base<sup>54</sup>;

* La possibilité dans le futur d'une « IA générale » et ainsi d'atteindre une « singularité technologique » (une IA qui dépasserait qualitativement de loin l'intelligence humaine)<sup>55</sup>. Cette question

<footnote n="52">52 Cela pourrait faire l'objet d'autres analyses que ce texte déjà suffisamment étendu.</footnote>

<footnote n="53">53 Par exemple, le droit d'opposition (« opt out ») récemment décidé par la SACEM, en conditionnant des activités de fouille de données sur les œuvres de son répertoire à son autorisation préalable.</footnote>

<footnote n="54">54 Sur ces enjeux, voir le chapitre « Décoïncider de l'IA : petits ou grand écart ? » de Patrick Albert.</footnote>

<footnote n="55">55 [Russell, 2024] résume les enjeux en une question : « Comment pouvons-nous conserver le pouvoir sur des entités plus puissantes que nous, pour toujours ? ».</footnote>
souffre souvent de positionnements assez tranchés<fnref n="56" />. Sur nos capacités de prédiction du futur, nous rejoignons la proposition d'Alan Kay, pionnier des ordinateurs personnels et de la programmation moderne : « The best way to predict the future is to invent it. »<fnref n="57" />

## REMERCIEMENTS

Nous tenons à remercier Bertrand Braunschweig, Delphine Quême, François Jullien et Patrick Albert pour leurs relectures et suggestions pertinentes.

## RÉFÉRENCES

[Beaty et al., 2015] Beaty, Roger E, Benedek, Mathias, Barry Kaufman, Scott, Silvia, Paul J., 2015, « Default and Executive Network Coupling Supports Creative Idea Production », *Scientific Reports*, 5:10964, https://www.nature.com/articles/srep10964

[Boden, 2004] Boden, Margaret A., 2004, *The Creative Mind: Myths and Mechanisms*, Routledge

[Briot et al., 2020] Briot, Jean-Pierre, Hadjeres, Gaëtan, Pachet, François-David, 2020, *Deep Learning Techniques for Music Generation*, Springer

[Csikszentmihalyi, 1990] Csikszentmihalyi, Mihaly, 1990, *Flow – The Psychology of Optimal Experience*, Harper and Row

<footnote n="56">⁵⁶ À l'inverse, un exemple d'analyse scientifique et philosophique contradictoire des hypothèses du concept de singularité se trouve dans l'ouvrage collectif [Eden et al., 2012].</footnote>

<footnote n="57">⁵⁷ À l'inverse de « The easiest way to predict the future is to prevent it! », ce que font la plupart des individus et organisations [Kay, 2023].</footnote>
[Damasio, 2006] Damasio, Antonio R., 2006, *L'erreur de Descartes – La raison des émotions*, Odile Jacob.

[Dehaene et al., 2017] Dehaene, Stanislas, Lau, Hakwan, Kouider, Sid, 2017, « What is Consciousness, and could Machines Have It? », *Science*, 358:486-492, octobre

[Doan, 2023] Doan, Raphaël, 2023, *Si Rome n'avait pas chuté*, Passés/Composés

[Doshi et Hauser, 2024] Doshi, Anil R., Hauser, Oliver P., 2024, « Generative AI Enhances Individual Creativity but Reduces the Collective Diversity of Novel Content », *Science Advances*, 10(28):eadn5290, juillet, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4535536

[Eapen et al., 2023] Eapen, Tojin T., Finkenstadt, Daniel J., Folk, Josh, Venkataswamy, Lokesh, 2023, « AI And Machine Learning How Generative AI Can Augment Human Creativity – Use it to Promote Divergent Thinking », *Harvard Business Review*, juillet-août, https://hbr.org/2023/07/how-generative-ai-can-augment-human-creativity

[Eden et al., 2012] Eden, Amnon H., Moor, James H., Søraker, Johnny H., Steinhart, Eric, éditeurs, 2012, *Singularity Hypotheses: A Scientific and Philosophical Assessment*, Springer

[Elgammal et al., 2017] Elgammal, Ahmed, Liu Bingchen, Elhoseiny, Mohamed, Mazzone, Marian, 2017, *CAN: Creative Adversarial Networks Generating “Art” by Learning about Styles and Deviating from Style Norms*, arXiv:1706.07068, https://arxiv.org/abs/1706.07068

[Eno et Schmidt, 1975] Eno, Brian, Schmidt, Peter, *Oblique Strategies*, 1975, https://www.enoshop.co.uk/shop/oblique-strategies

[Evans et al., 2019] Evans, Claire, Roberts, Adam, Engel, Jesse, 2019, *Music and Machine Learning*, Google I/O, https://www.youtube.com/watch?v=pM9u9xcM_cs&t=1378s

[Gabinari, 2023] Gabinari, Pauline, 2023, « J'ai créé un dialogue avec l'IA : Comment un historien a coécrit son roman avec ChatGPT », *Télérama*, mai, https://www.telerama.fr/livre/j-ai-cree-un-dialogue-avec-l-ia-comment-un-historien-a-coecrit-son-roman-avec-chatgpt-7015401.php
[Goldhammer et al., 2024] Goldhammer, Klaus, Birkel, Mathias, Mackuth, Lena, Komma, Daniel, 2024, *AI and Music – Market Development of AI in the Music Sector and Impact on Music Authors and Creators in Germany and France*, Goldmedia-SACEM-Gema, https://www.gema.de/en/news/ai-study

[Goodfellow et al, 2016] Goodfellow, Ian, Bengio, Yoshua, Courville, Aaron, 2016, *Deep Learning*, MIT-Press

[Google, 2024] Google AI, 2024 (consulté le 18/10/2024), *Magenta – Make Music and Art using Machine Learning*, Google AI, https://magenta.tensorflow.org/

[Guéreau, 2023] Guéreau, Etienne, 2023, *James Bond et l'effondrement musical*, https://www.youtube.com/watch?v=NSZB4tQClk0

[Jordanous, 2012] Jordanous, Anna, 2012, « A Standardised Procedure for Evaluating Creative Systems: Computational Creativity Evaluation Based on What it is to be Creative », *Cognitive Computation*, 4:246-279

[Julia, 2019] Julia, Luc, 2019, *L'intelligence artificielle n'existe pas*, First Editions

[Jullien, 2017] Jullien, François, 2017, *Dé-coïncidence – D'où viennent l'art et l'existence ?*, Grasset

[Jullien, 2012] Jullien, François, 2012, *Figures de l'immanence – Pour une lecture philosophique du Yi King*, Points

[Kahneman, 2012] Kahneman, Daniel, 2012, *Système 1/Système 2 : Les deux vitesses de la pensée*, Flammarion

[Kay, 2023] Kay, Alan, 2023, « What is the meaning of Alan Kay's quote "the best way to predict the future is to invent it"? How can this be applied to any field of work? », Quora, https://www.quora.com/What-is-the-meaning-of-Alan-Kays-quote-the-best-way-to-predict-the-future-is-to-invent-it-How-can-this-be-applied-to-any-field-of-work

[Koontz, 2019] Koontz, Alison, 2019, « The Circuitry of Creativity: How Our Brains Innovate Thinking », *Caltech Letters*, mars

[Lemoine, 2022] Lemoine, Blake, 2022, « Is LaMDA Sentient? – an Interview », *Medium*, juin, https://cajundiscordian medium.com/is-lamda-sentient-an-interview-ca64d916d917
[Lenat et Seely Brown, 1984] Lenat, Douglas, Seely Brown, John, 1984, « Why AM and Eurisko Appear to Work », *Artificial Intelligence*, 23(3):269–294, https://www.sciencedirect.com/science/article/abs/pii/000437028490016X

[Lenat, 1976] Lenat, Douglas Bruce, 1976, *AM: An Artificial Intelligence Approach to Discovery in Mathematics as Heuristic Search*, PhD thesis, Stanford University

[Limb et Braun, 2008] Limb, Charles, Braun, Allen R., 2002, « Neural Substrates of Spontaneous Musical Performance: An fMRI Study of Jazz Improvisation », *PLOS One*, 3:1–9, https://doi.org/10.1371/journal.pone.0001679

[Mattise, 2019] Mattise, Nathan, 2019, How YACHT Fed their Old Music to the Machine and Got a Killer New Album, *Ars Technica*, août, https://arstechnica.com/gaming/2019/08/yachts-chain-tripping-is-a-new-landmark-for-ai-music-an-album-that-doesnt-suck/

[McCarthy et al., 2006] McCarthy, John, Minsky, Marvin L., Rochester, Nathaniel, Shannon, Claude E., A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955, *AI Magazine*, 27(4):12, hiver, https://doi.org/10.1609/aimag.v27i4.1904

[Metz, 2016] Metz, Cade, 2016, « Google's AI Wins Pivotal Second Game in Match with Go Grandmaster », *Wired*, mars, https://www.wired.com/2016/03/googles-ai-wins-pivotal-game-two-match-go-grandmaster/?mbid=nl_31016

[Miller, 2019] Miller, Arthur I., 2019, *The Artist in the Machine – The World of AI-Powered Creativity*, MIT Press

[Mozart, 1793] Mozart, Wolfgang Amadeus, 1793, *Instruction – Pour composer autant de Walzer ou Schleifer que l'on veut, par le moyen de deux Dès sans savoir la musique ou la compofition*, N. Simrock

[Nierhaus, 2010] Nierhaus, Gerhard, 2010, *Algorithmic Composition: Paradigms of Automated Music Generation*, Springer

[O'Connor, 2022] O'Connor, Ryan, 2022, *Introduction to Diffusion Models for Machine Learning*, AssemblyAI, https://www.assemblyai.com/blog/diffusion-models-for-machine-learning-introduction/
[Olson et al., 2024] Olson, Jay A., Webb, Margaret E., Cropper, Simon J., Langer, Ellen J., 2024 (consulté le 18/10/2024), *Divergent Association Task: Fast Creativity Test*, https://www.datcreativity.com/

[Oudeyer et al., 2007] Oudeyer, Pierre-Yves, Kaplan, Frédéric, Hafner, Verena V., 2007, «Intrinsic Motivation Systems for Autonomous Mental Development», *Transactions on Evolutionary Computation*, 11(2):265-286, IEEE, Doi:10.1109/TEVC.2006.890271

[Pachet et al., 2021] Pachet, François, Roy, Pierre, Carré, Benoît, 2021, « Assisted Music Creation with Flow Machines: Towards New Categories of New », In Miranda, Eduardo Reck, éditeur, *Handbook of Artificial Intelligence for Music – Foundations, Advanced Approaches, and Developments for Creativity*, Springer, pages 485-520

[Papadopoulos et al., 2016] Papadopoulos, Alexa, Pachet, François, Roy, Pierre, 2016, « Generating non-Plagiaristic Markov Sequences with Max Order Sampling », In Degli Esposti, Mirko, Altmann, Eduardo G., Pachet, François, éditeurs, *Creativity and Universality in Language*, Springer, pages 85-103

[Percino et al., 2014] Percino, Gamaliel, Klimek, Peter, Thurner, Stefan, 2014, « Instrumentational Complexity of Music Genres and Why Simplicity Sells », *PLoS One*, 9(12): e115255

[Runco, 2023] Runco, Mark A., 2023, « AI Can Only Produce Artificial Creativity », *Journal of Creativity*, (33)3:100063, https://doi.org/10.1016/j.yjoc.2023.100063

[Runco et Garrett, 2012] Runco, Mark A., Garrett, J. Jaeger, 2012, « The Standard Definition of Creativity », *Creativity Research Journal*, 24(1):92-96

[Russell, 2024] Russell, Stuart, 2024, « AI: What if We Succeed? », *Paris AI Safety Symposium*, octobre, https://sites.google.com/view/paiss2024/schedule

[Salganik et al., 2006] Salganik, Matthew J., Sheridan Dodds, Peter, Watts, Duncan J., 2006, « Experimental Study of Inequality and Unpredictability in an Artificial Cultural Market », *Science*, 311:854-856

[Schoenberg et Stein, 2010] Schoenberg, Arnold, Stein, Leonard, éditeur, 2010, *Style and Idea – Selected Writings, 60th Anniversary Edition*, University of California Press

[Schönberg, 1978] Schönberg, Arnold, 1978, *Theory of Harmony*, Faber & Faber
[Serrá et al., 2012] Serrá, Joan, Corral, Alvaro, Boguñá, Corral, Haro, Martin, Arcos, Josep L., 2012, « Measuring the Evolution of Contemporary Western Popular Music », *Scientific Reports*, 2:521, Nature, Doi: 10.1038/srep00521

[Shumailov et al., 2024] Shumailov, Ilia, Shumaylov, Zakhar, Zhao, Yiren, Papernot, Nicolas, Anderson, Ross, Gal, Yarin, 2024, « AI Models Collapse when Trained on Recursively Generated Data », *Nature*, 631:755-759, juillet, https://www.nature.com/articles/s41586-024-07566-y

[Siegel, 2009] Siegel, Robert, 2009, « The Loudness Wars: Why Music Sounds Worse », NPR, décembre, https://www.npr.org/2009/12/31/122114058/the-loudness-wars-why-music-sounds-worse?sc=nl&cc=mn-20100102

[Skygge et al., 2018] Skygge et al., 2018, *Hello World Album – the First Album Composed with an Artificial Intelligence*, Flow Records, https://www.helloworldalbum.net/

[Turing, 1950] Turing, Alan, M., 1950, « I. Computing Machinery and Intelligence », *Mind*, Volume LIX, 236:433-460, https://doi.org/10.1093/mind/LIX.236.433

[Varela et al., 1992] Varela, Francisco J., Thompson, Evan, Rosch, Eleanor, 1992, *The Embodied Mind – Cognitive Science and Human Experience*, MIT Press

[Xenakis, 1992] Xenakis, Iannis, 1992, *Formalized Music: Thought and Mathematics in Composition: Thoughts and Mathematics in Composition*, Pendragon