# LES DEEPFAKES PORNOGRAPHIQUES :
UN PROBLÈME REFLÉTANT LA SOCIÉTÉ
SELON UNE PERSPECTIVE FÉMINISTE

**Référence:**

Laplante, J., Gravel, L. et Lepoutre, T. (2022). Les deepfakes pornographiques : un problème reflétant la société selon une perspective féministe.
*Academic Journal of Criminology X Journal Universitaire de Criminologie, 1*(1). https://doi.org/10.21428/58a8fd3e.31f7db43

PAR JUSTINE LAPLANTE

Université de Montréal

PAR LAUDIA GRAVEL

Université de Montréal

PAR TOBIAS LEPOUTRE

Université de Montréal

## RÉSUMÉ

La pornographie demeure dégradante envers les femmes; le deepfake pornographique est une nouvelle technologie qui présente des menaces pour l'équilibre des genres, car celle-ci contribue à la perpétuation de cette dégradation. Le deepfake est possible à l'aide d'une technologie basée sur un prototype d'intelligence artificielle (Wagner et Blewer, 2019). Cette technologie est un média qui simule l'identité d'une personne ou d'un personnage grâce aux informations visuelles et auditives qui sont récoltées par une intelligence artificielle (Kirchengast, 2020). Le deepfake pornographique utilise cette technologie afin de simuler l'identité d'une personne ou d'un personnage dans des contextes pornographiques. Dès lors, cette technologie présente un danger pour l'intégrité et la réputation des femmes qui sont les principales victimes des deepfakes pornographiques. Une motivation plus inquiétante derrière la création des deepfakes pornographiques est d'objectiver et de rabaisser les femmes. De plus, il n'y a actuellement pas de recours légal pour les victimes de ce genre de deepfake. Cet article conclut que l'accessibilité de la technologie deepfake est particulièrement préoccupante pour les nouvelles générations qui sont notamment susceptibles d'adopter une image dévalorisée de la femme.

## ABSTRACT

Pornography remains degrading towards women; Deepfake pornography is a new technology that poses threats to gender balance, as it contributes to the perpetuation of this degradation. Deepfakes are made possible by a technology that is based on an artificial intelligence prototype (Wagner et Blewer, 2019). This technology is a medium that simulates the identity of a person or a character by using visual and auditory information collected by artificial intelligence (Kirchengast, 2020). Pornographic deepfakes use this technology in order to simulate the identity of a person or a character in pornographic contexts. Therefore, this technology poses a danger to the integrity and reputation of women who are the main victims of pornographic deepfakes. A more disturbing motivation behind the creation of pornographic deepfakes is to objectify and demean women. Moreover, there is currently no legal recourse for victims of this kind of deepfake. This article concludes that the accessibility of deepfake technology is particularly worrying for new generations who are particularly susceptible to adopting a demeaning image of women.
## IMPLICATIONS PRATIQUES

L'une des façons dont les policiers peuvent améliorer l'efficacité de leur conduite est de limiter leur recours à une force excessive en appelant du renfort ou en évaluant la situation (Lopez, 2020, paragraphes 38 et 41). Si, par exemple, la situation impliquant Tamir Rice avait été évaluée de manière adéquate, il y a de fortes chances que l'issue aurait été bien différente (Lopez, 2020, paragraphe 38). Pour éviter le recours à une force excessive, une politique établie dans la ville de Las Vegas recommande d'appeler des policiers en renfort dans les situations très tendues ou dans les situations impliquant des patrouilles à pied, afin que l'agent responsable ne recoure pas à une force excessive en raison de l'adrénaline qu'il/elle peut ressentir (Lopez, 2020, para. 41). Compte tenu des recherches recueillies dans le présent document, l'amélioration du comportement de la police et la mise en œuvre de politiques appropriées peuvent contribuer à réduire la violence dans les communautés marginalisées.

## PRATICAL IMPLICATIONS

One of the ways in which police officers can improve the effectiveness of their conduct is to limit their use of excessive force by calling for backup or assessing the situation (Lopez, 2020, paras. 38 & 41). If, for example, the situation involving Tamir Rice was adequately assessed, chances are that the outcome would have been much different (Lopez, 2020, para. 38). To prevent excessive force from being used, a policy that has been established in the city of Las Vegas recommends backup police to be called in high-tense situations or situations involving foot patrols so that the officer in charge does not resort to excessive force as a result of the high-adrenaline he/she may be experiencing (Lopez, 2020, para. 41). Given the research collected in this paper, improving police conduct and implementing appropriate policies can help to decrease violence in marginalized communities.

**MOTS-CLÉS** : deepfake, pornographie non consensuelle, fausse pornographie, cybercrime, misogynie, technologie, apprentissage profond

**KEY-WORDS** : deepfake, non-consensual pornography, fake pornography, cybercrime, misogyny, technology, deep learning

L'hypersexualisation et l'objectivation des femmes et des filles représentent depuis longtemps un fléau de société qu'aujourd'hui les réseaux sociaux et les technologies de l'information viennent amplifier (Powell et al., 2020). En fait, devant la permanence du contenu en ligne et de la facilité à manipuler le contenu audiovisuel et photographique, les technologies telles que le « deepfake » sont devenues de nouveaux outils de prédilection pour faciliter les abus genrés dans le cyberespace (Maddocks 2020). Pire encore, devant l'accessibilité à ce type de contenu par les jeunes, cela risque de perpétuer l'internalisation de scripts sexuels toxiques et d'aggraver les inégalités de genre (Bruch-Granados et Gassó, 2021). Deepfake est donc l'abréviation de « fake » et de « deep learning ». Cette technologie est basée sur un prototype d'intelligence artificielle; le processus derrière les deepfakes peut ainsi s'avérer plus complexe que la simple fusion ou la superposition de contenu multimédia.

Le contenu serait généré par des scripts et des programmes informatiques qui alimentent un ordinateur en information afin qu'il apprenne lui-même à créer de nouveaux contenus réalistes (Wagner et Blewer, 2019 ; Kirchengast, 2020). Ainsi, il n'est pas rare que cette technologie dispose de contenus qui simulent l'identité d'un individu ou d'un personnage (Wagner et Blewer, 2019 ; Kirchengast, 2020), et ce, sans consentement des parties visées. Les deepfakes ouvrent donc la possibilité de publier du contenu à des fins d'imposture, d'usurpation d'identité et de désinformation (Westerlund, 2019). Apparu en 2017, le deepfake était principalement utilisé pour usurper l'identité de célèbrités dans les contenus pornographiques (Kirchengast, 2020). À ce jour, on constate que ce phénomène concerne principalement les femmes célèbres telles qu'Emma Watson, Gal Gadot, Taylor Swift, Meghan Markle ou encore Scarlett Johansson (Fido et al., 2022). Les technologies telles que le deepfake risquent d'amplifier la vision dévalorisante de la femme dans la société (Gosse et Burkell, 2020 ; Maddocks, 2020).
Il s'agit, en effet, d'une technologie innovante, mais son impact sur la société ou, du moins, son utilisation, est loin d'être optimale. L'usage des deepfakes demeure principalement misogyne et les discussions sur cet usage sont souvent éclipsées par d'autres préoccupations, telles que la désinformation causée par les deepfakes politiques (Gosse et Burkell, 2020). Dans cet éditorial, nous désirons démontrer la menace des deepfakes pornographiques (ci-après : DP[1]) pour l'équilibre des genres.

## NOUVEAU PROBLÈME DE SOCIÉTÉ

Le documentaire *The Social Dilemma* (Orlowski, 2020) expose la relation de dépendance entre notre société et la technologie. En effet, les réseaux sociaux, les moteurs de recherche et les médias sont capables d'intensifier les opinions, de falsifier l'information et, indirectement, de diviser la société en y créant des tensions (Orlowski, 2020). Ainsi, le deepfake est exactement dans la continuité de ce phénomène de désinformation et de manipulation des masses puisque cette nouvelle technologie permet de falsifier le réel et parce qu'il n'y a pas de réglementation sur son utilisation (Wagner et Blewer, 2019). Par exemple, suivant la diffusion d'un deepfake de Barack Obama insultant Donald Trump (Martinez et Castillo, 2019), cela a suscité de l'inquiétude au sein des communautés académique et politique. En effet, en raison de la facilité à usurper l'identité de figures politiques, plusieurs estiment qu'il deviendrait facile d'inventer de fausses déclarations ou de nuire à la crédibilité de représentants politiques (Chesney et Citron, 2018 ; Westerlund, 2019). De plus, bien qu'il existe plusieurs systèmes de détection de deepfake, aucun n'est infallible et devant la rapidité de l'évolution des logiciels, il devient de plus en plus difficile de les identifier (Greengard, 2019).

Bien qu'actuellement le caractère politique des deepfakes préoccupe davantage l'élite politique et les spécialistes, la société ne peut ignorer que cette technologie représente un aussi grand danger pour l'intégrité des individus et leur futur.

Selon une étude réalisée en 2019 par la compagnie de détection Deeptrace Lab, « 96 % des vidéos deepfakes sont de la pornographie non consensuelle, principalement de célébrité féminine » (van der Nagel, 2020, p. 424). Bien que les célébrités féminines ne représentent qu'une petite proportion de la population, les deepfakes pornographiques représentent l'hypersexualisation des femmes ainsi que la misogynie omniprésente dans la société (Gosse et Burkell, 2020). Or, les DP sont apparus bien avant ceux de nature politique, mais peu d'attention leur fut portée (Maddocks, 2020). Par ailleurs, à leurs débuts, les DP étaient souvent réduits à leur association au phénomène de revenge porn, soit l'action de divulguer des photos intimes d'un ou d'une ancienne partenaire pour se venger (Gieseke, 2020). Or, suivant l'évolution rapide des logiciels deepfake, ce type de vidéo vint rapidement inonder la toile numérique.

<figure><img src="image_1.png" /></figure>

> L'usage des deepfakes demeure principalement misogyne et les discussions sur cet usage sont souvent éclipsées par d'autres préoccupations [...].

En fait, l'amélioration de ces logiciels les a rendus facilement accessibles à tous, mais surtout très faciles d'utilisation (Karasavva et Noorbhai, 2021). Cette facilité jumelée à son accessibilité ont fait en sorte que n'importe quel individu peut dorénavant créer un deepfake très réaliste de n'importe qui (Karasavva et Noorbhai, 2021).

<footnote>[1] DANS CE TEXTE, L'ABRÉVIATION DP S'APPLIQUE AUSSI BIEN AU SINGULIER QU'AU PLURIEL.</footnote>
## LES CONSÉQUENCES NÉFASTES DES DEEPAKES PORNOGRAPHIQUES

Devant l'omniprésence des DP non consensuels dans l'espace numérique, plusieurs spécialistes dénoncent les conséquences graves qu'ont ces vidéos sur la vie professionnelle et personnelle des victimes (p. ex. Gosse et Burkell, 2020 ; Karasavva et Noorbhai, 2021; Maddocks, 2018). En effet, selon Maddocks (2018), sous l'ère du numérique, notre identité en ligne est tout aussi importante que notre identité physique, puisqu'elle nous donne accès à plusieurs occasions dans le monde physique. Or, lorsque cette dernière est mise en péril par son usurpation, cela peut avoir de graves impacts sur notre vie (Gosse et Burkell, 2020). Par exemple, lors de la création de DP, le créateur s'approprie les photos de sa victime sans son consentement et réalise une fausse vidéo de cette personne dans une situation sexuellement compromettante (Maddocks, 2018). Par conséquent, la publication de ces vidéos vient non seulement affecter la vie privée de cette personne, mais vient aussi nuire directement à sa réputation (Karasavva et Noorbhai, 2021). Selon une étude récente, « 80 % des employeurs admettent faire des recherches Internet sur leur potentiel employé et dans 70 % des cas, les résultats ont eu un impact négatif » (Gieseke, 2020, p. 1484). De ce fait, plusieurs reconnaissent que cette technologie détient le fort potentiel de détruire l'employabilité d'un individu et de facilement ternir sa réputation au sein de la société (Gieseke, 2020).

## LES MOTIVATIONS DERRIÈRE LA CRÉATION DE DEEPAKES PORNOGRAPHIQUES

Par ailleurs, en raison de l'accessibilité de cet outil à tous, les spécialistes identifient de nouvelles motivations derrière la création d'un tel contenu, telles que des motivations de nature politique, humoristique, et évidemment, pornographique. En effet, bien qu'on retrouve l'intention de vengeance, selon Harris (2019), les DP peuvent aussi être motivés par l'autosatisfaction, l'extorsion, le chantage et l'humiliation.

De plus, selon Gosse et Burkell (2020), on observe un objectif plus sinistre derrière la création de DP non consensuel, soit d'objectiver et de rabaisser les femmes. En fait, bien qu'on reconnaisse qu'actuellement n'importe qui peut être victime d'un deepfake, selon une étude émise par le Pew Research Center en 2017, « les femmes sont plus susceptibles de subir les abus sexuels les plus graves en ligne » (Maddocks, 2018, p. 347). Par conséquent, la pornographie non consensuelle « est utilisée comme un outil misogyne » (Franks, 2017, cité dans Armesto-Larson, 2020, p. 197-198). Ainsi, plusieurs spécialistes, dont van der Nagel (2020), expliquent que les DP non consensuels perpétuent la tendance d'utiliser les images des femmes pour les harceler, les humilier et leur faire du mal (p. 424).

## LES DEEPAKES PORNOGRAPHIQUES : UN PROBLÈME FÉMININ

Selon les résultats d'un sondage en ligne créé par Fido et ses collaborateurs (2022), les célébrités, ainsi que les hommes, se font moins juger par la société lorsqu'ils sont victimes de DP à comparer aux personnes non célèbres et aux femmes. Or, ils ont conclu que des études futures sont nécessaires afin de mieux comprendre les raisons derrière cette disparité dans les jugements (Fido et al., 2022, p. 13). Maddocks (2020) propose qu'il est important de comprendre pourquoi les gens créent et consomment de la fausse pornographie ainsi que de comprendre les besoins des victimes. C'est pourquoi il y a un besoin de comprendre les différentes opinions et justifications face aux DP, notamment celles des créateurs et des consommateurs de DP. En ayant une meilleure compréhension de ces perspectives, les DP pourraient ensuite être mieux adressés (Kikerpill, 2020; Maddocks, 2020).

Dès lors, sachant que cette technologie peut être utilisée comme un moyen de contrôle sur les femmes et qu'elle peut perpétuer la normalisation des inégalités de genre, il est regrettable de constater qu'actuellement il n'existe pas de moyen concret pour prévenir ses effets négatifs à l'échelle mondiale (Flynn et al., 2021).
En fait, puisque ce type de vidéo est très prolifique, les grands sites d'hébergement de contenu pornographique, tel queania, ont de la difficulté à les retirer et à empêcher leur publication (Flynn et al., 2021). Ainsi, devant l'incapacité des géants du Net à protéger les utilisateurs et en l'absence de législation adaptée au contexte unique des deepfakes, les individus se retrouvent sans moyen concret pour diminuer l'impact des conséquences de ces vidéos (Flynn et al., 2021).

<figure><img src="image_2.png" /></figure>

> Les deepfakes risquent de favoriser l'internalisation d'une image dégradante de la femme de façon prématurée.

Par ailleurs, en raison du caractère permanent de l'univers numérique, les victimes doivent se résoudre à accepter que ces vidéos risquent de ne jamais disparaître totalement (Marques, 2021, p. 314-315). Ainsi, puisque la technologie permettant la création de DP non consensuels est très accessible et qu'elle a le potentiel de créer des conséquences permanentes chez les victimes, cela augmente le niveau de dangerosité de cette technologie.

## CONCLUSION

Les deepfakes sont apparus dans l'industrie pornographique en illustrant un mépris déjà existant de la femme dans la société actuelle. Néanmoins, l'accessibilité précoce des enfants et préadolescents au contenu pornographique rend cette problématique inquiétante et risquerait d'aggraver la dévalorisation de la femme dans les années à venir. On sait, aujourd'hui, que ces nouvelles générations sont particulièrement affectées dans leur vie quotidienne ainsi que dans leur vie sexuelle par la pornographie (Poulin, 2011).

Or, les célébrités représentées par les DP, par exemple Emma Watson qui a été nommée ambassadrice de bonne volonté par l'ONU Femmes (ONU Femmes, s. d.), sont des modèles de la culture actuelle. Par conséquent, les deepfakes risquent de favoriser l'internalisation d'une image dégradante de la femme de façon prématurée. Les conséquences des DP qui ont été soulignées dans cet article soulignent la nécessité d'action auprès des chercheurs, du gouvernement et des praticiens face à cette problématique.

## RÉFÉRENCES

Armesto-Larson, B. (2020). Nonconsensual Pornography: Criminal Law solutions to worldwide problem. *Oregon Review of International Law*, 21, 177-214.

Chesney, R. et Citron, D. K. (2018). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. *California Law Review*, 107, 1753-1820.
http://dx.doi.org/10.2139/ssrn.3213954

Fido, D., Rao, J. et Harper, C. A. (2022). Celebrity status, sex, and variation in psychopathy predicts judgements of and proclivity to generate and distribute deepfake pornography. *Computers in Human Behavior*, 129, 1-14.
https://doi.org/10.1016/j.chb.2021.107141

Flynn, A., Powell, A., Scott, A. J. et Cama, E. (2021). Deepfakes and Digitally Altered Imagery Abuse: A Cross-Country Exploration of an Emerging form of Image-Based Sexual Abuse. *The British Journal of Criminology*, 1-18.
https://doi.org/10.1093/bjc/azab111

Gieseke, A. P. (2020). "The New Weapon of Choice": Law's Current Inability to Properly Address Deepfake Pornography. *Vanderbilt Law Review*, 73(5), 1479-1515.

Gosse, C. et Burkell, J. (2020). Politics and porn: How news media characterizes problems presented by deepfakes. *Critical Studies in Media Communication*, 37(5), 497-511.
https://doi.org/10.1080/15295036.2020.1832697

Greengard, S. (2019). Will deepfakes do deep damage? *Communications of the ACM*, 63, 17-19.
https://doi.org/10.1145/3371409

Harris, H. (2019). Deepfakes: False Pornography is here and the Law Cannot Protect you. *Duke Law & Technology Review*, 17, 99-127.

Karasavva, V. et Noorbhai, A. (2021). The Real Threat of Deepfake Pornography: A Review of Canadian Policy. *Cyberpsychology, Behavior, and Social Networking*, 24(3), 203-209.
https://doi.org/10.1089/cyber.2020.0272
Kikerpill, K. (2020). Choose your stars and studs: The rise of deepfake designer porn. *Porn Studies*, 7(4), 352-356.
https://doi.org/10.1080/23268743.2020.1765851

Kirchengast, T. (2020). Deepfakes and image manipulation: Criminalisation and control. *Information & Communications Technology Law*, 29(3), 308-323.
https://doi.org/10.1080/13600834.2020.1794615

Maddocks, S. (2018). From Non-consensual Pornography to Image-based Sexual Abuse: Charting the Course of a Problem with Many Names. *Australian Feminist Studies*, 33(97), 345-361.
https://doi.org/10.1080/08164649.2018.1542592

Maddocks, S. (2020). 'A Deepfake Porn Plot Intended to Silence Me': Exploring continuities between pornographic and 'political' deep fakes. *Porn Studies*, 7(4), 415-423.
https://doi.org/10.1080/23268743.2020.1757499

Marques, O. (2021). Intimate Image Dissemination and Consent in a Digital Age: Perspectives from the Front Line. Dans J. Bailey, A. Flynn et N. Henry (Éds.), *The Emerald International Handbook of Technology-Facilitated Violence and Abuse* (p. 309-328). Emerald Publishing Limited.
https://doi.org/10.1108/978-1-83982-848-520211022

Martinez, V. C. et Castillo, G. P. (2019). Audio-visual fake history: Deepfake and the woman in a fake and perverse imaginary. *Historia Y Comunicacion Social*, 24(2), 505-520.
https://doi.org/10.5209/hics.66293

ONU Femmes. (s.d.). *Ambassadrice de bonne volonté d'ONU Femmes Emma Watson*. https://www.unwomen.org/fr/partnerships/goodwill-ambassadors/emma-watson

Orlowski, J. (réalisateur). (2020). *The Social Dilemma* [film cinématographique]. Exposure Labs.

Poulin, R. (2011). La pornographie, les jeunes, l'adocentrisme. *Les Cahiers Dynamiques*, 50(1), 31-31.
https://doi.org/10.3917/lcd.050.0031

Powell, A., Flynn, A. et Henry, N. (2020). Sexual violence in digital society: Understanding the human and technosocial factors. Dans R. Leukfeldt et T. J. Holt (Éds.), *The Human Factor of Cybercrime* (1e éd., p. 134-155). Routledge.

van der Nagel, E. (2020). Verifying images: Deepfakes, control, and consent. *Porn Studies*, 7(4), 424-429.
https://doi.org/10.1080/23268743.2020.1741434

Wagner, T. L. et Blewer, A. (2019). "The Word Real Is No Longer Real": Deepfakes, Gender, and the Challenges of Al-Altered Video. *Open Information Science*, 3(1), 32-46.
https://doi.org/10.1515/opis-2019-0003

Westerlund, M. (2019). The Emergence of Deepfake Technology: A Review. *Technology Innovation Management Review*, 9, 39-52.
https://doi.org/10.22215/timreview/1282