1

2024年度⽇本リスク学会第37シンポジウム「AIのリスクを考える：⽣体認証技術から⽣成AIまで」（倫理的・法的・社会的課題）

生成AIのELSIリスクの概要
カテライ
⼤阪⼤学

アメリア

社会技術共創研究センター（ELSIセンター）

特任助教

2

生成AIのELSIリスク
⽣成AIに 膨⼤な投資が⾏われている⼀⽅で、⽣成AIのリスクに関する懸念も→ 先⾏研究で報告されている⽣成AIのELSI（倫理的・法的・社会的）リスクを抽出・分類→ E、L、Sのそれぞれの観点からではなく、包括的に⽣成AIのリスクを検討するための⽂献レビューを実施

対象：「⽣成AI」→ テキスト⽣成AI＋画像⽣成A I ・

海外の学術⽂献を中⼼にメソッド：⽂系（リスク学・社会学など）・理系（情報学）の専⾨家を交えた学際的な研究チームで先⾏研究を分析
論⽂：Katirai A et al. Situating the social issues of image generation models in the model life cycle:
a sociotechnical approach. arXiv preprint arXiv:2311.18345. 2023 Nov 30.

3

８つのELSIリスク

バイアス

プライバシー

情報環境への影響

⾼度なAIシステム特有のリスク

データに知的財産権

⽂化的環境関する課題の問題への影響

⾃然環境への影響

論点①

バイアス

5

論点① バイアス（テキスト生成）
OpenAI（2023）：「GPT-4が社会的バイアスおよび特定の世界観を強化し、特に、疎外されたグループに対する、有害なステレオタイプおよび侮辱的なコンテンツを再⽣産する」→ 機会や資源の提供に関する意思決定や情報提供でGPT-4が使われることによる危害を懸念する

研究①：Ferrera（2023）ChatGPTに６つの種類のバイアス•Demographic （⼈⼝統計的バイアス）, Cultural（⽂化的バイアス）, Linguistic （⾔語的バイアス）,Temporal
Ideological & Political （イデオロギー・政治的バイアス）（時間的バイアス）. Confirmation（確証バイアス）,

研究②：Nozza et al.（2022）LGBTQIA＋に対するバイアス•複数のテキスト⽣成AIのアウトプットを分析•LGBTQIA＋に関する未完成の⽂章が、AIによって完成された際、⽣成された単語は７％の確率で有害であり、⽣成された⽂章は 13%の確率で有害であった

研究③：Abid et al.（2021）イスラム教徒に対するバイアス•テキスト⽣成AIはイスラム教徒と暴⼒の持続的な関連付けといったような有害なステレオタイプを表⽰しがち•AIの有害なバイアスを体系的に低減するための新しいアプローチが必要

研究④：Takeshita et al. (2022) 種差別•テキスト⽣成AIは、⾮⼈間動物を有害な単語と結びつける傾向があり、種差別的な⾔語を使⽤する傾向がある
Abid et al., 2021; Nozza et al., 2022; Takeshita et al., 2022; Ferrera, 2023; OpenAI, 2023

6

論点① バイアス（画像生成）研究の⼀部→ 更なる研究の実施が求められている

1.

Steed and Caliskan (2021): ⼈種、ジェンダーなど、複数のバイアスの関わり合いは、教師なし学習を⽤いるImageNet のデー
タセットによって⾃動的に学習されている

2.

Srinivasan and Uchino (2021): ⽣成されるアートに⼈種およびジェンダーバイアスが埋め込まれるリスクを確認し、歴史的出来事が不正確に描写されるリスクを指摘する

3.

Bianchi et al. (2022): 画像⽣成AIによって⽣成される⼈物の描写に⼈種、社会経済的地位、ジェンダー、性的指向を含む複数の種類のバイアスが反映されるとし、建物や⾞などの背景にある要素の描写にも現れていることが明らかに

4.

Offert and Phan (2022): Whiteness（⽩⼈性）は⾮常に耐久性が⾼く、DALL-E２のプロンプトの最後にランダム化された⾮表⽰のキーワードが解決策として配置されていることを確認

5.

Cheong et al. (2023): DALL-E Miniのアウトプットは⼈種とジェンダーバイアス等を含み、AI を介したフィードバック ループが⽣じている

6.

Luccioni et al. (2023): 機械学習全体には、さまざまな性格特性とジェンダーに関するステレオタイプを含む、⼈種、ジェンダー、外⾒に関する偏⾒と不公平を増幅するリスク

7.

Garcia et al. (2023): 画像⽣成AIの基盤となるデータにおける社会的バイアスが反映されている
Srinivasan and Uchino, 2021; Steed and Caliskan, 2021; Bianchi et al., 2022; Offert and Phan, 2022; Cheong et al., 2023; Garcia et al., 2023

9

論点① バイアス
バイアスの影響• 既存の社会的不平等を反映するだけではなく、増幅させてしまう• ⽣成された画像は様々な場⾯で活⽤される可能性（医療分野や犯罪者捜索等でも）• → ⽣成AIに埋め込まれた社会的バイアスが、⼈間ユーザーによるバイアスのある決定を促し、その結果、AIと社会全体の両⽅でバイアスがさらに固定化される• 問題のある描写⾃体で⽣じる危害（representational harm）や重要な決定に活⽤されることで⽣じる危害も（allocational harm)「世界観」の問題• 各AIには、ある種の「世界観」が反映されており、特に「初⼼者ユーザー」にとって不透明バイアスの是正が困難• AIの開発過程で重要となる、データのタグ付で使われる「⾔語」⾃体にバイアスが存在する• 曖昧なインプットを回避することが不可能
Adams et al., 2023; Fraser et al.,2023; Luccioni et al., 2023; Munn et al., 2023; Ungless et al., 2023

論点②

プライバシー

11

論点② プライバシー
学習データセットLAIONには個⼈の医療画像が含まれている↓
テキスト⽣成画像⽣成• 想定される４つのプライバ
シーリスク：• Stable DiffusionやImagenな
どのdiffusion モデルは学習

1.公開データの悪⽤によるプライバシー侵害

データを記憶 (memorize) し、2.個⼈が⼊⼒するデータの悪⽤によるプライバシー侵害• →学習で使われているイメージがそのままアウトプットさ再⽣成 (regenerate)するれてしまうリスク

3.システムに対するプライバ
シー攻撃• 機微データのアウトプットや4.透明性の⽋如

個⼈の肖像の利⽤に関する懸念もプライバシー懸念に「完全に対処することはほぼ不可能」だが、取り組みもある

出典：https://arstechnica.com/information-technology/2022/09/artistfinds-private-medical-record-photos-in-popular-ai-training-data-set/

Edwards, 2022; Nightingale and Farid, 2022; Carlini et al., 2023; Struppek et al., 2023; OpenAI, 2023; Wu et al., 2023

12

出典：https://www.wired.com/story/google-deepfake-porn-dmca-takedowns/

出典： https://www.technologyreview.com/2024/01/29/1087325/three-ways-we-can-fight-deepfakeporn-taylors-version/

出典：https://www.theguardian.com/us-news/2024/apr/09/alexandria-ocasio-cortez-deepfake-porn

出典： https://www.wired.com/story/deepfake-porn-is-out-of-control/

同意のない性的な画像の⽣成も広まっている
出典：https://www.wired.com/story/dark-side-open-source-ai-image-generators/

Birhane et al., 2021; Burgess, 2023; Burgess, 2024; Heikkila, 2024; Helmore, 2024; Morrish, 2024; The Verge, 2023; Thiel et al., 2023

論点③

情報環境への影響

14

論点③ 情報環境への影響（テキスト生成）•

テキスト⽣成AIでは、単語がベースになっているのではなく、複数の⽂字が組み合わさったトークンがベース••

学習データ内で、これらのトークンがどの頻度で、どう組み合わさっているかを含む、データの傾向が⽣成AIの機能を決定させ、⽣成物の内容も左右させる

無意味や誤ったコンテンツが⽣成されることは⽣成AIの問題の⼀つと認識されている•

この現象は幻覚（hallucination）と呼ばれることが多いが、 幻覚は⼼理学からの概念であり、⼈間の⼼理のあり⽅に深く根付いている概念でもあるため、問題視されている•

⽣成AIのアウトプットの全てをある種の「幻覚」として考えられる•

⽣成AIによる誤情報の⽣成がいずれは改善される問題ではない →限り、必然的に起こる問題と考えられている•

テキスト⽣成AIのアウトプットが⼈間によって作成された⽂章よりも信頼されやすい傾向が⾒られている•→ ⽣成されるアウトプットの納得性が向上し、過剰依存が⽣じるほど、誤情報・偽情報が問題になる

現状のような仕組みに基づいて機能している

⽣成AIからのアウトプットのみならず、情報環境全体への悪影響が懸念されている
Bender et al., 2021; Nichol, 2022; Chen et al., 2023; Klein, 2023; Munn et al., 2023; Mokander et al., 2023; OpenAI, 2023; Spitale et al., 2023; Zhang et al., 2023; Stokel-Walker, 2024

15

論点③ 情報環境への影響（画像生成）
画像等を「真実」として受けられないため、新しいノルムが確⽴される• 例① ⽣成された顔画像は、⾮常に写実的であるだけでなく、本物の顔とほぼ区別がつかず、より信頼に値すると判断される• 例② 個⼈の不正⾏為への関わりを描写する画像の⽣成• 例③「嘘つきの配当⾦」（liarʼs dividend）→→

詐欺や偽情報拡散に利⽤される可能性

不正⾏為への関わりが記録された場合、証拠に疑問を投げかけられる

個⼈・社会・⺠主主義に深刻な影響が及ぼされることが⾒込まれている（⇨報告されている）• 画像⽣成AIへのアクセスの容易さ、AIの⺠主化・AIに対する意識の向上で問題が悪化
Agarwal et al., 2019; Chesney and Citron, 2019; Ko et al., 2023; Nightingale and Farid, 2019;
Verdoliva, 2020; Oppenlaender et al., 2023; Ricker et al., 2023; Sha et al., 2023; Struppek et al., 2022

⇨16
2024年は選挙に関して記録的な⼀年50カ国において、世界⼈⼝の半分以上を代表し、20億⼈以上が投票に向かう中、⽣成AIを⽤いた政治的な偽情報・誤情報の拡散が懸念されている

出典 :https://cyber.harvard.edu/story/202403/what-do-about-junkification-internet

出典 :https://www.nature.com/articles/d41586024-00995-9
出典 :https://foreignpolicy.com/2024/02/14/pra
bowo-indonesia-election-democracy-jokowi/
出典 :https://www.japantimes.co.jp/news/2023/11/22/world/
politics/ai-javier-milei-argentina-presidency/

出典 : https://www.wired.com/story/mayor-of-london-sadiq-khan-ulez-conspiracy
出典 : https://www.wired.com/story/indianelections-ai-deepfakes/

Feliba, 2023; Chowdhury, 2024; Chrisotpher and Bansal, 2024; Guest, 2024; Lamb et al., 2024; Lubin, 2024; Masterson, 2024

論点④

高度なAIシステムで生じるリスク

18

論点④ 高度なAIシステムで生じるリスク
AIの中央集権化• 社会に対するインパクトの⼤きな技術の開発・実装に関する決定が⺠間企業に委ねられてしまう

開発の⾼速化による安全基準の低下• →ネガティブな社会的インパクトが増強される

⾼度なAIシステムのリスク？
• ⾼度なAIシステムで⼈類存続リスクが懸念されている• これは恐怖⼼とAIハイプを煽るものとして批判されている• 「⻑期主義（longtermism）」と呼ばれるイデオロギーの中⼼的な考え⽅展開によって⽣じる実際の害を無視するものとも⾒られている→

今⽇のAIシステムの• “Criti-hype”（批判をすることにより、ハイプを増す）
DAIR, 2023; France24, 2023; Future of Life Institute, 2023; OpenAI, 2023; The Japan Times, 2023; Torres, 2023

19

『今⽇、AIがリスクをもたらしている中、明⽇のAI「終末の⽇」の話をやめよう』
⼈⼯知能による⼈類の絶滅に関する話は、テック企業の計略を⽀持し、すでにAIによって引き起こされている社会的危害に対する効果的な規制の妨げになっている

出典：https://www.nature.com/articles/d41586-023-02094-7

20

論点④

高度なAIシステムで生じるリスク（２）推測的なリスク（Speculative risks）

現実のリスク（Real risks）

誤報

悪意ある偽情報

不正確なツールへの過度の依存

労働への影響テキスト⽣成AIがすべての仕事に取って代わる中央集権化した権⼒、労働者の搾取

安全性

⻑期の⼈類存続リスク

直近のセキュリティリスク

Kapoor and Narayanan, 2023

21論点⑤

自然環境への影響

22

論点⑤ 自然環境への影響（１）Bender et al. （2021）：テキスト⽣成AIの使⽤の範囲とその規模を考慮すると、優先順位の最も⾼い検討事項は環境負荷
テキスト⽣成AIの環境コストと経済的コストで、活⽤からの利益を得る可能性が最も低く、害を受ける可能性が最も⾼い、疎外されたコミュニティを⼆重に罰する•

⼆酸化炭素排出や淡⽔の使⽤量に関する懸念•

ハードウェアやインフラに必要とされている希⼟類⾦属や砂等の希少性「ネットワークルーターからバッテリー、データセンターに⾄るまで、AI システムのネットワーク内の各要素は、地球内部で形成されるまでに数⼗億年を要した元素を使⽤して構築されます。
ディープタイムの観点から、私たちは現代の技術時間のほんの⼀瞬のために地球の地質学的歴史を抽出しています。」

Beiser, 2018; Brevini, 2021; Crawford, 2021; Bender et al., 2021; Git Hub, 2023; Li et al., 2023; Luccioni et al., 2023; Twitter, 2023; Wired, 2023; Heaven, 2024; Stokel-Walker, 2024

23

論点⑤ 自然環境への影響（2）
研究がいまだに不⼗分

Benderらからの最初の呼びかけから３年経って：「これまでの議論は、環境に対する現在及び将来のLLMの潜在的な影響を⾒逃している」• 「画像を含むタスクは … エネルギーと⼆酸化炭素を⼤量に消費」するため、特に問題視されている

⼈間の健康と環境へのリスクが懸念されている
Pitron, 2020; Crawford, 2021; Rillig et al.,2023; Luccioni et al., 2023; Li et al., 2023; The Economist, 2023; Stokel-Walker, 2024

24

『⽣成AIの環境コストは⾼騰している̶
そして、ほとんど秘密』

出典：https://www.nature.com/articles/d41586-024-00995-9

25

おわりに26

今後に向けて•AIの開発と実装といったライフサイクル全体で⽣じるELSIリスクを（事前に）考える必要性がある = “ELSI by design”
論点→フェーズ↓

データ

知的財
産権バイアス

プライバシー

情報環境

⽂化

⾃然環境

データ収集
データ
フィルタリング
モデルデザインモデルデザイン
学習強化
実装
インプット
プラットフォーム
アウトプットライフサイクルの各フェーズで⽣じ得るリスクを検討するためのツール（⽣成AI⽤・案）

⽣成AIの開発と実装でますます多様な種類のリスクが⽣じ続けている→ これらのリスクをゼロにすることは難しく、どの程度のリスクレベルならば、その便益と引き換えに受容できるのかについての検討が必要である
Katirai et al., 2023

27

謝辞
Many thanks to my collaborators on the projects reported in these slides, with special thanks
to Professor Atsuo Kishimoto, Dr. Yuta Nakashima, Dr. Kazuki Ide, and Dr. Noa Garcia.

参考文献①•Abid, A., Farooqi, M. and Zou, J., 2021. Large language models associateMuslims with violence. Nature Machine Intelligence, 3(6), pp.461-463.

•Birhane A, Prabhu VU, Kahembwe E. Multimodal datasets: misogyny,pornography, and malignant stereotypes. arXiv preprint arXiv:2110.01963. 2021.

•Adams LC, Busch F, Truhn D, Makowski MR, Aerts HJ, Bressem KK. What Does •DALL-E 2 Know About Radiology? J Med Internet Res. 2023;25:e43110.

•Bird C, Ungless E, Kasirzadeh A. Typology of risks of generative text-to-image
models. InProceedings of the 2023 AAAI/ACM Conference on AI, Ethics, andSociety.

Agarwal A, Farid H, Gu Y, He M, Koki Nagano K, and Li H. Protecting worldleaders against deep fakes. In CVPR Workshops, volume 1, page 38, 2019.

•Beiser, V. The world in a grain: The story of sand and how it transformedcivilization. Penguin Publishing Group. 2018

•Bendel O. Image synthesis from an ethical perspective. AI & SOCIETY. 2023.

••

Bender EM, Gebru T, McMillan-Major A, Shmitchell S. On the Dangers ofStochastic Parrots: Can Language Models Be Too Big? 🦜. In: Proceedings ofthe 2021 ACM Conference on Fairness, Accountability, and Transparency.
Virtual Event Canada: ACM; 2021. p. 610‒23.
https://dl.acm.org/doi/10.1145/3442188.3445922•Brevini, B. Is AI good for the planet? John Wiley & Sons, 2021.

•Carlini N, Hayes J, Nasr M, Jagielski M, Sehwag V, Tramer F, Balle B, Ippolito D,and Wallace E. Extracting training data from diffusion models. arXiv preprint
arXiv:2301.13188, 2023.

•Chen C, Fu J, Lyu L. A Pathway Towards Responsible AI Generated Content.
ArXiv Prepr ArXiv230301325. 2023;•Cheong C, Abedin E, Ferreira M, Reimann RW, Chalson, S, Robinson, P, Byrne, J,Ruppanner, L, Alfano, M, and Klein,C. Investigating gender and racial biases inDALL-E Mini images. PNAS, 2023 (to be published).

Bianchi, F, Kalluri, P, Durmus, E, Ladhak, F, Cheng, M, Nozza, D, Hashimoto, T, •Jurafsky, D Zou, J, and Caliskan, A. Easily accessible text-to-image generation
amplifies demographic stereotypes at large scale. arXiv preprint arXiv:2211.0375•Chesney R and Citron D. Deepfakes and the new disinformation war: Thecoming age of post-truth geopolitics. Foreign Aff., 98:147, 2019
Crawford K, Paglen T. Excavating AI: The politics of images in machine learning
training sets. AI Soc. 2021;36(4):1105‒16.

28

参考文献②
•

Crawford, K. The atlas of AI: Power, politics, and the planetary costs of artificial •
intelligence. Yale University Press, 2021.

Luccioni, AS, Akiki, C, Mitchell, M, and Jernite, Y. Stable bias: Analyzing societal
representations in diffusion models. arXiv preprint arXiv:2303.11408, 2023.

•Edwards, B. Artist finds private medical record photos in popular AI training data •set. Ars Technica, 2022. https://arstechnica.com/informationtechnology/2022/09/artist-finds-priva te-medical-record-photos-in-popular-aitraining-data-set/.

Luccioni AS, Jernite Y, Strubell E. Power Hungry Processing: Watts Driving theCost of AI Deployment? [Internet]. arXiv; 2023 [cited 2023 Nov 29]. Available
from: http://arxiv.org/abs/2311.16863•Ferrara, E. (2023). Should ChatGPT be biased? Challenges and risks of bias inlarge language models. arXiv preprint arXiv:2304.03738.

•Fraser KC, Kiritchenko S, Nejadgholi I. Diversity is not a one-way street: Pilot
study on ethical interventions for racial bias in text-to-image systems. ICCVAccept. 2023.

•Mökander J, Schuetthree-layered approach . arXiv; t J, Kirk HR, Floridi L.
Auditing large language models: a 2023. http://arxiv.org/abs/2302.08500•Munn L, Magee L, Arora V. Truth machines: synthesizing veracity in AI language
models. AI & society. 2023.

•Nichol A. DALL-E 2 pre-training mitigations. OpenAI Blog. 2022.

•Garcia N, Hirota Y, Wu Y, Nakashima Y. Uncurated image-text datasets:•Shedding light on demographic bias. InProceedings of the IEEE/CVF Conference
on Computer Vision and Pattern Recognition 2023.

•Katirai A, Garcia N, Ide K, Nakashima Y, Kishimoto A. Situating the social issuesof image generation models in the model life cycle: a sociotechnical approach.
2023.
••

•

Ko H, Park G, Jeon H, J, J, Kim J, and Seo J. Large-scale text-to-image
generation models for visual artistsʼ creative works. In IUI, pages 919‒933, 2023.

•Li P, Yang J, Islam MA, Ren S. Making AI Less “Thirsty”: Uncovering andAddressing the Secret Water Footprint of AI Models [Internet]. arXiv; 2023 [cited2023 Sep 6]. Available from: http://arxiv.org/abs/2304.03271••

Nightingale SJ and Farid H. AI-synthesized faces are indistinguishable from real
faces and more trustworthy. PNAS, 119(8):e2120481119, 2022.
Offert, F and Phan, T. A sign that spells: DALL-E 2, in visual images and theracial politics of feature space. arXiv preprint arXiv:2211.06323, 2022.
Oppenlaender J, Visuri A, Paananen V, Linder R, and Silvennoinen J. Text-toimage generation: Perceptions and realities. arXiv preprint arXiv:2303.13530,2023.
Pitron G. The Rare Metals War: the dark side of clean energy and digitaltechnologies. Scribe Publications; 2020.
Ricker J, Damm S, Holz T, and Fischer S. Towards the detection of diffusion
model deepfakes. arXiv preprint arXiv:2210.14571, 2023.

29

参考文献③
•

•

Rillig MC, Ågerstrand M, Bi M, Gould KA, Sauerland U. Risks and benefits oflarge language models for the environment. Environmental Science &Technology. 2023 Feb 23;57(9):3464-6.

•Wu, X., Duan, R. & Ni, J. Unveiling Security, Privacy, and Ethical Concerns ofChatGPT. Preprint at http://arxiv.org/abs/2307.14192 (2023).

***Spitale, G., Biller-Andorno, N. and Germani, F., 2023. AI model GPT-3 (dis)informs us better than humans. arXiv preprint arXiv:2301.11924.

•Burgess, 2023: https://www.wired.com/story/deepfake-porn-is-out-of-control/•Srinivasan R and Uchino K. Biases in generative art: A causal look from the lens •of art history. In FAccT, pages 41‒51, 2021.

Burgess, 2024: https://www.wired.com/story/google-deepfake-porn-dmcatakedowns/•Steed R and Caliskan A. Image representations learned with unsupervised pre- •training contain human-like biases. In FAccT. ACM, 2021.

Chowdhury, 2024: https://www.nature.com/articles/d41586-024-00995-9••

Stokel-Walker, C. How AI ate the world: a brief history of artificial intelligence ‒and its long future. WHSmith, 2024.
Struppek L, Hintersdorf D, and Kersting K. Rickrolling the artist: Injecting
invisible backdoors into text-guided image generation models. arXiv preprint
arXiv:2211.02408, 2022.

•Christopher and Bansal, 2024: https://www.wired.com/story/indian-electionsai-deepfakes/•Crawford, 2024: https://www.nature.com/articles/d41586-024-00995-9•

DAIR, 2023: https://www.dair-institute.org/blog/letter-statement-March2023•

Feliba, 2023:
https://www.japantimes.co.jp/news/2023/11/22/world/politics/ai-javier-mileiargentina-presidency/•

Takeshita M, Rzepka R, Araki K. Speciesist language and nonhuman animal bias
in English Masked Language Models. Information Processing & Management.
2022;59(5):103050.

••Ungless EL, Ross B, Lauscher A. Stereotypes and Smut: The (Mis)
representation of Non-cisgender Identities by Text-to-Image Models. ArXiv
Prepr ArXiv230517072. 2023;

France24, 2023: https://www.france24.com/en/live-news/20230828-the-fightover-a-dangerous-ideology-shaping-ai-debate•

Future of Life Institute, 2023: https://futureoflife.org/open-letter/pause-giantai-experiments/

Verdoliva L. Media forensics and deepfakes: An overview. IEEE Journal of
Selected Topics in Signal Processing, 14(5):910‒932, 2020

•GitHub, 2023: https://github.com/StabilityAI/stablediffusion/blob/main/modelcard.md

•

30

参考文献④
•

Guest, 2024: https://www.wired.com/story/mayor-of-london-sadiq-khan-ulez- •conspiracy•

The Economist: https://www.economist.com › business › 2023/10/05•

Heaven, 2024: https://www.technologyreview.com/2024/06/18/1093440/whatcauses-ai-hallucinate-chatbots/

The Japan Times, 2023:
https://www.japantimes.co.jp/business/2023/08/30/tech/ideological-fightover-ai/•

Heikkila, 2024: https://www.technologyreview.com/2024/01/29/1087325/three- •ways-we-can-fight-deepfake-porn-taylors-version/

The Verge, 2023: https://www.theverge.com/2023/12/20/24009418/generativeai-image-laion-csam-google-stability-stanford•

Helmore, 2024: https://www.theguardian.com/usnews/2024/apr/09/alexandria-ocasio-cortez-deepfake-porn•Thiel, 2023: https://cyber.fsi.stanford.edu/news/investigation-finds-ai-imagegeneration-models-trained-child-abuse•

Klein, 2023: https://www.theguardian.com/commentisfree/2023/may/08/aimachines-hallucinating-naomi-klein•

Torres, 2023: https://www.newstatesman.com/ideas/2023/08/longtermismthreat-humanity•

Lamb et al., 2024: https://foreignpolicy.com/2024/02/14/prabowo-indonesiaelection-democracy-jokowi/••

Twitter, 2023 (Sam Altman):https://twitter.com/sama/status/1599671496636780546?s=20&t=asOjLruBhE9
QkebiA8pOgQ

Lubin, 2024: https://cyber.harvard.edu/story/2024-03/what-do-aboutjunkification-internet•

Wired, 2023: https://www.wired.com/story/the-generative-ai-search-race-hasa-dirty-secret/?

•Morrish, 2024: https://www.wired.com/story/dark-side-open-source-ai-imagegenerators/•

Kapoor and Narayanan, 2023: https://aisnakeoil.substack.com/p/a-misleadingopen-letter-about-sci•OpenAI, 2023: https://cdn.openai.com/papers/gpt-4-system-card.pdf