Issues 誌「人工知能社会」エッセイ集1

遠藤 悟
Issues in Science and Technology 誌は、2024 年冬号において、「An AI Society」と題する 11 人の著者によるエッセイ集を掲載した。以下においては、本ウェブサイト設置者の理解に基づく、このエッセイ集に記載された内容（和訳ではないが、概ね本文の内容を反映した記述）を紹介する。
Issues 誌 An AI Society エッセイ集のサイト
https://issues.org/an-ai-society/
各エッセイの内容
Generative AI Is a Crisis for Copyright Law（Kate Crawford, Jason Schultz）
How Generative AI Endangers Cultural Narratives（Jill Walker Rettberg）
AI Aids the Pretense of Military “Precision”（Lucy Suchman）
Protect Information Systems to Preserve Attention（Mark Andrejevic）
Ground Truths Are Human Constructions（Florian Jaton）
To Reckon with Generative AI, Make It a Public Problem（Mike Ananny）
How AI Sets Limits for Human Aspiration（Stephanie Dick, Wendy Hui Kyong Chun, Matt Canute）
History Can Help Us Chart AI’s Future（Xiaochang Li）
AI Lacks Ethic Checks for Human Experimentation（Linnet Taylor）
Needed: Ways for Citizens to Sound the Alarm about AI’s Societal Impacts（Karine Gentelet）
The Question Isn’t Asset or Threat; It’s Oversight（Emmanuel Didier）
Generative AI Is a Crisis for Copyright Law
Kate Crawford, Jason Schultz
生成 AI は、著作権を危機に導いている。米国では人工知能に関する十数件の著作権の訴訟が起こされたが、過去の件数を大幅に上回っている。2023 年初頭に米国著作権局は、生成 AI に焦点をあてた著作権制度の見直しを開始した。
英米の著作権法は、創造的な生産と所有権に関する枠組みを提供してきたが、現在、生成 AI は本来の著作権法の基本概念を不安定化している。
一般的な著作権法に訴訟においては、一つの作品と一つの不正なコピーに焦点が絞られるが、人工知能システムによりトレーニングされたオンラインデータの取得に関しては、非営利団体 LAION のCommonPool には 128 億のイメージとキャプションが含まれるなど、その規模は従来のものを大きく超
えている。

1

「米国の科学政策」ウェブサイト 2024 年 4 月 7 日掲載

多くのアーティストやデザイナーにとってこれは存在の危機に感じられる。アーティストやデザイナ
ーの作品は、人工知能のトレーニングに使用され、模倣されたイマージやテキストを生成する。しかしこ
れまで裁判所は、著作権で保護された作品を人工知能のトレーニングに使用すること著作権法違反との判断を下していない。米国の裁判所は公共の利益に資する場合に著作権のある作品を許可なく限定的に使用することが認められるフェアユースによる除外を認める可能性が高い。EU でも EU デジタル法の下で、テキストとデータのマイニングの例外の下で認められている。
著作権法はまた、人工知能システムの作品にも問題を抱えている。英米法は、作品には「著者」が存在
し、創造性を高めるために経済的誘因が必要とされる。しかしアルゴリズムは誘因を必要とせず、米国著
作権局は、アルゴリズムに著作権はないとしている。
人工知能が生成した作品に、ヒトが著作権を持つこともない。生成 AI の背後にあるアルゴリズムやニューラルネットアーキテクチャは、予測不能であり、ヒトのコントロールが及ばない。
生成 AI により造られた数十億の作品は、所有されることなく、どこでも誰でもどんな目的にも使用される。
著作権侵害を証明することにも同様の危機がある。生成 AI システムが作成したものが、ミッキーマウ
スであれピカチュウであれ、裁判所はコピーを誰が主導したかという問題に苦慮することになる。
著作権法は 18 世紀に発展し、21 世紀にはデジタル化されオンライン上にあるヒトの作品をテクノロ
ジー企業によって利用されるようになったが、生成 AI がもたらす不安定化は、創造的な作品を支える社
会的、法的、文化的枠組みを見直す機会となる。
ヒトは作品がトレーニングに組み込まれることに、どのような同意、クレジット、報酬を期待すべきか？、生成 AI を使ってヒトが作品を作成すると何か起こるのか？、ヒトの創造性に関する価値はどのように変わるのか？
メディア企業への経済的誘因とは逆に、公平性と創造性に焦点を絞った知的財産の概念を開発すべき時かもしれない。より良い世界とするためには、何が創造され、誰が創造物の利用について発言し、誰が利益を得るべきかについてより深い哲学的関与が必要となる。
How Generative AI Endangers Cultural Narratives
Jill Walker Rettberg
昨夏、ノルウェーのベルゲンの自宅で乾燥機を必要とし、google でノルウェー語で検索したが、得られた結果は、ノルウェーで役に立たないガス乾燥機に関するものだった。問題を解決したのは近所の販売店であった。
この経験は、生成 AI の多様な文化的なナラティブ、コンテンツ、遺産の欠如というリスクが評価されていないことを示している。生成 AI の文化的観点の軽視は、このシステムがトレーニングされる米国のコンテンツに統合される可能性がある。
生成 AI は日常のツールに入り込んでいることから、それが生成する物語について考えるときである。
生成 AI がバイアスを持つことは明らかである。Midjourney という画像生成ツールは、貧しい白人の子供を治療する黒人医師を指定し入力しても、その画像を出力することは出来なかった。
ノルウェーやデンマークでよく知られた Cardamom Town という児童書・ミュージカルは、3 人の貧しく労働の意味を知らない泥棒が警察官や市民の支援で更生し、最後は火災から町を救うという物語で、

ノルウェーの刑事司法制度が、刑罰より更生を重視していることを示すものである。しかし、生成 AI は、
悪人は最後に処罰されるという、米国のありふれたナラティブに溢れたチャットボットや検索結果の中で、このような物語は葬り去られるかもしれない。
ナラティブは、人々が生きるひな型を提供する。我々が聞き、共有し、創造する物語により、行動や理解の可能性が形成される。我々は、犯罪者は更生し得る者か、あるいは悲惨な結末を迎えるべき者かを学ぶ。人工知能は、量的な学問：コンピューター科学、データサイエンス、統計学、数学において開発されてきた。現在の人工知能の潮流は、言語、ナラティブ、文化を基盤としているが、世界の文化的ナラティ
ブを貧困化する恐れがある。我々は人工知能の開発が、人文学を必要とする地点に到達した。
AI Aids the Pretense of Military “Precision”
Lucy Suchman
人工知能は、「戦争の霧」の最新の技術的解決策である。ウクライナやガザで、人工知能による戦闘の到来を宣言する者がいる。2023 年 10 月にウクライナの技術者は人工知能を利用したドローンが 64 種のロシアの「軍事目標物体」を識別した。イスラエルの国防軍のウェブサイトには、人工知能システムが前例のない速度で攻撃すべき目標を生成したとことが報告された。これらのシステムに組み込まれた前提の妥当性については、重大な脅威であるかを誰が決定するか、また、ジュネーブ条約や戦争法の下での目標設定において正当性があるかといった点において大きな疑問が生じる。
科学技術想像力の概念は、科学技術スタディの分野で発展し、科学的・技術的プロジェクトの実装として社会的な秩序の構想を記述するが、人工知能を活用した戦闘などを例とした、軍産学複合体への投資への期待も含まれる。
現実世界においてこれらのプラットフォームは大規模で最新のデータセットが用いられるが、米国や同盟国は、妥当性の評価に必要な詳細は非公表である。しかし、犯罪の世界では、予測的な取り締まりが実際の犯罪と一致したものは 1%未満であり、生成 AI はデータの出所や情報の信頼性において不確実性が伴う。このことは、喫緊の脅威に対応する「軍事行動にかかるインテリジェンス」において特に危険である。
我々は「戦争の霧」の解決策としての人工知能の利用に対し深刻な懐疑を抱くべきである。技術への信頼は、ある種の意図した無知を構成する。Laurie Anderson の言葉を借りれば、「もしあなたが、技術があなたの問題を解決すると考えるならば、あなたは技術を理解していないし、あなた自身の問題も理解していない」ことである。
戦争の現実に対する批判的な問いは、戦争が制御不能なカオスや正当化できない犠牲を隠蔽しようとする企てや、軍国主義が永続的なものであり、暴力が合理性があり制御可能であるとする論理に対し、問題を呈することが出来る。現在の世界では軍事力の有効性の存在が示されるが、我々はアルゴリズムに基づく戦闘に数十億ドルの資金が投入されるナラティブに疑問を呈するべきである。我々は、軍備エスカレーション回避、全ての人々に安全保障を提供する協議を通した安定化、そして最終的には非武装化の実現のための創造的なプロジェクトにリソースを振り向けるべきである。軍国主義の技術解決者的な想像力は永く続いたが、その持続的な平和の基盤としての限界も同様に存在する。

Protect Information Systems to Preserve Attention
Mark Andrejevic
人工知能により生成されたコンテンツは溢れ、OpenAI 共同創設者 Greg Brockman によれば、その技術はテレビの結末を視聴者がカスタマイズできるなど、大衆文化を根本的に変容させ得る。
Brockman はカスタマイズ化をパラダイスのように言うが、それが誤情報や他のコンテンツが市民生活を混乱させ、民主主義を弱体化させることが容易に考えられる。
「悪化は良貨を駆逐する」というグレシ
ャムの法則のように、悪いコンテンツは良いコンテンツを駆逐する。
数十年前、情報空間の制約はチャンネルの希少性にあった。Tiziana Terranova が「神経生理学的認識の限界と消費可能な時間に関する社会的な限界」について記したように、国民の関心は有限のリソースであり、民主主義が機能するためには、公共の事柄に関心を持つ必要があった。しかし自動的に生成されたコンテンツが氾濫する環境においては、関心（attention）が希少なリソースとなった。
ヒトの関心がパーソナライズされた無限の流れに独占させる世界は消費者のパラダイスかも知れないが、市民にとって悪夢となるだろう。Google の「Selfish Ledger」や物理学者 César Hidalgo の個々の市
民の政治的な選好や行動のためのソフトウェアエージェントを提供する提案をするなど、技術セクター
は既に民主主義とは程遠い人々の関心を集めるモデルを提案している。そのような世界では、アルゴリ
ズムが我々のために関心を抱き、人々は問題を学んだり、意見を表明したりする必要はなくなる。
そのような提案は、市民が情報コモンズを積極的に制限することの重要性を示している。希少な関心を持ち続けることは、共有され、重なり合い、共通性のある利益という捉えどころのない感覚を取り戻す
ために必須である。世界は、我々が生み出すデータが、我々自身のものでもなく、市民生活のものでもな
い優先順位に従い、我々の関心が捕捉され、振り向けられる状況に向かっている。ソフトウェアが市民権を代替することは許されず、巨大テクノロジー企業の経済力は市民が政治的な力を実践するために必要な情報にアクセスする能力との間でバランスが保たれなければならない。
Ground Truths Are Human Constructions
Florian Jaton
人工知能のアルゴリズムは、ヒトが創り出した、文化的な構築物である。アルゴリズムが存在するために必要な多くの動作や材料の多くは、機械学習を可能とする数値のセットである。これらのリポジトリ
はしばしば「ground truths」と呼ばれ、コンピューター科学者は新しいアルゴリズムを設計し効率性を実証するために、「ground truthing」と呼ばれるプロセスでこれらのデータセットを作成・使用する。
ground-truthing がどのように機能するかを理解することで、アルゴリズムがどのように誤情報を拡散させ、バイアスのある判断を下し、社会機能を低下させるかを明らかにし、より深く検討された規制を触発させることが出来る。ground-truthing が不透明で抽象的なままである限り、社会は、アルゴリズムが有害性を産み出さないための努力が必要となる。
ground-truth のデータセットは、アルゴリズムの目標について、人工知能のアルゴリズムの特定のア
ウトプットを高い信頼性を持って予測・生成することと定義している。換言すれば ground-truth データ
セットは意図的に構築されたものである。従ってそれらは、それによるアルゴリズムとともに、限界があり恣意的であり、作成したチームの社会的文化的な指紋を残している。
ground-truth データセットは少なくとも入力データ（アルゴリズムが処理すべきもの）とアウトプット目標（アルゴリズムが生産すべきもの）の２つにより構成される。監督された機械学習はヒトによりラ
ベル付けられたアウトプット目標から始まるが、大半の生成 AI における教師なしの（自己監督型の）機
械学習では、出力目標は新しいアルゴリズムを評価することのみに用いられる。
大半の生成 AI システムは、教師ありと教師なしの双方のアルゴリズムを集積したものであるが、生成AI は自己監督型であっても、ground-truths とその社会的文化的な指向に完全に依存している。
問題は、我々はポスト分類化、ポスト社会的構造化の世界に生きている中で、コンピューターが「生のデータ」に自由にアクセスし、実用的な真実に精製することが出来ると想定されることである。しかしデータは決して生ではなく、実用的な真実は決して客観的ではない。
アルゴリズムは、再利用されヒトの介入を経たものであるが、既に供給され定義されたものを取り出すものではない。この観点は人工知能が期待に沿わず欠点があるように聞こえるかも知れないが、社会科学者がコンピューター科学者と協力を始める機会となると信じる。これにより人々が新たなアルゴリ
ズムを支え、よりアカウンタブルで価値のある ground-truthing のプロセスを記述するための協働を形成させることが出来る。
To Reckon with Generative AI, Make It a Public Problem
Mike Ananny「しばしば、狭隘で純粋に技術的と思われる問題は、「公共の問題」として再構成させることが、最善の取り組みとなる」という言葉は 1 世紀近く前の John Dewey の考えである。その例は、大気汚染、水の汚染、地球温暖化、子供の教育などで、個人には必ずしも感じられないが、発展する社会において人間が発展することを意味する。これらの問題は認識され、議論され、集合的に管理される必要がある。公共の問題は我々の共有された現実を定義する。
生成 AI は技術的な問題と捉えられてきたが、公共の問題として再構成することにより新たな行動の道
筋が提供される。生成 AI は社会の集合的な物語に転化する。気候変動についての物語やヴィデオを生成
IA に求めることは、公共問題を理解するための統計的に受容可能な機械学習モデルを依頼することである。ChatGPT や Midjourney のようなツールは公共問題を理解するための言語となりつつあるが、Dewey
が語った公共生活の共有された結果を理解するための物語を形成する力の分析はほとんど行われていな
い。
生成 AI を効果的に取り扱うため、消費者と開発者は同様に生成 AI をバイアスのあるデータベースや機械学習の暴走と捉えるのではなく、人々が学習し、世界を理解し、相互に交わる急激に出現した言語と捉える必要がある。換言すれば公共の問題として捉える必要がある。
第一に研究者は生成 AI を技術を創造する「境界」、「基盤」、「ヒンジ」として捉える必要がある。例えば、ビジネスモデルを示す起業家や新たなニュースを書くジャーナリストや信じるものを求める聴衆などである。それは生成 AI が、知識を提示し、イノベーションを促進し、物語を作成し、共有された現実を創造する複雑で目に見えないものという前提である。
第二に、社会として我々は生成 AI による産み出された害毒を分析する必要がある。統計的な幻覚、チャットボットの著者の誤り、分析計算の誤りがあっても、生成 AI は中立的に見え、計算機的に確かであるといった装いにより、危険な言葉を産み出す。これらの誤りは、メディアの安定性・信頼性を損ない、社会の情報源と現実を判断する能力を不安定化させる。

最後に、社会の全ての構成員は、テクノロジー企業や人工知能「ゴッドファーザー」が、生成 AI が実在する危機であるが、技術者のみがその問題を解決できるといった主張を拒否すべきである。人々の問題は、人々が集合的に議論し、理解され、管理されるものであり、民間企業や知識を所有し自身の都合により機能する管理者に拠るものではない。
公共の問題は単なる技術的好奇心、モラルのパニック、不可避の未来といった問題ではなく、人々と機械の間で、言葉を創造し、誤りを産み、システム的に対処されるシステムである。生成 AI を共有する現実を創造し、集団的に取り組む課題として理解すれば、公共の問題として捉えることが出来る。
How AI Sets Limits for Human Aspiration
Stephanie Dick, Wendy Hui Kyong Chun, Matt Canute
我々は「インテリジェンス」を人工知能が産出することができる成果として再定義している状況を目撃している。生成 AI は、テキストや画像の出力などで、ヒトと対戦させられ、ヒトを模倣し、ヒトを超越することが求められている。
人工知能の進歩を喧伝するナラティブは、その根底にある論議を曖昧にしている。このことに対応しなければ、覇権を握った理論が視野を狭め、ヒトの願望を妨げ、過去から学ぶことなく未来を閉ざすこととなる。
問題の根は深い。1950 年、1960 年代の人工知能の研究者はヒトとの比較を行った。人工知能をヒトの助手、召使い、奴隷と考えた者は人工知能は反復的で考えを持たないものと捉え、人工知能は指導者や同僚になり得ると考えた者は暗黙のうちに効果的な推論から外れたものは取り除けると考えていた。
人工知能とヒトの活動の比較は、しばしば社会的な階層と相関する。1960～1970 年代に女性やマイノ
リティーはコードを学ぶことで社会進出することが奨励されたが、このような価値は薄れ、白人男性が技術面で能力を持つとされた。最近 OpenAI は、標準的なテストが、ヒトの知識への理解や潜在性について、実証主義的、敵対的、官僚的であると測定している。生成 AI の結果が真実と認められるため、あるいは他者に「真実」でるという衝撃を与えるためには、過去の価値や経験において認識できるものでなければならないが、過去を振り返り、外れ値を平滑化することは、ヒトの未来への想像力の源泉を閉ざすこととなる。
このような実践は最終的に誰が、そして何が知性を持つものであるかということに影響を及ぼし、社
会、言説、政治、権力を大きく変える。例えば、「人工知能倫理」においては、「公正性」や「公平性」といった複雑な概念は、予測に対する数学的な制約に再構成され、機械学習の論理の下で崩壊する。他の例
では、囲碁、チェス、ポーカーなどはヒトにとって勝利以上のプレイであるが、ゲームのための機械学習の開発は、勝利のために許容されるプレイのみに再定義させる。
人工知能の歴史は通常、ヒトのような知能や創造性の獲得の歴史である。しかし、それはヒトの能力を除外し、知識を縮小させ再定義させることに転換させるものかも知れない。これは、知能の視野をパター
ン認識やデータ予測などにより達成させる活動に狭めるものである。我々は、このことが、知識、創造性、想像力、民主主義といった中核的な理想への希求に制約を課し、ヒトの未来をより貧しく、制約されたものとすることことに恐怖を感じる。

History Can Help Us Chart AI’s Future
Xiaochang Li
現在の人工知能と機械学習の有害性を回避する技術的アプローチは、トレーニングデータのバイアスや不注意な（あるいは悪意ある）誤用に関することに焦点があれられている。これらは重要であるが、十分な解決策ではない、人工知能の多くのリスクは、健全な戦略が適切に実行されないといったものではなく、人工知能が、バイアスや誤情報を可能とする傾向が、「データ駆動型」のモデリングのパラダイムに組み込まれていることにある。
このパラダイムは、現在の機械学習の基盤を形成する。それは、モデルとするものへの参照や知識に欠けたまま、過去の事例を一般化するデータ集約的なパターン認識に依存する。換言すれば、データ駆動型の手法は、記述も説明も出来ないプロセスのアウトプットを予測するよう設計されている。説明モデルを排除しているため、これらの方法は誤った方向に向かいがちである。
現在、機械学習のデータ集約的で力づくのアプローチは、人工知能や計算機モデリングと同義語となっているが、歴史はデータ駆動型の機械学習は自然なものでも必然的なものでもないことを示している。
現在の自然言語処理などの機械学習の主要分野の支配的な状況の形成は、2010 年に Alfred Spector
Google 副社長が「音声認識の確立したアプローチを 180 度転換した」という言葉により示されている。
米国の人工知能研究の初期の数十年間は、Stephanie Dick が言うように、「コンピューターと心は同じ類のものである」という仮定に基づきヒトの認知能力を再現することに固執した。この傾向は、1970 年
代に IBM の音声認識への従来とは異なる「統計的アプローチ」により変化が始まった。IBM の研究者は言語知識の形式的な表現を放棄し、大量のサンプルデータに基づいて、最も蓋然性の高い単語を予測するための統計的なパターン認識のテクニックを使用した。
ヒトの決定プロセスをシミュレートする知識ベースのアプローチが放棄され、出力を予測するのみを目的としたデータ駆動型のアプローチが採用される結果となったが、このことは、ヒトと機械の知識の関係を根本的な再構築を意味した。
このアプローチの成功は、自然言語処理に加え、マシンヴィジョン、バイオインフォ―マティクス、その他の領域にわたるデータ駆動型アプローチへの転換の引き金をひいた。2009 年に Google のトップ研
究者は、「単純なモデルと多くのデータが、少ないデータの精巧なモデルに勝る」と、音声認識への統計的アプローチの成功を示した。
機械の知能を、ヒトの理解と根本的に異なるものという枠組みで捉えることは、計算機モデリングにおいて専門家の知識をデータ駆動型の近似化に置き換える強力な先例となった。生成 AI はこの論理を更に進め、世界をモデル化するだけでなく、それを積極的に作り変える。
大規模言語モデルは、生成する言説の本質に無知であり無関心である。SNS のフィードの結果が、ア
ルゴリズムのパターンの予測のみで、理解されずに決定されることならば、誤情報の氾濫は驚くべきことではない。
そのような問題が、データ駆動型機械学習の論理の本質にあると認識されないと、むしろ捕食的なイ
ンクルージョン（見せかけの民主化が、更に周縁的なグループからの搾取を強めること）といった有害性をもたらす、データの収集やトラッキングの強化など誤った技術的修正の取り組みに向かわせる。
しかし、歴史はこのような思想を打ち破る手助けをする。データ駆動型の機械学習の永続的な拡大が規定の帰結と考えるべきではない。機械学習の台頭は、技術的な枠組みに根差して常態化した特定の家

庭と優先順位に拠る。機械学習を強化する戦術を規定事実とせず、機械学習の論理そのものが、我々の目的に根本的にそぐわないかも知れないということを考慮する必要がある。
AI Lacks Ethic Checks for Human Experimentation
Linnet Taylor
第二次世界大戦中のナチスの医学実験や、米国の公衆衛生局による 40 年にわたるタスキーギ梅毒研究への怒りを受けて、1947 年のニュルンベルグ綱領や 1979 年のベルモント報告書などによるヒトを対象とした医学実験を規制する生命倫理の枠組みが構築された。現在、SNS や、生成 AI はヒトを対象とした実験を行っているが、その有害性を防止するための制度的なチェックは存在しない。
事実、過去 20 年間で、ヒトは社会が人工知能のためにヒトの実験室を構成する、大規模な実験の一部となることに慣れてしまった。その例は、難民キャンプの生体認証・決済システムの実験、無料の住宅の提供により行われた永続的なマーケティングやブランディングの実験、アフリカの消費者を利用したモ
バイルマネーの研究開発等がある。元来はアプリのテストだったものが、ソフトウェアをリアルタイム
で観察する集団実験室のビジネスモデルとなった。
このヒトを対象とした実験は常態化し、経済発展の道筋とされた。デジタルヨーロッパプログラムは2023 年に「規制的サンドボックス」プログラムを支援するが、その目的は有害性と利便性の規制のための情報を生成させることであり、目標は巨大企業の不当な圧力を受けずに小企業が実験を行うことである。しかし、生成 AI の意味あるサンドボックスとなるかは不明であり、サンドボックスと世界との境界も不明瞭である。
生成 AI は、潜在的な有害性を検討する正式なメカニズムのない、イノベーションにおける規制のない
実験の極端なケースである。このような実験は学生の ChatGPT を使ったカンニング、弁護士の凡例引用の捏造など、専門的な実践や知識に予期しない断裂を引き起こす。生成 AI はまた、偽情報に錯乱されることにより、人々が「ground truth」を把握する力を低減させる。
これら２つの問題は、哲学者 Regina Rini が「認識論的なバックネット（epistemic backstop）」と名付けた何が現実であるかについて検討するベンチマークを突然取り払うことである。生成 AI は、法律、政策、医学といった専門家が依拠する情報検索の実践を崩壊させ、人々との議論における共通の真実を引き出す能力を破壊する。皮肉なことに、この破壊はシステムの開発者にとって成功と分類される。
現在の人工知能の規制は個人の安全性への責任に関するものであるが、現実は社会全体が実験の被験者であるため、ガバナンスの点で問題である。研究者に向けられた課題は、生成 AI の破壊がどのような規模で起こり、その問題が規制に転換することが出来るかである。それにより、当局は、個人に対する責任という拡散する定義困難な形態を脱し、問題を定型化し説明責任を果たすことが出来る。この適切な対応は、技術がどのように発展し、人工知能のリスクを中長期的に設定する道筋となる。
20 世紀の生物医学の実験と同様、人工知能の境界を定義する取り組みは、「人工知能の安全性」を超えて人工知能の正当性に及び、これは社会科学の概念的な作業の次のフロンティアである。各部門、各分
野、そして規制当局は、デジタル化により可能となったデータ駆動型の試験を含めるよう実験の定義を更新するための取り組みを行わなければならない。そこでは一人や見分けがつくグループといった境界のある活動への影響に関する実験は想定されない。大規模な実験はその対象が見えにくいものとなるが、それが問題を少なくするものではなく、規制当局が精査・管理する方法を構築しないことから免れるものでもない。
Needed: Ways for Citizens to Sound the Alarm about AI’s Societal Impacts
Karine Gentelet
筆者は職務の一環として、犯罪学専門家、学校教師、退職者、労働組合員、先住民などに、人工知能が人権にどのような影響を及ぼすかについて講演を行っている。これら多様なグループから示された共通のテーマとしては、人工知能が自身の雇用や生活に影響を及ぼすにも関わらず、プログラムが導入される前に、自身の経験や専門性が完全に置き去りにされていると感じていることである。中には、抗議すれば法的措置が取られることを懸念する者もいる。
ヨーロッパ、カナダ、米国の人工知能を規制する計画や政策は、この状況を改善するようには思われない。ヨーロッパの計画は、適用対象に応じ規制要件を指定するもので、例として高リスクの区分には雇用の決定、警察によるチェック、銀行業務、教育などに使われる技術が含まれる。カナダの立法は審議中であるが、同様のリスクアセスメントに基づいている。米国は大統領が、厳格な安全テストの要請とその結果の政府への報告である。問題は、これらの計画が市民の実際の経験や懸念に対する早期警戒システムの確立がないまま、予想される脅威にガードレイルを設けることに焦点を絞っていることである。
予想される結果に基づく規制のスキームは第一歩としては適切かも知れないが、十分ではない。ひとつには、有害性のいくつかは現在発生中ということがある。それらは、生成 AI がバイアスのあるデータセットによりトレーニングされ、新たなデータセットが悪循環を永続させることから、周辺の者や恵まれないグループにとって最も深刻である。2021 年の論文では、教育システムの予測ツールが、ジェンダ
ー、人種、民族、言語といった統計的バイアスだけでなく、都市性といった社会学的なバイアスも取り入れられていることが示されている。特定のグループの学習や学校教育のデータセットが十分にないため、そのニーズは大きなデータセットの中で見えなくなり、バイアスがあることすら予測困難となる。
必要なことは、人工知能の導入において、集団的公平性に及ぼす潜在的にハイリスクな影響を文書化
し市民の直接的な関与を支援することである。例として、カナダでは公的部門における人工知能導入について、一般弁護士や個人情報保護コミッショナーの権限が強化されている。このようなメカニズムは、透明性と説明責任を提供する。
市民の直接的な関与は、裁判所へのアクセスを通して支援されることもある。現在、人工知能の規制の枠組みにおいては、一般の人々がアルゴリズムの有害性に対し異議を唱えるためのリソースはほとんどない。しかし、裁判所へのアクセスは、企業、政府、そして何より市民自身に市民の力について明白なメッセージを送るものである。市民による監視の強化といった他のメカニズムを併せることで、法的訴訟は正当な賠償へのアクセスだけでなく、市民の権利の社会的な認知をもたらす。
筆者の講演においては、専門性に欠けるため人工知能の影響について疑問を呈することの法的根拠がないと感じると発言する者がいるが、人工知能の影響を受けるのは市民自身であり、市民は人工知能のガバナンスにおいて積極的な役割を担わなければならない。規制システムの発展においては、集団的利益に向けた市民の役割が重視されるべきである。

The Question Isn’t Asset or Threat; It’s Oversight
Emmanuel Didier
フランス医学アカデミーにおける生成 AI の研究グループの一員として筆者は、臨床医の技術はヒトの望みに反して行動するという技術的決定論を支持する者の存在に驚いたが、このような不安は医師に限らない。2023 年春には Elon Musk や Steve Wozniak といった著名人を含む数千の人々が「深刻な社会へのリスク」に対応するため「巨大人工知能実験の一時停止」の呼びかけに署名している。
しかし問題は、技術開発に制約を設けるか自由とするかといったことよりもっと複雑である。それは、倫理的価値について異なる手順を明示することであり、突き詰めればどのような社会であるべきかといった異なるヴィジョンに関することである。
Le Monde 誌に掲載された Yoshua Bengio と Yann Le Cun の二人のインタビューは、異なる見解を示している。モントリオールｎ非営利人工知能シンクタンクの Bengio は ChatGPT が革命的であるから危険であるとしている。ChatGPT や他の生成 AI システムは完全に理解されることなく、正しい回答と誤った回答を示し、情報源となり、民主主義を脅かす。この論議は哲学者 Hans Jonas の予防原則を反映したものである。その解決策は生成 AI に関する倫理的ガイドラインを確立することであり、倫理に関する欧州グループ、OECD、UNESCO 他の機関が受け入れている。
Meta の Le Cun は、ChatGPT が革命的と考えていない。ChatGPT は非常に大規模なデータベースに
よりトレーニングされたニューラルネットワークに依存している。フェイクニュースを生成するが、リスクはそれが拡散することであるとし、生成 AI の危険性の解決策は人工知能に依存することであり、人工知能はヒトがより良い判断を下すためのツールであるとしている。Joseph Schumpeter は民主主義において価値を構成するツールは法律と政府であるという類似性のある論議を展開しているが、それは人工知能の規制が必須であることである。
生成 AI が革命的と考えるか否かは別にして、解決策には類似性がある。すなわちヒトに対し危険性がある場合には、倫理が動員されるということであり、社会的価値が脅かされれば法律が導入される。いずれにしても人工知能を構築する企業への監視が解決策となる。
これにより、生成 AI の開発に市民が介入することが出来る。ステークホルダーが人工知能の開発と規制に情報を提供することにより、他の技術の進歩と同じように、ヒトは自らの道筋を決定することが出来る。