2024 年 4 月 8 日

生成 AI のあり方に関する共同提言【生成 AI に関する基本的な現状認識】■利点：人間にとって使いやすいインターフェースやエクスペリエンスを備えている▽人間が日常で用いる自然言語によって操作できるため、機械言語（プログラム）を習得せず多くの人が利用できる。
▽従来の AI は特定目的の分析や判断が中心だったが、生成 AI は推論を生成し、自然言語をはじめとした人間が直感的に理解できる表現で結果を提示する。
▽入力と出力の検証が比較的容易な「要約」には有効性が高く、労働生産性の向上が一定程度期待される。
▽インターネットを経由して提供されるため、原則的に世界中で利用ができる。
■課題：現状では人間はこの技術を制御しきれない▽結果に対する正確さを担保しきれない一方、人間が「安易」に利用・理解できるため、生成 AI が「自信たっぷりにウソをつく」状態、また人間が「あっさりと騙される」状態に陥りやすい。
▽ハルシネーション（幻覚）、バイアス（偏見）と毒性、入力データによる再学習、スクレーピングによる権利侵害、生成物の判定の困難さ等が課題として挙げられる。
▽正しい情報を丹念に整理して正確かつ価値のある情報を提供し、何らかの対価・報酬を得る（例：ジャーナリズム、アカデミアの研究）という、これまで情報の真正性・信頼性を担保してきた情報提供・流通のインセンティブが崩壊する可能性がある。
■対応の必要性：技術と法律の両方で生成 AI を規律する必要がある▽生成 AI をこのまま野放しにすると、人間同士の不信をあおり、真正性・信頼性を担保するインセンティブがなくなり、社会全体の信頼が毀損される可能性がある。最悪の場合、民主主義や社会秩序が崩壊し、戦争等が生じることも懸念される。
▽一方で AI 技術そのものはすでに社会に不可欠な存在であり、生成 AI の暴走によって AI技術全体が信頼できないものとして棄却された場合、人間の生産活動が低下する可能性がある。
▽次項で示す論点を踏まえ、生成 AI の規律と活用を両立する方策を技術・制度双方の観点から実現し、社会における適正な「道具」としていく必要がある。

■論点１：「AI×AE の暴走」への対峙▽生成 AI に限らずあらゆるコンピュータの基本構造（アーキテクチャ）は、個人を利用者の原単位として位置づけている。一方でコンピュータが個人を強く意識しすぎるがゆえ、アテンション・エコノミーの台頭による情報空間の不健全化、個人の尊厳の毀損といった課題も生じている。
▽生成 AI は、その技術の不安定さゆえ、そうした課題をさらに増幅することが懸念される。
すなわち生成 AI でアテンション・エコノミー（AE）が加速する「AI×AE の暴走」により、社会不安が深刻化する危険性を否定できない。こうした課題を適切に理解し対処するために、我々が持つ人間観・社会観を見つめ直し、望ましい技術のあり方を批判的に検討することが重要である。
▽一方で「AI×AE の暴走」は、我々の社会の基本的価値である自律的自由（リバティ）や個人の尊厳（ディグニティ）をすでに毀損しており、その回復が急務でもある。その際、自律的自由を放棄するのではなく、人間の自由と尊厳の重要性に立脚しつつ、その合理性を検証しながら最適解を求める必要がある。その際に「情報的健康」のような概念の確立が期待される。

■論点２：自由と尊厳を守るための言論空間の確保に向けた法規制と対処する技術の導入▽人間の自由と尊厳が維持された言論空間の確保は、表面的な経済価値だけでなく、社会の安全を支えるという意味で特別な価値を持つ。こうした価値にとって「AI×AE の暴走」は脅威であり、さらに現在のように生成 AI が野放しにされたまま台頭すると、悪意のある情報流通という悪貨によって良貨が駆逐され、社会不安が生じる可能性は否定できない。
▽生成 AI を十分に規律できない状況が続く場合、少なくとも「選挙、安全保障」の領域への無条件な技術の適用は、その影響が社会として制御できず、甚大かつ不可逆な被害が懸念されることから、法律による当該領域における生成 AI 利用の強い制限（執行力を伴ったハードロー）が必要ではないか。
▽教育領域についても、特にその対象者の判断力が十分に成熟していない年齢層となる義務教育課程においては、生成 AI 利用の功罪を考慮した慎重な対応が求められる。
▽健全な情報提供・流通のインセンティブを維持するという観点から、著作権を中心とした知的財産権の保護も、制度と技術の両面から時代に合わせて適正化を図るべきである。またその際には、生成 AI 開発・利用が過度に制限されぬ、実際の執行可能性が担保された内容である必要がある。
▽こうした課題解決は、法律だけではその執行力を維持できず、技術によって担保するオリジネーター・プロファイル（OP）のような手段も同時に必要である。

■論点３：法整備を含めた実効的な統治（ガバナンス）の確立▽欧州は欧州連合（EU）の一般データ保護規則（GDPR）をはじめ、デジタルサービス法（DSA）・デジタル市場法（DMA）等のデータ関連法の整備を進めており、AI 規制法案もその一環として位置づけるなど、規制と振興の両面を意識した戦略的な法による規制を進めている。
▽我が国はこうした戦略性のある体系的なデータ政策を有しておらず、その整備には長い時間と紆余曲折をたどることも予想される。そのため、長期的には「堅牢で戦略的・体系的なデータ政策」が、また短期的には生成 AI 時代の「AI×AE」への対処を目指した「部分的な規制」と「実効的な施策」が、それぞれ必要となる。
▽一方、部分的な規制を含め、法律を直ちに導入することが難しい以上、ステークホルダーを特定した共同規制的なソフトローのアプローチ（ただし将来的な立法を視野に入れることは排除しない）について、データ（基礎）と生成 AI（応用）のそれぞれで強化する必要がある。その際、技術革新のスピードやバリューチェーンの複雑さを踏まえると、静的な構造に基づくガバナンスではなく、アジャイル・ガバナンスのような敏捷性のある枠組みの導入が期待される。
▽特に警戒すべきリスク領域（論点２参照）では、ハードロー（立法）の導入も躊躇せず実施すべきである。
▽制度設計にあたっては、必要な範囲への域外適用や他国制度の日本への影響を鑑み、国民の自由と尊厳、産業界を含む国益の保護に向けた実効性が考慮されるべきである。
▽生成 AI の規律と活用を両立する方策の一案として、「B2B2X」のバリューチェーンにおいて利用者である「X」に直接相対するセンターの「B」の主体者が、利用者の生成 AI 利用時のリスクを解消・吸収する枠組みを検討すべきである。
▽人間の自由と尊厳が維持された言論空間の確保に向けた環境として、利用者が特定の AIに依存する必要がなく、複数・多様な AI が同列に存在しつつ相互に牽制し、利用者がそれらを自律的に選択・参照できる状態の確立を制度・技術双方の点から進める必要がある。

【今後の見通し】▽生成 AI は人間が制御しきれない技術でありながら、今後はイノベーション（社会的普及に伴う変革）の段階に入る。
▽特に人間と社会の安全（民主的秩序）の基礎を構成する健全な言論空間の確保に向けた対策は直ちに講じる必要があり、生成 AI の適用分野のゾーニング（選挙、安全保障への強い制限）等の法整備（ハードロー）が必要である。
▽また（個人の情報発信も含めた）エコシステム維持の観点から、著作権法の、時代に合わせた適正化の検討を、生成 AI 自体の活用と両立する形で、制度と技術の両面で進めることが必要である。
▽ただし法改正は手続きに時間を要するため、①メディアや産業界が中心となった規律と共同規制の導入、②実効性のある技術の確立と普及、③法改正への取組、といった段階を踏むことが必要となる。
▽その際、個人の自律的な自由と尊厳を守ることを最重要の価値として特定し、コミュニテ
ィの価値といった視点からの批判的検証も踏まえつつ、検討を進める。
▽読売新聞と NTT は、こうした問題意識を共有し、引き続き検討と提言を行っていく。また慶應義塾大学サイバー文明研究センター（CCRC）は、両社の検討・提言を支援する。

株式会社読売新聞グループ本社
日本電信電話株式会社
事務局：慶應義塾大学サイバー文明研究センター（山本龍彦、クロサカタツヤ）