AI に関する暫定的な論点整理

2023 年 5 ⽉２６⽇

AI 戦略会議

1

この暫定的な論点整理（以下、論点整理）は、最近の技術の急激な変化や 2023 年 G7 広島サミットなどを踏まえ、AI 戦略会議の構成員が有識者として 2023 年 5 ⽉末の時点で、⽣成 AI を中⼼に AI に関する論点を整理したものである。
政府関係者の参考となることを期待するとともに、各界各層における議論に資することも期待している。

AI 戦略会議 構成員
江間有沙

東京⼤学未来ビジョン研究センター 准教授

岡⽥

森・濱⽥松本法律事務所 弁護⼠

淳

川原圭博

東京⼤学⼤学院⼯学系研究科 教授

北野宏明

株式会社ソニーリサーチ 代表取締役 CEO

佐渡島庸平 株式会社コルク 代表取締役社⻑
⽥中邦裕

さくらインターネット株式会社 代表取締役社⻑

松尾

東京⼤学⼤学院⼯学系研究科 教授【座⻑】

豊

⼭⼝真⼀

国際⼤学グローバル・コミュニケーション・センター 准教授

2

AI に関する暫定的な論点整理
⽬次
1. はじめに
⽣成 AI の可能性
⽣成 AI と⽇本の親和性
いま戦略を検討することの重要性
これまでの政策と論点整理との関係、論点整理の意義

2. 基本的な考え⽅
国際的なルール構築に向けた主導的役割の発揮
リスクへの対応と利⽤
多様な関係者を巻き込んだ迅速かつ柔軟な対応

3. 主な論点の整理
3-1 リスクへの対応
リスク対応の基本的⽅針
透明性と信頼性懸念されるリスクの具体例と対応

3-2 AI の利⽤
デジタル社会実現に向けた AI 利⽤の意義
AI 利⽤を加速するための取組（連携基盤構築・⼈材育成・事業環境整備）
政府機関における⽣成 AI の利⽤

幅広い世代における⽣成 AI の扱い
3-3 AI 開発⼒
開発⼒強化に向けた基本的考え⽅
計算資源データ
従来型ではない開発促進策

3-4 その他
その他の論点
政府の体制
今後の検討

3

AI に関する暫定的な論点整理

1. はじめに
⽣成 AI の可能性ある視覚障害を有する⼈がいる。その⼈には悩みごとがあった。こどもが⼩学校からもらってくる連絡
プリントを読めず、内容を知るためだけに膨⼤な⼿間と時間がかかることだ。AI を勉強した若者のスタートアップが、その⽅の悩みに寄り添い、プリントの内容の要約を瞬時に⽣成できる AI ソフトをつくり、提供した。その⼈はこどもの学校からの連絡をすぐに把握し、気遣えるようになった。⽇常にあふれる情報へのアクセスを⼿にすることで、⽣活の質は向上していった。その⼈はこれからの AI の進化を楽しみにするようになったという。AI の⼒は、ひとつの家庭に幸せと安⼼、そして希望をもたらした。社会課
題と真摯に向き合い、テクノロジーを活⽤することで、暮らしや社会は、⼤きく変わるのである。
「⽣成 AI」と称する）の利⽤者が急増している。これにより、情現在、⾼度な対話型⽣成 AI1（以下、報のアクセシビリティの向上、労働⼒不⾜解消から⽣産性向上まで、諸問題を解消できるのではとの期待もかかる。
たしかに⽣成 AI は、歴史の画期となる可能性を含んでいる。19 世紀に産業⾰命が起こって内燃機関の利活⽤が始まり、やがて⽇本では⼀家に⼀台以上の割合で⾃動⾞を所有するほどの「移動の⾃由」をもたらしたように。21 世紀初頭にはインターネットが普及しスマートフォンが⽣まれ、⾼性能なコンピュータを⼀⼈⼀台⼿にするようになり、世界中の⼈々が「情報の⾃由」を得て社会の様相がまったく変わったように。⽣成 AI もまた、変⾰の時代を呼び起こし、新しい⾃由を⼈に与えてくれそうな勢いと技術的背景がある。
AI の急速な進展を⼼配する⼈も多いだろう。私たち国⺠の多くは、「AI の難しいことはわからないけ
ど、ついていけるのか」「世の中どうなってしまうのか」というのが実感かもしれない。また、具体的に⽣成 AI による変化で困難に直⾯している⽅も出てきている。こうした⽅にしっかりと寄り添い、国⺠の声に応え、懸念やリスクを低減する措置を同時に講じていくことも⼤変重要である。技術や成⻑の話をするばかりでなく、しっかりと懸念やリスクへの対応とのバランスを取りながら進めていく必要がある。

⽣成 AI と⽇本の親和性
1

画像を⽣成する拡散モデル（diffusion model）や⾃然⾔語を扱う⼤規模⾔語モデル(large language model: LLM)などを指す。従来から識別モデルに対して⽣成モデルという分類法があり、その⽣成の側⾯に注⽬した呼び⽅。

4

AI がもたらす新しい⾃由と変化はおそらく、産業⾰命やインターネット⾰命が⽣んだものよりずっと⼤きいものとなる。ただしそれが具体的にどのような形をとって⼈々の前に現れるか、正確に捉えられている⼈はまだ誰もいないのが現状である。
ここ 30 年来、成⻑の機会を逃し続けてきた感のある⽇本においても、変⾰の時代は⼤きなチャンスの到来である。ChatGPT の流⾏は、世界中が予想しない形で昨年 11 ⽉末から始まり、AI の急速な進展が多くの⼈の共通認識となった。その後の急速な展開は、国や地域の別を問わず、企業組織の⼤⼩も関係な
く、スピード感と技術⼒を頼りにして、だれもが競争に参画できる状況が⽣まれていることを⽰している。
もとよりテクノロジー関連における研究・技術⽔準は、極めて⾼い⽇本である。AI に関しても、ここ
数年、ペースを上げて⼈材育成、研究開発、社会実装を進めてきた実績がある。⾃信を持って正⾯から堂々と競争に臨めば、充分に世界で活躍できる⼒はある。
⽇本にはさらなる強みもある。⽣成 AI はその利⽤において、どのような⼊⼒をするか創意⼯夫が必要
であり、⽇本⼈に向いているという意⾒もある。ひとりひとりが創造的で、お互いに切磋琢磨しながら、きめこまやかなものを作り上げられる⽇本⼈は、その⼒を発揮して作り込んだ⽣成 AI サービスを、ユニークな国際的に競争⼒あるものとして⽣み出せる可能性がある。また、AI が⼈間に寄り添い、⼈間の暮
らしを豊かにする光景は、私たち国⺠の多くが共有している。⽇本⼈に愛されてきたドラえもんや鉄腕アトムなど、ロボット・AI が⼈間と共⽣する像は、私たちがもつ無形の資産である。
AI に対しての切実なニーズもある。ものづくり、⾦融、医療など⼤きな産業で、必ずしもデジタル技
術をうまく利⽤できていなかった事業者も、AI を利⽤することで、⼀気に変⾰をとげられる可能性は⼤きい。そもそも労働⼈⼝が急減する⽇本においては、⽣産性を上げていくことは避けて通れない道であり、社会全体で AI を利⽤することの必要性は論を待たない。

いま戦略を検討することの重要性
盛り上がりを⾒せる⽣成 AI の技術は、まだ黎明期である。技術的な課題は多くあり、今後、こういった技術的課題が解決されるたびに⼤きな進展となって世の中に波及する。数年間のうちに技術が継続的に進展していくだろう。⻑らく停滞してきた⽇本は、AI の勃興とともに再び成⻑の機運が⾒えている。
この芽を伸ばしていくため、いまこそ⼤胆な戦略が必要なのは間違いない。先⾏する⼆つの変⾰期における⽇本のふるまいを振り返れば、産業⾰命時には内燃機関という新しい技術をすみやかに吸収し、独⾃の改良を加え⾃動⾞産業を興して世界のトップランナーとなった。対してインターネット⾰命時には、戦略と決断の速さ、資本投下の物量で劣り、後塵を拝した。今回の AI 変⾰期はどうか。
⽣成 AI と⽇本の親和性を踏まえれば、⼗⼆分に競争できる状況にあるのではないか。ChatGPT の世界的流⾏などによりその利便性・重要性が⽇本の中でも⼀気に知れ渡ったこと、そして、オープンな技術開発も続いてきたために、地域や資本の別なく誰もが参⼊できることは⽇本には追い⾵だ。考えを尽く5

し策を練れば、果実はついてくるのが現在のタイミングと⾔える。
AI は、安全保障、災害対策、温暖化対策等の地球規模の課題においても重要なツールであり、我が国
は有志国とともに技術⾰新に取り組む必要がある。
⽣成 AI を進展させるにしても、⾜元でその利⽤に対する懸念も指摘されている。また、将来の展開は
未だ誰にも分かっていない。⼀例を挙げれば、⼀つの⼤きなシステムで何を聞いても答えてくれるもの
が市場を⽀配するのか。それとも「医療系」「法律系」などと分野を縦割りに細分化し、部分特化した⽣成 AI が成⽴するのか。それによって様相は⼤きく変わる。
このように期待感と不透明感が交錯する今だからこそ、政府は、AI がもたらす社会変化に対して⼈々に安⼼感を与えると同時に、AI に関わる各プレーヤーができるだけ予⾒可能性をもってふるまえるようにすることが重要である。そして、様々な⽅⾯からのリスクに対応し、また、企業や研究者が存分に活動できるためのインフラを整備し、これら施策を適切に実現していくことによって、⽇本が成⻑へ向かう
⾜取りを、確かなものとしていくことが重要である。

これまでの政策と論点整理との関係、論点整理の意義
政府においては、これまで「AI 戦略 20222」や「⼈間中⼼の AI 社会原則3」などを定め、政府としての AI に対する基本戦略・基本理念を明らかにしてきた。しかしながら、⽣成 AI は、⾃然な⽂章のみならず画像や⾳声などの⽣成を著しく容易にするものであり、例えば⼈間の認知を欺瞞する情報を誰もが作成できるようになることや、その利⽤が世界中で爆発的に拡⼤していることから、従来の基本戦略・基
本理念は維持しつつ、⽣成 AI の登場によって整理すべきリスクや論点をとりまとめることとした。
本論点整理は、第 1 回 AI 戦略会議における総理指⽰を踏まえ、同会議構成員が、幅広い課題に関して
AI 戦略チーム（村井英樹総理⼤⾂補佐官と関係省庁の実務者）のメンバー等と集中的な議論を⾏い、とりまとめたものである。
論点整理にあたっては、⽣成 AI の進展が国際的なものである点にも留意した。
「我々が共有する⺠主
的価値に沿った、信頼できる AI」が 2023 年 G7 広島サミットにおいて合意された共通のビジョンと⽬標である。これを実現するため、欧州はリスクレベルに応じて AI の使⽤を禁⽌・制限する法案を議会が検討し、⽶国では AI 開発者に情報開⽰等の何らかの責務を課そうという意⾒がある。しかしながら、欧⽶ともに、「現⾏法で対応できる場合はそれで対応すべき（不必要で過度な規制や監視はしない）」、「イノ
ベーションを阻害しない」といった意⾒も聴かれ、各国ともに議論は⼀様ではない【別紙参照】。今般、

2差し迫った危機への対処、社会実装の推進、「すべてに AI」を⽬指した着実な取組等によって構成される。

3

基本理念（⼈間の尊厳が尊重される社会、多様な背景を持つ⼈々が多様な幸せを追求できる社会、持続性ある社会）、

AI 社会原則（⼈間中⼼の原則、教育・リテラシーの原則、プライバシー確保の原則、セキュリティ確保の原則、公正競争確保の原則、公平性・説明責任及び透明性の原則、イノベーションの原則）、AI 開発利⽤原則（開発者及び事業者において、基本理念及び AI 社会原則を踏まえた開発利⽤原則を定め、遵守すべき）等から構成される。

6

⽇本は、G7 議⻑国として国際的な議論に⼤きく貢献している。G7 ⾸脳は、2023 年 5 ⽉の広島サミットにおいて、議⻑を努める岸⽥内閣総理⼤⾂主導のもと、G7 の価値に沿った AI のガバナンスの必要性を確認するとともに、特に⽣成 AI については「広島 AI プロセス」として担当閣僚のもとで速やかに議論させ、本年中に結果を報告させることとなった。我が国は今後も責任ある⽴場としてリードしていかなければならない。AI 戦略会議としても貢献していく考えである。
今回の論点整理は、いま考えられるリスクと AI の開発・提供・利⽤に当たっての必要な環境整備を中⼼に構成されている。単に課題を羅列したものではなく、基本的な考え⽅や進め⽅などを可能な限り提案しており、政府関係者の参考となることを期待するとともに、AI の利⽤が⺠間サービスや個⼈に爆発的に広がっていくことも想定し、幅広い各界各層におけるさらなる議論に資することも期待している。
なにぶんこの分野は出てきたばかりであり、有識者にせよ政府にせよ、誰かが他より何かを知っている状態ではない。ならばせめて私たちは、いま考えられるリスクへの対応と開発等に必要なインフラの整備をどうしたらいいか、それを意識し議論するようにしてきた。我々の会議の仕事のすべては、せっかく⼟壌から顔を出した芽を、皆で⼤切に⼤きく育てていく、そのために費やされる。
⾹川県三豊市は先般、⼤学の研究室と協同してゴミ出し AI システムを開発した。細分化されたゴミ分
別ルールを覚え込ませた AI に、ゴミ捨てのガイド役になってもらおうというものだ。各国語対応なので、海外からの労働者が多い三豊市では有効な住⺠サービスとして活⽤が期待される。
「ゴミの分別に悩まない」とは⽣活内のごく⼩さい不便の解消に過ぎないが、AI が⽣み出す新しい社会と暮らしとは、こうしたささやかな創意⼯夫の積み重ねだ。ささやかな創意⼯夫で利⽤者が増え、その声がまた次の創意⼯夫を⽣む。こうした改善のサイクルを楽しんでいるうちに、いつの間にかレベルが⾼くなった AI が国内の⽣産性を底上げする。AI サービスは、国内に留まっていた産業をグローバルに展開させる。
⼩さい「こまやかさ」を集積し、⼤きい「豊かさ」を⽣み出す。そんな道のりを今後⽇本が歩んでいく
ことに、今回の論点整理が寄与できればと願う。

2. 基本的な考え⽅
国際的なルール構築に向けた主導的役割の発揮
AI には国境はなく、国際的な流通が容易であり世界中に影響を及ぼし得る。そのため、特に、リスクへの対応は、⼀つの国や地域だけが対応すればよいという問題ではなく、国際協⼒、国際協調が必要である。また、国際的に⼈間中⼼の観点が重視されているとともに、Responsible Deployment（責任ある展開）という概念が広がってきている。こうした国際的に共通の⼤きな考え⽅・ルールとの整合性や、各国のルールの詳細な差異を確認しながら相互運⽤性を確保していくことが必要である。政府は有識者の協⼒も得て、OECD、G7、GPAI、ISO 等における議論に貢献すべきである。今回の G7 で合意された「広島 AI プロセス」は、国際協調の⼤きな⼀歩であり、我が国としても引き続き議論をリードしていかなけ
7

ればならない。
その際、例えば⽇本は災害が多いこともあり、AI を⽤いた防災や被災者⽀援に関する知⾒や、プラッ
トフォーム化された AI システムがダウンした場合などの緊急事態対応に関する知⾒で世界をリードできる可能性がある。また、ものづくりと AI、コンテンツや⾷⽂化と AI、物理や化学等の基礎科学と AI な
ど、⽇本の強みを活かした分野との融合でも世界をリードできる可能性がある。
また、⽇本では⼤規模な⽣成 AI の開発事例が少ないが、研究⽔準が⾼い分野もあり、また、⽶中を除けば技術⽔準は概ね諸外国と⼤きな差はない。⼈材の育成も近年は進んできている。様々な利害得失も渦巻く中で、公正中⽴で倫理観の⾼い⽇本の研究者・技術者が国際的協調の議論に貢献できる可能性は⾼い。

リスクへの対応と利⽤
⽣成 AI の開発・提供・利⽤を促進するためにも、⽣成 AI に関する懸念やリスクへの適切な対処を⾏うべきである。いわば、「ガードレール」の設置が必要となる。⽣成 AI に関する懸念・リスクや対応の⽅
向性を、AI 開発者・AI を活⽤したサービス提供者・企業や個⼈などの AI サービス利⽤者ごとに整理することが、開発・提供・利⽤を後押しすることとなる。
まず、AI 開発者・サービス提供者に対して、既存の法令・ガイドラインの遵守を促すことが重要である。その上で、既存の法令・ガイドラインで対処できない場合は、政府をはじめ関係者は必要な対応を検討すべきである。その際、過度な規制を避けつつ、ビジネスの予⾒可能性を⾼める観点・変化を前提とした柔軟性を持たせる観点の双⽅を踏まえる必要がある。また、ハード・ローとソフト・ローの⼆者択⼀の議論に陥ることなく、さらに、新技術が起こす問題に対しては新技術で対応するという発想も必要である。これまでの技術の歴史においても、例えば、ブラウザに関しては有害コンテンツフィルタリング、メールソフトに関しては迷惑メール対策ソフト、⾃動⾞に関しては安全運転⽀援技術など、新技術によるリスクに対して新技術で対応してきたことは珍しくない。例えば、AI による不適切な⽣成物を削除する
AI や、コンテンツの信頼度を出元によって付与する仕組みなど、新たな技術の開発・普及が期待される。
次に、AI 利⽤者に対しては、利⽤にあたってのリスクを⽰すとともに、AI に対するリテラシー向上を促す取組を講ずるべきである。
また、上記のリスクとは性格を異にするが、今回の検討に際しては、⽣成 AI を利⽤しないことによるリスクについても留意した。まず、開発段階での⼀定の関与がなければ、AI が有する技術的リスクの把握が困難になるおそれがある。また、我が国の AI 開発者・サービス提供者が競争⼒をもたなければ、現在４兆円とも⾔われているデジタル⾚字がさらに拡⼤する懸念や AI サービスの供給途絶リスクもある。
さらには、AI の企業・個⼈による利⽤が進まなければ、我が国の⽣産性が他国に⽐して低迷するおそれがある。

多様な関係者を巻き込んだ迅速かつ柔軟な対応
8AI は、その影響が広範におよぶことから、AI 開発者・AI を活⽤したサービス提供者・企業や個⼈などの AI サービス利⽤者など多様な関係者を巻き込んだ対応が必要であり、政府においては、従来の所管・
ステークホルダーにとらわれない、より能動的な対応が求められる。また、AI を巡る技術・社会の変化に対応する観点から、リスク毎の緊急性・重要性に応じた対応が必要である。緊急性・重要性の⾼い課題に対しては、迅速に対応しつつ、予想外の事態も想定した柔軟な対応をとるべきである。また、中⻑期的
な課題に対しては、技術・社会の変化を機敏に捉えた対応が求められる。また、「広島 AI プロセス」などの検討スケジュールも念頭に、国際的な議論の動向も踏まえることも重要である。

3. 主な論点の整理
今回の論点整理の主旨の⼀つは政府への提案である。政府の役割としては、AI の最適な利⽤に向けて、リスク対応に関する政策の実施が⼤きいと考えられる。リスク対応は、困難に直⾯する⽅への対応という意味でも重要であるが、AI を開発・提供する⽅が存分に活動できる環境を整える意味でも重要である。
このため、まずリスク対応に関して論点を整理する。その後、AI の最適な利⽤、AI 開発⼒について整理する。

3-1 リスクへの対応
リスク対応の基本的⽅針
これまでも、AI が包含するリスクについては、様々な議論が⾏われてきた。例えば、⽇本では、「⼈間
中⼼の AI 社会原則会議」の中で、もっともらしい嘘の流布などにより社会の安定性を損なうリスク、画
像⽣成・⾳声合成などにより巧妙な詐欺や政治の混乱を⽣むリスク、AI を使える⼈・使えない⼈といった利⽤者間の能⼒差などが議論されてきた。実際に、⽶国では国防総省周辺での爆発の偽画像が拡散されて株価に影響が出るなど、今般の⽣成 AI の登場により、そのリスクはより切迫したものとなり、また、AI を取り巻く環境も⼤きく変化してきた。そうした変化を踏まえ、本論点整理では、より詳細かつ具体的にリスクを列挙し、対応の⽅向性を⽰すことで、関係者に必要な対応を促すものである。
特に⽣成 AI の登場を踏まえたリスクに関しては、国際協調、リスクへの対応と利⽤、多様な関係者を巻き込んだ迅速かつ柔軟な対応といった基本的な考え⽅を踏まえ、リスクへの対応に関する論点を整理した。その際、まずは AI 開発者・サービス提供者・利⽤者等が⾃らリスクを評価し、ガバナンス機能を発揮すること（法制度・ガイドライン等の遵守や技術による対応）が重要であるとともに、必要に応じ、政府を含む多様な関係者によるリスク対応の枠組みを検討・実施することが求められる。そうした中で、既に表⾯化しつつあるリスクのうち、既存の法制度やガイドライン・体制を前提に対処できるものはその周知徹底など早急に対応し、既存の法制度等では⼗分に対応できない可能性があるものについては諸外国における検討なども参考に対応を検討すべきである。また、将来⽣じ得るリスクについては、技術開発や事業展開のスピードが急速であることを踏まえ、専⾨家も交え、国際的な議論に積極的に参画しつ
9

つ、そのリスク把握に随時努める必要がある。
なお、国⺠の⽣命、⾃由、財産、基本的⼈権等を保護する観点から、リスクの全体像を可能な限り正確に把握することが重要であり、この論点整理では、現時点で考えられるリスクを幅広く記載している。

透明性と信頼性リスクへの対応を考える際に、まず AI の透明性と信頼性を確保することが重要である。AI がどのよ
うなデータを学習しているのか、学習データをどのように作成しているのか、どのような⼿法で回答を作成しているのかなどについて、AI の透明性を⾼めることにより、使⽤⽬的に対して適切な AI を選択することができるほか、問題が⽣じた場合の対処が容易となる。あるいは、AI が誤った回答をしていな
いか、AI との対話によって機密情報が漏洩しないかなど、AI の信頼性に関する懸念もある。これらは、
⽣成 AI が登場する前から議論されていたが、⾃然な対話を可能とする⽣成 AI の登場によって課題や懸念は拡⼤したと考えられる。
このため、まずは AI 開発者・サービス提供者には、現⾏法令やガイドラインに則り、積極的な情報開⽰を求めたい。政府は、主要な AI 開発者・サービス提供者に対して、透明性・信頼性の確保を直接働きかけることも検討すべきではないか。また、⽣成 AI の普及を踏まえ、既存のガイドライン4に関して、必要な改訂などを検討する必要がある。その際、諸外国における検討とも協調し、第三者認証制度や監査制
度等も参考とすべきである。さらに、例えば、AI による不適切な回答を削除するソフトウェア、AI によって⽣成された画像・映像・テキストか否かを判定するソフトウェア等、顕在化したリスクを低減するような技術の研究開発・普及を奨励することも望ましい。

懸念されるリスクの具体例と対応①

機密情報の漏洩や個⼈情報の不適正な利⽤のリスク
AI との対話によって利⽤者の機密情報の漏洩や、個⼈情報の不適正な利⽤やプライバシーに関するリ

スクが指摘されている。
⾃⼰の情報のコントロールを重視する傾向にある欧州では、例えば、⼀般にアクセス可能な空間における顔識別等の遠隔⽣体認証に関する関⼼も⾼く、利⽤禁⽌を求める議論がある。
個⼈情報の不適正な利⽤やプライバシーの問題については、例えば、利⽤者が認識しない中で⽣成 AI
が利⽤者との対話情報を蓄積し、利⽤者の趣向やその変化等の情報を推定して広告配信等の⽬的で利⽤するなどのリスクが考えられる。⽂章で対話する⽣成 AI の場合、利⽤者が何に関⼼を持っているのかな
どの情報が、単語だけを⼊⼒するキーワード検索等よりも AI サービス提供者側からわかりやすく、リス

4

総務省「AI 利活⽤ガイドライン」（AI サービス等を他者に提供する者（AI サービスプロバイダー）、業として AI シス

テム等を利⽤する者（ビジネス利⽤者）向け）、経済産業省「AI 原則実践のためのガバナンス・ガイドライン」（AI システムの開発・運⽤等に関わる事業者向け）など。

10

クが⾼まる懸念もある。また、個⼈の経歴や趣味等の情報はインターネット上で閲覧できる場合があり、AI がインターネット上の情報のみで学習したとしても、個⼈の情報が含まれる可能性がある。そのため、
AI が特定の個⼈について、個⼈情報を探索・収集・分析したり（不適切なプロファイリング）、個⼈に関する不適切な情報を出⼒する可能性もある。
この問題に関しては、AI 開発者・サービス提供者はデータの取扱いなどを開⽰し、透明性、信頼性を⾼める努⼒が必要である。カメラ画像に関しては、⽣成 AI を念頭に策定されたものではないが、「カメラ画像利活⽤ガイドブック（経済産業省・総務省）」の活⽤も期待される。⼀⽅で、その AI 開発者・サービス提供者がそれを厳格に遵守しているか否かの確認は、実態的には難しいのではないかという論点もあり、⽣成 AI のような先端技術の可能性とリスクを踏まえた情報の取扱いについて、対応の在り⽅を検討すべきではないか。
なお、AI サービス提供者の信頼性の確認は⼀義的には利⽤者が⾏うものであるが、政府も利⽤の当事者であり、⽣成 AI サービス提供者や利⽤者のデータの取扱いなどを確認する必要がある。
②犯罪の巧妙化・容易化につながるリスク
⽣成 AI によって、従来の犯罪がより巧妙かつ容易になるリスクがある。例えば、⽣成 AI によって低コストで作成された精緻な画像・⾳声や巧妙な⽂章が、オレオレ詐欺等に利⽤される可能性がある。また、⽣成 AI を通じて得た武器、⼤⿇や覚醒剤、⿇薬の製造法等の情報が犯罪につながる可能性がある。
検索エンジンで有害な情報が検索できてしまう場合と類似するが、⼀般⼈がより⼿軽に聞き出せてしま
うこと、削除が従来と⽐べて容易ではないことなどが異なる。今後、技術の進展とともに、さらに巧妙な犯罪が出てくることも予想される。
このようなケースに関しては、現時点では、刑法（246 条 詐欺罪、246 条の 2 電⼦計算機使⽤詐欺罪）、不正アクセス禁⽌法（4 条 識別符号の不正取得）、武器等製造法、⼤⿇取締法等の法制度等と執⾏体制により、対処されるものと考えられる。その上で、現⾏の法制度・ガイドライン、体制で不⾜する場
合には、諸外国における同種の問題への対処⽅法なども参考に、対応を検討すべきではないか。
また、AI が詐欺・武器製造などに利⽤されないよう、AI による不適切な回答を抑制するソフトウェアの開発・普及、そのための⽣成 AI の制御⽅法の開発、それにつながる⽣成 AI の現象解明などの研究を奨励することも望ましい。
③ 偽情報等が社会を不安定化・混乱させるリスク
⽣成 AI によって、本物と⾒分けがつかないような情報を誰でも作ることができるようになり、悪意をもった⼈が簡単に偽情報を作ることができるようになった。すなわち、AI は偽情報による⼯作を「⺠主化」したとも⾔える。そのため、AI が⽣成した偽情報・誤情報・偏向情報が、⺠主主義に不当に介⼊するなど、社会を不安定化・混乱させるリスクが⾼まっている。
例えば、他国においては、⽣成 AI が⽣成した偽画像や、AI が⽣成した偽プロフィールを使った SNS
11アカウント、AI が⽣成した偽投稿などによる⽣成 AI が⽣成した偽の画像と⼤量の偽 SNS アカウントを使った世論操作などが既に確認されている。我が国においても、選挙や特定の政党のイメージに不当な影響を与えたり、マスメディアが誤情報を事実であるかのように報じてしまうリスクが⾼まっている。
このようなケースに関しては、現時点では、刑法（233 条 信⽤毀損・偽計業務妨害、234 条 威⼒業
務妨害、230 条 名誉毀損）等の法制度等と執⾏体制により、対処されるものと考えられる。その上で、現⾏の法制度・ガイドライン、体制で不⾜する場合には、諸外国における同種の問題への対処⽅法なども参考に、対応を検討すべきではないか。
また、AI によって⽣成されたコンテンツか否かを判定するソフトウェア等の開発（ディープ・フェイ
クを検知する技術の開発）
・普及や、ディープ・フェイクが流通しない仕組みの開発、そのための研究を奨励することも望ましい。なお、具体例は列記しないものの特筆すべき点として、AI がジェンダー、⼈種、地域等の観点から偏った⽂章や画像を⽣成していないかといった公平性の論点は、国際的に注⽬されており、注視が必要である。
④ サイバー攻撃が巧妙化するリスク
⽣成 AI に限った問題ではないが、AI の⾼度化によって、サイバー攻撃が AI を⽤いて巧妙化し、防御しにくくなるリスクが指摘されている。サイバー攻撃には、AI を⽤いた攻撃とは別に、AI をターゲットとした新⼿の攻撃も指摘されている。
例えば、チェックツールで検知しにくい攻撃メールの作成などが増加するリスクが考えられる。⽣成AI と様々なツールを組み合わせることで、⽣成 AI が個⼈・企業を対象にしたサイバー攻撃のプランを作成する、⼈間になりすまして攻撃するなど、従来よりも⾼度な攻撃が可能になるかもしれない。AI をターゲットとした攻撃の場合、むしろ AI が弱点となる可能性も指摘されている。
政府は、AI がサイバー攻撃に使われる事例の類型等について情報を収集し、必要に応じ周知するなどの対策を検討すべきではないか。また、AI を⽤いてセキュリティ対策を向上させることも必要ではないか。
⑤ 教育現場における⽣成 AI の扱い
教育現場では、例えば、⽣成 AI が宿題に使われ適切な評価が損なわれる、また作⽂やレポートに⽣成
AI を使うことで⽣徒・児童の創造⼒等が低下する懸念があるなどの喫緊の問題がある。その反⾯、例えば、⽣徒の理解度にあわせて教え⽅を調整する、評価テストを簡易に⽣成し学習効果をきめ細かく確認する、AI との対話的な教育⽅法を導⼊するなど、⽣成 AI をうまく活⽤した教育を進めていくことで、AIの利⽤により教育効果が上がり、教員の負担も軽減できる可能性もある。教育現場で⽣成 AI をどう扱うかは国⺠的な関⼼事である。
⽂科省においては、早急に論点を整理し、夏前にガイドライン策定を⽬指すこととしている。加えて、AI リテラシー教育が重要であり、現在の教育を検証し、必要に応じ、教育項⽬の追加などの措置を講じ12

るべきである。
⑥ 著作権侵害のリスク
⽣成 AI がオリジナルに類似した著作物を⽣成するなどの懸念がある。⽣成 AI の普及によって個々の権利者にとって著作権侵害事案が⼤量に発⽣し、紛争解決対応も困難となるおそれもある。⼀⽅で、⽣成AI を利⽤して映像制作を効率化する例もある。クリエーターの権利の守り⽅、使い⽅は重要な論点である。
政府は、まずは現⾏の著作権法制度を丁寧に周知すべきである。今後、専⾨家も交えて、AI ⽣成物が著作物として認められる場合、その利⽤が著作権侵害に当たる場合や著作物を学習⽤データとして利⽤することが不当に権利者の利益を害する場合の考え⽅などの論点を整理し、必要な対応を検討すべきである。
⑦ AI によって失業者が増えるリスク
AI が⼈間の作業を代替する可能性は、失業リスクとも考えられる。
例えば、従来も点検、審査、調査など様々な業務（⼀定の基準や⼿法に基づき⾏う業務など）で AI の利⽤拡⼤によって失業者が増える可能性が指摘されてきたが、⽣成 AI の登場によって、⽂書作成、画像制作など、より広い分野・職種で（創作・創造的な業務においても）失業者が増えるのではないかという懸念がある。⽣成 AI の活⽤は、これまで参⼊障壁の⾼かった専⾨職にも及ぶ可能性があるとする指摘もある。
政府は、AI が雇⽤に与える影響に関する各種の調査研究等の情報を収集し、必要に応じて対応を検討すべきである。また、業務がなくなった場合にも新たな働き⽅ができるよう、リスキリングや⼈材流動化
を、政府全体の動きともあわせて AI の⽂脈においても検討していくべきである。

3-2 AI の利⽤
デジタル社会実現に向けた AI 利⽤の意義
デジタル社会の実現に向けて、⾏政・企業・教育・医療機関等において、データやデジタル技術の活⽤や DX の促進に向けた取組が進められている。⽣成 AI を含む AI には、デジタル化・デジタル技術の活⽤を加速させ、我が国全体の⽣産性向上のみならず、様々な社会課題解決に資する可能性がある。また、
データ形式の変換を得意とする⽣成 AI は、医療や介護、⾏政、教育、⾦融、製造等のデータ連携基盤の整備に貢献することも期待でき、国内のみならずアジアを始めとする海外市場へのサービス展開の可能性も秘めている。
こうした観点を踏まえ、AI を利⽤した⾏政・企業・教育・医療機関等における取組を官⺠で加速していくことが期待される。
13

AI 利⽤を加速するための取組（連携基盤構築・⼈材育成・事業環境整備）
AI 利⽤を加速するためには、データを学習して作り上げる AI の前提であるデータ連携基盤の構築が極めて重要である。その際、官⺠様々なところから取得されるデータを、信頼性を前提としながら連携させていくことが必要となる。我が国は、これまでも、⾼い信頼性を確保しつつ、オープンなデータのやりとりを図る国際的な仕組みを作るため、「DFFT」（Data Free Flow with Trust）構想を主導してきており、⽣成 AI において、DFFT 構想の具体化を進めるべきである。
また、デジタル⼈材の育成・確保も重要である。学びの指針となるデジタルスキル標準など、様々な⼈材育成策が掲げられてきたが、AI、特に⽣成 AI の登場を踏まえた必要な⾒直しを早期に検討すべきである。
また、スタートアップ創出に向けた事業環境整備も重要である。⽣成 AI は事業が作りやすいことから、
海外では、すでに多くのスタートアップが設⽴されている。我が国においても、適切なアクセラレーショ
ンや投資が鍵となる。

政府機関における⽣成 AI の利⽤
政府機関では、⽣成 AI の利⽤によって機密情報漏洩などのリスクがある⼀⽅で、様々な事務作業や事務⼿続きの効率化、問い合わせ対応の⾼度化を含み、働き⽅の改⾰や国⺠サービスの向上につながる可能性があり、⽣成 AI の典型的な活⽤例のひとつとなることが想定される。したがって、⺠間や地⽅を含めた様々な主体による⽣成 AI の利⽤に向けて、政府機関が率先してその可能性を追求することは重要である。
そのために、中央省庁は改めて意思統⼀を⾏うとともに、知⾒を集積することとした。独法等にも同様の取組を依頼した。⾃治体に対しては中央省庁の取組を周知した。また、AI 戦略チームでは、代表的な
⽣成 AI 開発者・サービス提供者のデータの取扱い、海外政府の対応を確認中である。さらに、⽣成 AI の活⽤を通じた⾏政運営の効率化・⾏政サービスの質の向上に向けて、複数の省庁が公開情報を⽤いた試
験的な取組を進めている。加えて、内閣⼈事局・デジタル庁が共同して、中央省庁における働き⽅改⾰促進のための⽣成 AI 活⽤ワークショップを開催するほか、中央省庁職員を対象としたアイデアソンや概念
検証（PoC）を⾏うこととしている。こうした取組が政府機関⼀体となって進められることが期待される。

幅広い世代における⽣成 AI の扱い
⽣成 AI は、⽣活者の利便性を向上させ、利益をもたらすが、⽣成 AI を活⽤できるかどうかに左右される。若年層はもとより、⽣成 AI の恩恵は広く国⺠が享受できることが重要であり、幅広い世代が⽣成
AI を賢く使いこなすことのできるスキル・リテラシーを⾝に付けることが重要である。
このため、上記の教育現場向けのガイドライン策定の取組と連携して、幅広い世代で⽣成 AI を賢く使
うためのリテラシー習得のためのコンテンツを開発する。

14

3-3 AI 開発⼒
開発⼒強化に向けた基本的考え⽅
AI は技術⾰新のスピードが速く予⾒可能性の低さを有するがゆえに、AI の開発にタイムリーに関与しないことは、最先端の技術情報にアクセスする機会を失うこととなり、それ⾃体がより⼤きなリスクを⽣む。さらに⾔えば、AI の研究成果が AI 以外の分野の研究開発の加速に寄与することもほぼ確実である。このため、いま⽣成 AI によって世界の変⾰がもたらされようとしている中、可及的速やかに⽣成 AI
に関する基盤的な研究⼒・開発⼒を国内に醸成することが重要である。AI の進化を促す知識基盤研究は、将来に渡った⾰新的なイノベーションの創出にも貢献するものである。
政府が AI の開発⽀援を⾏う際は、AI 開発におけるインフラとも⾔うべき、計算資源とデータの整備・拡充を⾏うことが最も重要である。⼀⽅で、⽣成 AI ⾃体の開発は、スピード感を持って⾏うことが重要であり、政府の動きがボトルネックにならないよう、⺠間の活⼒を⼗分に活⽤すべきである。なお、政府による AI 開発の⽀援先には、透明性・信頼性の確保やその説明など、リスク対応に関する⼀層の責任を求めることが必要である。

計算資源
⽣成 AI の開発には、⾼速・⼤容量の GPU 等の計算資源が必要となる。計算資源の確保は、競争⼒に直結する。⾜下では、国内の開発需要に⽐して、計算資源の供給量は圧倒的に不⾜している。諸外国に劣後しないためには、政府が⼗分に計算資源に対する⽀援を⾏うべきである。世界で計算資源の獲得競争が⽣じており、政府も関与しつつ、可及的速やかに計算資源の整備・拡充が必要である。
計算資源を確保したとしても、次に電⼒調達が⼤きな課題となる。地⽅のデータセンターの活⽤を含め、再⽣可能エネルギー等の電⼒を有効活⽤する⽅策の検討が必要である。同時に、鍵を握る省エネ半導体等の開発を促し、早期に社会実装すべきである。

データ
⽣成 AI の開発には、⼤量かつ良質なデータが必要である。著作権等に留意しつつ、公的機関が保有するデータについて、我が国の⺠間企業・アカデミア等に対し開発⽤にアクセス可能となる仕組みを構築すべきである。また、前述のデジタル化関連施策の加速と連携しつつ、AI 利⽤に⼤きな期待があるものの課題を抱える分野のデータを整備し、その分野に変⾰をもたらす AI 開発を促進すべきである。
そのためには、すでに整備したデータへのアクセスの提供、また今後開発に⽤いることのできる⽇本語を中⼼とするデータの整備・拡充を国⽴の研究所が中⼼となって、進めるべきである。⽇本語のデータを揃えることは、⽣成 AI の性能に直結し、今後の⽇本の競争⼒に影響する可能性がある。

従来型ではない開発促進策
特に⽣成 AI の技術⾰新のスピードや予⾒可能性の低さを踏まえると、従来の政府による開発促進策で15

は対応が難しい。市場原理を最⼤限尊重し、迅速、柔軟かつ集約的にプレーヤーの取組を加速するような⽀援を政府としても⾏っていくことが期待される。その際には、開発に関わる組織が、まずはしっかりと最先端をキャッチアップし、その中で技術を磨き、⾼度な開発能⼒を持つ⼈材を育成し、最終的には国際的な競争⼒につながるような⽀援を⾏う必要がある。
また、技術の公開を通じて新たな技術⾰新が⽣み出される可能性を踏まえ、計算資源やデータのほか、オープンに利⽤可能な基盤技術等を提供する環境を整備し、世界からトップ⼈材が集まり切磋琢磨できる研究・⼈材育成環境の構築や産学官の基盤開発⼒の強化を進めていくことが期待される。

3-4 その他
その他の論点
例えば、安全保障関係においても AI の利⽤が重要ではないかという論点があるが、情報管理上の必要性に応じて、専⾨部署による議論に委ねるなど、柔軟に対応すべきである。
また、現状では⽣成 AI に⼤きな注⽬が集まっているが、⽣成 AI ではない従来型の AI との適材適所による使い分けも念頭に置かれるべきである。

政府の体制
政府の司令塔、政策検討体制の強化が必要ではないかとの論点があり、政府は、AI 戦略会議（有識者）、
AI 戦略チーム（村井補佐官＋関係省庁の実務者級）を軸に、各省協⼒しながら政策を⽴案・推進していく必要がある。

今後の検討
AI 戦略会議は、幅広い知⾒を有する有識者によって構成されており、2023 年 G7 広島サミットで合意された「広島 AI プロセス」に対しても貢献していく。
AI の急速な進歩は、ここ数年で⽌まるものではない。今後、⻑期間に渡って技術進歩が続き、それによって産業・社会への影響が継続する。技術進歩等により、上記以外の新たな論点、想定外の事態が⽣じた場合の対応が必要である。
なお、政府が本論点整理を踏まえた政策を実現するに際しては、広く国⺠や事業者からの意⾒を聴くことが重要である。

16

各国の議論の動向
⽶国

別紙・ＡＩ分野における⽶国のリーダーシップを促進する「⽶国ＡＩイニシアチブ」に沿って政策推進。ＡＩに対する過度な規制を制限する⽶国 AI 規制原則案を公開。
・連邦取引委員会、司法省、消費者⾦融保護局、雇⽤機会均等委員会が連名で、ＡＩが違法な偏⾒や差別を⽣む可能性を指摘する声明を発表。
・本年５⽉にハリス副⼤統領が有⼒ AI 企業と直接⾯談し、ＡＩの潜在的な危険から社会を守るよう要請。同時にＡＩシステムの公開評価を実施する⽅針を表明。

英国・本年３⽉に⾔語系⽣成 AI へのサイバーセキュリティの観点からの留意点を発表。
・イノベーション担当省庁が AI に関するイノベーションを容易にする観点から本年３⽉にホワイトペーパーを公表（個⼈情報保護当局も基本的に⽀持を表明）。
・競争・市場庁が、競争と消費者保護の観点からのレビュー開始を本年５⽉に公表。

EU

・欧州委員会が 2021 年に発表したＡＩ法案は、安全保障⽬的のＡＩや、悪⽤の可能性がある AI に規制がかかる可能性があるとした。これに対し、欧州理事会（ＥＵ加盟国による意思決定機関）が 2022 年にイノベーションを重視した修正案を発表。2023 年５⽉には、欧州議会（直接選挙により選出された議員からなる EU の⽴法府）の委員会にて当初案よりも規制を強化すべきとの修正案を議決。

イタリア

・GDPR（個⼈情報保護法に相当）違反の恐れがあるとして、本年３⽉に個⼈情報保護当局
が ChatGPT の国内利⽤の⼀時停⽌を命令（その後、⼀時停⽌命令は解除）。⼀⽅、同国の副⾸相はこの⼀時停⽌命令は過剰であると批判。

ドイツ・個⼈情報保護当局が調査を開始。危険な開発を抑制する必要があるなどの発⾔がある中、各閣僚からは、適切な活⽤をすべきとの発⾔が相次ぐ。本年５⽉には、⾔語系⽣成 AI を適切に使うための情報提供なども⾏っている。

フランス

・個⼈情報保護当局やデジタル化の担当閣僚などから雇⽤に与える影響への強い懸念が表明されるなど、全般的にネガティブな反応。

中国

・本年４⽉に、⽣成 AI に対し、その⽣成コンテンツが社会主義的な価値観に沿うべきこと
や、サービス提供前に当局の審査を求める「⽣成式 AI サービス管理規則案」について、
パブリックコメントを開始。

コ ミ ュ ニ ・⽶国の NPO「Future of LIFE Institute」は本年３⽉に、リスクが管理可能と確信できる
ティ

場合にのみ開発すべき、GPT-4 よりも強⼒な AI の学習を６か⽉停⽌すべきなどとする公開書簡を公表、著名な AI 研究者も署名。

17