概要版

Innovation Nippon 2024
生成AIと日本

2024年5月
国際大学グローバル・コミュニケーション・センター
報告書URL： https://www.glocom.ac.jp/activities/project/9565

目次
1. 調査概要・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・３
2. 研究から導かれる提言・・・・・・・・・・・・・・・・・・・・・・・・・・６

3. 生活者の生成ＡＩ利用・生成ＡＩリテラシー・生成ＡＩへの評価の状況・・・１０
4. 企業における生成ＡＩ利用の実態・・・・・・・・・・・・・・・・・・・・２８
5. インタビュー調査結果・・・・・・・・・・・・・・・・・・・・・・・・・３４

6. 企業の生成ＡＩ活用事例・・・・・・・・・・・・・・・・・・・・・・・・３６
7. 生成ＡＩリテラシー文献調査結果・・・・・・・・・・・・・・・・・・・・３８

8. 生成ＡＩに関する近年の政策的動向・・・・・・・・・・・・・・・・・・・４０
9. 生成AIが偽・誤情報問題にもたらすインパクト・・・・・・・・・・・・・・４２

2

調査概要

1

3

本調査研究の目的

調査研究手法• 近年のAI技術の進歩により、生成AIは文書作成、画像生成、音楽制作など、あらゆる分野で実用化の閾値を超えてきており、日本における利用率も急増している。これらのAIは、社会のあらゆる側面に影響を与え、人々の生活を大きく変える可能性があり、労働力不足の解消、生産性の向上、情報のアクセシビリティの向上等、様々な恩恵を人々にもたらすことが期待されている。
• 他方、偽・誤情報と影響力工作問題、著作権の侵害、プライバシー侵害、有害コン
テンツの生成・拡散等、生成AIのリスクも存在している。そのため、生成AIが社会に広く受け入れられ、その恩恵を人々が享受するには、その機能・限界・リスクを理解し、適切に利用できる能力、すなわち人々のAIリテラシーの向上が重要となる。以上のようなことから、日本政府も内閣府「イノベーション政策強化推進のための有識者会議「AI戦略」（AI戦略会議）」を立ち上げるなど、活発な議論が行われている。また、総務省でもAIリテラシーの啓発に力を入れており、関連する検討会が立ち上がっている。
• しかし、生活者に急速に普及が進む中、日本における生成AIの社会的影響、生成AI
活用実態とその効果、AIリテラシー水準などについて、十分な実証研究が蓄積されているとは言い難く、不明瞭な点が多いのが現状である。一方、政策や企業の施策
はエビデンスベースで検討すべきであり、早期の実証研究が望まれる。
• このような背景から本研究では、日本において、生成AIがどのようにイノベーションを促進して社会的に良い影響をもたらすか、生成AIにどのようなリスクが考えられてそれは社会にどのような悪い影響をもたらすか、生成AIの利用実態、生成AIに関する理解度・リテラシー、生成AIの社会受容性などを実証的に調査研究し、政府や企業、業界団体、人々に資する含意を導く。調査研究によって、日本における適切な生成AIの活用及びそれによるイノベーションを促進し、人々が効果的かつ倫理的に活用するための基盤を築くとともに、生成AIの開発、教育、政策策定などの一助となることが期待される。

1. 文献調査
2. スクリーニング調査15,000件、本調査4,000名を対象としたアン
ケート調査分析
3. 9名と対象としたインタビュー調査

本調査研究で明らかにすること
1. 日本における生成AIの認知、関心、利用状況
2. 生成AIがどのようにイノベーションを促進し、社会に良い影響をもたらすか
3. 生成AIが関連する問題に何があり、社会にどのような影響をもたらすか
4. 生成AIのベネフィットとリスクについての人々の評価
5. 生成AIによるイノベーションを促進し、かつ、リスクを小さくする、適切な施策
6. 生成AI利用に関して必要な知識と、日本における生成AI知識のレベル
7. 企業での生成AI活用状況・事例やイノベーションへの寄与
8. 企業での生成AI活用において障壁となっていること
9. 生活者が生成AIに関して政府や企業に求めること
10. 近年における各国の生成AIに関する政策的動向

4

アンケート調査分析の概要••

インタビュー調査の概要

調査は2024年2月7日～2月14日で実施し、予備調査は15,000
件、本調査は4,000件の有効回答を回収した。尚、予備調査については母集団を日本全国に居住の者とし、性年代別の人
口に応じて割付を行って取得した。
本調査では、予備調査回答者の中から、提示した生成AIについて、いずれか1つ以上を利用したことのある人を2,000名、いずれも利用したことのない人を2,000名、合計4,000件のサンプルを回収した。

••

5,000名のスクリーニング調査を実施し、生成AIの利用経験の有無と、生成AIの利用頻度に応じて対象者を絞り込み、９名の個人を対象に半構造化インタビュー調査を行った。調査は2024年3月に実施した。
インタビューでは生成AIの概念、リスク・恩恵に関する認識等について聞き取り、生成AIの利用経験の有無や習熟の度合
いが、リスク認知や期待といった生成AIに対する認識とどのように結びついているかを定性的に調査した。

図表1.3 インタビュー対象者
図表1.1 予備調査サンプルサイズ

図表1.2 本調査サンプルサイズ

年齢

年齢

男性

女性

合計

男性

女性

合計

20～24歳

634

598

1232

20～24歳

90

75

165

25～29歳

660

624

1284

25～29歳

108

94

202

30～34歳

646

612

1258

30～34歳

199

149

348

35～39歳

709

682

1391

35～39歳

359

162

521

40～44歳

777

755

1532

40～44歳

240

174

414

45～49歳

909

886

1795

45～49歳

310

201

511

50～54歳

969

951

1920

50～54歳

334

303

637

55～59歳

824

824

1648

55～59歳

232

178

410

60～64歳

737

751

1488

60～64歳

231

165

396

65～69歳

707

745

1452

65～69歳

222

174

396

合計

7572

7428

15000

合計

2325

1675

4000

5

研究から導かれる提言

2

6

１．わが国においても生成AIは今後も普及拡大していくため、適切に活用が促進されるような施策が求められる•生成AIの利用率については、最も高いテキスト生成AIの利用率が18.9%と、未だ高くはない（図表3.5）。一方、各サービスを認知している人の関心度は高く、6割～9割程度の人が関心を抱いている（図表3.1）。
• 認知者に限定しなくても、テキスト生成AIに関心を示す人は35.6%存在し、とりわけ若い世代ほど関心が高く、例えば20代の43.4%がテキスト生
成AIに関心を抱いていた（図表3.3、図表3.4）。
• 仕事・学業での活用では、既に、生産性や効率性を高めることや（図表3.7、図表4.4）、調査やコンテンツ作成などに活用されている（図表3.9、図表3.10、図表3.11、図表3.12）。また、企業の活用事例も蓄積されてきている（図表6.1、図表6.2）。
• インタビュー調査では、業務で利用した人が利便性に気づき、プライベートでも利用するようになったという動きが多く見られた（図表5.1）。
 生成AIは今後急速に普及が拡大していく可能性が高い。そのため、適切に活用が促進されるような施策が求められる。
２．生成AIの適切な利用に関する啓発を促進し、格差なく多くの人が生成AIによる利便性を享受できる社会を作る•

生成AIに関する問いでは、10問中平均して4.2問しか正解しておらず、生成AIの知識が乏しい中で普及が進んでいる状況が明らかになった（図表3.17、図表3.18）。特に正答率が低いのが「回答の偏見（性差）を軽減するため、指示を工夫する方法」（11.8%）、次いで「画像生成AIで作った商品の広告イラストが、有名なデザインに似ていた際の対応」（26.3%）、3番目に「生成AIの機能についての正確な説明」（30.7%）であった（図表3.17）。
• 生成AIを利用している人でも平均正答数は4.6問であり、知識のない中で利用している人が少なくないことが明らかになった（図表3.19）。
• 回帰分析では、仕事・学業でもプライベートでも、円滑に利用できる知識・環境のある人や、IT革新性の高い人ほど生成AIを利用している結果となった（図表3.26）。
• 社会階層分析では、一貫して社会階層が高い方がChatGPTを利用する割合が高くなる傾向が観察された（図表3.28）。例えば、正社員のChatGPT利用率は24.3%であるのに対して、それ以外の者の利用率は9.7%であった。また、4年生大学以上を卒業している者のChatGPT利用率は21.8%であるのに対して、それ以外の者の利用率は10.5%であった。
• インタビュー調査では、生成AIを日常的に利用しているインフォーマントでも、生成AIとAIの明確な区別できていなかったり、著作権やセキュリ
ティ、プライバシーなどの問題について自発的に言及した人が少なかったりした（図表5.1）。
• 文献調査では、望んだ回答を得るためのプロンプトへの習熟が不可欠であることや、入力しない方が良いデータ（機密情報等）、誤情報の出力、著作権侵害などのリスクの認知が重要であることが示された（図表7.1及びそのまとめ）。
 デバイドを縮めて誰もが生成AIによる利便性を享受できる社会を作るために、生成AIの適切な利用に関する啓発を幅広い層に進めることが急務である。
 生成AIの具体的な活用方法・プロンプトの書き方と共に、回答の偏見の是正、著作権侵害の可能性を回避する方法、生成AIによる誤情報、入力
しない方が良いデータなどについて重点的に啓発することが肝要。

３．適切な利用方法を示すような事例集、導入する際のガイドライン、セキュリティ対策について、幅広く啓発を進める•

生成AIを活用している企業では、「プロセスや作業の効率化を実現している」（47.9%）、「コスト削減とリソースの最適化に貢献している」（25.8%）、「新しいアイディアの生成や試作により、製品開発期間が短縮化されている」（23.1%）、「市場調査やデータ分析から新たな洞察を得ている」（22.6%）など、様々な恩恵を得ている。また、「イノベーションに寄与しているとは思わない」と答えた人は13.4%にとどまり、少なからず企業のイノベーションに寄与している（図表4.4）。
• 一方で、生成AIを活用している企業は17.1%にとどまる（図表4.1）。また、売上高100億円以上の大規模企業では利用率が高いものの、売上高5億円未満の中小規模の企業では10％前後の利用率である（図表4.2）。回帰分析でも、企業規模は有意であった（図表4.7）。一方、生成AIは導入
コストも安く、中小企業のイノベーションに寄与するポテンシャルもあると考えられる。
• 利用していない理由としては、「適切な利用方法がわからないから」（29.4%）が最も多く、次いで「導入するための人や技術が足りていないから」（24.6%）、3番目に「プライバシー保護や個人情報流出など、データのセキュリティ面に懸念があるから」（24.0%）であった（図表4.6）。
• インタビュー調査では、業務と直結する生成AI関連スキルやノウハウの習得と比べてその他の生成AIリテラシーは学習機会が乏しく、またインセンティブも弱いため、著作権やセキュリティ、プライバシーなどの問題について自発的に言及したインフォーマントは少なかった（図表5.1）。
 適切な利用方法を示すような事例集、導入する際のガイドライン、セキュリティ対策について、企業の講座や多様なチャネル・メディアを活用
して、幅広く啓発を進めることが生成AIの普及とイノベーションを促進すると考えられる。
４．生成AIについて、実際に活用されている方法の啓発を進める•

最も利用率の高いテキスト生成AIの仕事・学業における活用方法としては、「情報の収集・検索・調査全般」が53.2%と最多、次いで「メール、広告、見出し等の短文作成・作成支援」が40.7%、3番目に「レポート、ブログ記事、ウェブコンテンツの作成・作成支援」が36.5%と多い（図表3.9）。
• テキスト生成AIのプライベートにおける活用方法としては、最も多い選択肢は「学習や調査のための質問と回答」の32.7%、次いで「翻訳」の27.3%、3番目に「趣味や個人的なブログの記事作成・作成支援」の21.7%であった（図表3.13）。
• 画像生成AI、動画生成AI、音声生成AIの利用においては、仕事・学業ではプレゼンテーションや広告・マーケティングにおけるコンテンツ作成・作成支援などの活用が多く、プライベートにおいては趣味のコンテンツ作成・作成支援、SNSへの投稿コンテンツの作成・作成支援、服装案の作成などの活用が多かった（図表3.10、図表3.11、図表3.12、図表3.14、図表3.15、図表3.16）。
• これらは生成AIの活用ニーズとして高く、また、生成AIが得意とするところともいえる。
 情報収集・調査、翻訳、記事・広告・メール・コンテンツ等の作成支援といった、ニーズの高い活用方法について、具体的な活用方法の啓発を進めることが、利用促進と生産性向上につながると考えられる。

５．官民双方において、プライバシー保護、セキュリティ対策、透明性、犯罪の対策、偽・誤情報対策、倫理的使用に関するガイドラインなどの観点から、生成AIについて多角的な対策を充実させることで適切な利用を促進する•

生成AIは既に仕事・学業やプライベートで様々な活用をされているだけでなく、生成AIによってもたらされるポジティブな影響を評価する人も多い。例えば、最も評価されている内容は「医療診断が生成AIの高度な画像解析により精度が向上する社会」（69.8%）、次いで「異なる言語間の翻訳が生成AIでスムーズになり、国際的なコミュニケーションが強化される社会」（69.6%）、3番目に「視覚や聴覚に障がいを持つ人が生成
AIの変換技術で情報アクセスしやすくなる社会」（68.6%）であった（図表3.20）。
• 一方、生成AIに関連する問題への評価も多くの人がしており、最も問題だと考えられている内容は「生成AIによって作成されたニュースで誤った情報が広まること」（75.8%）、次いで「生成AIが回答する誤った情報が広がること」（75.4%）、3番目に「生成AIが作った偽の音声や動画による詐欺が増えること」（74.3%）であった。ただし、生成AIが人々の生活や職を奪うといった文脈の内容については、比較的ネガティブな評
価をされていなかった（図表3.23）。
• 生成AIについて最も政府に求めたいことは「AIの悪用や犯罪に対する法的対策の強化」（66.0%）であり、次いで「AI技術の倫理的使用に関するガイドラインの策定」（61.3%）、3番目に「AIによる個人情報保護のための強固なプライバシー保護法の整備」（60.6%）であった（図表3.24）。
• 生成AIについて最も企業に求めたいことは「顧客データの安全性とプライバシー保護の強化」（65.6%）であり、次いで「AIに関するセキュリ
ティ対策の強化」（57.2%）、3番目に「AI技術の使用方法とその影響に関する透明性の高い情報開示と説明責任の向上」（49.2%）であった（図表3.25）。
 高く評価されている生成AIによるポジティブな影響を社会として享受するには、問題とされる点を最小限にするような適切な利用を促進することが欠かせない。
 企業にはプライバシー保護やセキュリティ対策の充実、透明性が求められると共に、政府は既存法も上手く活用しながらAIによる犯罪の対策強化や、プライバシー保護、偽・誤情報対策、AIの倫理的使用・開発に関するガイドラインの公表・周知が求められる。

生活者の生成AI利用・
生成AIリテラシー・
生成AIへの評価の状況（報告書第３章～第５章、７．２．～７．４．）

3

10

生成AIサービスへの関心•

各生成AIサービスを知っている人に対して、サービスごとの関心度を尋ねた結果、「やや関心がある」以上の関心がある人は6割～9割程度にのぼった（図表3.1）。

•

最も認知度が高いChatGPT（認知度45.9%）の関心が低めに出たのは、報道などで認知度が向上し、すそ野が広がっているためだと考えられる（図表3.2）。それでも66.2%が利用に関心を示している（図表3.1）。

図表3.1 認知している生成AIのサービス別関心度

図表3.2 生成AIのサービス別認知度11生成AIの分野別関心度•

生成AIの分野別に、関心がある人の割合を分析したところ、最も関心度が高い分野は「テキスト生成AI」の35.6%、次いで「画像生成AI」の31.5%と3割以上の人が関心を示していた。「動画生成AI」と「音声生成AI」は約26%で横並びである（図表3.3）。

•

年代別には、すべての分野において明確に20代が高く60代が低い右肩下がりのグラフとなっている。20代では全分野で4割前後の関心度を示しているのに対し、60代は2割前後と倍に近い関心度の差が開いている（図表3.4）。

図表3.3 生成AIの分野別関心度

図表3.4 生成AIの分野別関心度（年代別）
12

生成AIの利用状況•

各分野の生成AIを1つ以上利用している人の割合について、最も利用率が高い分野は「テキスト生成AI」の18.9%、次いで「画像生成AI」の2.5%、そして「動画生成AI」と「音声生成AI」は共に0.9%と低い（図表3.5）。

•

年代別には、20代と30代が高い右肩下がりの分布となっている。テキスト生成AIに限れば、20代と30代は4人に1人程度が利用しており、他の年代と比較すると若い人には生成AIが浸透してきていることがうかがえる（図表3.6）。

図表3.5 生成AIの分野別利用状況

図表3.6 生成AIの分野別利用状況（年代別）
13

生成AIを利用する理由•

生成AIを仕事・学業で利用している理由としては、生産性や効率性を高めるために利用される傾向はどのような生成AIであっても共通であった。特にテキスト生成AIではその傾向が顕著である。また、画像生成AIについては特定のプロジェクトやタスクに必要だったための利用が目立つが、動画生成AIと音声生成AIについては、周囲の人の勧めや職場や学校での推奨をきっかけとして利用しているパターンが目立つ（図表3.7）。

•

生成AIをプライベートで利用している理由としては、新しいテクノロジーへの興味や好奇心から利用をしている人は全般的に多く、画像・動画・音声生成AIについてはエンターテインメントとしての利用用途も強いことがわかる（図表3.8）。

図表3.7 生成AIの仕事・学業での利用理由

図表3.8 生成AIのプライベートでの利用理由
14仕事・学業でのテキスト生成AI・画像生成AIの活用の仕方•

仕事・学業でのテキスト生成AIの活用の仕方としては、「情報の収集・検索・調査全般」が53.2%と最多、次いで「メール、広告、見出し等の短文作成・作成支援」が40.7%、3番目に「レポート、ブログ記事、ウェブコンテンツの作成・作成支援」が36.5%と多い。テキストの生成よりも情報の調査で最も活用されている。翻訳やアイディア出しにも2～3割活用されている（図表3.9）。

•

仕事・学業での画像生成AIの活用の仕方としては、最も多い活用は「プレゼンテーションや報告書のための資料作成・作成支援」の54.8%、次いで僅差で「ウェブサイトやSNS投稿用のコンテンツ作成・作成支援」の54.6%、3番目に「教育やトレーニング資料のイラスト作成・作成支援」の47.5%となっており、社内外両方に向けたコンテンツ作成での活用が多い（図表3.10）。

図表3.9 仕事・学業でのテキスト生成AIの活用の仕方

図表3.10 仕事・学業での画像生成AIの活用の仕方
15

仕事・学業での動画生成AI・音声生成AIの活用の仕方•

仕事・学業での動画生成AIの活用の仕方としては、「プレゼンテーションや会議のための動画作成・作成支援」が60.9%と最も多く、次いで「広告やマーケティングのための動画コンテンツの作成・作成支援」が57.8%、3番目に「教育やトレーニング用の動画コンテンツの作成・作成支援」が46.2%であった。画像生成AIと同様、動画生成AIで作成したコンテンツを直接社内外への発信用のコンテンツとして利用している傾向が見える（図表3.11）。

•

仕事・学業での音声生成AIの活用の仕方としては、「プレゼンテーションやセミナーのための音声資料作成・作成支援」が71.3%と多く、次いで「広告やマーケティングのための音声制作・制作支援」の67.5%、3番目に「ウェブサイトやSNS投稿用のオーディオコンテンツやナレーション作成・作成支援」が62.9%と多く、ここまでの3つとそれ以外の選択肢で活用率30%以上の大きな差がある。音声生成AIで生成した音声を、広告やマーケティング、SNSなどインターネット上で活用することに主眼が置かれている。

図表3.11 仕事・学業での動画生成AIの活用の仕方

図表3.12 仕事・学業での音声生成AIの活用の仕方
16プライベートでのテキスト生成AI・画像生成AIの活用の仕方•

プライベートでのテキスト生成AIの活用の仕方としては、最も多い選択肢は「学習や調査のための質問と回答」の32.7%、次いで「翻訳」の27.3%、3番目に「趣味や個人的なブログの記事作成・作成支援」の21.7%であった。仕事・学業と同様、調査タスクにおいての活用が目立つ（図表3.13）。

•

プライベートでの画像生成AIの活用の仕方としては、「個人的なアート作品やデザインの作成・作成支援」が最多で50.2%と半数を超えており、次いで「生成した画像を見て楽しむため」の38.9%、3番目に「SNS用の画像作成・作成支援」の30.5%であった。
具体的になんらかのタスクに利用するために生成AIを活用するというよりは、個人的なアート作品を生成し、それを見て楽しむ用
途での活用が多くみられる（図表3.14）。

図表3.13 プライベートでのテキスト生成AIの活用の仕方

図表3.14 プライベートでの画像生成AIの活用の仕方
17プライベートでの動画生成AI・音声生成AIの活用の仕方•

プライベートでの動画生成AIの活用の仕方としては、「趣味のデモビデオの作成・作成支援」（55.4%）が最多であり、次いで「家族・友人・恋人などと過ごした時間を記録した動画作成・作成支援」（54.0%）、3番目は「個人的なビデオ日記や旅行の作
成・作成支援」（48.6%）であった。趣味でのコンテンツ作成や記録用の活用が多い（図表3.15）。

•

プライベートでの音声生成AIの活用の仕方としては、最も活用されている内容は「音声メモや音声日記の記録」（44.8%）、次い
で「個人的なオーディオブックや物語の作成・作成支援」（44.7%）、3番目に「趣味のポッドキャストやオーディオショーの制
作・制作支援」（43.9%）が選ばれており、ここまでが4割以上と活用されている割合が大きい。 個人の範囲で楽しむ内容だけでなく、ポッドキャストやオーディオショーなどの配信を目的としたコンテンツの作成にも利用されている（図表3.16）。

図表3.15 プライベートでの動画生成AIの活用の仕方

図表3.16 プライベートでの音声生成AIの活用の仕方
18生成AIリテラシー•

生成AI利用の知識について10問出題し、その正答数を確認した。最も正答率が高い項目は「生成AIを用いて色々なコンテンツを作成する際、著作権やパブリシティ権の侵害を予防するための指示」（63.5%）、次いで「生成AIの特性」（57.7%）、3番目に「生成AIに旅行のプランを立ててもらったとき、その後の適切な行動」（56.9%）である。

•

一方で、正答率が低い順には「回答の偏見（性差）を軽減するため、指示を工夫する方法」（11.8%）、次いで「画像生成AIで作った商品の広告イラストが、有名なデザインに似ていた際の対応」（26.3%）、3番目に「生成AIの機能についての正確な説明」（30.7%）である。

•

傾向として、生成AIを利用するにあたって生成したコン
テンツとそのリスクの存在に関しては正しく認知している傾向にある。一方で、画像生成AIを用いた生成コンテンツに問題があった場合、指示を工夫してその問題を取り除くための方法について は、正答 率が低い傾向にある。
図表3.17 生成AIリテラシーに関するクイズの問題別正答率
19生成AIリテラシーの傾向•

クイズの正答数の全体平均は4.2点と半分を下回っている。また、年代別に大きな傾向の差は見られないが、比較的30代が高く、50代が低い（図表3.18）。

•

いずれかの生成AIを利用しているか否かで集計したところ、利用者は平均で4.6点、非利用者は平均で4.1点と、生成AIの利用有無
で0.5点の差が見られた。しかしながら、利用者であっても正答率は半分以下といえる（図表3.19）。

図表3.18 生成AIリテラシーに関するクイズ正答数（年代別）

図表3.19 生成AIリテラシーに関するクイズ正答数（生成AI利用別）

20

生成AIによってもたらされるポジティブな社会変化への評価•

生成AIによってもたらされるポジティブな社会変化への評価について調査したところ、全般的に5～6割の人に評価されていた。

•

最も評価されている内容は「医療診断が生成AIの高度な画像解析により精度が向上する社会」（69.8%）、次いで「異なる言語間の翻訳が生成AIでスムーズになり、国際的なコミュニケーションが強化される社会」（69.6%）、3番目に「視覚や聴覚に障がいを持つ人が生成AIの変換技術で情報アクセスしやすくなる社会」（68.6%）であった。

図表3.20 生成AIによってもたらされるポジティブな社会変化への評価
21ポジティブな社会変化への評価の年代別・リテラシー別の違い•

ポジティブな社会変化として選んだ項目の割合を年代別に集計したところ、まず全体では挙げられた項目のうちの57.8%が選ばれていた。年代別には、20代と30代がこの全体の値を上回って6割を超えている一方、50代が54.5%と最も低い。若い人ほどポジティブな傾向が見られる（図表3.21）。

•

生成AIのリテラシー別*に確認すると、リテラシーが上がるほど評価している項目が増えている傾向にあり、生成AIリテラシーが最も高いブロックである7点以上においては平均して6割以上の項目を評価している（図表3.22）。

図表3.21 生成AIによるポジティブな社会変化への総合評価（年代別）

図表3.22 生成AIリテラシーに関するクイズの問題別正答率（生成AIリテラシー別）* 図表3.18等の生成AIリテラシーに基づき、人数比が概ね揃うように4つのブロックにわけた区分をベースに集計した。
22

生成AIに関連する問題への評価•

生成AIに関連するネガティブな評価を調査したところ、全般的に6～7割の評価をされているものが多かった。中でも最も問題だと考えられている内容は「生成AIによって作成されたニュースで誤った情報が広まること」（75.8%）、次いで「生成AIが回答
す る 誤 っ た 情 報 が 広が る こ と 」（75.4%）、3番目に「生成AIが作った偽の音声や動画による詐欺が増えること 」（74.3%）であった。その他の7割を超えている回答を確認しても、情報の信用度に関する問題や、偽のコンテンツによって世論操作が行われることなどが多い。

•

一方で、ネガティブな評価が小さい内容の中には、「生成AIによって仕事がなくなること」（51.7%）や「生成AIのコンテンツが溢れることで、文化や芸術の多様性を損な う こ と 」 （ 56.1%） と いっ た 項目 が あり、生成AIが人々の生活や職を奪うといった文脈の内容については、比較的ネガティ 図表3.23 生成AIに関連する問題への評価
ブな評価をされていないことがわかる。

23

生成AIについて政府に求めたいこと•生成AIの普及に際して最も政府に求めたいことは「AIの悪用や犯罪に対する法的対策の強化」（66.0%）であり、次いで「AI技術の倫理的使用に関するガイドラインの策定」（61.3%）、3番目に「AIによる個人情報保護のための強固なプライバ
シー保護法の整備」（60.6%）であった。

•

この3つの選択肢は6割を超えて選択率が高い一方、その他の選択肢は概ね4割以下となっており、政府に求めている割合は低い。選ばれている内容を総合すると、AIが犯罪などに悪用されることに対する危惧から、これに関する対策の強化、ガイドラインの制定が求められている。

図表3.24 生成AIについて政府に求めたいこと
24

生成AIについて企業に求めたいこと•生成AIの普及に際して最も企業に求 めたいことは「顧客データの安全性とプライバシー保護の強化」（65.6%）であり 、 次 い で 「 AI に 関 す る セ キ ュ リ テ ィ 対 策 の 強 化 」（57.2%）、3番目に「AI技術の使用方法とその影響に関する透明性の高い情報開示と説明責任の向上」（49.2%）であった。

•

特に強く求められていることとしては、顧客データの安全性とプライバシー保護の強化、あるいはセキュリティの強化となっており、政府に求めたいこととして挙げられていた内容とも類似している。

図表3.25 生成AIについて企業に求めたいこと
25

生成AIを利用する要因・評価の要因•

数学的モデルを使った回帰分析により、生成AIを利用する要因と、生成AIへの評価の要因を定量的に分析した。結果の概要は以下の通り。

図表3.26 生成AIを利用する要因の分析結果の概要

変数分類

仕事での生成AIの利用

心理変数

•

図表3.27 生成AIに対する総合評価の要因の分析結果の概要

プライベートでの生成AIの利用

利用している傾向：パ 
フォーマンス評価が高い、円滑に利用できる知識・環境がある、IT革新性が高い。
利用していない傾向：快楽的動機づけが高い（生成AI の利用を楽しいと思っている）。

利用している傾向：円滑に利用できる知識・環境がある、快楽的動機づけが高い（生成AIの利用を楽しいと思っている）、IT革新性が高い。
利用していない傾向：社会的影響が大きい（周囲の人から生成AIを使うべきだと思われている）。

生 成 AI リ •テラシー

利用傾向に有意な関係性は ない。

リテラシーが高いと利用している傾向にある。

•

利用している傾向：イン 
ターネット利用時間が長い、大都市に住んでいる、勤務 
先が組織として生成AIを活用している。
利用していない傾向：女性、
年齢が高い。

利用している傾向：インターネッ
ト利用時間が長い。
利用していない傾向：女性、年齢が高い、インターネット利用歴が
長い。

•

属性

•

変数分類

結果の概要

心理変数





評価が高い傾向：パフォーマン
スへの評価が高い、周囲の人が使うべきだと考えている、経済的価値を高く感じている、誰かが教えてくれるならば使いたいと考えている、生成AIの利用を楽しいと思っている、IT革新性が高い。
評価が低い傾向：ロボットの反乱に対する不安が大きい、テクノロジーに対する恐怖が大きい。

生 成 AI リ 
テラシー

総合的な評価に有意な関係性はない。



評価が低い傾向：女性、ネット利用歴が長い。

属性

26

生成AI利用と社会階層•

ChatGPTの利用行動と社会階層の関係の分析を行った。その結果、社会階層に関する変数に対しては、一貫して社会階層が高い方がChatGPTを利用する割合が高くなる傾向が観察された。

図表3.28 社会階層とChatGPT利用

項目
学歴

ChatGPT利用率
非大卒

10.50%

大卒

21.80%

職業の地位 非正社員
企業規模
居住地

9.70%

正社員

24.30%

非大企業

17.80%

大企業

23.70%

非都市部

15.50%

都市部

19.90%

項目
文化資本度数（0～6）
経済資本（0～12）
知的資本（冊数）
階層自認（1～9）
個人年収（万円）

平均値
利用していない

2.59

利用している2.89

利用していない

7.87

利用している8.20

利用していない

78.54

利用している93.88

利用していない

4.35

利用している4.85

利用していない304.00

利用している489.00• 学歴…4年生大学以上を卒業しているか否か• 学力…所属していた高校における進学率を5段階で聴取• 職業の地位…正社員か否か• 企業規模…所属企業の従業員数が500人以上か否か
大企業とそうでない企業に分けた• 居住地…東京23区または政令指定都市に居住しているか否か• 文化資本…15歳の頃、子供部屋、学習机、ピアノ、文学全集・図鑑、パソコン・ワープロ、美術品・骨董品が自宅にあったかどうかを複数回答で聴取。各財を1点として所有数をカウントした実数。
• 経済資本…15歳の頃、持ち家、風呂、応接セッ
ト、テレビ、ラジオ、DVDデッキ、冷蔵庫、電子レンジ、電話、カメラ、エアコン、乗用車があったかどうかを複数回答で聴取。各財を1点として所有数をカウントした実数。
• 知的資本…15歳の頃、自宅に何冊の本があったかを7段階で聴取したものを冊数に変換。
• 階層自認…自身が所属すると考えられる階層を9段
階で聴取• 個人年収…17段階で聴取したものを金額に変換
27

企業における生成AI
利用の実態（報告書第６章、７．１．）

428

企業の生成AI活用状況•

所属している企業での生成AIの活用状況について調査した結果、「わからない」（34.5%）が最も多かった。「全社的に活用している」は3.9%、「一部の部署で活用している」は13.2%で、合計すると17.1%の企業が活用していた。さらに検討中で具体的な活用イメージまで持っている企業を含めると約20%となり、5分の1程度の企業が生成AIの活用について具体化できている（図表4.1）。

•

企業規模別には、100億円以上の売上規模を持つ企業では36.8%と3社に1社以上が活用している。他方、1千万～5億円未満の企業では10.8%で、1千万円
未満の企業では9.5%と1割を下回る（図表4.2）。

•

業種別では、生成AIの活用率が最も高い業種は「IT・通信業」の35.0%で、次いで「金融・保険業」の29.1%、3番目に「製造業」の21.5%である。。一方で生成AIの活用率が低く10%を下回っている業種には、「医療・福祉業」（7.5%）、「広告業」（7.7%）、「農林水産業」（5.7%）、「その他」（8.4%）となっている（図表4.3）。

図表4.1 企業の生成AI活用状況

図表4.2 企業の生成AI活用状況（企業規模別 ）図表4.3 企業の生成AI活用状況（業種別 ）29

生成AIのイベノーションへの寄与•

生成AIを活用している企業の人を対象にイノベーションへの寄与を調査した結果、「プロセスや作業の効率化を実現している」（47.9%）が圧倒的に最多であり、次いで「コスト削減とリソースの最適化に貢献している」（25.8%）、3番目に「新しいアイ
ディアの生成や試作により、製品開発期間が短縮化されている」（23.1%）となった。

•「イノベーションに寄与しているとは思わない」と答えた人は13.4%と、利用者の9割近くは何らかのイノベーションに生成AIが寄与していると考えている。

図表4.4 生成AIのイノベーションへの寄与30

企業が生成AI利用において重視していること•

生成AIの業務上の利用に関して重視している点を調査したところ、「全般的な業務プロセスの効率化や生産性の向上」（53.5%）が最も多く、次いで「人件費などのコスト削減による利益率の向上」（37.7%）、3番目は「従業員のスキルアップと能力開発」（30.9%）となった。上位の2つ、業務効率化とコスト削減という観点に関しては、生成AIを利用しているうえでイノベーションに寄与していると感じている点（図表4.4）の内容とも一致している。

•

企業は生成AIを導入することで業務効率化とコスト削減を期待し、実際にイノベーションに寄与していると感じている実態が浮かび上がる。

図表4.5 生成AI利用において重視していること
31

生成AI導入に際して障壁や懸念事項となっていること•

生成AIを活用していない企業について、どのような点が生成AIを導入する上での障壁や懸念事項と考えられているか調査したところ、「適切な利用方法がわからないから 」（29.4%）が最も多く、次いで「導入するための人や技術が足りていないから」（24.6%）、3番目に「プライバシー保護や個人情報流出など、データのセキュリティ面に懸念があるから」（24.0%）であった。

•

適切な利用方法がわからなかったり、導入するための人や技術が足りていなかったりと、導入をしたくてもできない企業が生成AIを導入できていない事例が多いことがわかる。

図表4.6 生成AIの導入に際して障壁や懸念事項となっていること
32

組織として生成AIを利用する要因•

数学的モデルを使った回帰分析により、企業が「全社的に活用」「一部の部署で活用」「活用していない」のいずれかを選択する
要因について分析した結果の概要は以下の通り。

図表4.7 組織として生成AIを利用する要因の分析結果の概要

変数分類

結果の概要

企業属性




業種





売上規模が大きい組織ほど、生成AIを活用している傾向。
組織の設立からの年数は、生成AIの活用に有意な影響がない。
IT通信業と公共公務事業は、生成AIを全社的ある
いは一部の部署で活用している傾向。
製造業、金融保険業、教育学習支援業は一部の部署で生成AIを活用している傾向。
小売業は全社的な生成AIの活用はしていない傾向。

33

インタビュー調査結果（報告書第８章）

5

34

生成AIの利用経験と恩恵・リスク認知に関するインタビュー調査
図表5.1 インタビュー調査結果の概要
1. 生成AIに対する認識• 「AI」との接触については、近年の生成AI隆盛のなかで触れたという回答が多かった。生成AIサービスの実際の利用は、サービスを認識してすぐに自発的に利用したというよりは、家族や友人などの身近な人がChatGPTなどの生成AIサービスを利用していたことをきっかけに自身も実際に触れた、業務上の必要に迫られて使用したなど、外的要因によってもたらされることが多かった。
• 本調査においては、生成AIと非生成AIを明確に区別できているインフォーマントはいなかった。
2. 生成AIの利用実態• 「日常的に生成AIを利用している」と回答したインフォーマント6名のうち、5名が業務において生成AIのサービスを利用していた。６名全員がプライベートにおいても多目的に利用しており、転職活動からレシピ検索、画像編集まで様々な用途がある。
• 業務利用において生成AIの利便性に驚きプライベートでも利用するに至ったという発言が多く見られた。
• 業務と直結する生成AI関連スキルやノウハウの習得と比べてその他の生成AIリテラシーは学習機会が乏しく、またインセンティブも弱いため、著作権やセキュリティ、プライバシーなどの問題について自発的に言及したインフォーマントは少なかった。
3. 生成AIの恩恵・リスク認知とAIリテラシーレベルの関係• 生成AIの利用による業務の効率化や負担軽減への期待が高いが、生成AIによってもたらされうるリスクに対する警戒感は低い。
• 生成AIのリテラシーレベルと生成AIの恩恵およびリスク認知の対応は、ある場合もあるが、そこまで強い相関は今回の調査からは見出せなかった。
• 生成AIに労働を代替されることによる失業リスクに対する心配はおしなべて低く、警戒感を持つ人は少ない。

4. 本調査から得られる示唆• 本調査では、生成AIの社会的インパクトへの評価は個人によって異なるものの、過剰な期待や警戒は見られなかった。
• AIリテラシー向上が求められるが、個人の学習だけでなく組織・集団内での学習を組み合わせることが有効である可能性がある。
• 生成AIの適正利用に向けて、教育啓発やリスク対策の強化が必要であり、複数のメディアが協力する取り組みが必要だと考えられる。
35

企業の生成AI活用事例（報告書第９章）

6

36

企業の生成AI活用事例•

以下の事例を収集し、整理した。詳細は報告書を参照されたい。
図表6.1 日本の活用事例

図表6.2 海外の活用事例

項目

項目

企業名

業 務 効 率 • 富士通株式会社
化 ・ 生 産 性 • LINEヤフー株式会社
向上• アサヒビール株式会社• パナソニック ホールディングス株式会社• 株式会社大和総研• KDDI株式会社• 株式会社ADKホールディングス• 株式会社静岡銀行• 三井化学株式会社• 株式会社オプト• 株式会社 電通• 株式会社オルツ
宣 伝 ・ 広 • ソフトバンクロボティクス株式会社
告 ・ マ ー ケ • 株式会社伊藤園
ティング• KDDI株式会社• 株式会社サイバーエージェント• 株式会社パルコ• 株式会社セプテーニ・ホールディングス• 株式会社 博報堂• 株式会社 大広

企業名業 務 効 率 • Schneider Electric SE
化 ・ 生 産 性 • Bentley Systems, Incorporated.
向上• 3M Company• Byju's
宣 伝 ・ 広 • Byju's
告 ・ マ ー ケ • The Coca-Cola Company
ティング
消 費 者 向 け • Expedia Group, Inc.
サービス
• Wayfair Inc.
• Adobe Inc.
• Booking.com B.V.
• 百度公司• Gucci37

生成AIリテラシー
文献調査結果
（報告書第１０章）

7

38

生成AIリテラシー文献調査•

図表7.1の文献を調査し、右のボックスのようにまとめられた。各文献の概要は報告書を参照されたい。
図表7.1 文献の一覧
発行元

発行年

文献名

文部科学省

2023年

初等中等教育段階における生成AIの利用に関する暫定的なガイドラインまとめ

Entrepreneurship
Education (Online)

2023年

Entrepreneurship education in the era of generative
artificial intelligence

Big Data and Cognitive
Computing

2023年

The role of ChatGPT in data science: How AI-assisted
conversational interfaces are revolutionizing the field

東京大学

2023年

生成系AI(ChatGPT, BingAI, Bard, Midjourney, Stable
Diffusion等)について• まず、生成AIは自然な会話形式で誰もが気軽に用いることができるツールであるが、確実に望んだ回答を得るには指示文（プロンプト）への習熟が不可欠である。指示文の書き方を学ぶ際は、試行錯
誤を通して生成AIがどこでうまくいき、どこでうまくいかないのかという経験知を蓄積していくことも重要といえる。
• 生成AIに対して入力する情報にも注意が必要である。入力したデー
タが、生成AIサービス提供者によって機械学習に利用される場合があるので、利用前に規約を確認しなければならない。データが機械学習に利用される場合には当然、機密情報や個人情報を入力しないことが求められる。
• また、生成AIによる出力は誤りを含むことがあるため、あくまで参考の一つとして出力内容を批判的に検討して内容を修正することが不可欠である。生成物の真偽を判断するにあたっては、対象分野に関する一定の知識や自分なりの問題意識を持ち、根拠や裏付けを自ら確認することが必要となる。内容の真偽に加えて、生成物が既存の著作物と同一・類似している場合には当該生成物を利用する行為が著作権侵害に該当する可能性があるため、生成物の公開に際しては既存著作物に類似しないかの調査を行うことも求められる。

日本ディープラーニング 2023年
協会

生成AIの利用ガイドライン【簡易解説付】

InfoWorld.Com

2024年

4 key devsecops skills for the generative AI era

Sustainability

2024年

Generative AI and ChatGPT in school children's
education: Evidence from a school lesson

International Journal of
Information Management

2023年"so what if ChatGPT wrote it?" multidisciplinary
perspectives on opportunities, challenges andimplications of generative conversational AI for
research, practice and policy

Journal of Adolescent &Adult Literacy

2023年

ChatGPT in education: Transforming digital literacy
practices

BusinessandProfessional
Communication Quarterly

2023年

The challenges and opportunities of AI-assisted
writing: Developing AI literacy for the AI age

39

生成AIに関する近年の政策的動向（報告書第１１章）

8

40

生成AIに関する近年の政策的動向•

生成AIに関する主要政策についてEU、米国、中国の動向を調査した。概要は以下のとおりである。
EU

米国

中国

• EUでは2021年以降、AI規制案（AI Act）に関する議論を進めており、直近では2024年3月に欧州議会で採択され、最終決定にかなり近づいた。
• これまでに2023年6月に欧州議会での可決、 2023年12月の欧州議会、
EU理事会、欧州委員会間での政治的合意形成など数次の議論・改訂・決定プロセスを経ている。
• この規制案はDirective（指令）ではなく、加盟国での法制化を必要とせず直接法的拘束力を持つRegulation（規制）として策定されている。
• AI規制はリスクベースのアプローチを採用していることが広く紹介されており、禁止されるAI利用（高リスクAIには多くの規制、限定的リスク
AIには軽い規制、最低リスクAIには特段の規制なし）が明確に区別されている。
• 生成AIは特定のリスクカテゴリーには属さないが、高リスク用途の一部に該当する場合が考えられる他、合成的な音声、画像、動画、文章を生成する汎用AIシステムが限定的なリスクを持つAIとして規制の対象となっている。
• リスクレベル別規制とは別に生成AIを含む汎用AIモデルを特に取り扱う条項があり、技術文書の準備やAIシステムへの情報開示、学習用データのオプトアウト対応などを規定している。
• 規制の適用範囲は、EU域内に立地しない者も含め、AIやAIに基づく製品
やサービスを提供する者を基本的な対象としている。
• 規制の目的はイノベーションの促進も含み、中小企業やスタートアップに配慮した規制のサンドボックス制度も用意する。
• AI規制の実施や改訂に対する監督権限を持つAI室（AI Office）が欧州委
員会下に設置される。

• 米国はAIに関する包括的な政策を持ち、AI.govを通じて政府利用方針、教育・研究促進、資金提供の戦略など幅広い取り組みを公開している。
• 2023年5月と9月に、大手AI企業複数がホワイトハウスで会議を行い、自主的コミットメントを発表。これにはGoogle、Microsoft、OpenAIなどが含まれる。
• コミットメントは法的拘束力はないが、安全性の情報開示、特定のリスクへの注意、内部アクセス
コントロール、がんや気候変動など主要社会課題への応用へ向けた投資などが盛り込まれている。
• 安全性、セキュリティ、信頼性の向上に重点を置
く自主的コミットメントの基本路線は後にバイデン政権の大統領令で公式方針として採用された。
• 視聴覚コンテンツの生成に関連する課題、例えば
電子透かしの導入や来歴情報の提供などについて取り組むことが謳われている。
• EUと比較すると米国は規制には消極的だが、コミットメントは法規制を導入するまでの暫定措置と位置付ける記述もある。
• 米 国は EUに 比べる と政府 への 期待・ 信頼が 低
く、立法の機能が党派対立で低下していることな
どから、法制化が実現しやすいとは考えにくい。

• 中国政府は「生成AIサービス管理暫定規則」を発表し、パブリックコメントを経て最終版が2023年7月に公表された。
• これらの規則はEUのAI Actと比較すると短いが、レコメンデーションアルゴリズ
ムなどの既存の法律も参照されている。
• 規則は生成AIサービスを提供する中国国内の事業者を対象にしているが、政府の従うべき指針やAI開発や学習用データ整備に関連した規定も含むものとなっている。
• 生成AIの使用に関しては個人情報の適切な保護など個人の権利保護などとあわせ社会主義の核心的価値観の堅持や国家安全、公共の秩序維持も強調している。
• サービス提供に関しては、利用者への適切な情報開示、苦情処理やサービスの継続的な提供保証、未成年者保護など多岐にわたる義務が課せられている。
• 技術開発については、法令の遵守、デー
タの品質向上、差別防止などを求める。
• 安全確保と発展やイノベーション促進の両方を政策目標とし、政府には事業環境の整備、生成AIインフラの構築などの役割も与えている。
41

生成AIが偽・誤情報問題にもたらすインパクト（報告書第１２章）

9

42

生成AIが偽・誤情報問題にもたらすインパクトまとめ①•

生成AIと偽・誤情報について、現在起こっている事例と、将来にわたり偽・誤情報問題にもたらす影響について述べている文献を広範に調査した。詳細は報告書を参照されたい。ここでは生成AIが偽・誤情報問題にもたらすインパクトについて見えたものを整理する。

生成AI調査結果①：現在既に起こっていること・社会的影響
•
•
•
•
•
•
•
•
•
•
•
•

政治家を使った、実際にはない発言を作成・拡散することで、社会的混乱が生じている。
著名人を利用した詐欺。著名人の容姿を使った動画や画像で投資などに正当性があるように見せかけ、閲覧者を信じ込ませることで金銭を騙し取る事件が発生している。
選挙妨害を目的とした生成動画・画像が日々、大量に発生している。投票日間近になると政党や政治家が扇動する形で次々と拡散される場合もある。
政治家の虚偽の発言、行動を映した生成動画・画像や、虚偽のストーリーの拡散には、ロシアや中国の関与も疑われている。
著名人の容姿を利用した性的・わいせつな動画による社会的混乱。歌手や俳優といった著名人が次々と標的にされている。女性著名人が狙われる傾向が強い。
映像だけでなく音声が偽造される例もみられる。
作成者が深い悪意を持たず、気軽に動画や画像を偽造している事例もある。面白そうだった、話題になりたかった、騒ぎを起こした
かった、金銭を稼ぎたかったなどの動機が確認できる。
手軽に大量の情報を生成できるため、ソーシャルメディアだけでなく書籍出版にも影響が及んでいる。健康や安全を脅かす情報が紛れている危険性も指摘されている。
著名人らの名誉の毀損が起こっている。また、芸能人など著名人に対する不信や誤解を招く恐れがある。
政治家や選挙結果への不信、諦め、誤解を招く恐れがある。さらに政治や報道機関等社会システムへの不信感を招く。
既存メディアの体裁を装った生成動画によって、既存メディアへの不信が起こっている。
偽・誤情報に対する訂正は各国のファクトチェックサイトや報道機関などが担っている。しかし、ソーシャルメディア企業が偽・誤情報の投稿の削除などの対応を適宜行っているとは限らない。
43

生成AIが偽・誤情報問題にもたらすインパクトまとめ②
生成AI調査結果②：将来的に起こると言われていること
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•

•

ディープフェイクや生成AIは、公共の討論、選挙、民主的機関の正当性、市民および政治家の権力など、民主主義に損害を与える可能性がある。
ディープフェイクは、誤情報の拡散や政治的議論の操作につながり、民主主義社会での混乱、不信、および社会の不安定化を引き起こす可能性がある。
ディープフェイクによる誤情報は、情報空間の劣化や市民の信頼や民主的プロセスへの信頼を損ねる可能性を持つ。
生成AIは攻撃者の参入障壁を低下させ、組織や個人が思想的、政治的、個人的な目的で生成AIを使用する可能性が高まる。
生成AIの普及は、デジタルリスクや政治システムと社会へのリスク、物理システムへのリスクを増大させ、他のリスクと複合して影響を与える可能性がある。
ディープフェイクがオンラインコンテンツの大部分を占め、政府への信頼を侵食し、分極化と過激主義を増加させるリスクもある。
生成AIツールは政治的問題に影響を与え、偽情報や誤情報の規模、説得力、頻度を増加させる可能性がある。
AI技術による規模と質の向上は、誤情報が選挙に有害なものになる可能性を増加させる。
生成AIによって発信される誤情報は、個人の身体的および心理的安全や自由を脅かす可能性があり、閲覧者の事実に対する認識と感情に影響を与える可能性がある。
ディープフェイクは個人のプライバシーや評判を脅かし、感情的苦痛を引き起こす可能性がある。
ディープフェイクによる作品等、知的財産権の侵害やプライバシー法の違反も懸念される。
AIが生成した誤情報に対する懸念は、報道等の社会システムへの信頼をさらに損なう可能性がある。
ディープフェイクに関する先入観や恐れがメディアに対する反感を形成する可能性があり、これが信頼の浸食につながる可能性がある。
偽・誤情報とディープフェイクの台頭により、ニュースや情報への信頼の浸食、事実と意見の混同、そして「真実」そのものに対する不信が増幅する可能性がある。この状況下で偽のニュースを暴くことが信頼回復に十分でないことが懸念されている。
AIによる誤情報の影響は、技術の品質と量が続く限り、モデレーターや規制者の能力を超えるものとなる。
ファクトチェックが偽・誤情報の大量生産に追い付かない懸念も指摘されている。プロパガンダの大量生産により、ファクトチェックで未検証の情報がより多くの人々に影響を与えることを許してしまう可能性もある。
大規模言語モデル（LLMs）は誤情報を生成する傾向があり、本来の情報に虚偽の事実を統合する危険性がある。これにより、正確な情報と誤情報が混在する可能性がある。
AI生成テキストの検出ツールは主に英語に特化しており、EU諸国の多くで使用される言語に対するサポートが不十分である。そのため、ブルガリアやスロ
バキアなどの国々では、選挙においてAIによる誤情報の標的になっている可能性がある。

44

生成AIが偽・誤情報問題にもたらすインパクトまとめ③
生成AI調査結果③：対策として必要とされているもの
•
•
•
•
•
•

•
•
•

人間がリテラシーを身に着ける必要が挙げられている。
人々が現実のメディアをディープフェイクだと非難する情報環境では、ディープフェイクやその他のフェイクを見分けるリテラシーを促すことが極めて重要。
今後、報道等でディープフェイクとは何か、ディープフェイクの可能性とは何か、そしてディープフェイクの現在の能力や今後の進化などについて、人々を教育することに重点を置く必要がある。
市民はAIによるコンテンツの存在と真偽を確認する方法を認識する必要がある。生成AIの進化に伴い、メディアリテラシー教育も新しい展開が求められ、生成AIの使用における倫理面に焦点を当てた教材の開発が重要である。
一方で、AIを使いこなすことのメリットもある。AIが安全かつ公正に設計および使用された場合、独裁的な検閲を回避し、誤った情報を打ち消し、自由で信頼性の高い選挙を監視し、人権侵害を公にするのに役立つ。
生成AIが責任を持って開発、展開、利用される場合、情報へのアクセスの改善、自由な表現の促進、健康や教育、公正な手続き、公共サービスへの権利の向上などが可能になる。
生成AIは偽・誤情報に対抗するためにも使用でき、設計が優れ、人間の監督下にあるAIシステムはファクトチェッカーがより迅速に作業することを助けることができる。
生成AIによる情報操作はますます実際の人間の出力に似るようになり、AIに基づく検出方法が必要になる。
AIは人間の検閲者や未熟な技術では不可能な速度と規模で、コンテンツを削除するために使用され得る。

45

調査研究報告書執筆担当- 山口 真一国際大学GLOCOM 准教授・主幹研究員- 渡辺 智暁国際大学GLOCOM 教授・研究部長・主幹研究員- 逢坂 裕紀子 国際大学GLOCOM 研究員- 谷原 つかさ 立命館大学産業社会学部 准教授 ／ 国際大学GLOCOM- 大島 英隆
国際大学GLOCOM 客員研究員- 井上 絵理国際大学GLOCOM 主任研究員- 田邊 新之助 国際大学GLOCOM リサーチアシスタント※本資料の見出しの画像はDALL-Eで作成したものである。

客員研究員