（資料1-3）「国民を詐欺から守るための総合対策」に係る総務省の取組状況について（インターネット上の偽・誤情報対策、情報流通プラットフォーム対処法等）

令和６年７月８日
情報流通行政局情報流通振興課

国民を詐欺から守るための総合対策（抜粋）①

1

１ 「被害に遭わせない」ための対策(1) ＳＮＳ型投資・ロマンス詐欺の被害実態に注目した対策
ア 健全な投資環境の確保等のための施策(ｲ) 投資詐欺サイトに誘導する投稿・偽広告対策等

１① ＳＮＳ事業者等による実効的な広告審査等の推進
ＳＮＳ上のなりすまし型の偽広告等を入口として、投資詐欺の被害に遭っている事態がみられるところ、当初接触ツールとして利用されているＳＮＳを運営する主なＳＮＳ事業者に対して、自社プラットフォーム上に掲載される広告の事前審査の強化等を要請する。
具体的には、広告出稿前の段階として、事前審査基準の策定・公表、審査体制の整備（特に、日本語や日本の社会・文化・法令を理解する者の十分な配置）、クローズドチャットを遷移先として設定している広告は原則として採用しないなど、ＳＮＳ型投資詐欺の手口実態やなりすまされた者等からの通報により得られた情報を踏まえた広告の事前審査の強化、広告出稿者の本人確認の強化を要請する。
また、流通後の広告については、利用規約等を踏まえた適正な対応を行うとともに、広告の削除申出プロセスの整備・公表、対応体制の整備（日本語や日本の社会・文化・法令を理解する者の十分な配置）、削除申出への迅速な対応、その実施状況の公表を要請するとともに、これらの対応に関する報告を要請する。

国民を詐欺から守るための総合対策（抜粋）②
１ 「被害に遭わせない」ための対策(1) ＳＮＳ型投資・ロマンス詐欺の被害実態に注目した対策
ア 健全な投資環境の確保等のための施策(ｲ) 投資詐欺サイトに誘導する投稿・偽広告対策等

２⑥ 大規模プラットフォーム事業者に対する削除対応の迅速化や運用状況の透明化に係る措置の義務付
け等
インターネット上の違法・有害情報への対応として、削除対応の迅速化や運用状況の透明化を大規模プ
ラットフォーム事業者に義務付ける情報流通プラットフォーム対処法を速やかに施行し、その適切な運用を図る。
また、同法の施行に向けて、省令等の制度整備を進めるとともに、違法情報への該当性に関するプラットフォーム事業者向けのガイドラインを迅速に策定する。ガイドラインの策定に当たっては、過去の事例も参考に、プラットフォーム事業者が刑事責任を問われる場合があり得ることも盛り込む。その上で、当該ガイドライン等を通じ、どのような情報を流通させることが法令違反や権利侵害となるのかの明確化、その適切な運用を図る。

３③ なりすまし型偽広告の削除等の適正な対応の推進（略）
インターネット上に流通・拡散する偽・誤情報や、ＳＮＳ上のなりすまし型偽広告への対応等について、国際的な動向を踏まえつつ、制度面も含む総合的な対策を進める。

2

１

ＳＮＳ等におけるなりすまし型「偽広告」への対応について（要請）①3

１．概要
総務省は、６月21日、なりすまし型「偽広告」の流通・拡散状況に鑑み、犯罪対策閣僚会議において決定された総合対策を踏まえ、Meta Platforms, Inc.に対して、対策の実施を要請するとともに、業界団体※1を通じて、 SNS等を提供する大規模事業者※2に対して、対策の実施を要請。
※1 一般社団法人ソーシャルメディア利用環境整備機構（SMAJ）※2 当該企業又はその関連会社が日本国内における平均月間アクティブユーザ数が1,000 万人以上であるＳＮＳ等を提供する企業

２．要請内容（１）広告出稿時の事前審査等について○SNS等におけるなりすまし型「偽広告」の流通を防止するため、広告出稿時の事前審査等について、下記①から⑤までの対応を実施すること。
① 広告の事前審査基準を策定（既に当該基準を策定している場合は、基準の実効性を確認し、対応が不十分な点を踏まえた改定を行うことを含む。）・公表するとともに、当該基準を含め、利用規約等を踏まえた適正な対応を実施すること。

② 自社が提供するSNS等におけるなりすまし型「偽広告」を端緒とした詐欺の手口・実態等を踏まえた審査を実施すること（例：クローズドチャットを遷移先として設定している広告を原則として取り扱わないこと）。
③ 上記①の対応を確実に実施するため、特に日本語並びに日本の社会、文化及び法令を理解する者を十分に配置するなど、事前審査体制を整備し、その整備状況を公表すること。
④ なりすまし型「偽広告」によってなりすまされた被害者（その法定代理人を含む。以下同じ。）から通報があった場合、それ以降における当該被害者に関するなりすまし型「偽広告」の事前審査を強化すること。
⑤ 事前審査における広告主の本人確認のプロセスや実効性を検証し、対応が不十分な点を改善するなど、本人確認の強化に向けて取り組むこと。

１

ＳＮＳ等におけるなりすまし型「偽広告」への対応について（要請）②（２）なりすまし型「偽広告」の削除等○ 利用規約等を踏まえ、現在自ら実施している、なりすまし型「偽広告」に係る技術的な手段も用いた情報収集・削除等の取組をより積極的に推し進めること等も含め、SNS等におけるなりすまし型「偽広告」について削除等の適正な対応を実施すること。
○ 削除対応の迅速化及び運用状況の透明化
SNS等におけるなりすまし型「偽広告」について、下記①から⑤までの対応を実施すること。
① 利用者に分かりやすい削除の申出を受け付ける方法を整備し、公表すること。
② 削除等の対応に当たる人材に関して、日本語並びに日本の社会、文化及び法令の理解が不十分であるとの指摘があることを踏まえ、削除等の対応に当たる人材として、日本語並びに日本の社会、文化及び法令を理解する者の十分な配置を行うこと。
③ なりすまされた被害者から削除の申出を受けてから遅滞なく（例：１週間以内）判断を行い、削除を実施した場合にはその旨、削除を実施しなかった場合にはその旨及びその理由を申出者に対して通知すること。
④ 削除等の実施に関する基準を策定し、公表すること。

⑤ 削除の申出件数及び実施件数、アカウント停止の申出件数及び実施件数並びに削除等の対応に当たる人的・技術的体制（特に、削除等の対応に当たる人材のうち日本語を理解する者の人数）を公表すること。

4

２

情報流通プラットフォーム対処法（プロバイダ責任制限法の一部改正）の概要

5

誹謗中傷等のインターネット上の違法・有害情報に対処するため、大規模プラットフォーム事業者に対し、①対応の迅速化、②運用状況の透明化に係る措置を義務づける。
改正事項

大規模プラットフォーム事業者※１に対して、以下の措置を義務づける。
※１ 迅速化及び透明化を図る必要性が特に高い者として、権利侵害が発生するおそれが少なくない一定規模以上等の者。

① 対応の迅速化 （権利侵害情報）・ 削除申出窓口・手続の整備・公表
・ 削除申出への対応体制の整備（十分な知識経験を有する者の選任等）
・ 削除申出に対する判断・通知（原則、一定期間内）② 運用状況の透明化
・ 削除基準の策定・公表（運用状況の公表を含む）
・ 削除した場合、発信者への通知
上記規律を加えるため、法律※２の題名を「特定電気通信による情報の流通によって発生する権利侵害等への対処に関する法律」（情報流通プラットフォーム対処法）に改める。
※２ 特定電気通信役務提供者の損害賠償責任の制限及び発信者情報の開示に関する法律（プロバイダ責任制限法：プロバイダ等の免責要件の明確化、発信者情報開示請求を規定）

施行期日公布の日（令和６年５月17日）から起算して１年を超えない範囲内において政令で定める日

２

諸外国の動向（米国、EU）との比較••

連邦法レベルでは、プラットフォーム事業者に対して対応の迅速化及び運用状況の透明化を求める公法上の義務を課していない。
なお、著作権侵害については、デジタルミレニアム著作権法において、迅速な削除を促進する仕組みが設けられている。
州法レベルでは、プラットフォーム事業者に対して
 削除基準の策定・公表義務 運用状況の公表義務を課している州も存在する。

ＥＵ

日 本

米 国•

•6情報流通プラットフォーム対処法に基づき、プラットフォーム事業者に対して
 削除申出への通知義務
 削除基準の策定・公表義務 運用状況の公表義務等の規律を課すこととしている。

•

加えて、削除申出への通知義務について、原則として一定期間内での対応を求める。

•デジタルサービス法に基づき、プラットフォーム事業者に対して
 削除申出への通知義務（「遅滞なく」） 削除基準の策定・公表義務 運用状況の公表義務等の規律を課している。

加えて、
 行政当局への応答義務
 システミックリスクの評価・低減義務
 第三者機関の設置等も規定している。

２

なりすまし型「偽広告」への対応可能性指摘されている主な課題（１）削除・ア
カウント停止関係

7

情報流通プラットフォーム対処法による対応① どこに削除申請してよいかわからない。（日本法人に申請したら断られた。）

削除申出窓口・手続の整備・公表義務【22条】② 日本人の目から見れば明らかな偽広告なのに、削除されない。

削除申出への対応体制の整備義務（十分な知識経験を有する者の選任等）【24条】③ 不十分な対応体制により、「判断できない」とプラットフォーム事業者に開き直られている。
④ 削除対応が遅い。放置されている。

削除申出に対する判断・通知義務（原則一週間以内）【25条】⑤ どのような偽広告が削除すべき違法情報
総務省において、違法情報への該当性について一（権利侵害情報）に該当するのかわからない。 定の目安をガイドラインで示す対応を行う。

⑥ 偽広告に対する削除・アカウント停止の基準はあるが、適切に運用されていない。

※

削除 基準の策定・公表義務【26条】※
削除 の実施状況の評価・公表等義務【28条】※法律上は送信防止措置であり、アカウント停止も含まれる（２）発信者
情報開示関係

現時点で課題の指摘なし（偽広告を出稿した者を突き止めたい。）

発信者情報開示請求権【5条】

情報流通プラットフォーム対処法施行に向けた取組

２①情報流通プラットフォーム対処法の速やかな施行

・ 改正法の公布の日（令和６年５月17日）から１年以内の施行を予定。
・ 速やかな施行に向け、下記②・③に取り組む。
②省令の整備・ 大規模プラットフォーム事業者の指定に当たっての平均月間発信者数等の閾値や、被害者による削除申出から大規模プラットフォーム事業者による判断・通知までの具体的な期間等について、省令を整備。

③関連ガイドラインの策定
・ インターネット上でどのような情報を流通させることが法令違反や権利侵害となるのか等について、ガイドラインを速やかに策定。

8３「デジタル空間における情報流通の健全性確保の在り方に関する検討会」

１．検討事項

２．構成員

9※法律（憲法・メディア・情報）、技術、データ分析、認知科学・心理学、ジャーナリズム、プライバシー、サイバーセキュリティ、消費者保護等の専門家。以下、座長・座長代理以外は、50音順。

① デジタル空間を活用したサービスの普及・情報通信技術 ● 宍戸 常寿（東京大学大学院法学政治学研究科教授） 【座長】
● 山本 龍彦（慶應義塾大学大学院法務研究科教授） 【座長代理】の進展等の状況：（例）生成AI、メタバースなど● 生貝 直人（一橋大学大学院法学研究科教授）（例）生成AI等による巧妙な偽・誤情報の生成や拡散に伴う社会的な ● 石井 夏生利（中央大学国際情報学部教授）影響の深刻化、メタバースにおけるデータの取得・利用に係る対応 ● 越前 功（国立情報学研究所情報社会相関研究系教授）の重要性、国境を越えた情報・データ流通の広域化や迅速化に伴 ● 江間 有沙（東京大学国際高等研究所東京カレッジ准教授）
う国際的な協調の必要性など● 奥村 信幸（武蔵大学社会学部教授）● 落合 孝文（渥美坂井法律事務所・外国法共同事業③ 今後の対応にあたっての基本的な考え方：② 新たな課題と各ステークホルダーによる対応状況：

プロトタイプ政策研究所所長・シニアパートナー弁護士）（例）基本理念：信頼性のある自由な情報流通、表現の自由、知る権利、青少年を含む利用者保護、デジタルシティズンシップなど ● クロサカ タツヤ（慶應義塾大学大学院政策・メディア研究科特任准教授）
各ステークホルダーの役割：デジタルプラットフォーム事業者、生成 ● 後藤 厚宏（情報セキュリティ大学院大学学長）
AI事業者、仮想空間関係事業者、通信・放送事業者、利用者 ● 澁谷 遊野（東京大学大学院情報学環准教授）など● 曽我部 真裕（京都大学大学院法学研究科教授）④ デジタル空間における情報流通の健全性確保に向けた ● 田中 優子（名古屋工業大学大学院工学研究科基礎類教授）

具体的な方策：● 増田 悦子（公益社団法人全国消費生活相談員協会理事長）（例）多様なステークホルダーによる協力関係の構築、ファクトチェックの推● 水谷 瑛嗣郎（関西大学社会学部メディア専攻准教授）
進、幅広い世代に対するリテラシーの向上、情報発信者側を含む● 森 亮二（英知法律事務所弁護士）
自主的取組の推進、研究開発の推進、国際的な対話の深化、● 安野 智子（中央大学文学部教授）
生成AI・メタバース関連事項など● 山口 真一（国際大学グローバル・コミュニケーション・センター准教授）● 山本 健人（北九州市立大学法学部准教授）● 脇浜 紀子（京都産業大学現代社会学部教授）

３．スケジュール

※ その他、関係団体や関係省庁がオブザーバとして参加⚫ 令和５年11月７日に第１回会合を開催し、ヒアリング・論点整理等を経て、本年夏までに一定のとりまとめを公表予定

ワーキンググループ

３10

１．概要
デジタル空間における情報流通の健全性の確保に向けて、表現の自由をはじめとする様々な権利利益に配慮した検討を専門的な見地から行うために、令和６年１月25日からワーキンググループを開催。
２．検討事項例① 事業者の取組に関する透明性の確保の在り方② 事業者のビジネスモデルに起因する課題への対応の在り方③ 関係者間の連携・協力の在り方④ 災害発生時等における対処の在り方

⑤ その他
３．構成員

※法学者・弁護士を中心に、以下の８名● 山本 龍彦【主査】（慶應義塾大学教授）● 生貝 直人（一橋大学大学院法学研究科教授）● 水谷 瑛嗣郎（関西大学社会学部准教授）● 曽我部 真裕

【主査代理】（京都大学法学研究科教授）● 石井 夏生利（中央大学国際情報学部教授）● 森 亮二（弁護士、英知法律事務所）● 落合 孝文（弁護士、渥美坂井法律事務所）● 山本 健人（北九州市立大学法学部准教授）

３

デジタル空間における情報流通の健全性確保に関する検討会 とりまとめ素案（概要①）

概 要⚫ 偽・誤情報の流通・拡散等のリスク、それをもたらすアテンション・エコノミー等の構造的リスクが存在。PF事業者ヒアリングでは自主的な取組には期待できない状況。
⚫ こうしたリスクは我が国特有の課題ではなく、諸外国にも共通。諸外国と連携・協力して対処しなければ、状況の悪化が見込まれるとの危機感を持って対応する必要。
⚫ デジタル空間における情報流通の健全性確保に向けた基本理念や主体の役割・責務を明確化しつつ、情報流通の健全性確保に必要な「総合的な対策」を提言。

≪現状と課題≫⚫ SNS等の情報伝送プラットフォーム(PF)サービスは、国民生活・社会経済活動等に広く・深く浸透し、公益性が高まっている。
⚫ 偽・誤情報の流通・拡散等の「表層上の」リスク、それをもたらすアテンション・エコノミー等の「構造的な」リスクがある。
（令和６年能登半島地震やなりすまし型「偽広告」を巡り顕在化）⚫ 特に、SNS等には、①低廉な情報発信コスト、②拡散促進機能、③レコメンデーション機能という特徴（構造）があり、リスクを先鋭化。
⚫ 金銭対価の仕組みが偽・誤情報の流通・拡散に関連するとも指摘。
⚫ デジタル広告と広告が掲載されるメディア双方の信頼性にも影響。

政府・地方公共団体

基本理念

11

伝統メディア（放送、新聞等）≪PF事業者ヒアリングの総括≫
2024年２～３月に実施⚫ デジタル空間における情報流通の適正化等に向けた取組として、全体として十分な回答が得られたとは言いがたい。
⚫ 特に国外事業者は、期限超過や未回答もあり、日本の状況を踏まえた取組に関する明確な回答がなかったことに鑑みても、日本国内で公共的役割を果たす上で、透明性・アカウンタビリティの確保は総じて不十分。
⚫ 取組状況についても、全体として十分とは言えない。
事業者団体による偽・誤情報対策に関する行動規範の策定に関する議論が白紙となり中断されていることも鑑みると、事業者による自主的な取組には期待できない状況。新たに具体的な対応が必要。

ファクトチェック関連団体

企業・産業界情報伝送PF事業者≪日本≫⚫ 権利侵害情報への対応の迅速化、情報削除等に関する運用状況の透明化の措置を義務付ける情報流通プラットフォーム対処法が成立。
≪米国≫⚫ 合衆国憲法修正１条により表現の自由が手厚く保障。PF事業者に広範な免責が与えられているが、連邦・州レベルで議論の高まり。
≪欧州≫⚫ 2024年２月、違法情報等への対処を規定するデジタルサービス法の全面適用開始。偽情報に関する行動規範の遵守が事業者に奨励。
≪その他≫⚫ 英国その他の先進国でも制度的な対応が進展。

デジタル広告関連事業者

利用者や消費者を含む市民社会

教育機関・普及啓発機関

研究機関①表現の自由と知る権利の実質的保障及びこれらを通じた法の支配と民主主義の実現②安心かつ安全で信頼できる情報流通空間としてのデジタル空間の実現③国内外のマルチステークホルダーによる国際的かつ安定的で継続的な連携・協力
情報発信：①自由かつ責任ある発信の確保、②信頼できるコンテンツの持続可能な制作・発信の実現
情報伝送：①公平・オープンかつ多元的な情報伝送、②取組の透明性とアカウンタビリティの確保、③利用者データの適正な取扱いと個人のプライバシー保護
情報受信：①リテラシーの確保、②多様な個人に対する情報へのアクセス保障とエンパワーメント※デジタル空間における情報流通の健全性確保の在り方に関する検討会（令和６年６月27日開催） 資料24-1より作成

３

デジタル空間における情報流通の健全性確保に関する検討会 とりまとめ素案（概要②）12

基本的な考え方◆サイバーセキュリティやプライバシー等の関連分野を踏まえた社会全体で対応する枠組み◆信頼性のある情報の流通促進と違法・有害情報の流通抑制の両輪による対応◆個人レベルとシステムレベルの両面及び相互作用による対応◆プレバンキングとデバンキング※の両輪による対応※ プレバンキング:偽・誤情報等が流通・拡散する前の備え（リテラシー向上等）
デバンキング：偽・誤情報等が既に流通・拡散した状況での事後対応（ファクトチェック等）◆流通・拡散する情報とそれに付随するデジタル広告への信頼性に対する相互依存関係を踏まえた対応
総合的な対策
4 技術の研究開発・実証

1 普及啓発・リテラシー向上①プレバンキングの効果検証等有効な方法及び取組の推進②普及啓発・リテラシー向上に関する施策の多様化③マルチステークホルダーによる連携・協力の拡大・強化①偽・誤情報等対策技術②生成AIコンテンツ判別技術③デジタル広告関連技術

5 国際連携・協力

2 人材の確保・育成①検証報道や信頼性のある情報を適時に発信する人材②コンテンツモデレーション人材③リテラシー向上のための教える人材①普及啓発・リテラシー向上・人材育成の国際連携・協力②偽・誤情報等対策技術の国際標準化・国際展開の推進③欧米等とのバイやG7・OECD等とのマルチ連携・協力の推進

3 社会全体へのファクトチェックの普及①利用者参加型のファクトチェックの推進②ファクトチェック人材の確保・育成③関連するステークホルダーによる取組の推進※デジタル空間における情報流通の健全性確保の在り方に関する検討会（令和６年６月27日開催） 資料24-1より作成

３ デジタル空間における情報流通の健全性確保に関する検討会 WG中間とりまとめ案（概要）13

総合的な対策
１ 情報伝送PF事業者による偽・誤情報への対応の実効性確保

２ 情報伝送PF事業者による社会的影響の軽減の実効性確保

偽・誤情報に対するコンテンツモデレーションの実効性確保策として、大規模な情報伝送PF事業者に対する次の措置を中心に、制度整備も含め、具体化を進めることが適当。

①情報伝送PFサービスの影響予測と軽減措置の実施①違法な偽・誤情報に対する対応の迅速化• 行政法規に抵触する違法な偽・誤情報に対し、所管省庁からの申請を契機とした削除等の対応を迅速化（窓口整備、一定期間内の判断・通知等）• ただし、前提として、行政機関による申請状況の透明性確保等が不可欠②違法な偽・誤情報の発信を繰り返す発信者への対応• 特に悪質な発信者に対する情報の削除やアカウントの停止・削除を確実に実施する方策について、その段階的な実施を含め具体化③有害な偽・誤情報に対するコンテンツモデレーション※の確実な実施等• 違法ではないが有害な偽・誤情報に対し、少なくとも可視性への影響が低いコンテンツモデレーション（収益化停止等）を確実に実施※特定のコンテンツの流通・拡散を抑止するために講ずる措置（情報削除、収益化停止等）。

④情報流通の態様に着目したコンテンツモデレーションの実施• 送信された情報の内容そのものの真偽に着目せず、情報流通の態様に着目してコンテンツモデレーションを実施する方策について具体化⑤偽・誤情報に対する対応の透明性の確保• 削除等基準や手続の策定・公表、人員等の体制に関する情報の公表• 政府による大枠の制度設計の下、社会的影響を事前予測し、軽減措置を検討・実施（サービスアーキテクチャの変更等による対応）②特に災害等における影響予測と事前の軽減措置の実施
３ マルチステークホルダーによる連携・協力の枠組みの整備①連携・協力の目的（行動規範の策定・推進、軽減措置の検証・評価等）②協議会の設置、③協議会の役割・権限
４ 広告の質の確保を通じた情報流通の健全性確保①広告事前審査の確実な実施と実効性向上• 審査基準の策定・公表、審査体制の整備・透明化、本人確認の実施等②事後的な広告掲載停止措置の確実な実施③事後的な広告掲載停止措置の迅速化• 外部からの申請窓口の整備・公表、一定期間内の判断・通知 等④事後的な広告掲載停止措置の透明性の確保• 基準や手続の策定・公表、人員等の体制に関する情報の公表 等
５ 質の高いメディアへの広告配信に資する取組を通じた健全性確保①広告主・代理店による取組促進（経営陣向けガイドラインの策定）②広告仲介PF事業者による取組促進

その他の共通事項等：執行手段・プロセス、対象事業者の範囲、生成AIを用いて生成される情報への対応※デジタル空間における情報流通の健全性確保の在り方に関する検討会 ワーキンググループ（令和６年７月１日開催） 資料WG31-1より作成