EUのAI政策

一般財団法人マルチメディア振興センター

Foundation for MultiMedia Communications

2024年6月

ブリュッセル事務所⾧

仲田陽子

EUにおけるAI規制の動き
 EUは、世界に先んじて2021年４月に「AI規則」案を提案。
 2022年11月のChat GPTリリース以降のAIブームの影響も受けて、2024年５月に「AI規則」が成立。
2019.7

次期欧州委員会の政治的ガイドライン2019～20242020.2ヨーロッパのデジタルの未来を形作る（Shaping Europe’s digital future）

2020.2

AIに関する白書

2021.4

欧州委員会、AI規則案を提案
AI調整計画（2021年版）

 就任後100日以内に、人間的で倫理的な人工知能（AI）に関する法案の提出

EU現政権（2019-2024）の目玉施策の一つ

AIが人々の権利を尊重し、信頼を得られるように開発

信頼できるAI枠組み確保、官民協働でバリューチェーン全体への投資の呼込み、産業部門へのAI導入促進奨励複雑で高いリスクを伴うAIシステムに対する透明性・追跡可能性・人間による監視を確保した明確な規制を導入①EUにおけるAI開発・普及を可能とする条件の設定、②研究所から市場まで卓越性で成功するEUの実現、③人々のために機能するAI技術、④影響力が大きいセクターにおける戦略的なリーダーシップの構築

2022.11

Open AI社がChaGPTをリリース

2022.12

EU理事会、修正案を採択

2023.6

欧州議会、修正案を採択

ChatGPTのリリースを受けて、AI規則には、汎用AI（GPAI）に特化した規定が盛り込まれた

三者協議開始2023.12

AI規則、政治合意

2024.1

欧州委員会、AIイノベーションパッケージを公表

2024.5

AI規則、成立

All rights reserved ©FMMC 2024

2024年6月に欧州議会選挙が行われ、今後、EU次期政権が発足。
AI規則の施行・執行は、次期政権に委ねられる
1

EUのAI政策の背景
 EUは、AI開発競争において、米国・中国に遅れをとっていることを危惧し、AI振興策を推進。
 他方で、AIがもたらすリスク（AIインシデントの増加、AIがもたらし得る未知の脅威、AI開発者の透明性欠如、著作権侵害の可能性等）に対する懸念から、基本的な権利を保護するための適切な「ガードレール（安全措置）」を敷く必要性を提唱。
 AI規則は、リスクに対するガードレール（規制措置）と振興策の２本柱となっている。
【2023年のAIに対する民間投資額】

 首位の米国の投資額（672億ドル）は、次点の中国（78億ドル）の約8.7倍。
 EU加盟国では、ドイツ、スウェーデン、フランス、スペイン等が積極的だが、これらの国の投資額を足しても２位の中国には及ばない。

（引用）Nestor Maslej, Loredana Fattorini, Raymond Perrault, Vanessa Parli, Anka Reuel, Erik Brynjolfsson, John Etchemendy,Katrina Ligett, Terah

All rights reserved ©FMMC 2024 Lyons, James Manyika, Juan Carlos Niebles, Yoav Shoham, Russell Wald, and Jack Clark,“The AI Index 2024 Annual Report,” AI Index Steering
Committee, Institute for Human-Centered AI, Stanford

University, Stanford, CA, April 2024.

2

AI規則:規制概要
 リスクベース・ライフサイクルアプローチを採用し、リスクが大きいAＩについてはEUレベルで、それ以外のAIは加盟国レベルでの監督・執行が想定されている。
 バリューチェーン全体の信頼性確保として、AIシステムそのものの規制に加えて、AIシステムの提供者、配備者、輸入者、販売者それぞれに対する義務が課されている。
【リスクベースアプローチ】
汎用AIモデル

リスク:危害が生じる可能性とその危害の深刻度の組合せ

Combination of the probability of an occurrence of harm and the severity of that harm

AIシステム（リスク分類）◎施行から12カ月後

全てのモデル
透明性義務
システミックリスクを伴うモデル
リスク管理

許容できないリスク

禁止

高リスク認められる例）ソーシャルスコアリング◎施行から６カ月後

3,500万ユーロ又は全世界年間売上高7％のいずれか高い方を上限とする制裁金例）リクルート、医療機器◎施行から36カ月後要件、適合性評価の対象

例）チャットボット、ディープ
フェイク ◎施行から24カ月後

情報・透明性義務の対象

最小限リスク又はノーリスク

認められる - 義務無し

「透明性」リスク

認められる

1,500万ユーロ又は全世界年間売上高3%のいずれか高い方を上限とする
制裁金

当局等へのへの不正確、不完全又は誤解を招く情報の提供:
50万ユーロ又は全世界年間売上高1%のいずれか高い方を上限とする制裁金【適用対象】AIシステム、AIシステムの提供者・配備者・輸入業者・販売業者
All rights reserved ©FMMC 2024※「◎」は適用開始時期

3

AI規則:禁止されるAI禁止されるAIシステム
 サブリミナル技術を組み込んでいるAIシステム
 子供や障碍者の脆弱性を悪用するAIシステム
 人種、政治的意見、労働組合、宗教的・哲学的信条、性生活・性的嗜好を推測・推論するための生体データに基づく生体分類システム（合法的に取得された生体データに基づくラベリング・フィルタリング、法執行目的の生体データ分類を除く。）
 自然人・集団の不利益な取扱いに繋がるソーシャルスコアリングシステム
 公共空間における「リアルタイム」遠隔生体認証システム（テロ防止や犯罪捜査目的の場合を除く。）
 プロファイリングによる予防的取締りシステム
 インターネットや監視カメラ映像からの大規模で無差別な顔画像収集による顔認証データベースの作成・拡張をするAIシステム
 職場・教育機関における感情認識AIシステム（医療・安全上の理由の場合を除く。）

All rights reserved ©FMMC 20244

AI規則:高リスクAI（該当性）
高リスクAIシステム（１）EU整合法令の対象で、第三者の適合性評価の対象となっている安全部品/製品（医療機器等）（２）アネックスIIIに列挙されるAIシステム①生体認証:遠隔生体認証、機微情報に基づく生体分類、感情認識②重要インフラ:重要インフラの安全部品③教育・職業訓練:アクセス、割振り、評価、監視④雇用・労働管理・自営業へのアクセス:採用・選考、昇進・解雇、タスクの割当て、業績評価⑤必要不可欠な民間サービス及び公共サービス・便益へのアクセス・享受:
公的機関による公的給付・サービスの適格性評価・給付・減額・取消し・再請求、信用度評価・クレジッ
トスコアリング、生命・健康保険のリスク評価・価格設定、警察・消防士・救急車等の緊急通報やトリアージの評価・分類・優先順位付け⑥法執行:被害者になるリスク予測、ポリグラフ、捜査・起訴時の証拠の信頼性評価、犯罪・再犯罪予測、捜査・起訴過程のプロファイリング
⑦移民・防衛・国境管理:ポリグラフ、入国者・潜在的入国者の安全保障リスク、不正移民、健康リスクの評価、亡命・ビザ・滞在許可申請、移民・亡命・国境管理における個人の検知・識別・特定⑧司法行政・民主的プロセス:司法による事実関係と法律の調査・解釈、選挙の投票結果や個人の投票行動への影響
非高リスクAIシステム（例外）

要件①:狭義の準備のためのタスク
要件②:人間の成果物のレビュー・改善
要件③:潜在的な矛盾や異常に警告を出すための、意思決定パターンからの逸脱の検出
要件④:AnnexIIIに列挙されるユースケースの目的に関連する評価の準備タスクの実行
All rights reserved ©FMMC 20245

AI規則:高リスクAI（主な義務）高リスクAIのバリューチェーン全体に対する義務
高リスクAIシステム




リスク管理システム（リスク管理システムの構築・履行・文書化及び維持、テスト）
データ及びデータガバナンス（品質基準を満たすデータセットによる学習・検証・テスト）
技術文書（作成・アップデート）
記録保存（ライフタイムを通じた自動ログ）
透明性及び配備者への情報提供
人間による監視
堅牢性・正確性・サイバーセキュリティの義務（ライフサイクルを通じた確保）

高リスクAIシステム提供者【高リスクAI提供者】
 品質管理システムへの準拠
 上市前の適合性評価（信頼性評価:データ品質、文書化及びトレーサビリティ、透明性、人間による監視、正確性、サイバーセキュリティ、堅牢性）
 深刻なインシデント・不具合の報告義務
 上市後のモニタリング
高リスクAIシステムの輸入者・販売業者【高リスクAIシステムの輸入者・販売業者】
 取り扱うAIシステムが適合性要件を満たしているかの確認義務（満たさない場合には市場投入をしない、い、販売を停止する）
高リスクAIシステムの配備者【高リスクAIの配備者】
 使用説明書に沿ったAIシステムの監視・生成ログの保管（リスクが生じると判断した場合・不具合を検知した場合には、使用を停止する）
 基本的権利の影響評価（高リスクAIの使用方法・期間・頻度、影響を受ける個人・団体の種類、リスク、人間による監視の措置、リスクが顕在化した最に講じる措置）
All rights reserved ©FMMC 20246

AI規則:限定的なリスクを有するAI・汎用AI（義務）１．限定的なリスクを有するAIシステムの提供者及び配備者並びにGPAIモデルへの透明性義務（１）自然人とのやりとりが用途として想定されているAIシステム:
提供者は、自然人がAIシステムとやりとりしていることが通知される形でシステムの設計・開発を行うこと。なお、状況や使用の背景から明確である場合は除く。
（２）感情認識システム・生体分類システム:
ユーザは、対象となる自然人に、システムの運用を通知すること。
（３）ディープフェイク生成AIシステム:
ユーザは、AIにより生成・操作されたコンテンツであることを開示すること。

２．GPAIモデルに対する義務 ※システミックリスクの有無は、コンピューティング累積量等で判断
義務全てのGPAIモデルの提供者

 技術文書の作成・アップデート
 AI配備者への情報・文書の提供
 著作権法の遵守ポリシーの策定※
 GPAI訓練に使用したデータの公開※ 規制当局との連携
 遵守について、標準策定迄の間、行動規範に依拠可能
 欧州拠点の設立

注:※は無料・オープンライセンスのAIモデルには適用されない。

システミック
リスクを伴うGPAIモデルの提供者

上記に加えて、以下の義務。
 モデル評価の実施（システミックリスクの特定・緩和のための敵対的テストの実施と文書化を含む。）
 （AIシステムの開発、上市又は使用に起因するかもしれない）EUレベルで起こり得る
システミックリスクの原因を含む評価・緩和 深刻なインシデント及び対処のための是正措置に係る関連の情報について、把握し、文書化し、遅滞なくAIオフィス及び適切な場合には加盟国の規制当局に通報すること
 サイバーセキュリティ及びモデルの物理的インフラの適切なレベルの保護を確保すること

All rights reserved ©FMMC 2024

7

AI振興策 AI規則は、AIの振興・SME振興を目標に掲げており、加盟国に対して最低１つのAI規制のサンドボックスの設置を義務付けている。
 欧州委員会は、AI振興を促進するために「AIイノベーションパッケージ」を公表。スーパーコンピュータの活用や、生成AI開発への支援を表明した。
AIイノベーションパッケージ（2024年１月24日公表）概要
 スーパーコンピューターの活用:

・AIファクトリーの設立（次項参照）
・スーパーコンピューターを活用したGPAIモデルの訓練・アプリケーションの開発
・SME・スタートアップのスーパーコンピューターへのアクセスの促進

 生成AI、スタートアップ企業支援（EU AIスタートアップ及びイノベーションコミュニケ）:・生成AIに特化した資金援助（2027年までに官民の総投資額40億ユーロを目指す）
・トレーニングによる生成AIタレント人材の強化
・ベンチャーキャピタル/エクイティサポートを通じたスタートアップ・スケールアップへの官民投資の促進
・欧州共通データスペースの開発・実装とAIコミュニティへの開放
・欧州の14産業エコシステム及びパブリックセクターにおける新たなユースケースと新興アプリケーションの開発を支援するGenAI4EUイニシアチブの表明

 欧州デジタルインフラストラクチャーコンソーシアム（EDIC）:

・言語技術アライアンス（Alliance for Language Technologies:ALT-EDIC）:欧州大規模言語モデルの開発
・シティバース（CitiVERSE）:デジタルツインシティの開発

 欧州委員会自身のAI使用に係る戦略的アプローチ（「AI@EC」コミュニケ）
・AI規則の施行に向けた内部体制整備
・信頼性・安全性・倫理性が確保されたAIの開発・利用のための制度・運用構築
・EU機関におけるAI導入・活用支援

All rights reserved ©FMMC 2024（参照）https://ec.europa.eu/commission/presscorner/detail/en/ip_24_383

8

（参考）AIファクトリー
欧州高性能コンピューティング（EuroHPC）共同事
業の下で、AIファクトリーを設立（欧州委員会は総額21億ユーロを投資）

LUMI

 高速機械学習と大規模GPAIモデルのトレーニングを可能とするAI専用スーパーコンピュータの取得、アップグレード及び運用
 AI専用スーパーコンピュータへのアクセスを容易にし、スタートアップや中小企業を含む官民ユーザによるAI使用の門戸を広げる スタートアップ・イノベーターのためのワンストップショップの提供
 大規模AIモデルのアルゴリズム開発、テスト評価及び検証をするためのAIスタートアップ・研究エ
コシステムの支援
 スーパーコンピューターに優しいプログラミング
施設・AIサービスの提供
 GPAIモデルに基づく新興AIアプリケーションの開発を可能にする

JUPITERKAROLINAMELUXINADISCOVERER
MARENOSTRUM 5VEGALEONARDODEUCALIN※EUには現在、9つのスーパーコンピュータが設置されている。

All rights reserved ©FMMC 2024

9

EUのAI政策への期待と課題①
 他のEUデジタル施策との相乗効果
 データ法:コネクテット製品から生成されるデータへのアクセス・共有
 データガバナンス法:公共セクターが保有するデータの再活用 データスペース:10の戦略分野のデータを集約・共有するEU共通データスペース⇐

AI訓練・検証・テスト用にデータを活用可能に 執行における課題
 関連する他の法令（GDPR、著作権指令等）との整合性⇐

他の法令との重複排除

 下位法令の制定⇐

規則の適用開始を控え、急ぎ対応が必要

 欧州委員会・加盟国の執行体制整備•

欧州委員会のAIオフィス（AI規則のGPAI規定の直接執行等）の体制整備が進行中•

欧州委員会の組織改編と新規雇用で計140名の職員を配置予定⇐ 十分なリソースを確保できるのかが不安視されている

All rights reserved ©FMMC 202410

EUのAI政策への期待と課題②
 追加的な制度整備・対応の必要性

 著作権指令の見直し• 現行のEU著作権指令では、TDM例外（Text and Data Mining Exception）として、著作権の権利保持者は基盤モデルの訓練に自身のコンテンツが使用されることへのオプトアウトが可能。
• AI規則では、GPAI提供者に訓練のインプットに使用したテキスト、画像、音楽等の公開を義務付けている。
 AIを「使用」する際のルールの検討
 競争上の懸念への対処• デジタルマーケット法（DMA）の「コアプラットフォーム」へのAI追加の検討（追加された場合、ゲートキーパーに指定されたAI提供者に対して、データ利用に係る制限、ビジネスユーザへのアクセス提供、公正なランキング表示等の義務が生じ得る）• 既存の競争法の適用可能性の検討（欧州委員会の動き）
 仮想世界と生成AIの二つの新しい市場における競争環境について、既存の競争法の適用可能性を含む意見を求めるパブリックコメントを実施（2024年1月9日-同年3月11日迄） 大手デジタル市場のプレイヤーと生成AI開発者・提供者の間で締結されている協定を確認し、これらの企業間提携が市場のダイナミクスに与える影響を調査中 マイクロソフトのオープンAIへの投資についてEU企業結合規則に基づき審査可能か確認中 進化するAIへの迅速な対応

 イノベーション施策の遅れ

 投入予算の規模・スピード• 欧州会計検査院は、EUのAI投資やAIエコシステム推進施策が成功していない（加盟国との調整が上手く行っておらず、体系的な投資のモニタリングもできていない等）ことを指摘する報告書を公表（2024.5）。

All rights reserved ©FMMC 2024（参照）https://ec.europa.eu/commission/presscorner/detail/en/ip_24_85
https://www.eca.europa.eu/en/news/NEWS-SR-2024-08

11

企業の動向 AI規則の施行・適用開始はまだだが、EU一般データ保護規則（GDPR）等の既存の法制度の執行が行われている。
 EU法令の遵守を理由に、大手テック企業がEU市場へのAIツールの投入を控える事例が続いている。
メタは、アイルランド個人データ保護機関の要請を受けて、GDPR違反の懸念から、フェイスブック・インスタ
グラムユーザの公開投稿のデータを使用した大規模言語モデル（LLMs）のトレーニングを延期。欧州でのメタAIのサービス開始を見送るとした（6月14日公表）。

Appleは、デジタル市場法（DMA）の相互運用性要件がユーザのプライバシー・データセキュリティを危険にさらす形で製品の完全性を侵害する可能性があるとして、2024年中のAppleIntelligence、iPhone Mirroring及びSharePlay Screening Sharingのリリースを見送り（6月21日公表）。

All rights reserved ©FMMC 2024（参照）https://about.fb.com/news/2024/06/building-ai-technology-for-europeans-in-a-transparent-and-responsible-way/,
https://www.bloomberg.com/news/articles/2024-06-21/apple-won-t-roll-out-ai-tech-in-eu-market-over-regulatoryconcerns?sref=fqqmZ8gi&leadSource=uverify%20wall&embedded-checkout=true

12

お問い合わせ先

一般財団法人マルチメディア振興センター〒105-0001
東京都港区虎ノ門三丁目22番1号 虎ノ門桜ビル2階
TEL : 03-5403-7100（代）FAX : 03-5403-7101
E-mail : fmmcb@fmmc.or.jp

All rights reserved ©FMMC 202413