r

EU LAW NEWSLETTER

July, 2024（No. 23）
ムシス バシリ / 中崎 尚 / 金子 涼一 / 田村 允Contenｔs
1. 2024 年 8 月 1 日、AI に対する包括的な規制である EU AI 規則が発効（上）(1) はじめに(2) リスクベースのアプローチ

2. 最近の論文・書籍のご紹介
1. The EU AI Act Enters into Force on 1 August 2024 (Part 1)(1) Introduction(2) A Risk-Based Approach

2. Introduction of Recent Publications

1. 2024 年 8 月 1 日、AI に対する包括的な規制である EU AI 規則が発効（上）(1) はじめに人工知能（AI）が急速に進歩し、あらゆる産業に浸透する中、EU は、この革新的な技術がもたらす課題と機会に対応するための重要な一歩を踏み出しました 1。EU AI 規則（AI Act、以下「AI 規則」といいます。）は、生成 AI に対処するための世界初の包括的な法的枠組みを構築するものです。
生成 AI は多くの機会をもたらす一方、知的財産権の侵害やホワイトカラーの仕事が失われるのではないかという懸念、AI の誤った利用や誤情報問題など、関連する多くの問題をもたらし、この技術のリスクも深く認識されるようになりました。
AI 規則は、AI の利用について、安全性、透明性、基本的人権の尊重を確保しながら、AI の開発と普及を促進することを目的としています 2。AI 規則は、EU 内で事業を展開している企業に広範囲にわたる影響を及ぼすだけでなく、世界初の AI に対する包括的規制であるため、欧州外で事業を

1

Artificial Intelligence (AI) Act: Council gives final green light to the first worldwide rules on AI

2

同法の全文は、Regulation (EU) 2024/1689 を参照。
1

展開している企業にも影響を与える可能性が高いと考えられます。現在、米国、カナダ、英国、韓国、インド、シンガポールなどの AI 大国が、どのような AI に関する政策を採用すべきかを検討し始めており、EU の AI 規則の展開を注意深く見守っていると考えられます。本ニュースレターでは、この新しい規制に対応する必要のある企業への影響に焦点を当て、AI 規則の概要を説明します。
2024 年 7 月 12 日、AI 規則は EU 官報で公布されました。規則の条文は確定したものであり、AI規則は 2024 年 8 月 1 日に発効します。その規定は、以下のとおりのタイムテーブルに従って段階的適用されることになります。
2024 年 8 月 1 日

AI 規則の発効

2025 年 2 月 2 日

許容できないリスクを伴う AI の禁止／1 編及び 2 編の適用開始

2025 年 8 月 2 日

一般目的（GP）AI に関するガバナンス規則及び義務が適用開始／3 編 4章、5 編、7 編、12 編（101 条を除く）及び 78 条が適用

2026 年 8 月 2 日

AI システムに対する AI 規則の適用開始（付属書 III を含む）

2027 年 8 月 2 日

すべてのリスクカテゴリー（付属書 II を含む）／6 条（1 項）及び対応する義務に対する AI 規則全体の適用開始(2) リスクベースのアプローチ
AI 規則は、人工知能システム（AI システム）を、「さまざまなレベルの自律性で動作するように設計されており、明示的又は黙示的な目標のために、物理的又は仮想の環境に影響を与え得る予測、コンテンツ、推奨、若しくは決定などの出力を生成する方法を、受信した入力から推測する機械ベースのシステム」と定義しています 3。この広範な定義は、現在存在しない生成的知能の形態を含むことを意図するものです。この定義を踏まえ、AI 規則は多様な AI システムを規制するために、様々な手段を採用し、個人や社会にもたらすリスクのレベルに応じて分類しています。このアプローチは、より対象を絞った比例的な規制の枠組みを可能にし、最も厳しい規制が最もリスクの高い AI の利用にのみ適用されるようにすることを目的とするものです。AI 規則では、個々の AI システムは次の 4 つのカテゴリーのいずれかに分類されます。
 最小リスク： 現在個人が使用している AI システムの大半はこのカテゴリーに分類される可能性が高く、AI 規則の下で特定の規制を受けることはありません。
 限定的なリスク： チャットボットやディープフェイクなど、より限定的なリスクを持つ AI システムは、ユーザーが AI システムと対話していることを自覚できることを確保するための透明性確保の義務を負います 4。
 高リスク： 安全上のリスクがあると特定された AI システムは、市場に投入される前に厳格な要

3

Regulation (EU) 2024/1689 3 条： 定義

4Regulation (EU) 2024/1689 50 条： 特定の AI システムのプロバイダーとデプロイヤ―に対する透明性確保の義務
2

件の対象となり、その後も厳しく規制され続けます 5。AI システムは、製品の安全コンポーネントとして使用されている場合、又は EU の法律の対象となる製品自体である場合、及び以下の 8
つのカテゴリーの 1 つ以上に該当する場合に、高リスクとみなされます 6。
① 生体識別を扱う AI② 重要インフラ（デジタル、水道、ガス、電気、交通管理システムなど）を運用する AI③ 教育における AI の活用（学生の評価や受験者のモニタリングを含む）④ 人材紹介や採用決定における AI の活用⑤ エッセンシャルな民間サービス（医療、健康保険、信用力の評価など）へのアクセスの判断における AI の活用⑥ 法執行における AI の活用⑦ 移民、国境管理、亡命の判断における AI の活用⑧ 法律の解釈と適用に使用される AI
 許容できないリスク： 安全、生活、基本的権利に明らかな脅威をもたらす AI システムは禁止されます 7。これには、脆弱性を悪用する AI システム、行動を操作する AI システム、信用スコアリングを行う AI システム、予測的ポリシング（predictive policing）、インターネットや CCTV映像からの顔画像についての無作為のスクレイピングが含まれます。
さらに、同法はすべての一般目的（GP）AI モデルを規制しており、これらの一部はシステミック・リスクを伴う一般目的 AI モデルとみなされ、追加の規制の対象となります 8。
引き続き次号の EU 法ニュースレターでも AI 規則について解説します。

2. 最近の論文・書籍のご紹介'Chambers Global Practice Guides' on Cartels 2024 - Law & Practice
2024年7月（著者：江崎 滋恒、ムシス バシリ、石田 健、臼杵 善治）

パネルディスカッション▶AI事業者ガイドライン 第1部 AI事業者ガイドラインの解説
2024年7月（著者：中崎 尚）

生成AI法務・ガバナンス 未来を形作る規範
2024年7月（著者：中崎 尚）

5Regulation (EU) 2024/1689 6 条： 高リスク AI システムの分類

6

Regulation (EU) 2024/1689 附属書 3： 高リスク AI システム

7

Regulation (EU) 2024/1689 5 条： 禁止される AI

8Regulation (EU) 2024/1689 51 条： 一般目的 AI モデルのうち、システミック・リスクを伴うもの
3



Chambers Global Practice Guides - Venture Capital 2024
2024年5月（著者：戸倉 圭太、菅 隆浩、金子 涼一、角田 匠吾）

欧州コーポレート・サステナビリティ・デュー・ディリジェンス指令の採択
2024年5月（著者：齋藤 宏一、清水 亘、横井 傑、金子 涼一、藏野 舞、長谷川 達）

Competition Inspections in 25 Jurisdictions - Japan Chapter
2024年3月（著者：中野 雄介、ムシス バシリ、石田 健）

4

1. The EU AI Act Enters into Force on 1 August 2024 (Part 1)(1) Introduction
As artificial intelligence (AI) rapidly advances and permeates every industry, the European Union(EU) has taken a significant step to address the challenges and opportunities presented by thistransformative technology. 1 The EU Artificial Intelligence Act (AI Act) creates the world’s firstcomprehensive legal framework to address generative AI. While generative AI poses many
opportunities, problems associated with it, such as infringement of intellectual property rights, thefear that white-collar jobs will be lost, and AI misuse and misinformation, have led to a deeper
awareness of the risks posed by this technology.
The AI Act aims to promote the development and uptake of AI while ensuring that its use remains
safe, transparent, and respectful of fundamental human rights. 2 The AI Act is poised to have farreaching implications for businesses operating within the EU, but as the first law of its kind
globally, even businesses operating outside of Europe will likely be affected. Today, the UnitedStates, Canada, the United Kingdom, South Korea, India, Singapore, and other major AI powers
are also beginning to consider what AI policies to adopt, and are closely observing the AI Act’s
rollout in the EU. This newsletter provides an overview of the key aspects of the AI Act, focusing
on the implications for businesses navigating this new regulatory landscape.
On 12 July 2024 the AI Act was published in the Official Journal of the EU. The text of the law isfinal and will enter into force on 1 August 2024. Its provisions will apply according to the staggered
timetable below.
1 August 2024
2 February 2025
2 August 2025

2 August 2026
2 August 2027

Entry into force of the law
Ban on AI systems with unacceptable risk / Chapters I & II
Governance rules and obligations for General Purpose (GP) AI become
applicable / Chapter III Section 4, Chapter V, Chapter VII & Chapter XII andArticle 78, excluding Article 101
Start of application of the EU AI Act for AI systems (including Annex III)
Application of the entire EU AI Act for all risk categories (including AnnexII) / Article 6 (1) and the corresponding obligations(2) A Risk-Based Approach
The AI Act defines an artificial intelligence system (AI system) as a machine-based system thatis designed to operate with varying levels of autonomy and that may exhibit adaptiveness after

1

Artificial Intelligence (AI) Act: Council gives final green light to the first worldwide rules on AI.

2

To read the Act in its entirety, see here: Regulation (EU) 2024/1689.

5deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how togenerate outputs such as predictions, content, recommendations, or decisions that can influencephysical or virtual environments. 3 This broad definition is meant to include forms of generative
intelligence which do not currently exist. Building on this, the AI Act adopts different policies toregulating different AI systems, categorizing them according to the level of risk they pose toindividuals and society. This approach is intended to allow for a more targeted and proportionateregulatory framework, ensuring that the most stringent requirements apply only to the highestrisk applications. Under the AI Act, individual AI systems are classified into one of four categories:
 Minimal risk: The majority of AI systems currently used by individuals are likely to fall into
this category and will not be subject to specific regulation under the AI Act.
 Limited risk: 4 AI systems with more limited risks, such as chatbots and deepfakes, will facetransparency obligations to ensure that users are aware they are interacting with an AI system.
 High risk: 5 AI systems identified as posing safety risks will be subject to strict requirements
before they can be put on the market, and will continue to be highly regulated thereafter. AnAI system is considered high-risk if it is used as a safety component of a product, or if it is aproduct itself that is covered by EU legislation, as well as if it falls into one or more of thefollowing eight categories: 6(i) AI handling biometric information.
(ii) AI operating critical infrastructure (such as digital, water, gas, electric, or traffic
management systems).
(iii) AI used in education (including student evaluation or monitoring of test-takers).
(iv) AI used in job placement, hiring decisions.
(v) AI used in determining access to essential services (including healthcare, healthinsurance, and evaluations of credit worthiness).
(vi) AI used in law enforcement.
(vii) AI used in migration, border control, and asylum decisions.
(viii) AI used in in legal interpretation and application of the law.
 Unacceptable risk: 7 AI systems that pose a clear threat to safety, livelihoods, andfundamental rights will be banned. This includes AI systems that exploit vulnerabilities,
manipulate behavior, or conduct social scoring, as well as predictive policing and untargeted

3Regulation (EU) 2024/1689 Article 3: Definitions.

4Regulation (EU) 2024/1689 Article 50: Transparency Obligations for Providers and Deployers of Certain AISystems.

5Regulation (EU) 2024/1689 Article 6: Classification Rules for High-Risk AI Systems.

6

Regulation (EU) 2024/1689 Annex III: High-Risk AI Systems.

7Regulation (EU) 2024/1689 Article 5: Prohibited AI Practices.

6

scraping of facial images from the internet or CCTV footage.
Moreover, the Act regulates all General Purpose (GP) AI models 8 and some of them, considered
GP AI models with systemic risk, are subject to additional requirements. In the next edition of ourEU Law newsletter, we will further elaborate on the regulations imposed by the EU AI Act.
Part 2 of this newsletter on the EU AI Act will be published in August 2024.

2. Introduction of Recent Publications
'Chambers Global Practice Guides' on Cartels 2024 - Law & Practice
July 2024 (Authors: Shigeyoshi Ezaki, Vassili Moussis, Takeshi Ishida, Yoshiharu Usuki)

Panel Discussion: AI Guidelines for Business Part I: Commentary on AI Guidelines forBusiness
July 2024 (Authors: Takashi Nakazaki)Legal Questions and Governance of Generative AI: Norms Shaping Tomorrow
July 2024 (Authors: Takashi Nakazaki)

Chambers Global Practice Guides - Venture Capital 2024
May 2024 (Authors: Keita Tokura, Takahiro Suga, Ryoichi Kaneko, Shogo Tsunoda)

Adoption of Corporate Sustainability Due Diligence Directive
May 2024 (Authors: Koichi Saito, Wataru Shimizu, Suguru Yokoi, Ryoichi Kaneko,Mai Kurano, Itaru Hasegawa)Competition Inspections in 25 Jurisdictions - Japan Chapter
March 2024 (Authors: Yusuke Nakano, Vassili Moussis, Takeshi Ishida)

8Regulation (EU) 2024/1689 Article 51: Classification of General-Purpose AI Models as General Purpose AI
Models with Systemic Risk.

7



本ニュースレターの内容は、一般的な情報提供であり、具体的な法的アドバイスではありません。お問い合
わせ等ございましたら、下記弁護士までご遠慮なくご連絡下さいますよう、お願いいたします。
This newsletter is published as a general service to clients and friends and does not constitute legal
advice. Should you wish to receive further information or advice, please contact the below editor.



本ニュースレターの編集担当者は、以下のとおりです。
執筆者：ムシス バシリ ()中崎 尚 ()

金子 涼一 (ブリュッセルオフィス) (田村 允 ())

Authors:
Vassili Moussis ()Takashi Nakazaki (-)

Ryoichi Kaneko (Brussels Office) (Jo Tamura (-))

*本ニュースレターの作成にあたっては、Sterling Edgar が調査及び執筆に協力しております。
The authors wish to thank Sterling Edgar for his help in researching and drafting this newsletter.


本ニュースレターの配信停止をご希望の場合には、お手数ですが、お問い合わせにてお手続き下さいます
ようお願いいたします。
If you wish to unsubscribe from future publications, kindly contact us at General Inquiry.



ニュースレターのバックナンバーは、こちらにてご覧いただけます。

Previous issues of our newsletters are available here.