AIガイドライン比較表

尊重すべき価値AI利活用ガイドライン／AI利活用原則案
AI Utilization guidelines/Draft AI
Utilization PrinciplesbyAIネットワーク社会推進会議（総務省）/Japan AIネットワーク社会推進会議（総務省）/Japan 統合イノベーション戦略推進会議（人間中心のAI 人工知能学会(JSAI)/Japan
社会原則会議）/Japan
2017/7/28
2019/3/29
2017/2/28
2018/7/17 利活用原則案公開
2018/12/27 案公開

公開日
過去（案など）の公開
日URL

国際的な議論のためのAI開発ガイドライン案
Draft AI R&D guidelines forinternational discussions「人間中心のＡＩ社会原則」
人工知能学会倫理指針
Social Principles of Human-centric AI Ethical Guideline

Ethics Guideline for Trustworthy AI[資料２－２ 別紙２]

Recommendation of the Council on
Artificial Intelligence

European Commission (High Level Expert OECD
Group on AI(HLEG))
2019/4/8
2019/5/22
2018/12/18 案公開

Ethically Aligned Design

Asilomar AI Principles

TenetsIEEE Global Initiative on Ethics ofAutonomous and Intelligent Systems
2019/3/25(1st edition)
2016/12/13(ver.1), 2017/12/12(ver.2)

Future of Life Institute (FLI)

Partnership on AI

2017/2/

2016/9/28

http://www.soumu.go.jp/main_content/000564147.pdf http://www.soumu.go.jp/main_content/000499625.pdf https://www.cas.go.jp/jp/seisaku/jinkouchinou/(eng)http://www.soumu.go.jp/main_content/00058131 (eng)http://www.soumu.go.jp/main_content/00050751
7.pdf
0.pdf

https://ec.europa.eu/digital-singlehttp://ai-elsi.org/wpcontent/uploads/2017/02/%E4%BA%BA%E5%B market/en/news/draft-ethics-guidelines7%A5%E7%9F%A5%E8%83%BD%E5%AD%A6 trustworthy-ai%E4%BC%9A%E5%80%AB%E7%90%86%E6%
8C%87%E9%87%9D.pdf(eng) http://ai-elsi.org/wpcontent/uploads/2017/05/JSAI-EthicalGuidelines-1.pdf

https://legalinstruments.oecd.org/en/instruments/OE https://ethicsinaction.ieee.org/
CD-LEGAL-0449

https://futureoflife.org/ai-principles/

https://www.partnershiponai.org/tenets/

主要構成

目的、基本理念(6)AI利活用原則（10）＋解説
等

序文＋指針（9）Common understanding of terms
1.Principles for responsible stewardshipof trustworthy AI(5)2.National policies and international cooperation for trustworthy AI(5)Principles(23)Tenets(10)Human-centered
人間中心

基本理念：
基本理念
2(1).人間の尊厳が尊重される社会
人間がAIネットワークと共生することにより、その恵沢 1. 人間がＡＩネットワークと共生することにより、そ （Dignity）
がすべての人によってあまねく享受され、人間の尊厳 の恵沢がすべての人によってあまねく享受され、人間 人間がAIを道具として使いこなすことによって、人間と個人の自律が尊重される人間中心の社会を実現 の尊厳と個人の自律が尊重される人間中心の社会 の様々な能力をさらに発揮することを可能とし、よりを実現すること。
すること
大きな創造性を発揮したり、やりがいのある仕事に従事したりすることで、物質的にも精神的にも豊かな生活を送ることができるような、人間の尊厳が尊重される社会を構築する必要がある。

Human dignity
人間の尊厳

7) 尊厳・自律の原則 (human dignity and 7) 倫理の原則 (Ethics)
4.1(1) 人間中心の原則
1) 人類への貢献(Contribution to
P1: Respect for human autonomy
1.2. Human-centred values andGP1. Human Rights:
開発者は、AIシステムの開発において、人間の尊厳 AIの利用は、憲法及び国際的な規範の保障する humanity)
individual autonomy)
The fundamental rights upon which the fairness
A/IS shall be created and operated to
利用者は、AIシステム又はAIサービスの利活用にお と個人の自律を尊重する。
人類の平和、安全、福祉、公共の利益に貢献し、 EU is founded are directed towards
Governments should call on AI actors to respect, promote, and protect
基本的人権を侵すものであってはならない。
・ （人間の脳や身体と連携するAIシステムの開発 AIは、人々の能力を拡張し、多様な人々の多様な 基本的人権と尊厳を守り、文化の多様性を尊重す ensuring respect for the freedom andいて、人間の尊厳と個人の自律を尊重する。
internationallydevelop effective mechanisms to・ AIシステム又はAIサービスにより意思決定や感情 の場合）生命倫理に関する議論などの参照
recognized human rights.
幸せの追求を可能とするために開発され、社会に展 る。人工知能を設計、開発、運用する際には専門 autonomy of human beings. Humans
demonstrate that, throughout theirが操作されるリスク、AIシステム又はAIサービスに過 ・ 学習データに含まれる偏見などに起因して不当な 開され、活用されるべきである。
家として人類の安全への脅威を排除するように努め interacting with AI systems must be able lifecycle, AI systems respect human
差別が生じないための所要の措置
度に依存するリスク
to keep full and effective selfGP2. Well-being
る。
rights and democratic values, including
・ （AIシステム又はAIサービスを人間の脳や身体と ・ AIシステムが人間性の価値を不当に毀損すること
determination over themselves, and be
A/IS creators shall adopt increased
freedom, dignity, autonomy, privacy,
連携させる場合）生命倫理に関する議論などの参 がないよう留意human well-being as a primary success
9) 人工知能への倫理遵守の要請(Abidance able to partake in the democratic
non-discrimination, fairness and social
照process...... The allocation of functions
criterionof ethics guidelines by AI)
justice, and diversity [as well as core
・AIを利用したプロファイリングを行う場合における不for development.
人工知能が社会の構成員またはそれに準じるものと between humans and AI systems should labour rights].
利益への配慮
なるためには、(1-8)に定めた人工知能学会員と同 follow human-centric design principles
and leave meaningful opportunity for
等に倫理指針を遵守できなければならない。
human choice. This means securing
human oversight over work processes inAI systems.
基本理念：
基本理念
2(2) 多様な背景を持つ人々が多様な幸せを追 4) 公正性(Fairness)
R5: Diversity, non-discrimination and 1.1. Inclusive and sustainable growth
and well-being
AIの利活用において利用者の多様性を尊重し、多 1. 人間がＡＩネットワークと共生することにより、そ 求できる社会（Diversity & Inclusion）
人工知能の開発と利用において常に公正さを持ち、 fairness
Stakeholders should proactively engage
様な背景と価値観、考え方を持つ人々を包摂する の恵沢がすべての人によってあまねく享受され、人間 多様な背景と価値観、考え方を持つ人々が多様な 人工知能が人間社会において不公平や格差をもた In order to achieve Trustworthy AI, we
in responsible stewardship of
ことの尊厳と個人の自律が尊重される人間中心の社会 幸せを追求し、それらを柔軟に包摂した上で新たな らす可能性があることを認識し、開発にあたって差別 must enable inclusion and diversity
trustworthy AI in pursuit of beneficialを実現すること。
価値を創造できる社会は、現代における一つの理 を行わないよう留意する。人類が公平、平等に人工 throughout the entire AI system’s life
outcomes for people and the planet, suchcycle. Besides the consideration and想であり、大きなチャレンジである。
知能を利用できるように努める。
involvement of all affected stakeholders as empowering human capabilities andthroughout the process, this also entails enhancing creativity, advancing inclusion
4.1(1) 人間中心の原則
ensuring equal access through inclusive of underrepresented populations,
AIの普及の過程で、いわゆる「情報弱者」や「技術
reducing economic, social, gender anddesign processes as well as equal弱者」を生じさせず、AIの恩恵をすべての人が享受
other inequalities, and protecting natural
treatment. This requirement is closely
できるよう、使いやすいシステムの実現に配慮すべき
environments, thus invigorating inclusive
linked with the principle of fairness.
である。
growth, sustainable development andwell-being.
4.1.（2） 教育・リテラシーの原則
AIを前提とした社会において、我々は、人々の間に格差や分断が生じたり、弱者が生まれたりすることは
望まない。
基本理念：
目的：
2(3) 持続性ある社会（Sustainability）
8) 社会との対話と自己研鑽
R6. Societal and environmental well- 1.1. Inclusive and sustainable growth
AIネットワーク化の進展とともに、AIの利活用により AIネットワークが進展していく過程で、個人、地域社 我々は、AIの活用によりビジネスやソリューションを(Communication with society andbeing
and well-being
個人、地域社会、各国、国際社会が抱える様々な 会、各国、国際社会の抱える様々な課題の解決に 次々と生み、社会の格差を解消し、地球規模の環 self-development)
In line with the principles of fairness and Stakeholders should proactively engage
課題の解決を図り、持続可能な社会を実現するこ 大きく貢献するなど、人間及びその社会や経済に多 境問題や気候変動などにも対応が可能な持続性 人工知能に関する社会的な理解が深まるよう努め prevention of harm, the broader society, in responsible stewardship ofと大な便益を広範にもたらすことが期待される。
trustworthy AI in pursuit of beneficialのある社会を構築する方向へ展開させる必要があ る。社会には様々な声があることを理解し、社会から other sentient beings and theoutcomes for people and the planet, such
る。科学・技術立国としての我が国は、その科学的・ 真摯に学び、理解を深め、社会との不断の対話を environment should be also considered
as empowering human capabilities and
技術的蓄積をAIによって強化し、そのような社会を 通じて専門家として人間社会の平和と幸福に貢献 as stakeholders throughout the AI
enhancing creativity, advancing inclusion
作ることに貢献する責務がある。
することとする。高度な専門家として絶え間ない自己 system’s life cycle. Sustainability andof underrepresented populations,
研鑽に努め自己の能力の向上を行うと同時にそれ ecological responsibility of AI systems
should be encouraged, and research
reducing economic, social, gender andを望む者を支援することとする。
should be fostered into AI solutions
other inequalities, and protecting natural
addressing areas of global concern, such environments, thus invigorating inclusive
as for instance the Sustainablegrowth, sustainable development andDevelopment Goals. Ideally, AI systems well-being.
should be used to benefit all humanbeings, including future generations

Diversity,
Inclusiveness,
多様性、包摂Sustainable society
持続可能な社会基本理念(5)
AI開発原則（9）＋解説
等

2. 基本理念(3)3. ビジョン(5)4.1. AI社会原則(7)4.2. AI開発利用原則
等

1.Foundations of Trustworthy AI(4Principles)
2.Realising Trustworthy AI:
Requirements(R: 7)+Technical and nontechnical methods
3. Assessing Trustworthy AI, …

pillars(3)General Principles(GP: 8)
Chapter(11 including GPs)

P1: Respect for human autonomy
1.2. Human-centred values and.
The fundamental rights upon which the fairness
EU is founded are directed towardsa) AI actors should respect the rule of
ensuring respect for the freedom andlaw, human rights and democratic
autonomy of human beings. Humans
values, throughout the AI systeminteracting with AI systems must be able lifecycle. These include freedom, dignity
to keep full and effective selfand autonomy, privacy and data
determination over themselves, and beprotection, non-discrimination andable to partake in the democratic
equality, diversity, fairness, social justice,process...... The allocation of functions
and internationally recognised labour
between humans and AI systems should rights.
follow human-centric design principles
and leave meaningful opportunity forhuman choice. This means securing
human oversight over work processes inAI systems.

10) Value Alignment:
3) We are committed to open researchHighly autonomous AI systems should be and dialogue on the ethical, social,designed so that their goals andeconomic, and legal implications of AI.
behaviors can be assured to align withhuman values throughout their6d) Maximize the benefits and address
operation.
the potential challenges of AI
technologies, by:
11) Human Values:
Ensuring that AI research and technology
AI systems should be designed andis robust, reliable, trustworthy, andoperated so as to be compatible with
operates within secure constraints.
ideals of human dignity, rights,
freedoms, and cultural diversity.

14) Shared Benefit:
AI technologies should benefit andempower as many people as possible.
15) Shared Prosperity:
The economic prosperity created by AI
should be shared broadly, to benefit allof humanity.
23) Common Good:
Superintelligence should only be
developed in the service of widely shared
ethical ideals, and for the benefit of all
humanity rather than one state ororganization.

20) Importance:
Advanced AI could represent a profoundchange in the history of life on Earth, andshould be planned for and managed withcommensurate care and resources.

AIガイドライン比較表

尊重すべき価値AI利活用ガイドライン／AI利活用原則案
AI Utilization guidelines/Draft AI
Utilization Principles

International
Cooperation
国際協力

基本理念
基本理念
4.2. AI開発利用原則• AIの利活用の在り方について、非拘束的なソフト ２．ＡＩの研究開発と利活用が今後急速に発展 AI開発利用原則については、現在、多くの国、団
ローたる指針やベストプラクティスを国際的に共有す し、ネットワーク化されたＡＩシステムが国境を越え 体、企業等において議論されていることから、我々はて人間及び社会に広範かつ多大な影響を及ぼすも 早急にオープンな議論を通じて国際的なコンセンサること
・AIネットワーク化の進展等を踏まえ、国際的な議 のと見込まれることから、ＡＩシステムの研究開発の スを醸成し、非規制的で非拘束的な枠組みとして論を通じて、本ガイドライン案を不断に見直し、必要 在り方について、非拘束的なソフトローたる指針やそ 国際的に共有されることが重要であると考える。
のベストプラクティスをステークホルダ間で国際的に共に応じて柔軟に改定すること有すること。
5. おわりに
国際的な議論の場において、我が国は、本原則を世界各国と共有した上で、国際的な議論のリーダー
シップをとり、コンセンサスの形成を目指すべきであり、それによってSDGsの実現を支えるSociety5.0の社
会像を世界に示し、国際社会の協調的かつ創造的な新たな発展に寄与すべきである。

Proper utilization
適正な利用

1) 適正利用の原則 (Proper utilization)8) 利用者支援の原則 (User assistance)
利用者は、人間とAIシステムとの間及び利用者間 開発者は、AIシステムが利用者を支援し、利用者における適切な役割分担のもと、適正な範囲及び に選択の機会を適切に提供することが可能となるよ方法でAIシステム又はAIサービスを利用するよう努 う配慮する。
める。
・ 利用者にとって操作しやすいインターフェース・ 開発者等からの情報提供や説明を踏まえた適正 ・ 利用者に選択の機会（デフォルトの設定、理解しな範囲・方法での利用やすい選択肢の提示等）を適時適切に提供する・ 予防措置、事後対応（原因解明、再発防止措 機能置等）における関係者間の協力
・ 社会的弱者の利用を容易にするための取組
・ 利用者に対する適切な情報提供

Education/literacy
教育・リテラシー

Human-in-the-Loop
人間の判断の介在
Controllability
制御可能性

1) 適正利用の原則－ア 適正な範囲・方法での利用
利用者は、ＡＩの性質、利用の態様等に応じて、利用する前に、便益及びリスクを認識し、適正な用途を理解するとともに、必要な知識・技能を習得すること等が期待されるのではないか。

国際的な議論のためのAI開発ガイドライン案
Draft AI R&D guidelines forinternational discussions「人間中心のＡＩ社会原則」
人工知能学会倫理指針
Social Principles of Human-centric AI Ethical Guideline

Ethics Guideline for Trustworthy AI

Recommendation of the Council on
Artificial Intelligence

Introduction:
Just as the use of AI systems does notstop at national borders, neither does
their impact. Global solutions are
therefore required for the global
opportunities and challenges that AI
systems bring forth. We therefore
encourage all stakeholders to work
towards a global framework for
Trustworthy AI, building international
consensus while promoting andupholding our fundamental rights-based
approach.

2.5 International cooperation fortrustworthy AIa) Governments, including developing
countries and with stakeholders, should
actively cooperate to advance theseprinciples and to progress on responsible
stewardship of trustworthy AI.
…

Ethically Aligned Design

Asilomar AI Principles

GP4. Effectiveness
A/IS creators and operators shall provide
evidence of the effectivenessand fitness for purpose of A/IS.

4.1.（1） 人間中心の原則
我々は、リテラシー教育や適正な利用の促進などのための適切な仕組みを導入することが望ましい。

2.2. Non-technical methods--> Education and awareness to foster
an ethical mind-set

2.4. Building human capacity andGP8. Competence
preparing for labour market
A/IS creators shall specify and operatorstransformation
shall adhere to the knowledge and skilla) Governments should work closely with required for safe and effective operation.
stakeholders to prepare for thetransformation of the world of work andof society. They should empower people
to effectively use and interact with AI
systems across the breadth ofapplications, including by equipping themwith the necessary skills.

R1. Human agency and oversight
AI systems should support humanautonomy and decision-making, asprescribed by the principle of respect forhuman autonomy. This requires that AI
systems should both act as enablers to a
democratic, flourishing and equitablesociety by supporting the user’s agency
and foster fundamental rights, and allow
for human oversight.

1.2. Human-centred values andfairnessb) AI actors should implement
mechanisms and safeguards, such as
capacity for human determination, thatare appropriate to the context andconsistent with the state of art.

4.1.(2) 教育・リテラシーの原則
我々は、以下のような原則に沿う教育・リテラシーを育む教育環境が全ての人に平等に提供されなければならないと考える。

1) 適正利用の原則－イ 人間の判断の介在
3) 制御可能性の原則 (Controllability)
4.1.（1） 人間中心の原則
5) 安全性(Security)
AIによりなされた判断について、必要かつ可能な場 開発者は、AIシステムの制御可能性に留意する。 AIの利用にあたっては、人が自らどのように利用する 専門家として、人工知能の安全性及びその制御に合には、その判断を用いるか否か、あるいは、どのよう ・ 事前の検証及び妥当性の確認、サンドボックスに かの判断と決定を行うことが求められる。
おける責任を認識し、人工知能の開発と利用におに用いるか等に関し、人間の判断を介在させることが おける実験
いて常に安全性と制御可能性、必要とされる機密期待される。
・ 人間や信頼できる他のAIシステムによる監督・対性について留意し、同時に人工知能を利用する者
処に対し適切な情報提供と注意喚起を行うように努める。

Proper data2) 適正学習の原則 (Data Quality)
適正な学習（学習デー 利用者及びデータ提供者は、AIシステムの学習等
タの質）に用いるデータの質に留意する。
・ 学習等に用いるデータの質（正確性や完全性など）[資料２－２ 別紙２]

Tenets1) We will seek to ensure that AI
technologies benefit and empower as
many people as possible.
7) We believe that it is important for theoperation of AI systems to beunderstandable and interpretable bypeople, for purposes of explaining thetechnology.

16) Human Control:
Humans should choose how and whether
to delegate decisions to AI systems, toaccomplish human-chosen objectives.

R3. Privacy and Data Governance
Closely linked to the principle ofprevention of harm is privacy, afundamental right particularly affected by
AI systems. Prevention of harm toprivacy also necessitates adequate data
governance that covers the quality andintegrity of the data used, its relevance inlight of the domain in which the AI
systems will be deployed, its accessprotocols and the capability to processdata in a manner that protects privacy.

Collabolation among 3) 連携の原則 (Collabolation)1) 連携の原則 (Collaboration)
2.5 International cooperation for
AIサービスプロバイダ、ビジネス利用者及びデータ提 開発者は、AIシステムの相互接続性と相互運用性
AI systems
trustworthy AI
供者は、AIシステム又はAIサービス相互間の連携 に留意する。
AI間の連携c) Governments should promote theに留意する。また、利用者は、AIシステムがネット
・ 国際的な標準や規格への準拠
development of multi-stakeholder,
ワーク化することによってリスクが惹起・増幅される可 ・ データ形式の標準化、インターフェイスやプロトコル
consensus-driven global technical
能性があることに留意する。
のオープン化への対応
standards for interoperable and・ 提供するAIシステム又はAIサービスの相互接続 ・ 標準必須特許等のライセンス契約及びその条件
trustworthy AI.
性と相互運用性についてのオープン・公平な取扱い
・ データ形式やプロトコル等の標準化への対応
・ AIネットワーク化により惹起・増幅される課題
Safety4) 安全の原則 (Safety)4) 安全の原則 (Safety)
4.1(4) セキュリティ確保の原則
1) 人類への貢献(Contribution to
R2. Technical robustness and safety
1.4. Robustness, security and safety
GP7. Awareness of Misuse
利用者は、AIシステム又はAIサービスの利活用によ 開発者は、AIシステムがアクチュエータ等を通じて利 AIを積極的に利用することで多くの社会システムが humanity)a) AI systems should be robust, secure
A/IS creators shall guard against all
安全性
A crucial component of achieving
り、アクチュエータ等を通じて、利用者等及び第三者 用者及び第三者の生命・身体・財産に危害を及ぼ 自動化され、安全性が向上する。一方、少なくとも 人類の平和、安全、福祉、公共の利益に貢献し、 Trustworthy AI is technical robustness,and safe throughout their entire lifecycle potential misuses and risks of A/IS inの生命・身体・財産に危害を及ぼすことがないよう配 すことがないよう配慮する。
現在想定できる技術の範囲では、希少事象や意図 基本的人権と尊厳を守り、文化の多様性を尊重す which is closely linked to the principle of so that, in conditions of normal use,
operation.
慮する。
的な攻撃に対してAIが常に適切に対応することは る。人工知能を設計、開発、運用する際には専門 prevention of harm. Technical robustness foreseeable use or misuse, or other・ 事前の検証及び妥当性の確認
・ （生命・身体・財産に危害を及ぼし得る分野での ・ 本質安全や機能安全に資するための措置
不可能であり、セキュリティに対する新たなリスクも生 家として人類の安全への脅威を排除するように努め requires that AI systems be developed
adverse conditions, they function
利活用において）AIシステムの点検・修理及びAI ・ （生命・身体・財産の安全に関する判断を行う じる。社会は、常にベネフィットとリスクのバランスに留 る。
with a preventative approach to risks and appropriately and do not pose
ソフトのアップデートを行うことなどによる危害の防止 AIシステムについて）ステークホルダに対する設計の 意し、全体として社会の安全性及び持続可能性がin a manner such that they reliably
unreasonable safety risk.
・ 危害が発生した場合に備えた事前措置
趣旨などの説明
behave as intended while minimising
2) 法規制の遵守(Abidance of laws and
向上するように務めなければならない。
c) AI actors should, based on their roles,
unintentional and unexpected harm, and the context, and their ability to act,
regulations)
専門家として、研究開発に関わる法規制、知的財 preventing unacceptable harm. This
apply a systematic risk management
産、他者との契約や合意を尊重しなければならな should also apply to potential changes in approach to each phase of the AI system
い。他者の情報や財産の侵害や損失といった危害 their operating environment or the
lifecycle on a continuous basis to address
を加えてはならず、直接的のみならず間接的にも他 presence of other agents (human andrisks related to AI systems, including
者に危害を加えるような意図をもって人工知能を利 artificial) that may interact with theprivacy, digital security, safety and bias.
system in an adversarial manner. In用しない。
addition, the physical and mental
integrity of humans should be ensured.
5) 安全性(Security)
専門家として、人工知能の安全性及びその制御における責任を認識し、人工知能の開発と利用において常に安全性と制御可能性、必要とされる機密性について留意し、同時に人工知能を利用する者に対し適切な情報提供と注意喚起を行うように努める。

5) We will engage with and haverepresentation from stakeholders in thebusiness community to help ensure thatdomain-specific concerns andopportunities are understood andaddressed.

5) Race Avoidance:6e) Maximize the benefits and address
Teams developing AI systems should
the potential challenges of AI
actively cooperate to avoid corner-cutting technologies, by:on safety standards.
Opposing development and use of AI
technologies that would violate6) Safety:
international conventions or human
AI systems should be safe and securerights, and promoting safeguards andthroughout their operational lifetime, and technologies that do no harm.
verifiably so where applicable andfeasible.
17) Non-subversion:
The power conferred by control of highly
advanced AI systems should respect andimprove, rather than subvert, the socialand civic processes on which the healthof society depends.
22) Recursive Self-Improvement:
AI systems designed to recursively selfimprove or self-replicate in a mannerthat could lead to rapidly increasing
quality or quantity must be subject tostrict safety and control measures.
18) AI Arms Race:
An arms race in lethal autonomous
weapons should be avoided.

AIガイドライン比較表[資料２－２ 別紙２]

尊重すべき価値AI利活用ガイドライン／AI利活用原則案
AI Utilization guidelines/Draft AI
Utilization Principles

国際的な議論のためのAI開発ガイドライン案
Draft AI R&D guidelines forinternational discussions「人間中心のＡＩ社会原則」
人工知能学会倫理指針
Social Principles of Human-centric AI Ethical Guideline

Ethics Guideline for Trustworthy AI

Security
セキュリティ

5) セキュリティの原則 (Security)
利用者及びデータ提供者は、AIシステム又はAIサービスのセキュリティに留意する。
・ その時点での技術水準に照らした合理的な対策
・ 侵害が発生した場合に備えた事前措置
・ セキュリティ対策のためのサービス提供、インシデン
ト情報の共有・ AIの学習モデルに対するセキュリティ脆弱性への留意

5) セキュリティの原則 (Security)
開発者は、AIシステムのセキュリティに留意する。
・ 情報の機密性、完全性、可用性に加え、信頼性、頑健性にも留意
・ 事前の検証及び妥当性の確認
・ セキュリティ・バイ・デザイン

4.1(4) セキュリティ確保の原則
AIを積極的に利用することで多くの社会システムが自動化され、安全性が向上する。一方、少なくとも現在想定できる技術の範囲では、希少事象や意図的な攻撃に対してAIが常に適切に対応することは不可能であり、セキュリティに対する新たなリスクも生じる。社会は、常にベネフィットとリスクのバランスに留意し、全体として社会の安全性及び持続可能性が向上するように務めなければならない。

R.2 Technical robustness and safety
1.4. Robustness, security and safety GP7. Awareness of Misuse
A crucial component of achieving
A/IS creators shall guard against all
Trustworthy AI is technical robustness,potential misuses and risks of A/IS in+which is closely linked to the principle ofoperation.
prevention of harm. Technical robustness Reference
requires that AI systems be developed
・Digital Security Risk Management forwith a preventative approach to risks and Economic and Social Prosperity(revised inin a manner such that they reliably
2015)
behave as intended while minimising
http://www.oecd.org/sti/ieconomy/digita
unintentional and unexpected harm, and l-security-risk-management.pdf
preventing unacceptable harm. Thisshould also apply to potential changes intheir operating environment or thepresence of other agents (human andartificial) that may interact with thesystem in an adversarial manner. In
addition, the physical and mental
integrity of humans should be ensured.

Privacy
プライバシー6) プライバシーの原則（Privacy）
6) プライバシーの原則 (Privacy)
4.1(3) プライバシー確保の原則
利用者及びデータ提供者は、AIシステム又はAI開発者は、AIシステムにより利用者及び第三者のプ AIを前提とした社会においては、個人の行動などにサービスの利活用において、他者又は自己のプライ ライバシーが侵害されないよう配慮する。
関するデータから、政治的立場、経済状況、趣味・
バシーが侵害されないよう配慮する。
・ 事前のプライバシー影響評価
嗜好等が高精度で推定できることがある。これは、・ AIの利活用における最終利用者及び第三者のプ ・ プライバシー・バイ・デザイン
単なる個人情報を扱う以上の慎重さが求められる
ライバシーの尊重場合があることを意味する。パーソナルデータが本人
・ 学習等に用いるパーソナルデータの収集・前処理・の望まない形で流通したり、利用されたりすることに提供におけるプライバシーの尊重
よって、個人が不利益を受けることのないよう、各ス・ 自己等のプライバシー侵害への留意及びパーソナ
テークホルダーは、以下の考え方に基づいて、パーソ
ルデータ流出の防止
ナルデータを扱わなければならない。

7) 倫理の原則 (Ethics)
4.1(6) 公平性、説明責任及び透明性の原則
開発者は、AIシステムの開発において、人間の尊厳 AIの設計思想の下において、人々がその人種、性と個人の自律を尊重する。
別、国籍、年齢、政治的信念、宗教等の多様な・ （人間の脳や身体と連携するAIシステムの開発 バックグラウンドを理由に不当な差別をされることなの場合）生命倫理に関する議論などの参照
く、全ての人々が公平に扱われなければならない。
・ 学習データに含まれる偏見などに起因して不当な差別が生じないための所要の措置
・ AIシステムが人間性の価値を不当に毀損することがないよう留意Recommendation of the Council on
Artificial Intelligence3) 他者のプライバシ尊重(Respect for theR3. Privacy and Data Governance
Reference
privacy of others)
Closely linked to the principle of・Guidelines on the Protection of Privacy
人工知能の利用および開発において、他者のプライ prevention of harm is privacy, aand Transborder Flows of Personal
バシーを尊重し、関連する法規に則って個人情報の fundamental right particularly affected by Data(revised in 2013)
適正な取扱いを行う義務を負う。
AI systems. Prevention of harm to
http://www.oecd.org/sti/ieconomy/oecd
privacy also necessitates adequate data _privacy_framework.pdf
governance that covers the quality andintegrity of the data used, its relevance inlight of the domain in which the AI
systems will be deployed, its accessprotocols and the capability to processdata in a manner that protects privacy.

fairness, equity,
removal of
discrimination
公平性8) 公平性の原則 (Fairness)
AIサービスプロバイダ、ビジネス利用者及びデータ提供者は、AIシステム又はAIサービスの判断にバイアスが含まれる可能性があることに留意し、また、AIシ
ステム又はAIサービスの判断によって個人が不当に差別されないよう配慮する。
・ 学習等に用いられるデータの代表性やデータに内在する社会的なバイアス
・ AIシステムよりなされた判断に対する人間の判断の介在

4) 公正性(Fairness)
1.5 Diversity, non-discrimination and
人工知能の開発と利用において常に公正さを持ち、 fairness
人工知能が人間社会において不公平や格差をもた In order to achieve Trustworthy AI, we
らす可能性があることを認識し、開発にあたって差別 must enable inclusion and diversity
を行わないよう留意する。人類が公平、平等に人工 throughout the entire AI system’s life
知能を利用できるように努める。
cycle. Besides the consideration andinvolvement of all affected stakeholders
throughout the process, this also entails
ensuring equal access through inclusive
design processes as well as equal
treatment. This requirement is closely
linked with the principle of fairness.

Transparency
透明性Explainability
説明可能性

9) 透明性の原則 (Transparancy)
2) 透明性の原則 (Transparancy)
4.1(6) 公平性、説明責任及び透明性の原則
6) 誠実な振る舞い(Act with integrity)
1.4 Transparency
AIサービスプロバイダ及びビジネス利用者は、AIシス 開発者は、AIシステムの入出力の検証可能性及び ・AIを利用しているという事実、AIに利用されるデー 人工知能が社会へ与える影響が大きいことを認識 This requirement is closely linked with
テム又はAIサービスの入出力の検証可能性及び判 判断結果の説明可能性に留意する。
タの取得方法や使用方法、AIの動作結果の適切 し、社会に対して誠実に信頼されるように振る舞う。 the principle of explicability and
断結果の説明可能性に留意する。
・ 生命、身体、自由、プライバシー、財産などに影 性を担保する仕組みなど、状況に応じた適切な説 専門家として虚偽や不明瞭な主張を行わず、研究 encompasses transparency of elements
・ 生命、身体、財産に危害が及ぼし得る分野で利 響を及ぼす可能性のあるAIシステムにおける入出力 明が得られなければならない。
開発を行った人工知能の技術的限界や問題点に relevant to an AI system: the data, the
活用する場合におけるAIシステム又はAIサービスの の検証可能性及び判断結果の説明可能性
system and the business models.
・人々がAIの提案を理解して判断するために、AIの ついて科学的に真摯に説明を行う。
入出力の記録・保存（※アルゴリズム、ソースコード、学習データの開示 利用・採用・運用について、必要に応じて開かれた(Traceability, Explainability)
・ 個人の権利・利益に重大な影響を及ぼす可能性 を想定するものではない。）
対話の場が適切に持たれなければならない。
のある分野で利活用する場合におけるAIシステム又はAIサービスの判断結果の説明可能性の確保（※アルゴリズム、ソースコード、学習データの開示を想定するものではない。）

Ethically Aligned Design

GP3. Data Agency
A/IS creators shall empower individuals
with the ability to access and securely
share their data, to maintain people’s
capacity to have control over theiridentity.

Asilomar AI Principles

Tenets6a) Maximize the benefits and address
the potential challenges of AI
technologies, by:
Working to protect the privacy andsecurity of individuals.
6d) Maximize the benefits and address
the potential challenges of AI
technologies, by:Ensuring that AI research and technology
is robust, reliable, trustworthy, andoperates within secure constraints.

12) Personal Privacy:
People should have the right to access,manage and control the data theygenerate, given AI systems’ power toanalyze and utilize that data.

6a) Maximize the benefits and address
the potential challenges of AI
technologies, by:
Working to protect the privacy andsecurity of individuals.

13) Liberty and Privacy:
The application of AI to personal data
must not unreasonably curtail people’s
real or perceived liberty.

1.2. Human-centred values andfairnessa) AI actors should respect the rule oflaw, human rights and democraticvalues, throughout the AI system
lifecycle. These include freedom, dignity
and autonomy, privacy and dataprotection, non-discrimination andequality, diversity, fairness, social justice,and internationally recognised labour
rights.

1.3. Transparency and explainability GP5. Transparency
AI Actors should commit to transparency The basis of a particular A/IS decision
should always be discoverable.
and responsible disclosure regarding AI
systems. To this end, they should
provide meaningful information,
appropriate to the context, andconsistent with the state of art,
1.4. Robustness, security and safetyb) AI actors should ensure traceability,
including in relation to datasets,
processes and decisions made during the
AI system lifecycle, to enable analysis of
the AI system’s outcomes and responses
to inquiry, appropriate to the context andconsistent with the state of art.

4) Research Culture:
A culture of cooperation, trust, andtransparency should be fostered among
researchers and developers of AI.
7) Failure Transparency:
If an AI system causes harm, it should
be possible to ascertain why.
8) Judicial Transparency:
Any involvement by an autonomous
system in judicial decision-making should
provide a satisfactory explanation
auditable by a competent humanauthority.

7) We believe that it is important for theoperation of AI systems to beunderstandable and interpretable bypeople, for purposes of explaining thetechnology.

AIガイドライン比較表

国際的な議論のためのAI開発ガイドライン案
Draft AI R&D guidelines forinternational discussions「人間中心のＡＩ社会原則」
人工知能学会倫理指針
Social Principles of Human-centric AI Ethical Guideline

尊重すべき価値AI利活用ガイドライン／AI利活用原則案
AI Utilization guidelines/Draft AI
Utilization Principles

Accountablitiy
アカウンタビリティ

10) アカウンタビリティの原則
9) アカウンタビリティの原則 (Accountability) 4.1(6) 公平性、説明責任及び透明性の原則
5) 安全性(Security)
R7. Accountability
1.5. Accountability
GP6. Accountability
開発者は、利用者を含むステークホルダに対しアカウ ・AIを利用しているという事実、AIに利用されるデー 人工知能を利用する者に対し適切な情報提供と注 The requirement of accountability(Accountability)
AI actors should be accountable for the
A/IS shall be created and operated to
利用者は、ステークホルダに対しアカウンタビリティを ンタビリティを果たすよう努める。
complements the above requirements,
proper functioning of AI systems and for provide an unambiguous rationale for all
タの取得方法や使用方法、AIの動作結果の適切 意喚起を行うように努める。
・ 利用者にAIシステムの選択及び利活用に資する 性を担保する仕組みなど、状況に応じた適切な説果たすよう努める。
and is closely linked to the principle of
the respect of the above principles, based decisions made.
・ 消費者的利用者、間接利用者等に対するアカウ 情報の提供
fairness. It necessitates that mechanisms on their roles, the context, and consistent明が得られなければならない。
6) 誠実な振る舞い(Act with integrity)
・ 開発原則1)～8)の趣旨に鑑み、AIシステムの技 「AI-Readyな社会」においては・・・結果に対する説 専門家として虚偽や不明瞭な主張を行わず、研究 be put in place to ensure responsibility
ンタビリティ
with the state of art.
・ AIシステム又はAIサービスに関する利用方針の 術的特性についての情報提供や説明、ステークホル 明責任（アカウンタビリティ）が適切に確保されると 開発を行った人工知能の技術的限界や問題点に and accountability for AI systems andダとの対話を通じた意見聴取
通知・公表
their outcomes, both before and after
共に、技術に対する信頼性（Trust）が担保され ついて科学的に真摯に説明を行う。
・ AIサービスプロバイダなどとの情報共有・協力
their development, deployment and use.
る必要がある。
7) 社会に対する責任(Accountability andSocial Responsibility)
潜在的な危険性については社会に対して警鐘を鳴らさなければならない。(以下略)8) 社会との対話と自己研鑽(Communication with society andself-development)
人工知能に関する社会的な理解が深まるよう努める。

Ethics Guideline for Trustworthy AI[資料２－２ 別紙２]

Recommendation of the Council on
Artificial Intelligence

Ethically Aligned Design

Asilomar AI Principles

Tenets3) Science-Policy Link:
2) We will educate and listen to the
There should be constructive and healthy public and actively engage stakeholders
exchange between AI researchers andto seek their feedback on our focus,
policy-makers.
inform them of our work, and address
their questions.
4) Research Culture:
A culture of cooperation, trust, and
3) We are committed to open researchtransparency should be fostered among and dialogue on the ethical, social,researchers and developers of AI.
economic, and legal implications of AI.
9) Responsibility:
Designers and builders of advanced AI
systems are stakeholders in the moral
implications of their use, misuse, andactions, with a responsibility andopportunity to shape those implications.

4) We believe that AI research anddevelopment efforts need to be actively
engaged with and accountable to a broad
range of stakeholders.
5) We will engage with and haverepresentation from stakeholders in thebusiness community to help ensure thatdomain-specific concerns andopportunities are understood andaddressed.
6c) Maximize the benefits and address
the potential challenges of AI
technologies, by:
Working to ensure that AI research andengineering communities remain socially
responsible, sensitive, and engaged
directly with the potential influences of AI
technologies on wider society.
8) We strive to create a culture ofcooperation, trust, and openness among
AI scientists and engineers to help us all
better achieve these goals.