AIガイドライン比較表
尊重すべき価値AI利活用ガイドライン案／AI利活用原則案
国際的な議論のためのAI開発ガイドライン案
Draft AI Utilization guidelines/Draft AI Draft AI R&D guidelines for
Utilization Principles
international discussions「人間中心のＡＩ社会原則」
Social Principles of Human-centric AI

byAIネットワーク社会推進会議（総務省）/Japan

統合イノベーション戦略推進会議（人間中心のAI社 人工知能学会(JSAI)/Japan
会原則会議）/Japan
2019/3/2017/2/28
2018/12/27 案公開

公開日
過去の公開日
URL

2018/7/17

AIネットワーク社会推進会議（総務省）/Japan
2017/7/28

人工知能学会倫理指針
Ethical Guideline[別紙２]

Ethics Guideline for Trustworthy AI

Ethically Aligned Design

Asilomar AI Principles

TenetsEuropean Commission (High Level Expert
Group on AI(HLEG))
2019/4/8
2018/12/18

IEEE Global Initiative on Ethics ofAutonomous and Intelligent Systems
2019/3/25(1st edition)
2016/12/13(ver.1), 2017/12/12(ver.2)

Future of Life Institute (FLI)

Partnership on AI

2017/2/

2016/9/28

http://www.soumu.go.jp/main_content/000564147.pdf http://www.soumu.go.jp/main_content/000499625.pdf https://www8.cao.go.jp/cstp/tyousakai/huma http://ai-elsi.org/wphttps://ec.europa.eu/digital-single(eng)http://www.soumu.go.jp/main_content/00058131 (eng)http://www.soumu.go.jp/main_content/00050751 nai/ai_gensoku.pdf
content/uploads/2017/02/%E4%BA%BA%E5%B7 market/en/news/draft-ethics-guidelines7.pdf
0.pdf%A5%E7%9F%A5%E8%83%BD%E5%AD%A6%E trustworthy-ai(eng)
4%BC%9A%E5%80%AB%E7%90%86%E6%8C%8https://www8.cao.go.jp/cstp/stmain/aisocialpr
7%E9%87%9D.pdf
inciples.pdf

https://ethicsinaction.ieee.org/

https://futureoflife.org/ai-principles/

https://www.partnershiponai.org/tenets/

主要構成

目的、基本理念(6)AI利活用原則（10）＋解説
等

pillars(3)General Principles(GP: 8)
Chapter(11 including GPs)

Principles(23)Tenets(10)Human-centered
人間中心

基本理念（予定）：
基本理念
2(1).人間の尊厳が尊重される社会（Dignity）
人間がAIネットワークと共生することにより、その恵沢が 1. 人間がＡＩネットワークと共生することにより、その 人間がAIを道具として使いこなすことによって、人間のすべての人によってあまねく享受され、人間の尊厳と個 恵沢がすべての人によってあまねく享受され、人間の尊 様々な能力をさらに発揮することを可能とし、より大き人の自律が尊重される人間中心の社会を実現するこ 厳と個人の自律が尊重される人間中心の社会を実 な創造性を発揮したり、やりがいのある仕事に従事しと現すること。
たりすることで、物質的にも精神的にも豊かな生活を送ることができるような、人間の尊厳が尊重される社会を構築する必要がある。

Human dignity
人間の尊厳

7) 尊厳・自律の原則 (human dignity and7) 倫理の原則 (Ethics)
4.1(1) 人間中心の原則
1) 人類への貢献(Contribution to
P1: respect for human autonomy
GP1. Human Rights:
individual autonomy)
開発者は、AIシステムの開発において、人間の尊厳と AIの利用は、憲法及び国際的な規範の保障する基 humanity)
The fundamental rights upon which the EU A/IS shall be created and operated to
利用者は、AIシステム又はAIサービスの利活用にお 個人の自律を尊重する。
本的人権を侵すものであってはならない。
人類の平和、安全、福祉、公共の利益に貢献し、基 is founded are directed towards ensuring respect, promote, and protect
いて、人間の尊厳と個人の自律を尊重する。
・ （人間の脳や身体と連携するAIシステムの開発の AIは、人々の能力を拡張し、多様な人々の多様な 本的人権と尊厳を守り、文化の多様性を尊重する。 respect for the freedom and autonomy of internationally・ AIシステム又はAIサービスにより意思決定や感情が 場合）生命倫理に関する議論などの参照
幸せの追求を可能とするために開発され、社会に展開 人工知能を設計、開発、運用する際には専門家とし human beings. Humans interacting with AI recognized human rights.
操作されるリスク、AIシステム又はAIサービスに過度に ・ 学習データに含まれる偏見などに起因して不当な差 され、活用されるべきである。
systems must be able to keep full andて人類の安全への脅威を排除するように努める。
依存するリスクeffective self-determination over
別が生じないための所要の措置
GP2. Well-being・ （AIシステム又はAIサービスを人間の脳や身体と ・ AIシステムが人間性の価値を不当に毀損することが
9) 人工知能への倫理遵守の要請(Abidance of themselves, and be able to partake in the A/IS creators shall adopt increased human
連携させる場合）生命倫理に関する議論などの参照 ないよう留意
democratic process...... The allocation of
ethics guidelines by AI)
well-being as a primary success criterion
人工知能が社会の構成員またはそれに準じるものとな functions between humans and AI systems for development.
るためには、(1-8)に定めた人工知能学会員と同等に should follow human-centric designprinciples and leave meaningful
倫理指針を遵守できなければならない。
opportunity for human choice. This means
securing human oversight over work
processes in AI systems.

10) Value Alignment:
3) We are committed to open researchHighly autonomous AI systems should be and dialogue on the ethical, social,designed so that their goals and behaviors economic, and legal implications of AI.
can be assured to align with human values
throughout their operation.
6d) Maximize the benefits and address thepotential challenges of AI technologies, by:
11) Human Values:
Ensuring that AI research and technology
AI systems should be designed andis robust, reliable, trustworthy, andoperated so as to be compatible with
operates within secure constraints.
ideals of human dignity, rights, freedoms,
and cultural diversity.

Diversity,
Inclusiveness,
多様性、包摂基本理念（予定）：
基本理念
2(2) 多様な背景を持つ人々が多様な幸せを追求 4) 公正性(Fairness)
R5: Diversity, non-discrimination and
AIの利活用において利用者の多様性を尊重し、多様 1. 人間がＡＩネットワークと共生することにより、その できる社会（Diversity & Inclusion）
人工知能の開発と利用において常に公正さを持ち、 fairness
な背景と価値観、考え方を持つ人々を包摂すること 恵沢がすべての人によってあまねく享受され、人間の尊 多様な背景と価値観、考え方を持つ人々が多様な 人工知能が人間社会において不公平や格差をもたら In order to achieve Trustworthy AI, we
厳と個人の自律が尊重される人間中心の社会を実 幸せを追求し、それらを柔軟に包摂した上で新たな価 す可能性があることを認識し、開発にあたって差別を must enable inclusion and diversity
現すること。
値を創造できる社会は、現代における一つの理想であ 行わないよう留意する。人類が公平、平等に人工知 throughout the entire AI system’s life
cycle. Besides the consideration andり、大きなチャレンジである。
能を利用できるように努める。
involvement of all affected stakeholders
throughout the process, this also entails
4.1(1) 人間中心の原則
ensuring equal access through inclusive
AIの普及の過程で、いわゆる「情報弱者」や「技術弱design processes as well as equal者」を生じさせず、AIの恩恵をすべての人が享受でき
treatment. This requirement is closely
るよう、使いやすいシステムの実現に配慮すべきであ
linked with the principle of fairness.
る。

14) Shared Benefit:
AI technologies should benefit andempower as many people as possible.

(eng) http://ai-elsi.org/wpcontent/uploads/2017/05/JSAI-Ethical-Guidelines1.pdf

基本理念(5)
AI開発原則（9）＋解説
等

2. 基本理念(3)3. ビジョン(5)4.1. AI社会原則(7)+4.2. AI開発利用原則
等

序文＋指針（9）1.Foundations of Trustworthy AI(4Principles)
2.Realising Trustworthy AI:
Requirements(R: 7)+Technical and nontechnical methods
3. Assessing Trustworthy AI, …

P1: respect for human autonomy.
The fundamental rights upon which the EU
is founded are directed towards ensuringrespect for the freedom and autonomy ofhuman beings. Humans interacting with AI
systems must be able to keep full andeffective self-determination overthemselves, and be able to partake in the
democratic process...... The allocation offunctions between humans and AI systems
should follow human-centric designprinciples and leave meaningful
opportunity for human choice. This means
securing human oversight over work
processes in AI systems.

4.1.（2） 教育・リテラシーの原則
AIを前提とした社会において、我々は、人々の間に格差や分断が生じたり、弱者が生まれたりすることは望まない。
Sustainable society
持続可能な社会基本理念（予定）：
ネットワーク化の進展とともに、AIの利活用により個
人、地域社会、各国、国際社会が抱える様々な課
題の解決を図り、持続可能な社会を実現すること目的：
AIネットワークが進展していく過程で、個人、地域社
会、各国、国際社会の抱える様々な課題の解決に大きく貢献するなど、人間及びその社会や経済に多大な便益を広範にもたらすことが期待される。

2(3) 持続性ある社会（Sustainability）
8) 社会との対話と自己研鑽(Communication
我々は、AIの活用によりビジネスやソリューションをwith society and self-development)
次々と生み、社会の格差を解消し、地球規模の環境 人工知能に関する社会的な理解が深まるよう努め
問題や気候変動などにも対応が可能な持続性のある る。社会には様々な声があることを理解し、社会から社会を構築する方向へ展開させる必要がある。科学・ 真摯に学び、理解を深め、社会との不断の対話を通技術立国としての我が国は、その科学的・技術的蓄 じて専門家として人間社会の平和と幸福に貢献する
積をAIによって強化し、そのような社会を作ることに貢 こととする。高度な専門家として絶え間ない自己研鑽に努め自己の能力の向上を行うと同時にそれを望む献する責務がある。
者を支援することとする。

R6. Societal and environmental wellbeing
In line with the principles of fairness andprevention of harm, the broader society,other sentient beings and the environment
should be also considered as stakeholders
throughout the AI system’s life cycle.
Sustainability and ecological responsibilityof AI systems should be encouraged, andresearch should be fostered into AI
solutions addressing areas of global
concern, such as for instance theSustainable Development Goals. Ideally, AI
systems should be used to benefit all
human beings, including future
generations

15) Shared Prosperity:
The economic prosperity created by AI
should be shared broadly, to benefit all of
humanity.
23) Common Good:
Superintelligence should only be developedin the service of widely shared ethicalideals, and for the benefit of all humanity
rather than one state or organization.

20) Importance:
Advanced AI could represent a profoundchange in the history of life on Earth, andshould be planned for and managed withcommensurate care and resources.

AIガイドライン比較表
尊重すべき価値AI利活用ガイドライン案／AI利活用原則案
国際的な議論のためのAI開発ガイドライン案
Draft AI Utilization guidelines/Draft AI Draft AI R&D guidelines for
Utilization Principles
international discussions

International
Cooperation
国際協力

基本理念（予定）
基本理念
4.2. AI開発利用原則
非拘束的なソフトローたる指針やベストプラクティスを ２．ＡＩの研究開発と利活用が今後急速に発展 AI開発利用原則については、現在、多くの国、団し、ネットワーク化されたＡＩシステムが国境を越えて 体、企業等において議論されていることから、我々は国際的に共有すること
AIネットワーク化の進展等を踏まえ、国際的な議論を 人間及び社会に広範かつ多大な影響を及ぼすものと 早急にオープンな議論を通じて国際的なコンセンサス
通じて、本ガイドライン案を不断に見直し、必要に応じ 見込まれることから、ＡＩシステムの研究開発の在り を醸成し、非規制的で非拘束的な枠組みとして国際方について、非拘束的なソフトローたる指針やそのベス 的に共有されることが重要であると考える。
て柔軟に改定すること
トプラクティスをステークホルダ間で国際的に共有すること。
5. おわりに
国際的な議論の場において、我が国は、本原則を世界各国と共有した上で、国際的な議論のリーダーシッ
プをとり、コンセンサスの形成を目指すべきであり、それによってSDGsの実現を支えるSociety5.0の社会像
を世界に示し、国際社会の協調的かつ創造的な新たな発展に寄与すべきである。

Proper utilization
適正な利用

1) 適正利用の原則 (Proper utilization)8) 利用者支援の原則 (User assistance)
利用者は、人間とAIシステムとの間及び利用者間に 開発者は、AIシステムが利用者を支援し、利用者における適切な役割分担のもと、適正な範囲及び方法 選択の機会を適切に提供することが可能となるよう配でAIシステム又はAIサービスを利用するよう努める。 慮する。
・ 開発者等からの情報提供や説明を踏まえた適正な ・ 利用者にとって操作しやすいインターフェース
・ 利用者に選択の機会（デフォルトの設定、理解し範囲・方法での利用
・ 予防措置、事後対応（原因解明、再発防止措 やすい選択肢の提示等）を適時適切に提供する機能置等）における関係者間の協力
・ 社会的弱者の利用を容易にするための取組
・ 利用者に対する適切な情報提供

Education/literacy
教育・リテラシー

Human-in-the-Loop
人間の判断の介在
Controllability
制御可能性

1) 適正利用の原則－ア 適正な範囲・方法での利用利用者は、ＡＩの性質、利用の態様等に応じて、利用する前に、便益及びリスクを認識し、適正な用途を理解するとともに、必要な知識・技能を習得すること等が期待されるのではないか。

「人間中心のＡＩ社会原則」
Social Principles of Human-centric AI

Collabolation among 3) 連携の原則 (Collabolation)1) 連携の原則 (Collaboration)
AI systems
AIサービスプロバイダ、ビジネス利用者及びデータ提供 開発者は、AIシステムの相互接続性と相互運用性に者は、AIシステム又はAIサービス相互間の連携に留 留意する。
AI間の連携意する。また、利用者は、AIシステムがネットワーク化 ・ 国際的な標準や規格への準拠することによってリスクが惹起・増幅される可能性がある ・ データ形式の標準化、インターフェイスやプロトコルのことに留意する。
オープン化への対応
・ 提供するAIシステム又はAIサービスの相互接続性 ・ 標準必須特許等のライセンス契約及びその条件にと相互運用性ついてのオープン・公平な取扱い
・ データ形式やプロトコル等の標準化への対応
・ AIネットワーク化により惹起・増幅される課題

Ethics Guideline for Trustworthy AI

Ethically Aligned Design

Asilomar AI Principles

TenetsIntroduction:
Just as the use of AI systems does notstop at national borders, neither does theirimpact. Global solutions are therefore
required for the global opportunities andchallenges that AI systems bring forth. We
therefore encourage all stakeholders towork towards a global framework for
Trustworthy AI, building international
consensus while promoting and upholding
our fundamental rights-based approach.

1) We will seek to ensure that AI
technologies benefit and empower as
many people as possible.

GP4. Effectiveness
A/IS creators and operators shall provide
evidence of the effectivenessand fitness for purpose of A/IS.

4.1.（1） 人間中心の原則
我々は、リテラシー教育や適正な利用の促進などのための適切な仕組みを導入することが望ましい。

2.2. Non-technical methods--> Education and awareness to foster an
ethical mind-set

4.1.(2) 教育・リテラシーの原則
我々は、以下のような原則に沿う教育・リテラシーを育む教育環境が全ての人に平等に提供されなければならないと考える。

1) 適正利用の原則－イ 人間の判断の介在
3) 制御可能性の原則 (Controllability)
4.1.（1） 人間中心の原則
AIによりなされた判断について、必要かつ可能な場合 開発者は、AIシステムの制御可能性に留意する。
AIの利用にあたっては、人が自らどのように利用するには、その判断を用いるか否か、あるいは、どのように用 ・ 事前の検証及び妥当性の確認、サンドボックスにお かの判断と決定を行うことが求められる。
いるか等に関し、人間の判断を介在させることが期待 ける実験される。
・ 人間や信頼できる他のAIシステムによる監督・対処

Proper data2) 適正学習の原則 (Data Quality)
適正な学習（学習データ 利用者及びデータ提供者は、AIシステムの学習等に用いるデータの質に留意する。
の質）・ 学習等に用いるデータの質（正確性や完全性など）

人工知能学会倫理指針
Ethical Guideline[別紙２]5) 安全性(Security)
専門家として、人工知能の安全性及びその制御における責任を認識し、人工知能の開発と利用において常に安全性と制御可能性、必要とされる機密性について留意し、同時に人工知能を利用する者に対し適切な情報提供と注意喚起を行うように努める。

R1. Human agency and oversight
AI systems should support humanautonomy and decision-making, asprescribed by the principle of respect forhuman autonomy. This requires that AI
systems should both act as enablers to a
democratic, flourishing and equitablesociety by supporting the user’s agency
and foster fundamental rights, and allow
for human oversight.

7) We believe that it is important for theoperation of AI systems to beunderstandable and interpretable bypeople, for purposes of explaining thetechnology.

GP8. Competence
A/IS creators shall specify and operators
shall adhere to the knowledge and skill
required for safe and effective operation.

16) Human Control:
Humans should choose how and whether
to delegate decisions to AI systems, toaccomplish human-chosen objectives.

R3. Privacy and Data Governance
Closely linked to the principle of preventionof harm is privacy, a fundamental rightparticularly affected by AI systems.
Prevention of harm to privacy also
necessitates adequate data governancethat covers the quality and integrity of thedata used, its relevance in light of thedomain in which the AI systems will be
deployed, its access protocols and thecapability to process data in a manner that
protects privacy.
5) We will engage with and haverepresentation from stakeholders in thebusiness community to help ensure thatdomain-specific concerns and opportunities
are understood and addressed.

AIガイドライン比較表「人間中心のＡＩ社会原則」
Social Principles of Human-centric AI

人工知能学会倫理指針
Ethical Guideline

Ethics Guideline for Trustworthy AI[別紙２]

尊重すべき価値AI利活用ガイドライン案／AI利活用原則案
国際的な議論のためのAI開発ガイドライン案
Draft AI Utilization guidelines/Draft AI Draft AI R&D guidelines for
Utilization Principles
international discussions

Ethically Aligned Design

Safety安全性4) 安全の原則 (Safety)4) 安全の原則 (Safety)
4.1(4) セキュリティ確保の原則
1) 人類への貢献(Contribution to
R2. Technical robustness and safety
GP7. Awareness of Misuse
A crucial component of achieving
利用者は、AIシステム又はAIサービスの利活用によ 開発者は、AIシステムがアクチュエータ等を通じて利用 AIを積極的に利用することで多くの社会システムが自 humanity)
A/IS creators shall guard against all
り、アクチュエータ等を通じて、利用者等及び第三者の 者及び第三者の生命・身体・財産に危害を及ぼすこ 動化され、安全性が向上する。一方、少なくとも現在 人類の平和、安全、福祉、公共の利益に貢献し、基 Trustworthy AI is technical robustness,potential misuses and risks of A/IS in
生命・身体・財産に危害を及ぼすことがないよう配慮 とがないよう配慮する。
想定できる技術の範囲では、希少事象や意図的な 本的人権と尊厳を守り、文化の多様性を尊重する。 which is closely linked to the principle ofoperation.
・ 事前の検証及び妥当性の確認する。
攻撃に対してAIが常に適切に対応することは不可能 人工知能を設計、開発、運用する際には専門家とし prevention of harm. Technical robustness
requires that AI systems be developed・ （生命・身体・財産に危害を及ぼし得る分野での ・ 本質安全や機能安全に資するための措置であり、セキュリティに対する新たなリスクも生じる。社 て人類の安全への脅威を排除するように努める。
with a preventative approach to risks and利活用において）AIシステムの点検・修理及びAIソ ・ （生命・身体・財産の安全に関する判断を行うAI 会は、常にベネフィットとリスクのバランスに留意し、全システムについて）ステークホルダに対する設計の趣旨 体として社会の安全性及び持続可能性が向上するよ 2) 法規制の遵守(Abidance of laws andin a manner such that they reliably behave
フトのアップデートを行うことなどによる危害の防止などの説明
as intended while minimising unintentional
うに務めなければならない。
・ 危害が発生した場合に備えた事前措置
regulations)and unexpected harm, and preventing
専門家として、研究開発に関わる法規制、知的財
産、他者との契約や合意を尊重しなければならない。 unacceptable harm. This should also apply
他者の情報や財産の侵害や損失といった危害を加え to potential changes in their operatingてはならず、直接的のみならず間接的にも他者に危 environment or the presence of otheragents (human and artificial) that may
害を加えるような意図をもって人工知能を利用しな
interact with the system in an adversarial
い。
manner. In addition, the physical andmental integrity of humans should be5) 安全性(Security)
専門家として、人工知能の安全性及びその制御にお ensured.
ける責任を認識し、人工知能の開発と利用において常に安全性と制御可能性、必要とされる機密性について留意し、同時に人工知能を利用する者に対し適切な情報提供と注意喚起を行うように努める。

Asilomar AI Principles

Tenets5) Race Avoidance:
Teams developing AI systems should
actively cooperate to avoid corner-cutting
on safety standards.

6e) Maximize the benefits and address
the potential challenges of AI
technologies, by:Opposing development and use of AI
technologies that would violate
international conventions or humanrights, and promoting safeguards andtechnologies that do no harm.

6) Safety:
AI systems should be safe and securethroughout their operational lifetime, andverifiably so where applicable and feasible.
17) Non-subversion:
The power conferred by control of highly
advanced AI systems should respect andimprove, rather than subvert, the socialand civic processes on which the health ofsociety depends.
22) Recursive Self-Improvement:
AI systems designed to recursively selfimprove or self-replicate in a manner that
could lead to rapidly increasing quality or
quantity must be subject to strict safety
and control measures.
18) AI Arms Race:
An arms race in lethal autonomous
weapons should be avoided.

Security
セキュリティ

5) セキュリティの原則 (Security)5) セキュリティの原則 (Security)
4.1(4) セキュリティ確保の原則
利用者及びデータ提供者は、AIシステム又はAIサー 開発者は、AIシステムのセキュリティに留意する。
AIを積極的に利用することで多くの社会システムが自・ 情報の機密性、完全性、可用性に加え、信頼性、 動化され、安全性が向上する。一方、少なくとも現在
ビスのセキュリティに留意する。
頑健性にも留意想定できる技術の範囲では、希少事象や意図的な・ その時点での技術水準に照らした合理的な対策
・ 事前の検証及び妥当性の確認
・ 侵害が発生した場合に備えた事前措置
攻撃に対してAIが常に適切に対応することは不可能
・ セキュリティ対策のためのサービス提供、インシデント ・ セキュリティ・バイ・デザイン
であり、セキュリティに対する新たなリスクも生じる。社
情報の共有
会は、常にベネフィットとリスクのバランスに留意し、全・ 不正確又は不適切なデータ学習による脆弱性への体として社会の安全性及び持続可能性が向上するよ対応
うに務めなければならない。

R.2 Technical robustness and safety
GP7. Awareness of Misuse
A crucial component of achieving
A/IS creators shall guard against all
Trustworthy AI is technical robustness,potential misuses and risks of A/IS inwhich is closely linked to the principle ofoperation.
prevention of harm. Technical robustness
requires that AI systems be developedwith a preventative approach to risks andin a manner such that they reliably behave
as intended while minimising unintentional
and unexpected harm, and preventing
unacceptable harm. This should also apply
to potential changes in their operating
environment or the presence of otheragents (human and artificial) that may
interact with the system in an adversarial
manner. In addition, the physical andmental integrity of humans should beensured.

Privacy
プライバシー6) プライバシーの原則（Privacy）
利用者及びデータ提供者は、AIシステム又はAIサー
ビスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮する。
・ AIシステム又はAIサービスの利活用における他者
又は自己のプライバシーの尊重、侵害が発生した場合に備えた事前措置
・ 学習等に用いるパーソナルデータの収集・前処理・提供における他者のプライバシーの尊重
・ 第三者提供における本人同意の確保

fairness, equity,
removal of
discrimination
公平性8) 公平性の原則 (Fairness)7) 倫理の原則 (Ethics)
4.1(6) 公平性、説明責任及び透明性の原則
4) 公正性(Fairness)
1.5 Diversity, non-discrimination and
AIサービスプロバイダ、ビジネス利用者及びデータ提供 開発者は、AIシステムの開発において、人間の尊厳と AIの設計思想の下において、人々がその人種、性
人工知能の開発と利用において常に公正さを持ち、 fairness
別、国籍、年齢、政治的信念、宗教等の多様なバッ 人工知能が人間社会において不公平や格差をもたら In order to achieve Trustworthy AI, we
者は、AIシステム又はAIサービスの判断によって個人 個人の自律を尊重する。
・ （人間の脳や身体と連携するAIシステムの開発の クグラウンドを理由に不当な差別をされることなく、全て す可能性があることを認識し、開発にあたって差別を must enable inclusion and diversity
が不当に差別されないよう配慮する。
行わないよう留意する。人類が公平、平等に人工知 throughout the entire AI system’s life
・ 学習等に用いられるデータの代表性やデータに内在 場合）生命倫理に関する議論などの参照の人々が公平に扱われなければならない。
・ 学習データに含まれる偏見などに起因して不当な差する社会的なバイアス能を利用できるように努める。
cycle. Besides the consideration and・ AIシステムよりなされた判断に対する人間の判断の 別が生じないための所要の措置
involvement of all affected stakeholders
・ AIシステムが人間性の価値を不当に毀損することが介在
throughout the process, this also entails
ないよう留意ensuring equal access through inclusive
design processes as well as equal
treatment. This requirement is closely
linked with the principle of fairness.

6a) Maximize the benefits and address thepotential challenges of AI technologies, by:
Working to protect the privacy andsecurity of individuals.
6d) Maximize the benefits and address thepotential challenges of AI technologies, by:Ensuring that AI research and technology
is robust, reliable, trustworthy, andoperates within secure constraints.

6) プライバシーの原則 (Privacy)
4.1(3) プライバシー確保の原則
3) 他者のプライバシ尊重(Respect for theR3. Privacy and Data GovernanceGP3. Data Agency
12) Personal Privacy:6a) Maximize the benefits and address the
Closely linked to the principle of prevention A/IS creators shall empower individuals
People should have the right to access,potential challenges of AI technologies, by:
開発者は、AIシステムにより利用者及び第三者のプラ AIを前提とした社会においては、個人の行動などに関 privacy of others)
Working to protect the privacy andイバシーが侵害されないよう配慮する。
するデータから、政治的立場、経済状況、趣味・嗜好 人工知能の利用および開発において、他者のプライバ of harm is privacy, a fundamental rightwith the ability to access and securely
manage and control the data they・ 事前のプライバシー影響評価
等が高精度で推定できることがある。これは、単なる シーを尊重し、関連する法規に則って個人情報の適 particularly affected by AI systems.
share their data, to maintain people’s
generate, given AI systems’ power tosecurity of individuals.
Prevention of harm to privacy also
個人情報を扱う以上の慎重さが求められる場合があ 正な取扱いを行う義務を負う。
・ プライバシー・バイ・デザイン
capacity to have control over their identity. analyze and utilize that data.
necessitates adequate data governance
ることを意味する。パーソナルデータが本人の望まないthat covers the quality and integrity of the
形で流通したり、利用されたりすることによって、個人が13) Liberty and Privacy:
data used, its relevance in light of the
不利益を受けることのないよう、各ステークホルダーは、The application of AI to personal data
domain in which the AI systems will be
以下の考え方に基づいて、パーソナルデータを扱わな
must not unreasonably curtail people’s real
deployed, its access protocols and theければならない。
or perceived liberty.
capability to process data in a manner that
protects privacy.

AIガイドライン比較表
Asilomar AI Principles

Tenets9) 透明性の原則 (Transparancy)
2) 透明性の原則 (Transparancy)
4.1(6) 公平性、説明責任及び透明性の原則
6) 誠実な振る舞い(Act with integrity)
1.4 Transparency
GP5. Transparency
AIサービスプロバイダ及びビジネス利用者は、AIシステ 開発者は、AIシステムの入出力の検証可能性及び ・AIを利用しているという事実、AIに利用されるデータ 人工知能が社会へ与える影響が大きいことを認識し、 This requirement is closely linked with the The basis of a particular A/IS decision
ム又はAIサービスの入出力の検証可能性及び判断 判断結果の説明可能性に留意する。
の取得方法や使用方法、AIの動作結果の適切性を 社会に対して誠実に信頼されるように振る舞う。専門 principle of explicability and encompasses should always be discoverable.
・ 生命、身体、自由、プライバシー、財産などに影響 担保する仕組みなど、状況に応じた適切な説明が得 家として虚偽や不明瞭な主張を行わず、研究開発を transparency of elements relevant to an AI
結果の説明可能性に留意する。
・ 生命、身体、財産に危害が及ぼし得る分野で利活 を及ぼす可能性のあるAIシステムにおける入出力の られなければならない。
行った人工知能の技術的限界や問題点について科 system: the data, the system and thebusiness models.
用する場合におけるAIシステム又はAIサービスの入出 検証可能性及び判断結果の説明可能性
・人々がAIの提案を理解して判断するために、AIの利 学的に真摯に説明を行う。
（※アルゴリズム、ソースコード、学習データの開示を 用・採用・運用について、必要に応じて開かれた対話(Traceability, Explainability)
力の記録・保存
・ 個人の権利・利益に重大な影響を及ぼす可能性 想定するものではない。）の場が適切に持たれなければならない。
のある分野で利活用する場合におけるAIシステム又はAIサービスの判断結果の説明可能性の確保（※アルゴリズム、ソースコード、学習データの開示を想定するものではない。）

4) Research Culture:
A culture of cooperation, trust, andtransparency should be fostered among
researchers and developers of AI.

7) We believe that it is important for theoperation of AI systems to beunderstandable and interpretable bypeople, for purposes of explaining thetechnology.

10) アカウンタビリティの原則 (Accountability) 9) アカウンタビリティの原則 (Accountability) 4.1(6) 公平性、説明責任及び透明性の原則
5) 安全性(Security)
R7. Accountability
GP6. Accountability
AIサービスプロバイダ及びビジネス利用者は、消費者 開発者は、利用者を含むステークホルダに対しアカウン ・AIを利用しているという事実、AIに利用されるデータ 人工知能を利用する者に対し適切な情報提供と注 The requirement of accountability
A/IS shall be created and operated tocomplements the above requirements, and provide an unambiguous rationale for all
的利用者及び間接利用者を含むステークホルダに対 タビリティを果たすよう努める。
の取得方法や使用方法、AIの動作結果の適切性を 意喚起を行うように努める。
・ 利用者にAIシステムの選択及び利活用に資する情 担保する仕組みなど、状況に応じた適切な説明が得
is closely linked to the principle of fairness. decisions made.
しアカウンタビリティを果たすよう努める。
It necessitates that mechanisms be put in・ 消費者的利用者、間接利用者等に対するアカウン 報の提供
られなければならない。
6) 誠実な振る舞い(Act with integrity)
・ 開発原則1)～8)の趣旨に鑑み、AIシステムの技 「AI-Readyな社会」においては・・・結果に対する説 専門家として虚偽や不明瞭な主張を行わず、研究開 place to ensure responsibility andタビリティ
・ AIシステム又はAIサービスに関する利用方針の通 術的特性についての情報提供や説明、ステークホルダ 明責任（アカウンタビリティ）が適切に確保されると共 発を行った人工知能の技術的限界や問題点について accountability for AI systems and theirとの対話を通じた意見聴取
outcomes, both before and after their
知・公表に、技術に対する信頼性（Trust）が担保される必 科学的に真摯に説明を行う。
・ AIサービスプロバイダなどとの情報共有・協力
development, deployment and use.
要がある。
7) 社会に対する責任(Accountability andSocial Responsibility)
潜在的な危険性については社会に対して警鐘を鳴らさなければならない。(以下略)3) Science-Policy Link:
There should be constructive and healthyexchange between AI researchers andpolicy-makers.

2) We will educate and listen to the public
and actively engage stakeholders to seek
their feedback on our focus, inform themof our work, and address their questions.

4) Research Culture:
A culture of cooperation, trust, andtransparency should be fostered among
researchers and developers of AI.

3) We are committed to open researchand dialogue on the ethical, social,economic, and legal implications of AI.

尊重すべき価値AI利活用ガイドライン案／AI利活用原則案
国際的な議論のためのAI開発ガイドライン案
Draft AI Utilization guidelines/Draft AI Draft AI R&D guidelines for
Utilization Principles
international discussions

Transparency
透明性Explainability
説明可能性

Accountablitiy
アカウンタビリティ[別紙２]「人間中心のＡＩ社会原則」
Social Principles of Human-centric AI

人工知能学会倫理指針
Ethical Guideline8) 社会との対話と自己研鑽(Communication
with society and self-development)
人工知能に関する社会的な理解が深まるよう努める。

Ethics Guideline for Trustworthy AI

Ethically Aligned Design7) Failure Transparency:
If an AI system causes harm, it should bepossible to ascertain why.
8) Judicial Transparency:
Any involvement by an autonomous
system in judicial decision-making should
provide a satisfactory explanation
auditable by a competent humanauthority.

9) Responsibility:
Designers and builders of advanced AI
systems are stakeholders in the moral
implications of their use, misuse, andactions, with a responsibility andopportunity to shape those implications.

4) We believe that AI research anddevelopment efforts need to be actively
engaged with and accountable to a broad
range of stakeholders.
5) We will engage with and haverepresentation from stakeholders in thebusiness community to help ensure thatdomain-specific concerns and opportunities
are understood and addressed.
6c) Maximize the benefits and address thepotential challenges of AI technologies, by:
Working to ensure that AI research andengineering communities remain socially
responsible, sensitive, and engaged
directly with the potential influences of AI
technologies on wider society.
8) We strive to create a culture ofcooperation, trust, and openness among
AI scientists and engineers to help us all
better achieve these goals.