©2016 Atsumi & Sakai All Rights Reserved
一般原則
• Advanced robotに対する登録制（２項） •　ロボット技術の開発は、人間のreplaceではなく、能力補完を目的。人間が高度な機械を常にコントロールできるよう、特に子供、老人、障害者等について、人間とロボットとの感情的なつながりに特別な注意が払われるべき（３項)クロスボーダーでのロボットの利用に関する相互承認の原理。デジタル単一市場を意識（４項）
◆研究とイノベーション
ネット中立性の原則に沿ったブロードバンド及び５Gネットワークへの接続（８項） o相互運用性を抑制するシステムにおけるロックインを回避するための、オープンな環境の確保（９項)
Atsumi & Sakai
©2017 Atsumi & Sakai All Rights Reserved

◆倫理原則.ロボットの使用に関する安全、健康、セキュリティの観点からの評価( 1 0項) oロボットの製造・利用等（development, design, production, use, and modification）に関する倫理的枠組み（１１項） o透明性の原則を強調し、高度な口ボットへのデータの記録等を行うブラックボックスの導入（１２項） . o EU条約等における基本的人権等に沿った倫理的枠組み（１３項）情報に関する機密性の確保（１４項）
◆欧州の機関
o欧州連合及び加盟国の両方のレベルで、技術、倫理、規制面での専門知識を提供するための、ロボット工学と人工知能の委員会設置( 1 6項)
©2017 Atsumi & Sakai All Rights Reserved

◆知的財産権とデータ流通知的財産権の法制整備の指摘（１８項） ●民事法の規定がGDPR、必要性及び比例の原則に沿うことが必要であるとし、急速な技術発展に遅れることがないこと（１９項） ● GDPRの適用及びロボットに用いられるカメラ及びセンサーに関する規則についての明確化（２０項）データの自由な移転の重要性と、セキュリティ確保、プライバシー保護について指摘（２１項） ◆標準化、安全性とセキュリティ基準の設定と相互運用性の確保が重要とする。ISO等の標準化組織との連携や、合法的なリバースエンジニアリングやopen standardsの重要性等を指摘（２２項）現実のシナリオでロボットをテストすることは、リスクの識別と評.価のために不可欠であるとして、ロボットを利用した実験が許される領域（area）についての規則の整備を求めた（２３項）
©2017 Atsumi & Sakai All Rights Reserved

◆ 個別分野について。今回は省略するものの、自動走行車（２４～２９項）、ドローン(３０項) 、介護ロボット（３１、３２項）、医療ロボット（３３ ～３５項）、人間の体の修復と増強（３６～４０項）、環境への影響（４７、４８項）、国際的側面（６０～６４項。自動走行に関する条約や、武器利用等も含まれている）に関する議論がある◆教育と雇用全ての年代におけるデジタルスキルの向上に関する施策（４１項）女性がデジタルの業務に関与することの推進（４２項）雇用環境の調査（ロボットの利用による仕事の喪失だけでなく生成も含まれている）（４３項）、社会保障制度の存続可能性の分析(４４項) 、生涯学習の必要性（４５項) •　ロボットに危険な作業を行わせることができるが、ロボットと人間との相互作用について、厳格で前向きなルールが必要（４６項） o o
- Atsumi & Sakai

▷総論予測可能性と指示可能性の観点に基づく、人間とロボットとの共同での活動について理解が必要（５０項） ●欧州委員会に対し、今後１０～１５年の予想されるロボット及びAIの活用に関し、別紙に記載した立法措置又は非立法措置（ガイドライン又は行為規範）を求めた（５１項） ◆ 個別の議論（１／３） •　人間以外が行為を行つたことを唯一の理由とする、損害賠償の制限を否定（５２項）厳格責任（strict liability。損害発生と損害と口ボットの有害な機能(harmful functioning of robot)との因果関係を証明）又はリスク管理アプローチ（the risk management approach。人が過失のある行為を行ったかではなく、特定の環境下で、リスクを最小化しnegative impactを取り扱うことができたかを問う）のいずれが採用されるかは、委員会でのより深い評価に委ねる（５３～５５項） o
©2017 Atsumi & Sakai All Rights Reserved

◆ 個別の議論（２／３）責任は指示のレベルに比例すべきであり、すなわち、ロボットの学習能力や自動化を進めることや、学習を長期間行わせることにより、学習をさせた者の責任はより大きくなる。ある人間がロボットの有書な行為にどれだけ実際に寄与したかが重要だが、現在は責任は人間にあり、ロボットにはない（５６項） ●責任分配の複雑さを考えた場合に、義務的保険制度の導入も考えられるが、当該保険はall potential responsibilities in the chainを考慮する必要がある（５７項）なお、被害救済の制度としては、ファンドによる補完も考えられる. ( 5 8項)
◆ 個別の議論（３／３） ●欧州議会へ立法手段を検討する場合に調査、分析を求めた事項例は以下のとおり（５９項） >強制保険ないしファンドによる補償制度(a、b) A保険又はファンドに加入していた生産者、プログラマー、所有者、利用者に対して厳格責任を適用（c） ▷　全てのスマートロボットに対する保険と個別のスマートロボットごとの保険のいずれを組成するか、また手数料は一回払いとするか、継続的支払を求めるか（d） >ロボットとそのファンドを登録し、ロボットに関係する者に登録番号、財産への損害の場合の責任制限、関与者の氏名及び機能等の情報へのアクセス（e） >　長期的には、最も洗練された自動的なロボットに電子人間（electronic persons）として、生じる可能性がある損害の責任を負い、自動的な判断又は第三者と独立して相互作用する場合に適用される電子的人格を付与できるように、ロボットの法的な位置づけを検討する（f） 8
◆記事be regulated」よりo厳格責任の原則によれば、責任を制限できる立場にあるとして、有責なメーカーが法的責任を負う。もう一つの手法としてリスク評価アプローチがある。 ♦  European Parliamentary Research Service Blogの記事「Have Your Say On Robotics And Artificial Intelligence!」よりo現在の法的枠組みでは、第三者へ損害を与えるロボットの作為又は不作為について責任を問えない。現在の法令の枠組みは契約責任と非契約責任からなるが、さらに新しい枠組みが必要。 ◆  DebateにおけるPPE（European People’s Party）のTherese Comodini Cachia氏発言
既存の法的責任に関する法制は、ロボット工学に対して完全には機能しない可能性がある。 ◆  DebateにおけるS&D（ Progressive Alliance of Socialists and Democrats）のSergio Gaetano Cofferati氏発言o機械の責任を特定することは難しいが、人間と機械との役割を混同してはならない。倫理は人間にかかわるものである。 9
Lebreton氏発言.
ている
ロボットの法人格を導入する主な目的は、損害を負担する有責な主体を作り出すためである。ただし、保険及びファンドの組み合わせの方がよりさらに効果的であろう。 .
◆ 27/01/2017 Committee report tabled for plenary, single readingの要約より人間が常に知的な機械を管理できるようにすることを保証することや、人間とロボットの感情的なつながりに関する発展に注意を払うことが必要であるとされた。 ◆  Civil Liberties委員会報告者（Michał Boni氏）発言急速な発展に即して、人工知能を監視できるよう、全ての人工知能の登録が必要である。 11
◆ 16/02/2017 Text adopted by Parliament, single readingの要約より•ロボットが使われるであろう様々なセクターに適用可能である知的財産権について、技術的に中立なアプローチをとることを支持した。 ♦  European Parliamentary Research Service Blogの記事「Have Your Say On Robotics And Artificial Intelligence!」より(若干趣旨不明であるが）知的財産権に関する規定はロボットに適用されないとしているほか、高度に自律的なロボットによる、自らによる知的創造の問題を指摘している。 ◆ 知的財産戦略本部検証・評価・企画委員会新たな情報財検討委員会の「新たな情報財検討委員会報告書」（２０１７年３月）資料６より. AIの行った行為の責任に関する議論はされているが、知財に関する議論は殆ど行われていない。
©2017 Atsumi & Sakai All Rights Reserved
.

Regulation (EU) 2015/2120
http://eur-lex.europa.eu/legal- content/EN/TXT/?uri=uriserv:OJ.L .2015.310.01.0001.01.ENG&toc=OJ:L:2015:310:TOC BEREC Guidelines on the Implementation by National Regulators of European Net Neutrality Rules http://berec.europa.eu/eng/document_register/subject_matter/berec/regulatory_best_ practices/guidelines/6160-berec-guidelines-on-the-implementation-by-national- regulators-of-european-net-neutrality-rules出典:欧州委員会HPよりhttps://ec.europa.eu/digi tal-single- market/en/open-internet- net-neutrality 13
研究問題（１項から５項） o研究目標、研究資金、科学と政策のリンク、研究文化、競争の回避倫理と価値観（６から１８項）のうち１２項まで安全性、失敗に対する透明性（なぜ失敗したか確かめられる） o法的透明性（自律的な法的判断を行う場合、監査可能で満足のいく説明をできること）責任（設計者と製造者はAIの使用、誤用に倫理的に関係する当事者）価値観の一致（高度な自律的AIは人間の価値観と合うように設計される）人間の価値（人間の尊厳、権利、自由そして文化的多様性に適合）個人のプライバシー（データを生成する個人にデータを閲覧、管理する権利を付与） o o o o
o自由とプライバシー（AIの個人情報利用は人間の持つべき自由を不合理に侵害しない）

利益のシエア、繁栄のシエア、人間のコントロール
o転覆禁止（高度なAIシステムをコントロールしたことにより、社会的、市民的プロセスを転覆させるのではなく、尊重、促進のために使われる）
AIと軍拡（破壊的な自動兵器による軍備の拡大競争を起こさない）
o
o
o可能性への警告（将来のAIの能力の上限について強い仮定を置かない）重要性（生命の歴史に重大な変化を及ぼす可能性があるので、相応の注意をもって計画、管理)リスク（壊滅的なものに対し、影響に相応した慎重な計画、対策）再帰的な自己進化（自己進化、自己複製によって急激に拡大をもたらすよう設計されたAIへの厳格な安全管理) common good（超知能は、特定の国や組織のためではなく、人類全ての利益に資するためにのみ開発) " Atsumi & Sakai
渥美坂井法律事務所・外国法共同事業弁護士　落合　孝文(第二東京弁護士会所属) E-Mail: takafumi.ochiai@aplaw.jp
©2017 Atsumi & Sakai All Rights Reserved
16