法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

欧州のための人工知能通知 COM(2018) 237 final[参考訳]
2018 年 9 月 14 日
明治大学法学部教授
夏 井 高 人＊＊＊Communication from the Commission to the European Parliament, the Council, the European Central Bank,
the European Economic and Social Committee and the Committee of the Regions - Artificial Intelligence forEurope, COM(2018) 237 final（Brussels, 25.4.2018）のテキスト（英語版）に基づき、和訳を試みた。そのテキストは、下記の Eur-lex の Web サイトから入手した。
https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52018DC0237&from=EN[2018 年 9 月 3 日確認]委員会通知 COM(2018) 237 final は、人工知能（AI）への対応に関する 2017 年に公表された欧州議会、理事会及び欧州委員会の基本政策に基づき、欧州における AI の開発状況を検討した上で、その検討結果を踏まえ、2020 年から先の将来も視野に入れ、より具体的に今後の方向性を示す欧州委員会の政策文書である。その中には、AI と関連する法的課題に関しても、具体的な方策として、法的責任、消費者保護及び個人データ保護に関する方策の方向性が示されており、極めて高い重要性をもつものと考えられる。
委員会通知 COM(2018) 237 final は、本文のみで構成されている。この参考訳においては、委員会
通知 COM(2018) 237 final の本文の全文を訳した。
なお、委員会通知COM(2018) 237 final は、付属文書として委員会スタッフ作業文書 SWD(2018) 137
final を伴っており、この文書として一体となっているものであるが、この参考訳においては、委員会通知 COM(2018) 237 final のみを独立の文書として取り扱い、訳出することにした。
訳文中で強調文字及び斜体になっている部分は、原文のとおり強調及び斜体を反映したものである。
また、原文中でハイパーリンクにより設定されている URL の一部について、この参考訳中の記載を省略した。正確を期すべき場合には、原文の該当箇所を確認されたい。
この参考訳においては、原則として直訳とした。直訳のままでは日本語として意味の通らない部分
や非常にわかりにくい部分に関しては、やむを得ず意訳とした。
この参考訳は、あくまでも委員会通知 COM(2018) 237 final の私的な和訳であり、関連分野の研究者のための参考として提供するものである。確定訳ではなく、現時点における検討結果の一部を示すものであるので、今後、必要に応じて改訂・修正が加えられる可能性がある。誤記等があるときは、随時、198

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

法と情報雑誌上においてその正誤を公表する。
この参考訳に訳注はない。訳文中の脚注は、全て原注である。
委員会通知COM(2018) 237 finalの中で用いられている「人工知能（AI）」の概念には注意を要する。
本文の「1. イントロダクション」の最初の部分にあるコラム（囲み）の中でその定義が示されているが、そこでは、「幾分かの自律性をもって」と括弧書きが付されており、完全に自律的な能力（＝人間による指示・制御とは無関係に独立して判断・行動する能力）をもつ対象を除外している。すなわち、欧州委員会が想定する「AI（Artificial Intelligence）」または「ロボット（robots）」は、真の AI 及びロボットではなく、ISO や JIS によって定義されている産業用ロボット（robotics）の範囲内にあるものである（委員会作業文
書 SWD(2018) 137 final の ANEEX I 参照）。
ただし、委員会通知COM(2018) 237 final の「次世代の AI 技術（the next generation of AI technologies）」と述べているものが産業用ロボット（robotics）の範疇を超えるものであるかどうかは、必ずしも明確ではないが、委員会通知 COM(2018) 237 final の 3.3 の「Safety and liability」の中で「そのシステムが最初に運用段階に置かれた時に予想されていたものとは異なる態様で行動するようなことがあり得る」と述べていることから推察すると、欧州委員会が、真に「自律的（autonomous）」なロボット（robots）に関しては、人間が制御できないもの、または、当初の設計だけからは（自動的な判定を含め）行動予測が不可能な場合があり得ることを理解していることを示していると言うことは可能である。従来の産業用ロボット（robotics）のように、コンピュータプログラムによって制御可能なシステムに関する限り、製造物責任法
等の既存の関連法令の解釈・運用による問題の解決は不可能ではない。現時点における真の問題は、（人工生命体であるロボットを含め）人間が制御不可能な対象に関し、法規範という仕組みを機能させることが可能であるか否か、そして、全く機能しない場合には、法規範に代わるどのような仕組みを構築すべきであるかという点に尽きる。法学者が全ての精神機能を傾けて解決すべきなのは、そのようなタイプの問題なのであり、それができないのであれば、理論法学者であり続けることを断念するしかな
い。普通の法令の普通の解釈・運用であれば、法学者ではない行政官や法律実務家によって十分に遂行可能である。
また、少なくとも、欧州委員会は、EU 条約に定める基本原則の遵守を確保するという枠組みの中でAI の開発と適用が行われることを確保しようとしているのであるが、人類が全く制御できない技術（特に、人工生命体のような完全に自律的な有機体ロボット）が開発されてしまうと、欧州委員会を含め、いかなる者も制御不能な状態に陥ることになる。その意味で、現時点において、AI に関する限り、EU 条
約を含め、法規範による統制は、ほぼ空虚である。しかし、欧州委員会は、そのようなタイプの問題に関しては、完全に沈黙している。あくまでも机上の推察としては、ものごとの本質を理解できないことに起因する可能性も否定できない。
それにも拘らず、委員会通知 COM(2018) 237 final が明確に示す基本姿勢は、重要である。技術開発は、無条件で認められるものではない。技術開発は、一定の価値観を基礎とするものでなければならない。例えば、「人間の尊厳」に反する技術開発は、認められない。のみならず、全ての技術開発は、説明責任を負い、透明性を確保するものでなければならない。日本国においては、このような AI 技術の開発と関連する法的・倫理的な問題に関しては、まるで野放図な状態が続いており、（経済的利益と直結する利益相反に関するものを除き）企業経営者や開発者に対する倫理教育のようなものも全く存
199

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

在しない。その結果、無邪気な開発者が「人間の尊厳」と根本的に矛盾するような技術を開発しても、それがどのような問題をもつかを全く理解できないというような状況が現に存在している。そのことは、
例えば、GDPR における十分性の判定においても、かなり深刻な影響を与える危険性があることに留意すべきである（委員会通知 COM(2018) 237 final の脚注 6 で引用されている委員会通知 COM(2017)
228 final も参照）。
このように AI 技術それ自体が大規模な移行期にあることに伴う問題もあるが、それらの問題を全て一応措くとして、概念及び用語の混同を防ぐため、従来の JIS や ISO における産業用ロボット（robotics）の範疇にある AI 技術やロボット技術については、産業用 AI 技術、産業用ロボットとして、「産業用」という形容詞を付した限定を付した語を用いることを励行することが望ましい。真に自律的な存在は、真に自律的であるがゆえに、それが人類を滅ぼすという判断を自律的に行い、人類を滅ぼすための行動を自律的に実施し、そのような判断や行動を人類が一切制御できないような場合を含め、人類が計画的にその行動を制御することができない。
例えば、有機体で構成される人工ウイルスのようなものを考えてみると、そのような自律性のある人
工有機体組織は、明らかにノーバート・ウィーナー（Norbert Wiener）の言う意味における「サイバネティ
クス（cybernetics）」の一種であり、サイバネティクスは「ロボット（robots）」または「オートマトン（automaton）」の別表現または同義語（synonym）であるので、ロボットの一種であることになり、人類の知能とは異なるけれども明らかに一定の判断機能（自動的なフィードバック機能）をもつ存在であり、かつ、その生体的機能によっては、人類を滅ぼす能力をもつことがあり得る。人類は、それらの人工生命体であるロボットを物理的に抹殺することは全く不可能ではないかもあるかもしれないが、それらの人工生命体であるロボットに対して事前に一定の指示を与えて制御することは、基本的に不可能である。
特に、遺伝子による自己増殖能力をもつ有機体ロボットの場合、分裂・増殖の際の遺伝子コピーの機
会に一定確率で不可避的に発生する転写エラーから突然変異を起こすことがあるので、その遺伝子の中に予め一定の命令を書きこんでおいても全て無意味になってしまう可能性が高い。そのような人工生命体である「ロボット」は、人類に寄生して亡ぼすことを目的として存在していることがあり得るわけ
で、その意味において、ヒトを栄養媒体として殺してしまうという意味での共生しか成立し得ない（人類が滅亡すると、他に寄生宿主が存在しない限り、当該人工生命体であるロボットも栄養源を失って絶滅するという意味でも共生している）ロボットであることになる。これらの諸点については、夏井高人「アシモフの原則の終焉－ロボット法の可能性－」法律論叢 89 巻 4・5 号 175～212 頁 (2017)の中で既に詳論したとおりである。
加えて、人間の目から見れば 1 ミリに遠く及ばない極めて微細な細粒のようにしか見えないが、実際にはナノテクノロジーを駆使した自律型のマイクロロボットであり、それを服用することにより、人間の体内臓器の治療という処理を実行するような物体は、医薬品と医療機器の両方の性質をもつものであり、
特に、それが有機質の物体である場合には、少なくとも現時点における一般的な観念の下においては医薬品ではない。しかし、（一定時間後には化学物質に分解されて吸収または排泄され得るという意味で）機械装置よりもはるかに医薬品的なものである。問題は、それらが自律的に行動するロボットであるという点にある。現代の医薬品及び医療機器関連法制は、そのような技術が現実に使用される事態を想定していないが、現実には、（臨床試験・治験として）既に利用されている可能性がある。また、人工増殖された汎用幹細胞は、それ自体として自律性をもつものであり、かつ、人工的に製造され増殖された細胞であるので、理論的には、サイバネティクス（Cybernetics）またはオートマトン（Automaton）
200

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）の一種である。すなわち、ロボットの一種である。このような考察においては、人間による制御可能性の有無は、一切関係がない。
委員会通知 COM(2018) 237 final は、そのような真の意味での AI またはロボットを想定していない。
あくまでも平賀源内のからくり人形を高度に発展させたような自動機械のみを前提とするものである。
その意味では、委員会通知COM(2018) 237 finalにおける「AI」との語の用法は、機械装置であるもの、
ソフトウェアであるもの、その複合体であるシステムであるものを含め、本来の意味における AI の範疇に含まれる対象の全範囲を包摂するものではなく、基本的には、産業用ロボット（robotics）の範疇に含まれる範囲内に限定されていることが明白である。産業用ロボットの範疇に含まれないものの中には、「高度技術（advanced technologies）」の中に含まれるものがあり得る。ただし、この参考訳は、翻訳文書の一種であるので、欧州委員会の文書の原文に沿って、そのまま直訳することにした。
EU における現時点での AI 政策上の関連文書は、委員会通知 COM(2018) 237 final の脚注で引用されている文書及びそれらの文書の中で示されている文献等を順に追うことにより、ほぼ網羅的に入手することが可能である。
ただし、明白な誤りのある文献も含まれている。例えば、脚注 2 で引用されている経済予測は、工場の自動化に伴う工場労働者の大量失業の結果生ずる需要の喪失によって生産物の販路が消滅し、極端な生産過剰から投資の失敗と経営破綻を招来する危険性、軽労働の自動化によって高齢者の収入源が消滅・減少する結果として招来される高齢者の悲惨な未来の蓋然性を全て無視している。また、この予測は、実在せず、将来も出現する可能性のない需要が世界的に一定であること、または、それが増加することを前提としている点にも明白な誤謬がある。EU が工場労働や農場の自動化を大規模に進めれば米国もアジア諸国も同時に大規模な自動化を進める結果、世界規模で、大規模失業が発生
し、巨視的には購買能力全体が客観的にほぼ欠落する状態となり、世界中のどこにも需要が存在しないといった悲惨な状況が出現し得る。そして、同時に、世界規模で、極めて大規模な投資回収不能状態が発生する。もともと何らの実体を伴わない数字に過ぎない資本が、現実に単なる数字（符号）だけの存在となってしまうのである。それゆえ、世界的規模で自動化を大規模に導入した場合の経済予測としては、社会全体としてはかなり巨額のマイナスまたはカタストロフとなるという予測が基本的に正しい。そのように判断したくない場合であっても、少なくとも、世界的な規模での自動化の同時進行に伴う世界規模の極端な生産過剰と需要の急激な低下または消滅の同時進行という予想シナリオを織り込
んだオプションの予測を加えるべきである。いずれにしても、このような予測を行う場合には、「自分だけは例外」という全く根拠のない自信に基づく想定を完全に否定し、禁止することが必須である。
なお、このような悲惨な未来を避ける唯一の方法は、世界規模での効率性と生産性の低下及び収益性の低下の厳格な強制という方策だけである。しかし、そのような方策が採用される可能性及びその執行可能性は完全に皆無であるし、人間の欲望を抑圧または物理的に消滅させる適法な手段も存在しないので、結局、世界は、なるようにしかならない。
委員会通知 COM(2018) 237 final の 3.1 の「Supporting testing and experimentation」の中では、「セキュリティバイデザイン（security by design）」の概念が用いられている。この概念については、夏井高人「情報社会の素描－EU の関連法令を中心として－(2・完)」法律論叢 90 巻 6 号 165～211 頁(2018)の中で詳論したとおりである。
201

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

一般に、日本国における AI 技術の開発においては、「バイデザイン（by design）」による保護、とりわけ、「プライバシーバイデザイン（privacy by design）」及び「セキュリティバイデザイン」の意識が希薄である。このような状況を打開するためには、例えば、大学の工学部やその大学院等における教育課程
おいて、これらの概念の理解と実装技能を徹底するようなカリキュラム構成を検討する必要があると思われる。特に「プライバシーバイデザイン」の原則は、GDPR における最も重要な基本要件の 1 つであるので、これを全く欠くような製品またはサービスばかりの状況が常態化すると、GDPR に基づく個人
データの第三国移転の十分性判定及びその事後検証においてかなり深刻な支障が生ずる危険性があることに十分に留意すべきである。少なくとも、「プライバシーバイデザイン」及び「セキュリティバイ
デザイン」の保証の全くない製品またはサービスについては、これらを EU 域内に輸出して流通させることができない。
委員会通知 COM(2018) 237 final に示されている投資額（投資予定額）をどのように考えるべきかに
ついては、かなり面倒な問題が存在している。それは、EU 全体の投資額は、EU の全ての構成国における投資額の合算額またはその推計額であるということに由来する。また、日本と同等またはそれ以上の技術力及び国力をもつ構成国（例：ドイツ）単独の投資額は、全構成国の合算額を構成国数で除した平均額とは全く異なる。それゆえ、日本国における投資額の多寡を検討または評価する場合、EU全体の合計額や平均額を考慮することはほぼ無意味なことである。より正確には、日本国と直接の競争関係にある諸国における投資額をまず評価対象とすべきである。ただし、他の構成国との共同投資事業も多数存在しているため、これらについて、適切な調整をした上で、構成国としての投資額を検討
または評価するのが妥当である。加えて、私見によれば、（化学製品である医薬品開発や軍事関係の開発を含め）現時点では AI 関係ではなくバイオ関係に分類されており、そのような名目で研究資金の提供を受けているけれども、実際には人工知能の一種としての人工生命体及び（バイオニックマンの開発を含め）サイボーグまたは（ミュータントの開発を含め）細胞増殖・細胞移植と関連する研究への投資額は、AI への投資額の統計の中に含められていない可能性が高いが、実際には、サイボーグまたは逆サイボーグの基礎技術または応用例として理解可能な自律可動型人工臓器、マイクロバイオテク（micro-biotech）の投資額は相当高いレベルのものとなっている。逆に、バイオコンピュータ関連の研究の中でも AI とは全く無関係のものが AI 投資額の統計に含められている可能性があるが、実際には、バイオコンピュータは、それ自体で単体として利用されるだけではなく、機械装置とバイオ技術とが混在する複合型のシステムとしての開発のほうが一般的である。それゆえ、より正確には、統計の基礎となっている原データの属性を全て完全に精査して洗い直すという地道な作業が必須であり、それを欠く場合，そのような精査と洗い直しを経ていないデータを基礎とするビッグデータ分析結果もまた完全に無意味なものである。しかし、比較的近い将来の人類の子孫が、単純なクローンを経た後、機械装置との複合体としてのサイボーグもしくは逆サイボーグとしてのみ生存し続ける可能性、または、ヒト以外の生物または合成遺伝子を組み込んだミュータントの一種として存在することになるという未来像は否定できない。それゆえ、現時点における開発投資額の推計の段階においても、アルビン・トフラーが『未来の衝撃』及び『第三の波』で示した情報社会のエピローグの予感を全く無視し、それを織りこんだシミュレーションの試みを捨象してしまうことは危険なことである。
日本国で公表されている報道記事等の中には委員会通知 COM(2018) 237 final の中で示されている数値を単純に引用して日本国における投資額等と比較するものもないではないが、上述のような考202

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

慮または留保を全く抜きにするものである限り、そのような記事等は、現時点における AI 応用技術による自動計算結果よりも相当にレベルの低いものである。
委員会通知 COM(2018) 237 final の「1. イントロダクション」の中で示されている環境と関連する法令としては、環境影響評価に関する指令 2001/42/EC（OJ L 197, 21.7.2001, p.30-37）及び指令 2011/92/EU（OJ L 26, 28.1.2012, p.1-21）がある。関連する報告書として COM(2017) 234 final（2017 年 5 月 15 日）がある。
委員会通知 COM(2018) 237 final の「1. イントロダクション」の最後の段落の中で予告されている「aCommunication on the future of connected and automated mobility in Europe」は、委員会通知 COM(2018)
283 final（2018 年 5 月 17 日）として発出された。なお、関連する規則案として、「Connecting Europe
Facility」に関する規則案 COM(2018) 438 final （2018 年 6 月 6 日）がある。
委員会通知 COM(2018) 237 final の「1. イントロダクション」の最後の段落の中で予告されている「aCommunication on the future research and innovation ambitions for Europe」は、委員会通知 COM(2018)
320 final（2018 年 5 月 15 日）として発出された。
委員会通知 COM(2018) 237 final の 3.1 の「Making more data available」にある脚注 35 で述べられている AI 研究におけるテキストマイニング及びデータマイニングの著作権法上の例外の導入とは、2016
年 9 月 14 日のデジタル単一市場著作権指令案（COM(2016) 593 final、SWD(2016) 301 final、SWD(2016) 302 final）のことを指す。この指令案の第 3 条（2018 年 5 月 25 日現在の時点における修正
案では、第3 条及びそのオプション案としての第3 条a）がテキストマイニング及びデータマイニングの適用除外を定める条項である。この適用除外は、情報社会指令 2001/29/EC の第 2 条並びにデータベ
ース保護指令 96/9/EC の第 5 条(a)及び第 7 条第 1 項の例外条項となる。
ところが、デジタル単一市場著作権指令案（COM(2016) 593 final、SWD(2016) 301 final、SWD(2016)
302 final）に対してはかなり強い反対意見があり、特に第 11 条ないし第 13 条に対する批判が強かった。そして、同指令案は、2018 年 7 月 5 日、欧州議会において、欧州議会、理事会及び欧州委員会の三者協議の段階に入ることの可否に関する審議において、反対多数により否決された。同指令案は、
2018 年 9 月、欧州議会において反対のあった部分に関し、内容を修正する手続に入り、その後、再度、審議手続に付される見込みである。
なお、日本国の著作権法（昭和 45 年法律第 48 号）における関連条項は、第 47 条の 7（情報解析のための複製等）である。
委員会通知 COM(2018) 237 final の 3.1 の「Making more data available」にある脚注 37 で示されているリンク先にある欧州委員会の Web ページでは、欧州共通データ空間通知COM(2018) 232 final（2018年 4 月 25 日）も引用されており、その中で、「欧州データ空間」の拡大に関する EU の政策がより詳しく述べられている。
委員会通知 COM(2018) 237 final の 3.1 の「Making more data available」及び 3.3 の冒頭部分の中で203

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

述べられている非個人データ（non-personal data）の流通拡大に関しては、委員会通知 COM(2018) 109
final の中で触れられているとおりであり、規則案 COM(2017) 495 final（2017 年 9 月 13 日）が提案されている。
委員会通知 COM(2018) 237 final の 3.1 の「Making more data available」の最後の囲みの中で示されている「updated Directive on public sector information」とは、指令 2003/98/EC（OJ L 345, 31.12.2003）の改正案である COM(2018) 234 final（2018 年 4 月 25 日）のことを指す。
委員会通知 COM(2018) 237 final の 3.1 の「Making more data available」の最後の囲みの中で示されている「guidance on sharing private sector data in the economy」とは、委員会スタッフ作業文書 SWD(2018)
125 final（2018 年 4 月 25 日）のことを指す。
委員会通知 COM(2018) 237 final の 3.1 の「Making more data available」の最後の囲みの中で示されている「updated Recommendation on access to and preservation of scientific information」とは、委員会勧告
2012/417/EU のことを指す。
委員会通知 COM(2018) 237 final の 3.1 の「Making more data available」の最後の囲みの中で示されている「Communication on the digital transformation of health and care」とは、委員会通知 COM(2018) 233
final（2018 年 4 月 25 日）のことを指す。
委員会通知 COM(2018) 237 final の 3.2 の「Leaving no one behind」の中において出典なしに示されている「Recommendation […] on key competences for lifelong learning」とは、2006 年 12 月 18 日の欧州
議会及び理事会の勧告 2006/962/EC の改正提案である 2018 年 1 月 17 日の SWD(2018) 14 final のことを指すものと思われる。この改正提案は、労働法及び社会保障法と関係する分野の研究者にとっては必読のものであると判断する。
なお、委員会通知 COM(2018) 237 final の 3.2 の「Leaving no one behind」においては、現代社会における労働の必須の要素として、「the acquisition of competences in sciences, technology, engineering andmathematics (STEM)」を掲げている。これは、法学研究者でも同じであると考えられる。なぜならば、純粋に観念論・抽象論だけで形成され、現実社会とは全く無関係なタイプの哲学の範疇に属するものを除き、全ての類型の法学上の考察の対象となる社会的事象が「the acquisition of competences in sciences,
technology, engineering and mathematics (STEM)」を要求される仕事またはその過程またはその産物によって構成されるものである以上、当該対象が「何であるか？」を単純に知るためだけのためにも同じ能力が要求されるからである。これは、従来の日本国の法学で重視されてきた観念論や政治的イデオ
ロギーのみで構成されるような法学理論とは全く異なるものの獲得が求められているのと同じことである。
委員会通知 COM(2018) 237 final の 3.2 の冒頭部分で指摘されているように、AI が主流となってしまっている現代社会及び今後の社会においては、浪漫主義の法学の時代とは異なり、絶えず変化する
技術革新に対応して「education and training […] of teachers and trainers themselves」が要求され、それができなければ、技能を欠く者として当該職業からは外される結果となり得る。要するに、少なくとも EU
204

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）においては、教師という職業及びその社会的役割それ自体について、従来の浪漫主義手的な観念論が否定され、社会にとって有用であり得る「機能（functions）」を提供するために常にアップデートされ続ける能力が重視される時代に移行しつつあるということ、換言すると、職業（jobs）というものが、社会内における機能（facilities）としてパーツ化またはモジュール化してオブジェクト的に理解され、しかも、その機能が比較的短期間で陳腐化してしまう社会状況になっているということを理解することができる。
そのような意味でのオブジェクトとしての機能の内容を構成する項目は、フレームとして記述されることになる。上述の「STEM」は、まさにそれに該当する。
しかし、そのような能力を完全に実装することは、体力的にも精神的にも相当程度にタフな者でなければ客観的に無理であるので（無理に実装させようとすると、精神的または肉体的な破綻を招来する。）、万人に対して要求できるものではない。そのことは、社会内におけるある種の選別の開始を示
唆するものである。
無論、このような理解に対しては批判的な意見があるであろうし、反感をもつこともあるであろう。それは、各人の自由である。しかし、最も重要なことは、従来のような観念論または政治的イデオロギー
だけによって、委員会通知 COM(2018) 237 final に示されているような EU の新たな政策論を有効に論駁することは、基本的に無理なことであるということを明確に認識することである。『孫子』の「謀攻」にあるとおり、「知彼知己 百戰不殆 不知彼而知己 一勝一負 不知彼不知己 每戰必敗」が正しい。
委員会通知 COM(2018) 237 final の 3.2 の「Nurturing talent, diversity and interdisciplinarity」の最後の囲みの中にある「the labour market and the skills mismatch across the EU」の問題を解消するため、オンラ
インによる雇用関係の情報提供とマッチングの仕組みである EURES が構築されており、その根拠法
令として、EURES 規則(EU) 2016/589（OJ L 107, 22.4.2016, p.1-28）がある。
委員会通知 COM(2018) 237 final の 3.3 の冒頭にある「ネットワークシステム及び情報システムに関する最初の EU の法令（The first EU-wide rules on network and information systems security）」とは、NIS
指令(EU) 2016/1148（OJ L 194, 19.7.2016, p.1-30）のことを指す。NIS 指令は、2018 年 5 月 10 日から適用（施行）されている。
委員会通知 COM(2018) 237 final の 3.3 の冒頭にある「e プライバシー規則（ePrivacy Regulation）」の提案とは、e プライバシー指令 2002/58/EC（OJ L 201, 31.7.2002, p.37-47）の改正案であり、2017 年 1 月
10 日に提案され、現在審議中の規則案（COM(2017) 10 final, 2017/0003(COD)）のことを指す。
委員会通知 COM(2018) 237 final の 3.3 の冒頭にある「サイバーセキュリティ法（Cybersecurity Act）」とは、2017 年 9 月 13 日に提案され、現在審議中の規則案（COM(2017) 477 final, 2017/0225(COD)）のことを指す。この規則案は、現行の ENISA 規則(EU) No 526/2013（OJ L 165, 18.6.2013, p.41-58）を大幅に改正し、ENISA の権限を強化するものである。
委員会通知 COM(2018) 237 final の 3.3 の「Draft AI ethics guidelines」の脚注 54 で示されている 2018
年 3 月 9 日の声明書「Statement on Artificial Intelligence, Robotics and ‘Autonomous’ Systems」は、下記のところで入手できる。目下作業が進行中の EU の AI 倫理運用指針案は、この声明書を基礎として策205

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

定されるものと予想される。
https://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf[2018 年 9 月 7 日確認]委員会通知 COM(2018) 237 final の 3.3 の「Safety and liability」の脚注 57 で示されている「機械指令（Machinery Directive）」とは、指令 2006/42/EC（OJ L 157, 9.6.2006, p.24-86）のことを指す。
委員会通知 COM(2018) 237 final の 3.3 の「Safety and liability」の脚注 57 で示されている「無線機器指令（Radio Equipment Directive）」とは、指令 2014/53/EU（OJ L 153, 22.5.2014, p.62-106）のことを指す。
委員会通知 COM(2018) 237 final の 3.3 の「Safety and liability」の脚注 57 で示されている「一般製品安全性指令（General Product Safety Directive）」とは、指令 2001/95/EC（OJ L 11, 15.1.2002, p.4-17）のことを指す。指令 2001/95/EC は、規則(EC) No 765/2008（OJ L 218, 13.8.2008, p.30-47）によって大きく改正されている。
委員会通知 COM(2018) 237 final の 3.3 の「Safety and liability」の脚注 57 で示されている「医療機器（medical devices）」の安全性に関する法令とは、規則(EU) 2017/745（OJ L 117, 5.5.2017, p.1-175）のことを指す。
委員会通知COM(2018) 237 final の 3.3 の「Safety and liability」の脚注57 で示されている「玩具（toys）」の安全性に関する法令とは、指令 2009/48/EC（OJ L 170, 30.6.2009, p.1-37）のことを指す。
委員会通知 COM(2018) 237 final の 3.3 の「Safety and liability」の脚注 58 の中で述べられている「相互運用性（interoperability）」に関しては、電気通信（電子通信）との関係において相互運用性を定める
枠組み指令 2002/21/EC（OJ L 108, 24.4.2002, p.33-50）、アクセス指令 2002/19/EC（OJ L 108, 24.4.2002,
p.7-20）及びユニバーサルサービス指令 2002/22/EC（OJ L 108, 24.4.2002, p.51-77）が重要である。これ
らの指令は、認可指令 2002/20/EC（OJ L 108, 24.4.2002, p.21-32）と併せ、欧州電子通信コード（European Electronic Communications Code）の提案（COM(2016) 590 final, 2016/0288(COD)）に基づき全面改正作業が進行中である。
（この参考訳を作成するに際し考慮した事項）「explainable AI」は、慣例に従い、「説明可能 AI」と訳すことにした。
しかし、説明可能 AI は、相当レベルの低い定型的な処理を自動実行するようなコンピュータシステ
ムを除き、困難または不可能ではないかと思われる。特にニューロベースのシステムではそうである。
しかも、説明可能なのは、数学計算のように、最初から規則が定義されており、その応用に過ぎない場
合に限定される。
数学計算のような機械装置によっても容易に自動実行可能なタイプの範疇に属さないもの（予め規206

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

則が定義されていない場合の判断）については、生きた人間において、自己の思考過程を正確にトレースし、その過程を論理的に説明可能な人間は、極めて僅少である。そもそも、「人間の思考それ自体が、常に、（数学的な意味で）論理的なものであること」を証明する方法がない。
実際には、普通の人間においては、論理的な思考に基づかない（単なる情動または単なる反応に基づく）神経作用の結果が脳の表層に形成され、それが何らかのかたちで外部に表出されるだけの場
合、あるいは、思考と無関係の外部的行動（挙措動作）に過ぎないものが思考の結果によるものと他者から誤解されているだけの場合が圧倒的に多い。加えて、仮に論理的な思考を実行する機能が存在している場合であっても、記憶機能が十分でない場合には、思考それ自体が満足に機能しない。すな
わち、あくまでもモデルによる説明としては、人間のニューロンはエンジンとデータセットが一体化しているという意味でデータ駆動型（data driven）の論理構造をもつものと推定されるところ、仮にこの推定が正しいという前提にたつと、記憶力が十分であることと思考能力の高さとは（全ての場合においてそうであるとは全くもって認め難いが）一定の正比例の関係にたつことが少なくないということが自動的に導出されることになる。そして、人間の日常的な思考や判断の大半は、実は、単なる恣意もしくは欲望の反映、または、反復して脳内に強く記憶されているものに支配された自動的な反復反応に過ぎないものであることが普通である。それだけの要素によってもフィードバックの系であるサイバネティクス（Cybernetics）を構成することは、十分に可能である。
それゆえ、人間の思考を模したシステムを構築してみても、そのシステムが「自己説明可能な存在である」という前提がそもそも間違っている可能性が高い。以上に関して、私は、通産省（当時）の第 5
世代コンピュータ関連の研究に関与していた当時から「ショートカット（shortcut）」として説明してきたが、当時の日本の人工知能研究者の中で私見を理解できる研究者は、ほぼ皆無だった。しかし、現時点においては、私見と同様の懐疑論がかなり多数存在する。今後、この分野の研究が更に進み、多数の実験が積み重ねられるにつれ、私見のような懐疑論のほうが正しいということが次第に（論理的に）証
明されることになる。少なくとも、全ての人類が同一またはほぼ均等な脳細胞構造及び脳神経機能をもっているという（誰も証明できない）前提に立つ限り、この分野における人工知能研究に将来性はないと考えられる。
同様の問題点は、いわゆる「法と経済学」及びその亜流の学派（特に確率論だけで説明しようとする立場）にも存在する。これらの立場の見解と比較すると、フロイト（Sigmund Freud）の見解のほうがずっとましである。
なお、ここで述べていることは、「法と経済」の学派の中で頻繁に用いられている確率論や計算アルゴリズムそれ自体の有用性を一般的に否定する趣旨ではない。それらの手法は、軍事的には極めて高い有用性を示しており、既に多数導入されていると推定される。例えば、より高い費用対効果（効率性）を維持できるような軍隊の配置、作成（operations）の遂行の面では有用である。例えば、「セールスマンの巡回問題」をロボット兵器に応用するような場合にも利用可能であり、自動的に動作する軍用ロ
ボットは、最も効率性の高いやり方で、最も少ないリソースの消費により、くまなく、どこかに隠れている人間を探し出し、1 人残らず漏れなく殺すことが可能となる。ベイズ（Bayes）の確率論を基礎とする AI
技術は、特に複雑に入り組んだ戦闘状況における作戦行動を自動的に最適化するために利用されている。それ以外にも「法と経済」の中で用いられている様々なレトリックのようなものが、軍用 AI の自動学習のための方法論として非常に効果的に応用可能であるし、現に使用されていると推定される。ひ
とくちにロボット兵器とは言っても、それが自己増殖能力をもたない機械装置である限り、現実の運用
207

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）の場面では、弾丸や燃料（エネルギー）の消費と補給を最適化し、破損した部品の交換等を最適化するという問題が常につきまとうのであり、その解決策を AI アプリケーションに求めるのは自然な流れである。このように、「法と経済学」で用いられる機会の多いアルゴリズムや理論等の多くは、実は戦闘や戦争のような殺し合いの場面において最もその有用性を発揮する。それらのアルゴリズムが特に米国において法学の中にも応用されているのは、戦争や戦闘と同様に（社会的な意味での）殺し合い的な要素または潰し合い的な要素の強い「法化社会」であるからこそであるとも言い得る。これは、『禮記』の「儒行」に「禮之以和爲貴」とあり、『論語』の「學而」に「禮之用和爲貴」とあり、また、『憲法十七條』に「以和爲貴」とあるのとは、かなり異なる価値観に基づくものである。
他方、以上とは全く別に、意図的なパラメータの設定変更等による AI システムの不正操作の可能性は常にある。特に、その AI システムに依拠して巨額の取引が自動実行されるような場合、そのシステムの運営者、または、運営者の下で職務に従事する技術者には、常に、詐欺行為、背任行為または横領行為のような古典的な犯罪の誘惑が潜在的に存在している。このような状況下において意図的にバイアスが加えられる場合、正常な説明責任の利用や透明性の実現は期待できない。換言すると、犯罪または犯罪的な行為による説明可能性の意図的な喪失という状況が出現し得る。それゆえ、今後の刑事司法及び犯罪学の主要な検討対象として、古典的なホワイトカラー犯罪の一種ではあるが平均的な捜査官には全く手におえず、少なくとも、合理的な証拠収集が期待できず、また、平均的な裁判官には理解困難であるかもしれないようなタイプの事件に対する司法政策上の対処を考えなければならな
い。少なくとも、簡単な電子的操作のみによって古典的な財産犯が実行可能であるような場合、そのよ
うな簡単なメカニズムを理解可能な人材を大勢用意する必要がある。このことは、そのような事件に関与する者である限り、弁護士でも同じである。
「joint degrees」は、慣例に従い、「共同学位」と訳した。「joint degrees」は、意味的には、同時に複数の学位を取得することであるので、「共同学位」では明らかに本来の趣旨に反すると思われるが、他に適訳がなく、また、直訳するとそうなるので、「共同学位」で甘んじるしかない。もともとの原語である「joint
degrees」それ自体が誤謬的な用語（または概念）であると理解するのが正しい。
ただし、「共同学位」は、数億人に 1 名程度の者（天才レベルの者）が授与され得るか否かというものであり、そのような高度な知能をもつ者を評価できる大学教授が実際には存在しないという問題がある。
同時に、それだけの高度な知能をもつ者は、学位取得のための勉強をする時間があるくらいなら、独自にどんどん研究を進め、無学位のまま世界最高レベルの研究業績をどんどん出すことが可能である
ので、そもそも学位の取得を全く必要としない。その意味で、天才レベルの者に関する限り、実際の能力と学位とは全く無関係のものである。学位がなければ天才ではないという考えしか持てないような判
断能力に欠ける経営者は、短期間のうちに必ずその企業を亡ぼすことになる。
それゆえ、あくまでも一般論としては、賢い企業経営者は、真に天才的な才能の持ち主を求めるのであれば、学位の有無に目を奪われてはならない。仮に博士学位を重視するとすれば、大学院に進学しておらず、ただの 1 日も大学院に在籍していなくても、（儀礼的・名誉的な博士学位を除き）論文博
士として一発で博士学位を取得するような非常に高度な知能をもつ者だけを重視すべきである。
他方において、理系における修士レベルの学位は別の意味をもっていることも否定できない。それは、専門的な教育を受けたことを証明する履修証明のようなものである。その意味で、理系（特に工学系）における学位は、現時点の技術を一応履修した者であるか否かの判別基準にはなり得る。このこと
208

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）は、文系の修士でも基本的には同じである。ただし、それらの修士学位によって証明されるのは、過去の学問的知識の履修の有無という事実だけであり、当該の者の真の能力とは全く無関係であるということ、そして、当該の者が昨日までに学んだ学問が、今日になってみると新理論や新発見によって完全に否定されているかもしれず、その意味で既に陳腐化・無用化しているかもしれないということを冷静に理解できる高度な能力をもつ経営者だけが、その経営者の企業の合理的に統治できることは言うまでもない。同様の理由により、論文の査読者である既存の研究者が若い研究者よりも更に陳腐化しており、その結果として、その査読者の存在それ自体が既に無用なだけではなく有害となっていることさえあり得るので、従来のような意味での論文査読体制は、根本的なところで見直し（または、制度設計のやり直し）を求められていると言える。加えて、今後は、人間が作成した修士論文と AI アプリケーショ
ンによって自動生成された文章とを見分ける効果的な手法の開発も急務である（全ての分野においてAI のほうが人間よりも高度の能力をもつ段階になると、また別の方策が考えられなければならなくなる。
この段階に至ると、そもそも人間の研究者という存在それ自体が不要なものとなる）。これらの点に関する批判・反論は、（他に客観的な判断尺度が確立されていない未成熟の低開発国のような場合を除き）
事柄の本質上、常に成立し得ない。
委員会通知 COM(2018) 237 final において推進しようとしている学際的な才能の育成及び共同学位の授与は、上記の修士レベルのものを想定するものと考えられる。国としては、AI 技術の進展の速度が著しく、現在の技術が数年後には完全に陳腐化して使い物にならなくなるようなことが繰り返されている現状に鑑み、無間地獄的に学際的教育を受け続け、学位取得のためだけに人生を送る終生完全ニート型人間が大量に増加する危険性を十分に想定する必要がある。それを避けるためには、特に専門教育を受けることがなくても、自力で最先端の知識や技能を即座に吸収し、使いこなせるような能力をもつものだけを自動的に判別する AI システムの開発を急いだ方が費用対効果（効率性）に適する政策論であると言える。ただし、そのような意味での効率性だけを追求すると、委員会通知COM(2018)237 final の中でも暗示されているとおり、結果として、深刻な社会不安を招き、政府組織や企業それ自体が物理的に破壊されてしまうような『Mad Max』（1979 年）的なカオス状態に社会全体が突入する危険性がある。そのため、全ての国の政府は、麻薬的または不安沈静的な国家方策として、「訓練と教育によって職を得ることができる」かのように見せかけ続ける努力は継続せざるを得ないと考えられる。それに要する国家支出は、単なる無駄金なのではなく、深刻な社会不安を減衰させるための国家的な安全弁のようなものへの支出として理解されるべきである。従来、国家には、そのようにして世間に対して嘘をつき続けてでも、社会の安定を保つべき義務があったと考えられる。ただし、今後は、そのようなタイプの嘘は、インターネット上の AI 応用アプリケーションと無線通信を介する SNS の更なる普及によって、たちまち露見し続けることになる。
「connected」は、「接続された」と直訳するだけで一応の意味が通ると思われるが、その趣旨を明確にするため、「ネットに接続された」と補って訳すことにした。
モノのインターネット（IoT）に代表されるように、現在の先端デジタル技術の多くは、インターネット経由で遠隔操作または集中管理可能なシステムを前提としている。このことは、もしそうでなければ人間の意思と責任に基づいて可能であるはずの行動範囲を大幅に狭め、人間の自由を本質的な部分で消滅させる要素を多分に含んでいる。また、自分限りの動作で済むはずのものが大規模なシステムを経由して自動実行される結果、例えば、ハッキングやサイバー攻撃のような脅威により、あるいは、システ
209

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

ムを構成する機器の故障やソフトウェアのバグにより、「何もできない」という状況が頻出し得る。ネットと無関係な物的な破損等であれば、日曜大工によって、極めて安価に修理可能であるが、高性能のス
マートホーム関連部品の修理・交換のためには、場合によって家屋全体の建て替えを要することもあり、かなり高価なものとなるのが普通である。このことは、自動化された自動車でも同じである。一般的には、
無人貨物自動車の場合、運転手を解雇することによって削減される人件費分を大幅に上回る運用コス
トと保守管理コストが発生し続けることになるであろう。しかも、ネットに接続された集中管理に関与する者の濫用的な行為またはそのようなシステムのハッキング等により、利用者のプライバシーは、事実上、消滅することになる。
これは、人間にとって極めて不幸な状況の 1 つである。しかし、大半の事業者や消費者は、そのような状況を不幸であるとは考えないようになってきている。その分だけ、生物種としてのヒトのサバイバル
能力が全体的に低下しつつあるというのが真の現況である。生物種としてのヒトの滅びの日は、更に近づいてきている。そのことを悟ることのできないような人々のことを、一般に、「愚物」と呼ぶ。そして、目先の安楽に捕らわれ、敵に対する警戒を忘れるように仕向けることによる謀略の例は、中国の古典（漢籍）の中に多数示されているとおりである。
（訳出済みの関連法令等及び参考文献）
委員会作業文書 SWD(2018) 137 final の参考訳は、法と情報雑誌 3 巻 9 号 233～268 頁にある。ロボット法の制定を求める欧州議会決議の参考訳は、法と情報雑誌 2 巻 5 号 438～492 頁にある。データ駆動型経済通知 COM(2014) 442 final の参考訳は、法と情報雑誌 3 巻 4 号 129～147 頁にある。
EESC 意見書 2017/C 434/06 の参考訳は、法と情報雑誌 3 巻 1 号 151～170 頁にある。製造物責任に関する理事会指令 85/374/EEC の参考訳は、法と情報雑誌 2 巻 10 号 278～291 頁にある。EURES 規
則(EU) 2016/589 の参考訳は、法と情報雑誌 3 巻 5 号 133～167 頁にある。FinTech 通知 COM(2018)
109 final の参考訳は、法と情報雑誌 3 巻 8 号 181～200 頁にある。
NIS 指令(EU) 2016/1148 の参考訳・改訂版は、法と情報雑誌 2 巻 8 号 120～163 頁にある。ENISA
規則(EU) No 526/2013 の参考訳は、法と情報雑誌 3 巻 7 号 263～292 頁にある。サイバーセキュリティ
通知 JOIN(2017) 450 final の参考訳は、法と情報雑誌 2 巻 12 号 113～147 頁にある。ハイブリッドな脅
威報告書 JOIN (2017) 30 final の参考訳は、法と情報雑誌 2 巻 8 号 91～119 頁にある。安全な欧州連
合第 11 次進捗状況報告書（COM（2017）608 final）の参考訳は、法と情報雑誌 2 巻 11 号 156～176 頁にある。
規則 (EU) 2016/679（一般データ保護規則）の参考訳・再訂版は、法と情報雑誌 3 巻 5 号 1～114 頁にある。e プライバシー指令 2002/58/EC の改正案の参考訳は、法と情報雑誌 2 巻 4 号 195～248 頁にある。
情報社会指令 2001/29/EC の参考訳は、法と情報雑誌 2 巻 11 号 1～26 頁にある。データベース保護指令 96/9/EC の参考訳は、法と情報雑誌 2 巻 11 号 73～92 頁にある。指令 2003/98/EC の参考訳
は、法と情報雑誌 2 巻 9 号 48～59 頁にある。指令 2013/37/EU による一部改正後の指令 2003/98/ECの参考訳は、法と情報雑誌 2 巻 9 号 77～83 頁にある。
指令 2002/19/EC（アクセス指令）の参考訳は、法と情報雑誌 3 巻 8 号 329～351 頁にある。指令
2002/20/EC（認可指令）の参考訳は、法と情報雑誌 3 巻 8 号 352～374 頁にある。指令 2002/21/EC（枠210

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

組み指令）の参考訳は、法と情報雑誌 3 巻 7 号 76～108 頁にある。指令 2002/22/EC（ユニバーサルサービス指令）の参考訳は、法と情報雑誌 3 巻 9 号 88～129 頁にある。指令 2009/140/EC による改正後の指令 2002/19/EC の参考訳は、法と情報雑誌 3 巻 9 号 1～16 頁にある。指令 2009/140/EC による改正後の指令 2002/20/EC の参考訳は、法と情報雑誌 3 巻 9 号 17～30 頁にある。指令 2009/140/EC による改正後の指令2002/21/ECの参考訳は、法と情報雑誌3巻9号31～58頁にある。指令2009/136/EC
による改正後の指令 2002/22/EC の参考訳は、法と情報雑誌 3 巻 9 号 59～87 頁にある。
この参考訳を作成するに際しては、上記各参考訳の冒頭部分に掲記の各文献等のほか、弥永真
生・宍戸常寿編『ロボット・AI と法』（有斐閣、2018）、Ugo Pagallo（新保史生ほか訳）『ロボット法』（勁草書房、2018）、平野晋『ロボット法－AI とヒトの共生にむけて』（弘文堂、2017）、Jay David Bolter（土屋俊・
山口人生訳）『チューリング・マン』（みすず書房、1995）、太田邦史『自己変革する DNA』（みすず書房、
2011）、劉家敏「次世代人工知能（AI）産業の発展促進に関する三年行動計画（2018～2020 年）」みずほ総合研究所（2018 年 1 月 23 日）、経済産業省情報経済課編『AI・データの利用に関する契約ガイド
ラインと解説』（商事法務、2018）、内閣府人工知能技術戦略会議「人工知能技術戦略実行計画」（平成30 年 8 月 17 日）、人間中心の AI 社会原則検討会議事務局「国際的な議論等諸外国の動向」（平成 30
年 7 月 5 日）、Luciano Floridi (Ed.), The Onlife Manifesto: Being Human in a Hyperconnected Era, Springer(2014)、Luciano Floridi, The 4th Revolution: How the Infosphere Is Reshaping Human Reality, Oxford
University Press (2014)、Ranjeev Mittu, Donald Sofge, Alan Wagner & W.F. Lawless (Eds.), RobustIntelligence and Trust in Autonomous Systems, Springer (2018)、Jochen Feldle & Eric Hilgendorf (Eds.),
Digitization and the Law, Nomos (2018)、Eric Hilgendorf & Uwe Seidel (eds.), Robotics, Autonomics, andthe Law: Legal Issues arising from the AUTONOMICS for Industry 4.0 Technology Programme of theGerman Federal Ministry for Economic Affairs and Energy, Nomos (2017)、Christian L. Dunis, Peter W.
Middleton, Andreas Karathanasopolous & Konstantinos Theofilatos (Eds.), Artificial Intelligence in Financial
Markets: Cutting Edge Applications for Risk Management, Portfolio Optimization and Economics, palgrave
macmillan (2017)、Manan Suri (Ed.), Advances in Neuromorphic Hardware Exploiting Emerging Nanoscale
Devices, Springer (2017)、Nikhil Buduma & Nicholas Locascio, Fundamentals of Deep Learning: Designing
Next-Generation Machine Intelligence Algorithms, O'Reilly (2017)、Ke-Lin Du & M.N.S. Swamy, Neural
Networks and Statistical Learning, Springer (2013)、Jean Paul Isson, Unstructured Data Analytics: How to
Improve Customer Acquisition, Customer Retention, and Fraud Detection and Prevention, Wiley (2018)、
Gustavo Carneiro et al. (Eds.), Deep Learning and Data Labeling for Medical Applications: First International
Workshop, LABELS 2016, and Second International Workshop, DLMIA 2016, Held in Conjunction with
MICCAI 2016, Athens, Greece, October 21, 2016, Proceedings, Springer (2016)、Cathy O'Neil, Weapons ofMath Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown (2016)、Nick
Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press (2016)、Benjamin Wittes &Gabriella Blum, The Future of Violence: Robots and Germs, Hackers and Drones Confronting A New Age ofThreat, Basic Books (2015)、Bonnie Rochman, The Gene Machine: How Genetic Technologies Are Changing
the Way We Have Kids - and the Kids We Have, Scientific American (2017)、National Science andTechnology Council: Networking and Information Technology Research and Development Subcommittee,
The National Artificial Intelligent Research and Development Strategic Plan, October 2016、Matthias Klumpp,
Innovation Potentials and Pathways Merging AI, CPS, and IoT, Appl. Syst. Innov. 2018, 1, 5; DOI:
211

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

10.3390/asi1010005 (2018)、Hokey Min, Artificial intelligence in supply chain management: theory andapplications, International Journal of Logistics Research and Applications, Vol. 13, Issue 1 (2010)、Bernhard
Waltl & Roland Vogl, Explainable Artificial Intelligence – the New Frontier in Legal Informatics, Jusletter IT
22 (2018)、Anders Andreassen, Ilya Feige, Christopher Frye & Matthew D. Schwartz, JUNIPR: a Framework
for Unsupervised Machine Learning in Particle Physics, arXiv:1804.09720v1 (2018)、Michael A. Ferguson,
Jared A. Nielsen, Jace B. King, Li Dai, Danielle M. Giangrasso, Rachel Holman, Julie R. Korenberg & Jeffrey
S. Anderson, Reward, salience, and attentional networks are activated by religious experience in devout
Mormons, Social Neuroscience, 13:1, 104-116, DOI:10.1080/17470919.2016.1257437 (2018)、Caroline
Juliette Charpentier & John P. O’Doherty, The Application of Computational Models to Social Neuroscience:
Promises and Pitfalls, Social Neuroscience, DOI: 10.1080/17470919.2018.1518834 (2018)、Vincent Hellier,
Olivier Brock, Michael Candlish, Elodie Desroziers, Mari Aoki, Christian Mayer, Richard Piet, Allan Herbison,
William Henry Colledge, Vincent Prévot, Ulrich Boehm & Julie Bakker, Female sexual behavior in mice iscontrolled by kisspeptin neurons, Nature Communications, DOI:10.1038/s41467-017-02797-2 (2018) 、Stephan De Spiegeleire, Matthijs Maas & Tim Sweijs, Artificial Intelligence and the Future of Defense:
Strategic Implications of Small and Medium-Sized Force Providers, Hague Centre for Strategic Studies (2017)、
Michael J. Pelosi & Michael Scott Brown, Software engineering a multi-layer and scalable autonomous forces“A.I.” for professional military training, IEEE Xplore, DOI: 10.1109/WSC. 2016.7822345 (2016)、Gonçalo
Carriço, The EU and artificial intelligence: A human-centred perspective, SAGE Journals, DOI:
10.1177/1781685818764821 (2018)、Rajesh Matai, Surya Prakash Singh & Murari Lal Mittal, Traveling
Salesman Problem: an Overview of Applications, Formulations, and Solution Approaches, DOI:
10.5772/12909 (2010)、V. Vorotnikov, I. Gumenyuk & P. Pozdniakov, Planning the flight routes of theunmanned aerial vehicle by solving the travelling salesman problem, DOI: 10.15587/2312-8372.2017.108537(2017)、Linus J. Luotsinen & Eric Sjöberg, The Modeling and Analysis of Computer Generated Forces
Representing Groups and Organizations in Military Conflict Zones, NATO-OTAN STO-MSG-094 (2012) を参考にした。
＊＊＊

212

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

欧州委員会から欧州議会、欧州理事会、理事会、欧州経済社会委員会及び地域委員会宛通知
欧州のための人工知能
COM(2018) 237 final

1. イントロダクション－受容されつつある変化
人工知能（AI）は、既に我々の生活の一部である－それは、空想科学ではない。我々の日々の仕事を準備するための仮想個人アシスタントの利用から、自律走行自動車による旅行、我々が好み得る
歌またはレストランを示唆する我々の電話まで、
人工知能とは何か？
AI は、現実である。
人工知能（AI）とは、特定の目標を達成するため
我々の生活を容易にするということ以上に、AIに、（幾分かの自律性をもって）その AI の周囲の環境
は、世界の最も大きな検討課題の幾つかを解決を分析し、活動を実行することにより、知的な行動をするために我々を助けている：すなわち、慢性疾示すシステムのことを指す。
患を治療することまたは交通事故における死亡
AI ベースのシステムは、仮想世界で行動する純粋率1を低下させることから、気象変動または予想さにソフトウェアベースのものであり得るし（例：音声補れるサイバーセキュリティ上の脅威と闘うことま助、画像分析ソフトウェア、検索エンジン及び顔認証
でである。
システム）、また、AI は、ハードウェア装置の中に組デンマークにおいては、AI は、通話者の音声み込まれ得る（例：高度なロボット、自動走行自動車、を基礎として、心拍停止またはそれ以外の身体状
ドローンまたはモノのインターネットアプリケーショ
態の診断のための緊急サービスを可能とすることン）。
により、生命を守ることを助けている。オーストリア
我々は、例えば、言語の翻訳、ビデオの字幕生においては、他の膨大な量の医療データと X 線
成、スパムメールのブロックのために、日常的に AI を
写真とを簡単に比較対照することにより、放射線科
利用している。
医が、より正確に腫瘍を検出することを助けてい多くの AI 技術は、その能力を向上させるためにデる。
ータを必要とする。それが首尾よく実施されると、そ彼らの動物の移動、温度及び飼料消費を監視
れは、同じドメインにある判定の向上と自動化を助けするため、欧州中の多数の企業が、既に AI を利得る。例えば、AI システムは、関係するネットワークま用している。AI システムは、農業主が彼らの動物
たはシステムからのデータを基礎として、訓練され、の状態を監視することを援け、彼らが別の仕事をそして、サイバー攻撃を照らし出すために使用されるする余裕をつくり出すために、暖房装置及び給餌ことになる。
装置を自動的に調整する。そして、AI は、欧州の製造業がより効率的なものとなるため、及び、工場が欧州へと回帰することを助けるためにも支援を続
1

交通事故の約 90％はヒューマンエラーによるものと推定されている。欧州委員会の報告書 Saving Lives:
Boosting Car Safety in the EU (COM(2016) 0787 final)参照。
213

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

けている2。
これらは、エネルギーから教育まで、金融サービスから建設まで、AI が全ての部門を横断して実行可能であることを我々が知っている多数の例の一部に過ぎない。現時点では我々が想像することのできない無数の事例が次の 10 年間に出現することになる。
過去における蒸気エンジンまたは電気と同様、AI は、我々の世界、我々の社会、そして、我々の産業を変化させている3。計算パワーの成長、データの可用性、及び、アルゴリズムにおける発展は、
21 世紀の最も戦略的な技術へと AI を変化させた。賭け時は今である。我々が AI にアプローチする
方法は、我々が住む世界を決定付けることになる。熾烈でグローバルな競争の中で、安定した欧州の枠組みが必要である。
欧州連合（EU）は、AI によって提示される機会を最大化するため、及び、AI がもたらす検討課題に対処するため、調整されたアプローチをもたなければならない。その価値及びその強さに基づき、EUは、永続的に AI を開発し、利用する方法を導くことができる。AI は、以下のものに活かすことができる：－ 世界規模の研究者、研究施設及びスタートアップ。EU は、産業用ロボットにおいても強く、そして、
特に、AI 導入の最前線であるべき運輸部門、医療部門及び製造部門において、世界を主導する産業をもつ；－ デジタル単一市場。例えば、EU 内におけるデータ保護及びデータの支障のない移動のような共通の法令、サイバーセキュリティ及び接続性は、会社が企業活動を遂行することを助け、国境を越えてスケールアップし、そして、投資を推進する；並びに、－ AI システムにフィードするために解き放たれる産業部門のデータ、調査研究部門のデータ及び公的部門のデータから得られる富。欧州委員会は、この通知と並行して、二次利用のために（AIの原材料である）データの共有をより容易にし、かつ、データをよりオープンなものとする活動を行っている。これは、とりわけ、公益事業及び環境に関するデータ、並びに、調査研究及び医療のデータのような、公的部門からのデータを含める。
欧州の指導者は、彼らのアジェンダのトップに AI を掲げさせる。2018 年 4 月 10 日、24 の構成国4とノルウェーは、AI に関する共同作業を合意した。この強固な政治上の支持に基づき、以下を確保するための大きな努力を尽くすべきが到来している：－ 欧州は、その経済的な重要性に合う大胆な投資をもち、AI の状況の中において競争的である。
これは、次世代の AI 技術開発のための調査研究及び技術開発の支援、及び、会社（とりわけ、EU における企業の 99％を占める中小企業）が AI を導入できることを確保するための展開の支援に関するものである。
2

Why AI is the future of growth, Accenture, 2016。知的労働の自動化、ロボット及び自動走行自動車の経済的影響は、2015 年までに、（生産性の向上及び高齢者の生活の質向上を含め）年額で 6 兆 5000 億ユーロないし 12 兆ユーロの間に達し得る。出典：Advances that will transform life, business, and the global economy,
McKinsey Global Institute, 2013。
3
AI は、欧州委員会のデジタル産業戦略（COM(2016) 180 final）の一部であり、また、改訂された EU 産業
政策（COM(2017) 479 final）の一部である。
4
オーストリア、ベルギー、チェコ共和国、エストニア、フィンランド、フランス、ドイツ、ハンガリー、アイルラン
ド、イタリア、ラトビア、リトアニア、ルクセンブルク、マルタ、オランダ、ポーランド、ポルトガル、スロバキア、
スロベニア、スペイン、スウェーデン、英国。
214

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）－

デジタル変革の陰で誰も置き去りにされない。AI は、仕事の質を変化させている：職業が生まれ、別の職業が消滅し、大半の職業が変化する。全てのレベルにおいて、教育の現代化は、政府の優先事項の 1 つでなければならない。全ての欧州人は、彼らが必要とする技能を獲得するための全ての機会をもつものとしなければならない。才能が育成されなければならず、ジェンダーバ
ランスと多様性が推進されなければならない。
－ 新たな技術は、価値観を基礎とする。一般データ保護規則は、2018 年 5 月 25 日に現実のものとなる。それは、人々と会社の両者にとって長期的に重要である信頼の構築のための重要なステップである。すなわち、技術に対する EU の持続的なアプローチは、欧州連合の価値観に基づく変化を受容することにより、競争力を創造する5。技術変革と同様、幾つかの AI アプリケーション
は、例えば、法的責任、または、潜在的にバイアスのかかった判定のような、新たな倫理上の問
題及び法的問題を生じさせ得る。それゆえ、EU は、技術革新を促進し、かつ、欧州連合の価値観及び基本的な権利を尊重し、並びに、説明責任及び透明性のような倫理上の基本原則を尊重する適切な枠組みの中で、AI が開発され、適用されることを確保する。EU は、グローバルな場において、この議論を主導するために好都合な立場にもある。
これは、EU が、どのようにして相違をつくり出すことができるか－そして、人々と社会全体に利益をもたらす AI へのアプローチのチャンピオンとなることができるかということである。

AI に関する欧州の取り組みの開始
2017 年 5 月、欧州委員会は、デジタル単一市場戦略の中間見直し結果6を公表した。それは、AI の技術、プラットフォーム及びアプリケーションの開発における主導的な地位にあるための、欧州の科学及び産業の強化の構築、並びに、欧州の革新的なスタートアップの構築の重要性を強調している。
2017 年 10 月の欧州理事会は、EU が、「高いレベルのデータ保護、デジタル権利及び倫理基準を同時に確保しつつ」、AI のような先端トレンドに対応する緊急性を意識することの必要性を述べ、そして、「欧州委員会に対し、人工知能への欧州のアプローチを提案すること」を要請した7。欧州議会は、
産業用ロボットに関する民事法上の規則に関する広範囲な勧告を行い、また、欧州経済社会委員会も、この問題に関する意見書を発した8。
この通知は、AI に関する欧州の取り組みを定める。それは、以下のことを目的とする：
 民間部門及び公的部門の両者により、EU の技術と産業の能力及び経済全体の AI の受容を加速する9。調査研究及び技術革新への投資並びにデータへのより良いアクセスを含める。
5

EU 条約第 2 条：「欧州連合は、人間の尊厳、自由、民主主義、平等、法の支配の尊重、並びに、少数に属する人々の権利を含め、人権の尊重という価値観を基礎とする」。構成国は、「価値相対主義、非差別、寛容、公正、連携、並びに、女性と男性との間の平等を優越的なものとする社会」を共有する。
6
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM:2017:228:FIN
7
http://data.consilium.europa.eu/doc/document/ST-14-2017-INIT/en/pdf
8European Parliament resolution with recommendations to the Commission on Civil Law Rules on Robotics(2015/2103(INL)); European Economic and Social Committee opinion on AI (INT/806-EESC-2016-05369-00-00AC-TRA).
9
AI は、公的サービスを大きく向上させ、電子政府に関する閣僚宣言－タリン宣言（2017 年 10 月：https://ec.
215

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）



教育制度及び訓練制度の現代化を推進すること、才能を育成すること、労働市場の変化を予測すること、労働市場の転換及び社会保護制度の調整を支援することにより、AI によってもたらされる社会経済上の変化への準備を整える。
 欧州連合の価値観を基礎として、かつ、EU の基本権憲章に沿って、適切な倫理上及び法律上の枠組みを確保する。これは、既存の製造物責任法令に関する来るべき運用指針、新たに先端的な検討課題の詳細な分析、及び、欧州 AI アライアンスを通じて行われる AI 倫理運用指針の策定10のための利害関係者との協力を含む。
これら全ては、力の結集を要する。この通知、及び、2018 年 4 月 10 日に 24 の構成国によって署名された協力宣言11の中で定めるアプローチに基づき、欧州委員会は、AI に関する調整的な計画に関し、構成国と共に作業する。2018 年末までにこの計画の合意を得るため、産業のデジタル化のための国内の取り組みの既存の欧州プラットフォームの枠組みの中で、決定が行われる。その主たる狙い
は、EU レベル及び国内レベルの投資の影響を最大化すること、ベストプラクティスを交換すること、そして、EU 全体がグローバルに競争力をもつことができることを確保するために進む道を集団的に決定することになる。
数週間以内に、欧州委員会は、欧州におけるネットに接続され自動化されたモビリティの将来に関する通知及び欧州のための将来の調査研究及び技術革新の抱負に関する通知を発出する。AI は、これらの取り組みにおける重要な要素となる。

2. 国際的な競争力のあるリーダーシップにおける EU の立場
大半の先進諸国は、AI のゲーム変更的な性質を認識しており、それらの諸国それ自体の政治的、経済的、文化的及び社会的な制度を反映する異なるアプローチを採用した12。
合衆国政府は、2016 年、AI 戦略を提示し、未分類の AI 調査研究に約 9 億 7000 万ユーロを投資した。「次世代人工知能発展計画」と共に、中国は、2030 年までにグローバルなリーダーシップを目標とし、大規模な投資を行っている13。それら以外の日本及びカナダのような諸国も AI 戦略を採択した。
合衆国及び中国では、大企業が AI に大規模投資をしており、莫大な量のデータを収集している14。
全体として、アジアにおける 65 億ユーロ～97 億ユーロ、北米における 121 億ユーロ～186 億ユー
ロと比較すると、2016 年には合計すると約 24 億ユーロ～32 億ユーロであり、民間の AI 投資において、欧州は劣後している15。
europa.eu/digital-single-market/en/news/ministerial-declaration-egovernment-tallinn-declaration）に定める目標に貢献する。例えば、欧州委員会は、AI が、大量のデータを分析し、単一市場の法令がどのように適用されているかを点検する助けとなる可能性に着目する。
10
科学及び新技術に関する欧州グループの作業に基づく。
11
https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence
12
欧州委員会の欧州政治戦略センターの Strategic Note: The Age of Artificial Intelligence, 2018 も参照。
13
最近のアナウンスメントは、17 億ユーロの北京の AI テクノロジーパーク計画を含んでいる。
14（USA 及び EU を合わせた分量を超える）14 億の携帯電話加入者及び 8 億のインターネット利用者により、中国の人々は、AI 製品関連の開発に使用される莫大な量の個人データを生成している。
15
10 imperatives for Europe in the age of AI and automation, McKinsey, 2017.
216

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

それゆえ、投資を刺激し、民間投資を梃入れするEU から資金提供を受けたプロジェクトは、ための環境をつくり出し、公的資金を使用するため
例えば、以下のものを発展させた：の作業をEUが継続することは、重要なことである。そ 除草剤の必要を削減する機械的な除のようにするため、EU は、その資産を保持し、基礎と草を可能とする無人農業機械；する必要がある。
 安全な運転の推奨を提供し、交通事
欧州は、世界を主導する AI 調査研究コミュニティ
故を減少させるための AI とモノの並びに革新的な起業家及び（科学的な発見またはエ
インターネットを用いる高速道路パンジニアリングに基礎づけられた）ディープテクのス
イロットプロジェクト；
タートアップの所在地である16。欧州は、世界の産業  自動車製造工場における労働者の反用サービスロボット及び専門サービスロボット（例：精復作業を支援し、製造プロセスの効
密農業、セキュリティ、医療、ロジスティックのための率性を向上させるロボット。
ロボット）の 4 分の 1 以上を生産する強力な産業をもっており17、また、（それら全てが AI への依存を増加させている）製造業、医療、輸送及び宇宙科学において主導的である。会社及び組織へのサービス（ビジネスツービジネス）を提供するプラットフォー
ム、「知的企業」及び電子政府へ向けた発展のためのアプリケーションの開発及び開拓において重要な役割を演じている。
EU が競争力をもつための主要な検討課題の 1 つは、EU の経済全体にわたる AI 技術の受容を確保することである。欧州の産業は、列車に乗り遅れてはならない。欧州の一部の会社だけが既にデジタル技術を採用した。この傾向は、とりわけ、中小企業において明瞭である。2017 年、EU の大企業の25％及び中小企業の 10％がビッグデータ分析を利用した。中小企業の 5 分の 1 だけが高度にデジタル化されたが、他方において、3 分の 1 の職場は、基本的なデジタルスキルをもっていない18。それと同時に、AI を採用する利益は、広く認識されている。例えば、2018 Digital Transformation Scoreboard は、農業食品部門及び建設部門で AIを採用した企業が、新たな市場への参入、製品またはサービスの向上、及び、新たな顧客の獲得において積極的な影響を認めているということを示している19。
EU のこれまでの努力：AI を最大限に活用するための基礎の構築
AI は、2004 年以来、EU の調査研究及び開発の枠組み計画の中で、産業用ロボットの開発に特に焦点をあてて格別の取り扱いを受けてきた。2014 年～2020 年の間に、投資は、産業用ロボットに関する官民パートナーシップの一部としての民間投資の 21 億ユーロによって補充され、7 億ユーロ増加し16

欧州は、世界中のトップ 100 の AI 研究機関の中で最も大きな割合を数える。AI 関連の研究論文引用のグローバルトップ研究機関が 32 であるのに対し、USA は 30、中国は 15 である。出典：Atomico, State ofEuropean Tech, 2017。1988 年に設立されたドイツ人工知能研究センター（DFKI）は、AI の分野における世界で最も大きな研究センターの 1 つである。
17
World Robotics 2017, International Federation of Robotics. Europe is home to three of the world's largest producers
of industrial robots (KUKA, ABB and Comau).
18
https://ec.europa.eu/digital-single-market/digital-scoreboard。McKinsey (2016)によれば、デジタルフロンティ
アにおいて業務遂行する欧州の会社は、US の対応する会社と比較して、60％のデジタル化レベルを達成しているのみである。
19
https://ec.europa.eu/growth/tools-databases/dem/monitor/scoreboard
217

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）た。これらの努力は、産業用ロボットにおける欧州のリーダーシップに大きく貢献した。
ビッグデータ、医療、リハビリテーション、輸送及び宇宙関連の調査研究を含め、Horizon 2020 の調査研究及び技術革新計画に基づき、2014 年から 2017 年の期間中、AI 関連の調査研究及び技術革新において、全体として、約 11 億ユーロが投資された20。
加えて、欧州委員会は、AI の鍵となる重要な取り組みを開始した。それらは、AI のオペレーションを実行するために特別に構築されたチップ（ニューロモーフィックチップ）21のような、より効率的な電子コンポーネント及びシステムの開発；世界クラスの高性能コンピューティング22、並びに、量子技術及び人間の生体脳のマッピングに関する旗艦プロジェクト23を含む。

3. これからの道：AI に関する EU の取り組み
3.1 EU の技術と産業の能力及び経済全体の AI の受容の加速
公的部門及び民間部門は、革新的な AI ソリューションを開発すること、及び、それを広範な分野で適用することの両方から得られる機会を掴まなければならない24。
EU は、AI の技術開発において先行していなければならず、かつ、EU の経済全体にわたり AIが迅速に取りこまれることを確保しなければならない。このことは、基礎研究を強化し、科学的なブレークスルーを生じさせ、AI 調査研究インフラをアップグレードし、医療から輸送までの重要な部門において AI アプリケーションを開発し、AI の受容とデータのアクセスを容易にするための投資を拡大することを意味する。
EU の経済的重み及び他の大陸における投資額に即して、2020 年まで及び同年よりも後の投資額全体を徐々に増加させるための、（国内レベル及び EU レベルの）公的部門と民間部門の両者による共同作業が必要である。
昨年の EU における公的部門及び民間部門の AI の調査研究及び開発の投資は、40～50 億ユーロと推計された25。（公的部門と民間部門を併せた）EU 全体としては、2020 年までに、この投資を
20

https://eu-robotics.net/sparc/
ニューロモーフィックチップは、脳のような生物学的構造に基づいてモデル化されている。このプロジェク
トは、the Electronic Components and Systems for European Leadership joint undertaking（2020 年までに 48 億ユーロの官民投資）の一部である。
22
https://ec.europa.eu/digital-single-market/en/eurohpc-joint-undertaking。このインフラは、研究者に対し、学術分野及び国境を越えて、研究者のデータを記録保存し、処理し、共有し、そして、二次利用するための仮想環境を提供する欧州オープンサイエンスクラウドを支える：https://ec.europa.eu/research/openscience/23
https://ec.europa.eu/digital-single-market/en/fet-flagships
24
近時の報告書「High Level Group on Industrial Technologies」は、AI のもつ変革的な役割、及び、産業界がそのリーダーシップを維持するために AI を利用すべき必要性を強調し、AI を「重要な実現技術」として認めた：http://ec.europa.eu/research/industrial_technologies/pdf/re_finding_industry_022018.pdf
25
情報通信技術（ICT）の調査研究及び開発（R&D）への公的支出及び企業の支出に基づくデータ（情報源：欧州委員会「Prospective Insights in ICT R&D, PREDICT」）、並びに、2014 年以降の情報通信技術の調査
218
21

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

少なくとも 200 億ユーロ増加させることを目標としなければならない。そして、EU は、その後 10 年間にわたり、毎年 200 億ユーロ以上を目標としなければならない（この目標は、次期 EU 多年度財政枠組みに関して採られる決定を先取りするものではない）。
欧州委員会は、2018 年 4 月 10 日に署名された協力宣言に基づき、投資を揃え、投資を開始す
ることを助けるための計画を調整することに関し、構成国と共に、作業を行う。
そのような努力を尽くさなければ、EU は、AI から提示される機会を失い、頭脳流出と直面し、どこかの国で開発されたソリューションの消費者となってしまうリスクを負うことになる。それゆえ、EU は、市場に対してより多くの技術革新をもたらしつつ、調査研究の発電所としての EU の立場を強化しなければならない。（大企業と小企業の別を問わず）欧州の会社の大多数もまた、AI 技術を導入しなければならない。

投資の拡大
2018 年～2020 年
共同作業を支援するため、欧州委員会は、2020 年末までに、Horizon 2020 の調査研究及び技術革
新枠組み計画に基づく AI への投資を約 15 億ユーロ増額しつつある（これは、年平均額 5 億ユーロとなり、約 70％の増加を示すものである）。既存の官民パートナーシップに基づき、この投資額は、同じ期間内にわたる追加的な 25 億ユーロの引き金となる。
これらの投資は、AI における調査研究及び技術革新を統合すること、試験及び実験を推進すること、AI 専門調査研究センターを強化すること、そして、中小規模の企業に焦点を当てて、全ての潜在的な利用者に向けた AI 導入のための努力の開始を狙いとすることになる。
（既に確立されたパートナーシップを超えて）構成国26及び民間部門が同様の投資の努力を行う場
合、EU における総投資額は、年約 70 億ユーロの成長となり、総合計では、2020 年末までに 200 億ユーロを超過することになる。このことは、次の 10 年間にわたる更なる増加の努力にとって EU を有利な立場に置くことになる。

研究室から市場までの調査研究及び技術革新の強化
欧州委員会は、基礎研究及び産業上の調査研究の両者において、AI 技術を支援する27。これは、医療、ネットに接続され自動化された運転、農業、製造業、エネルギー、次世代インターネット技術、セ研究及び開発の一部としての AI への資金分担（約 13％）に基づく推計。従前の趨勢に基づき、調査研究及び開発に対して割り当てられる政府予算と投資の主要部分を示す調査研究及び開発への企業の支出について、同様の分担が計算されている（約 40 億ユーロ、これは、近時の McKinsey の判断と一致している）。
26
例えば、フランスは、今後 5 年以上にわたり、15 億ユーロの AI への投資を行うとアナウンスした。
27
AI 関連の調査研究に対する全ての支援を先導する基本原則は、人間を中心に据えた「責任ある AI」の開発である。欧州委員会のワークストリム「Responsible Research and Innovation」参照：https://ec.europa.eu/
programmes/horizon2020/en/h2020-section/responsible-research-innovation219

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

キュリティ及び（法務を含め）行政活動のような重要な適用分野におけるプロジェクトへの投資を含める。
資金は、AI／産業用ロボットの実現における欧州の力も強化することになる。
欧州委員会は、欧州技術革新理事会の先導を介した AI のような市場構築の技術革新のブレーク
スルーも支援する28。1000 の全財的なブレークスループロジェクトと 3000 の実用化助成金を支援する
ために、2018 年～2020 年の間に 27 億ユーロの予算が利用可能となる。AI 技術は、例えば、医療、農業及び製造業のアプリケーションに関し、多数のプロジェクトの一部となることが予想されるので、この先導の制度は、AI の開発にとって特に助けとなり得るものである。
基礎研究の資金は、科学上の専門性を基礎として、欧州調査研究理事会から提供されることが期待される。Marie Skłodowska-Curie 活動は、全ての段階の研究者キャリアに対して助成金を提供し、過去何年にもわたり、AI の調査研究を支援してきた。

欧州全域にわたる AI 専門調査研究センターの支援
AIに焦点を絞った調査研究センターを共同設置するための構成国の努力に基づき、欧州委員会は、
欧州全域にわたる AI 専門調査研究センターを支援し、強化する。欧州委員会は、それらの共働活動とネットワーク化も推進し、容易にする。

全ての小企業及び潜在的利用者への AI の導入
欧州の人々は、全ての人々にとってそれが利用可能であり、アクセス可能な場合に限り、AI からの利益を収穫できる。欧州委員会は、全ての潜在的利用者の最新技術へのアクセス、特に、中小企業、非技術部門の会社及び行政機関のアクセスを容易にし、かつ、AI を試してみることを推進する。その目的のために、欧州委員会は、「AI オンデマンドプラットフ
ォーム」の開発を支援する。そのプラットフォームは、全ての利用者に対し、知識、データリポジトリ、計算力（クラウド、高性能コンピューティング）、ツール及びアルゴリズムを含め、EU 内の関連AI リソースへの
単一のアクセスポイントを提供する。このプラットフォームは、サービスを提供し、その技術の潜在的な利用者への支援を提供し、利用者の個別の状況において AI の背後にあるビジネス事例を分析し、そして、利用者のプロセス、製品及びサービスの中に利用者 AI ソリューションを統合することを助ける。そのプラットフォームへのアクセスを容易にするため、400 を超えるデジタル技術革新ハブの既存のネット
28

デジタル技術革新ハブは、デジタルな機会の優位を獲得するために、会社（特に中小企業）を助ける。それは、技術、試験、技能、ビジネスモデル、資金調達、市場情報
及びネットワーク化に関する専門知識を提供する。
例えば、自動車産業のための金属部品を製造する小規模会社は、（例えば、サイエン
スパークであり得る）地域ハブと相談でAI を用いてどのように製造プロセスをき、向上させるかの助言を求めることができる。そして、ハブからの専門家は、工場を訪問し、製造プロセスを分析し、ハブのネットワークの中で他の AI 専門家と相談し、提案書を作成し、そして、それを実装する。これらの活動は、部分的には、EU の財源から資金提供を受け得る。

https://ec.europa.eu/programmes/horizon2020/en/h2020-section/european-innovation-council-eic-pilot
220

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

ワーク29がそのための道具となる。更に別のハブが稼働しつつあり、AI に焦点を絞ったデジタル技術
革新ハブの専用ネットワークが形成されることになる。
欧州委員会は、中小企業のための AI の機会を予想し、非技術部門における重要産業 AI アプリケーションを先導し、そして、中小企業のための欧州高度製造業支援センターを強化するため、価値連鎖におけるシステミックな変動も分析することになる。

試験及び実験の支援
AI 製品及び AI サービスの試験及び実験は、それらを市場に出荷可能な状態とするため、安全性の基準及び法令並びにバイデザインの安全性を遵守するため、そして、政策決定権者が適切な法的枠組みを検討するための新技術の経験を獲得できるようにするために、重要なものである。欧州委員会は、全ての規模の企業及び全ての部門の企業に対して開かれている試験インフラ及び実験インフラの設置を支援する。デジタル技術革新ハブのネットワーク設置を基盤として、医療、輸送、インフラの監視及び維持管理、農業食品製品及びアジャイル製品の分野において、AI 製品及び AI サービスのための最初の一連の試験インフラ及び実験インフラが設けられる。

民間投資の享受
調査研究及び技術革新の枠組み計画に基づく投資に加え、AI 変革における十分なレベルの民間投資が重要である。デジタル化を促進するためのより広い努力の一部として、AI の開発と受容を支援するための民間投資の享受のために、戦略的投資のための欧州基金が更に動員されることになる。
欧州委員会は、2018 年～2020 年の期間におけるこの分野の総投資額が少なくとも 5 億ユーロに達す
ることを目標として、欧州投資銀行グループと共に作業を行う。加えて、欧州委員会及び欧州投資基金
は、欧州全域にわたる会社の革新的なスタートアップ及びスケールアップへの投資を加速するため、
21 億ユーロの Pan-European Venture Capital Funds-of-Funds 計画（VentureEU）を開始した。欧州委員会
は、産業のデジタル化のためのその取り組みの一部としての支援も提供する30。
2018 年～2031 年において31、欧州委員会は、約 15 億ユーロを以下のものに投資する：
 欧州の産業上のリーダーシップ、科学における専門性を強化するため、並びに、医療、輸送
及び農業食品のような諸部門における社会的検討課題に対処する AI アプリケーションを支援するための AI 技術の調査研究及びそれへの投資。欧州委員会は、欧州技術革新理事会の29

欧州委員会の欧州産業のデジタル化に関する 2016 年 4 月 19 日の通知（COM/2016/0180 final）及びハブのリストも参照。
30
欧州委員会は、EU の産業上のリーダーシップを強化するための AI の統合を含め、欧州にとって戦略上の重要性のある価値連鎖のための適切な大規模資金提供を判断し、確保するため、欧州の共通利益の重要プロジェクトのための戦略フォーラムを開始したところである。更に、欧州委員会は、欧州委員会の産業現代化に関するスマート専門化プラットフォームを通じて、高度技術及び AI への投資のための地域間パート
ナーシップを支援し、促進する。
31
諸活動は、Horizon 2020 作業計画から派生する。それらの活動は、現行の資金計画に含まれる範囲内で資金提供を受け、コミトロジー手続の枠内にある作業計画の将来の見直しに服する。
221

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

パイロットフェーズを通じて、ブレークスルー、市場をつくり出す技術革新も支援する；
 AI 調査研究専門センターの強化；並びに、
 中小企業、非技術部門の会社及び行政機関に焦点を絞り、潜在的な利用者のためのツール
ボックスを介した欧州全域にわたる AI の受容：これは、最新のアルゴリズム及び専門知識の支援及びそれへの容易なアクセスを提供する AI オンデマンドプラットフォームを含めることになる；試験及び実験を容易にする AI に絞ったデジタル技術革新ハブのネットワーク；並びに、高品質のデータセットを提供する産業用データプラットフォームの設置。
加えて、欧州委員会は、戦略的投資のための欧州基金に基づき、AI へのより多くの民間投資を刺激することを目標としている（2018 年～2020 年において少なくとも 5 億ユーロ）。
2020 年よりも後次期 EU 多年度財政枠組み（2021 年～2027 年）に基づく欧州委員会提案は、以下への投資の扉を開く：
 AI 専門センターの汎欧州ネットワークのアップグレード； 説明可能 AI32、教師なし自動学習、エネルギー及びデータの効率性33のような分野における調査研究及び投資； 追加的なデジタル技術革新ハブ、輸送、医療、農業食品及び製造業のような分野において、規制サンドボックスに支援された世界的に主導的な試験及び実験の機能34；
 構成国との共同投資を通じて、公共の利益のアプリケーションを含め、全ての部門にわたる組織による AI の導入の支援；
 AI の利用及び開発のための共同の技術革新調達の開拓；並びに、
 企業部門及び公的部門のアプリケーションの開発を容易にするための AI オンデマンドプラッ
トフォームと緊密に連携するデータ共有のための支援センター。
欧州委員会は、高性能コンピューティング、マイクロエレクトロニクス、光工学、量子技術、モノのイン
ターネット及びクラウドのような、AI を支え、可能とする技術及びインフラに対する支援も継続する予定である。そのようにする際、欧州委員会は、AI 価値連鎖をよりグリーンなものとするエネルギー効率の良い技術及びインフラを支援する。

データをより利用可能なものとする
AI は、その構築のために膨大な量のデータを必要とする。AI の 1 つのタイプである自動学習は、利用可能なデータの中からパターンを発見し、新たなデータに対してその知識を適用する35。データ32

透明性を向上させ、バイアスまたはエラーのリスクをミニマム化するため、AI システムは、そのシステムの動作（の基礎）を人間が理解できるような態様で開発されなければならない。
33
これらは、AI を訓練するためにより少ないデータを使用するための手法となりつつある。
34
これらは、（まだ）規制を受けていない新たなビジネスモデルを試す場である。
35
時として、パターンの発見は、それ自体が活動の目的である：テキストマイニング及びデータマイ222

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

セットが大きければ大きいほど、データの中にある微妙な意味までもがより良く発見され得る。AI を使用する場合、データが豊富な環境は、より大きな可能性も提供することになる。これは、データがアル
ゴリズム学習の手段であり、その環境と相互作用をもつことによるものである。例えば、工場内の機械装置及びプロセスが継続的にデータを生成し続けるとすれば、AI の助けにより、より大きな自動化と最適化が達成され得る。例えば、何が起きているのかに関するデジタル化されたデータのない、紙ベースの業務遂行の状態にある場合のようなアナログの状況においては、このことは、妥当しない。
このような観点からすると、データへのアクセスは、競争力のある AI 環境にとって鍵となる重要な要素であり、EU は、それを促進しなければならない。
EU は、過去 15 年以上にわたり、EU の宇宙計画 ディープラーニングは、画像認識、会話認識（Copernicus36、Galileo）から生成されるデータのよう
または機械翻訳のような、特定の仕事の遂な公的部門の情報及び二次利用に関する公的に資 行を驚異的に改善することにより、
AI にと金付けられた調査研究結果を公開するために大きってのゲームチェンジャーとなった。
な努力を尽くしてきた。そのようなデータのアクセシ
対象を分類するためのディープラーニン
ビリティ及び二次利用可能性を向上させる取り組みとグアルゴリズムの訓練は、（例えば、飛行
共に、このデータの身体は、更に成長する。
機の写真のように）正確に分類された多数
公共政策は、個人データの保護に関する法令ののラベルを付された標本（例：写真）に対尊重を全面的に尊重しつつ、民間に保有されているしてそれを実行することによって行われデータのより広範な利用可能性も推進しなければなる。
らない。欧州委員会は、会社に対し、AI の訓練の目 訓練された後は、アルゴリズムは、そのア的のための場合を含め、非個人データの二次利用 ルゴリズムが見たことのない対象を正確の重要性を認識することを要求する。
に分類でき、ある場合においては、人間にデータ共有のための新たな支援センターは、公的 よる正確性を超過する正確性をもつ。
部門の組織及び会社からデータへのアクセスの試 これらの技術における大きな進歩は、大規みがある場合、行政機関及び会社に対し、法的な支 模なデータセットとかつてない計算力の援及び技術的な支援を提供することになる。
利用によって実現された。
欧州委員会は、より多くのデータを利用可能とし得る方法に関する研究を継続することになる。
この通知と並行して、欧州委員会は、欧州のデータ空間を成長させるための一群のイニシアティ
ブを提示した37。それは、以下のものである：
 例えば、交通量、気象、経済及び金融のデータまたは商業登記のような公的部門の情報に関する改訂された指令；
 公的部門の経済のデータの共有のガイド（産業データを含む）；
ニングにおいて、研究者は、（例えば、化学に関する科学論文の）多数のテキストを「read」するアルゴ
リズムを使用し、そして、自動的に知識を抽出する（例えば、どの論文にも明示では述べられていないが、全論文から抽出され得る事実を発見する）。欧州委員会は、EU 著作権法令の現代化の一部として、テキストマイニング及びデータマイニングの例外を導入した。
36
Copernicus Data and Information Access Services: http://copernicus.eu/news/upcoming-copernicus-data-andinformation-access-services-dias37
https://ec.europa.eu/digital-single-market/en/policies/building-european-data-economy
223

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）



科学情報へのアクセス及びその保存に関する改訂された勧告；並びに、ゲノムデータ及びそれ以外の医療データの共有を含め、健康及び医療のデジタル変革に関する勧告。

3.2 社会経済的な変化への準備
歴史を通じて、（電気からインターネットまで）新たな技術の出現は、仕事の性質を変化させてきた。
それは、我々の社会と経済に大きな利益をもたらしてきたが、問題も生じさせた。自動化、産業用ロボット及び AI の出現は、労働市場を変容させているところであり、EU は、このシフトを扱わなければならない。
これらの技術は、労働者の人生を楽なものとし得る。例えば、それらの技術は、反復的な仕事、厳しい仕事、そして、（例えば、工業用の配管のように、安全ではない場所またはアクセスの困難な場所の清掃作業のような）危険な仕事において、彼らを助けることができる。また、それらの技術は、大量のデータを要約し、より正確な情報を提供し、そして、医師の診断の補助のために AI を使用する場合を含め、判断を示唆することも助け得る。それらの技術は、究極的に、人々の能力を拡張することを助ける。
高齢化社会を背景にして、AI は、障害のある人々を含め、より多くの人々が労働市場に参加し、労働市場に残ることを支援するための新たなソリューションを提供し得る。AI の帰結として、新たな職業と仕事が誕生し、その中の幾つかは予測することが困難または不可能でさえある。別の職業と仕事は、置き換えられることになる。職業に対する AI の影響の正確な分量を現段階において判断することは困難なことではあるが、その活動の必要性は明らかである。
全体として、EU にとって、3 つの主要な検討課題が存在する－それは、教師及び訓練実施者自身
を含め、教育及び訓練の役割を浮き彫りにするものであり、その責任は、構成国にある。第 1 の検討課
題は、社会全体の準備を整えることである。このことは、基本的なデジタルスキル、並びに、重要な思
考、創造性またはマネジメントのような、補完的であり、機械装置によって置き換えることのできないス
キルを開発するために、全ての欧州人を補助することを意味する。第 2 に、EU は、自動化、産業用ロ
ボット及び AI のために全く変化してしまうような職業または消滅してしまうような職業に従事する労働者を助ける努力を集中する必要がある。欧州の社会権の柱に沿って、労働者及び自営業者38を含め、全ての市民のために、社会保護39へのアクセスを確保することに関するものでもある。最後に、EU は、
学術上の専門性という EU の長い伝統に基づき、より多くの AI の専門家を訓練し、EU 内において働くための彼らのためのあるべき環境をつくり出し、そして、外国からのより多くの才能を満足させる必要がある。

誰も置き去りにしない2016 年、欧州委員会は、労働市場への包摂のためのあるべきスキルを人々に具備させることを助け38

http://ec.europa.eu/social/BlobServlet?docId=19158&langId=en
自動化は、社会保険制度の持続性及び十分性に対する適正な反映の必要性のある社会保護の資金調達のあり方に影響を与え得る。
224

39

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

る包括的な計画、すなわち、欧州のための新たなスキルアジェンダ40を開始した。このアジェンダの一部として、欧州委員会は、構成国に対し、人々の基本リテラシ、数学の素養及びデジタルスキルを向上させるため、勧告「スキル向上の道程：成人者のための新たな機会」を発した。自然科学、技術、工学
及び数学（STEM）、デジタル能力、起業家精神及び創造性の獲得に特に焦点を当て、生涯学習のための鍵となる能力に関する勧告も採択された。欧州委員会は、全ての市民のためのスキル及び能力の育成を狙いとするデジタル教育行動計画41も提示した。この計画は、パイロットを通じて、教育及び訓練における AI の影響を解明する。
デジタル化は、とりわけ、中程度の技能の職業の自動化を通じて、労働市場の構造に影響を与えており、AI は、より軽程度の職業により大きな影響をもち得る42。早期に、かつ、先を見越して対処しなけ
れば、このことは、EU 内における人々、地域及び産業の間の不平等を悪化させ得る。
AI 変革を扱うため、自動化のために職業が変化しつつある労働者または職業が消滅し得る労働者
は、新たな技術をマスターし、労働市場が変化する間の支援を受けるために、彼らが必要とするスキルと知識を獲得する全ての機会をもたなければならない。この予見的なアプローチ及び人々への投資の集中は、人間中心の AI への包摂のアプローチの礎石であり、大きな投資を必要とする。そのようなスキル向上及び訓練を提供するための国内制度が重要である。その国内制度は、（欧州社会基金
がデジタルスキルに特化して 23 億ユーロを投資するのとは別に、2014 年～2020 年にわたり、スキル開発に 270 億ユーロを支援する）欧州構造投資基金による支援を享受することになり、また、民間部門からの支援を受けるものとしなければならない。欧州委員会は、人間と AI との間の相互関係及び協力の調査研究への支援も継続する。

才能の育成、多様性及び学際性
AI は、自動学習アルゴリズムの開発及びそれ以外のデジタル技術革新の分野におけるものを含め、新たな職業プロファイルをもたらした43。全体として、EU 内における情報通信技術の専門家の数は、2011 年以来、毎年 5％ずつ増加し、180 万の職業をつくり出し、直近の過去 5 年間における総労働中の割合は 3％ないし 3.7％増加した。欧州内においてはそのような専門家に対する少なくとも 35 万人の求人があり、大きなスキルギャップを示している44。欧州が AI の訓練を受けた人々の数を増加させる努力をし、多様性を推進しなければならない理由は、それである。AI が非差別的であり、包摂的であることを確保するため、より多くの女性、及び、障害のある人々を含め多様な背景をもつ人々が、包摂的な AI 教育及び AI 訓練を受け、AI の開発に包摂される必要がある。（例えば、法学と AI または心理学と AI のような、共同学位を推進することにより）学際性も支援されなければならない。新たな技術の開発及び利用における倫理の重要性もまた、授業計画及び科目の中に盛り込まれなければならない。そして、そのことは、ベストな才能の訓練に関してだけではなく、EU に滞在する者のための魅力的な環境をつくり出すことに関しても、そうである。
40

http://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52016DC0381
https://ec.europa.eu/education/sites/education/files/digital-education-action-plan.pdf
42
Organisation for Economic Co-operation and Development, "Automation, skills use and training", 2018.
43https://www.cognizant.com/whitepapers/21-jobs-of-the-future-a-guide-to-getting-and-staying-employed-overthe-next-10-years-codex3049.pdf
44
http://www.pocbigdata.eu/monitorICTonlinevacancies/general_info/
225
41

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

より若い人々がキャリアとして AI の科目と関連分野を選択することを推進する取り組みが促進されなければならない。欧州委員会は、近時、高度なデジタルスキルの獲得を狙いとするインターンシップを支援する「デジタル機会訓練制度」45、並びに、コード化されたスキルを普及し、デジタルの専門家の数を増加させることを狙いとするデジタルスキル及びデジタルジョブコアリション46の多数の活動を開始した。
労働者が新たな職の機会を調整し、それへのアクセスをもつ機会が与えられることを確保することは、
人々が AI を受容するために重要なものとなる。他の技術と同様、AI は、単に社会に対して押し付けられるものではない。ソーシャルパートナー及び市民社会団体との対話の中で、AI の利益が広範に共有され、この技術の利益を全面的に得るために全ての市民が最適に装備され、かつ、より深い潜在的な社会変化の上により広く反映されることを確保するためのプロセスを集団的に操縦するのは、政府の仕事である。
2018 年、労働政策及び教育政策について職責を負う構成国の努力を支援するため、欧州委員会
は、以下のことを行う：
 欧州社会基金からの資金支援を得て、自動化されるリスクと直面している職業プロファイルに関し、（企業、労働組合、高等教育機関及び行政機関と共に）スキルに関する部門協力の青写真47と関係する専門の訓練（再訓練）を開始する48；
 EU 全域にわたる労働市場とスキルの不適合の変化を予測するために、詳細な分析と専門家の入力を集め、国内レベル及び地方レベルで、EU レベルの意思決定の情報提供をする。より個別的には、欧州委員会は、(i)教育における AI の影響に関する見通しの報告書を公表し；(ii)将来の能力プロファイルに求められる訓練上の要求事項を予測するためのパイロットを開始し；そして、(iii)勧告を付して、労働市場への AI の影響に対処する専門家の報告書を公表する；
 学生及び新卒者のための高度なデジタルスキルのデジタル機会訓練制度（2018 年～2020年）を支援する；
 より多くの AI の才能を満足させ、維持するための措置を講ずるため、及び、継続的な共働関係を育成するため、デジタルスキル及びデジタルジョブコアリションを介して、企業と教育機関とのパートナーシップを推進する；並びに、
 それが関連するときは、ソーシャルパートナーに対し、部門レベル及び部門横断レベルの共同作業計画において、AI 職業の多様性及びジェンダーバランスを含め、AI 及び AI の経済と雇用に対する影響に関与することを招請する。
欧州技術革新及び技術機関は、欧州における AI のための才能プールを開発することに貢献するため、同機関が支援する教育課程における AI 全体のカリキュラムを統合する。
45

https://ec.europa.eu/digital-single-market/en/digital-opportunity-traineeships-boosting-digital-skills-job
https://ec.europa.eu/digital-single-market/en/digital-skills-jobs-coalition47
http://ec.europa.eu/social/main.jsp?catId=1415&langId=en48
この協力は、現在のところ、自動車部門、海事技術部門、宇宙部門、繊維部門及び旅行部門に焦点を当てているが、将来的には、それら以外の 6つの部門に焦点を当てることになる：すなわち、添加物製造部門；
建築部門；グリーン技術部門及び再生可能エネルギー部門；海運部門；紙ベースの価値連鎖部門；鉄鋼産
業部門である。
226
46

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

次期EU 多年度財政枠組み（2021 年～2027 年）に基づく提案は、AI に特化した専門知識を含む
高度なデジタルスキルの獲得のための強化された支援を含める。
欧州委員会は、デジタル化及び自動化から生ずるものを含め、非局在化から生ずる冗長性を超えて、現行の欧州グローバリゼーション調整基金の適用範囲も拡大する予定である。

3.3 適切な倫理上及び法律上の枠組みを確保する
AI の開発及び利用に関する信頼と説明責任のある環境が必要である。
欧州連合条約の第 2 条に定める価値観は、欧州連合内に生活する人々によって享受される諸権利の基礎を構成している。加えて、EU 基本権憲章は、EU 内の人々によって享受される個人の権利、市民の権利、政治的権利、経済的権利及び社会的権利の全てを単一の正文の中に集合させている。
EU は、その基礎とすべき、強力かつバランスのとれた法的枠組みをもつ。それは、この技術への持続的なアプローチのためのグローバルな基準を設定し得る。欧州連合は、安全性及び製造物責任の面における高度な基準をもっている。ネットワークシステム及び情報システムに関する最初の EU の法令及び個人データの保護に関するより強力な法令は、2018 年 5 月に現実のものとなる。
一般データ保護規則は、バイデザイン及びバイデフォルトのデータ保護の原則を含め、個人データ保護の高度な基準を確保している。欧州連合内における個人データの支障のない流れが保障される。
この規則は、プロファイリングを含め、自動的な処理のみに基づく判定に関する条項を含んでいる。そのような場合、データ主体は、その判定の中に含まれている論理に関するその意味を理解できる情報の提供を受ける権利をもつ49。一般データ保護規則は、個人に対し、一定の状況の場合を除き、自動的な判定のみに服さない権利も与えている50。欧州委員会は、AI の文脈における規則の適用に正確に服する。また、国内データ保護機関及び欧州データ保護委員会に対し、同様にすることを求める。
欧州委員会は、デジタル単一市場政策に基づき、非個人データの支障のない移動に流れに関する規則のような、AI 開発の鍵となるエナーブラとなり、また、e プライバシー規則及びサイバーセキュリテ
ィ法のような、オンライン世界における信頼を強化する一連の法案を提出した。これらの提案は、可能な限り速やかに採択される必要がある。市民と企業は、同様に、彼らが関係をもつ技術を信頼し、予測可能な法的環境をもち、そして、基本的な権利及び自由を保護する効果的な安全性確保措置に依拠できる必要性があるので、このことは、重要である。
信頼を更に強化するため、人々は、技術がどのように働くのかを理解する必要があり、それゆえに、
AI システムの説明可能性の調査研究の重要性を理解する必要がある。無論、透明性を向上させ、バイアスまたはエラーのリスクをミニマムのものとするため、AIシステムは、人間がその動作（のバイアス）を理解できるような態様で開発されなければならない。
全ての技術及びツールと同様に、AI は、積極的ではあるが、不正な目的のために使用され得る。AIは、新たな可能性を生成しつつも、例えば、安全性及び法的責任、セキュリティ（犯罪目的の利用または攻撃）、バイアス51及び差別の分野におけるように、検討課題とリスクも示している。
49

一般データ保護規則第 13 条第 2 項(f)、第 14 条第 2 項(g)及び第 15 条第 1 項(h)一般データ保護規則第 22 条
51
AI システムの訓練のために使用されるデータ入力の別により、その出力にはバイアスがかかり得る。
227
50

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

バランスのとれた態様で技術革新及び法的安定性を培うため、AI と知的財産権との間の相互作用に対し、知的財産権当局と利用者双方の立場を反映させる必要がある52。
AI 倫理運用指針案
倫理上の懸念に対処するための最初の手立てとして、欧州連合基本権憲章を適切に配慮し、本年末までに AI 倫理運用指針案が策定される。欧州委員会は、その運用指針案の策定を助けるため、全ての関連する利害関係者を集める。
運用指針案は、仕事の将来、公正性、安全性、セキュリティ、社会的包摂及びアルゴリズムの透明性のような問題に対処することになる。より広く言えば、運用指針案は、プライバシー、尊厳、消費者保護
及び非差別を含め、基本的な権利に対する影響を注視する。運用指針案は、科学及び新技術の倫理に関する欧州グループ53の作業を基礎とするものであり、かつ、それ以外の同様の努力54から着想を得ることになる。会社、学術団体、及び、それ以外の民間社会団体からの組織は、貢献のために招請される。それと並行して、欧州委員会は、国際レベルで、倫理に関する発展に向けたその仕事を継続する55。
自己規制は、それを用いて先端アプリケーション及びその結果が評価され得る最初のセットの指標を提供し得るものであるが、行政機関は、AI 技術の開発及び利用のための規制枠組みがこれらの価値観及び基本的な権利に沿うものであることを確保する。欧州委員会は、開発を監視し、そして、それが必要なときは、とりわけ、欧州連合の基本的な価値観及び基本的な権利の尊重を確保するため、特別の検討課題に対してそれらの開発をより良く調整するための既存の法的枠組みを見直す。

安全性及び法的責任
AI の出現、とりわけ、複合性を可能化するエコシステムと自律的な判定機能は、安全性、及び、法的責任に関する民事法上の問題に関する幾つかの既定の法令との適合性の反映を求めている。
例えば、AI によって強化された高度なロボット及びモノのインターネット製品では、そのシステムが最初に運用段階に置かれた時に予想されていたものとは異なる態様で行動するようなことがあり得る。
AI の広範な利用状況に鑑み、横断的な法令及び部門別の法令の両者について、見直しの必要性が52

作品を創作するために AI を使用することは、例えば、特許付与の可能性、著作権及び権利の保有関係に関する問題を残しつつ、知的財産権と関連する意味合いをもち得る。
53
科学及び新技術の倫理に関する欧州グループは、欧州委員会の諮問委員会である。
54
EU レベルにおいて、EU 基本権局は、基本権の遵守と関連する新技術の製造者及び利用者が直面する
現在の検討課題の評価を実施する。科学及び新技術の倫理に関する欧州グループも、2018年3月9日に、AI、産業用ロボット及び「自律」システムに関連する声明を公表する。国際的な努力の例としては、以下のものがある：アシロマ会議の AI 基本原則（https://futureoflife.org/ai-principles/）、責任ある AI 基本原則案のためのモントリオール宣言（https://www.montrealdeclaration-responsibleai.com/）、UNI 連合の倫理的 AI のためのトップ 10 基本原則（http://www.thefutureworldofwork.org/opinions/10-principles-for-ethical-ai/）。
55
欧州委員会の科学及び新技術のバイオ倫理及び倫理に関する国際対話は、共通の関心事であるそれらの事項に関して共に作業をするため、EU 構成国及び第三国の国内倫理理事会を集める。
228

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

あり得る56。
EU の安全性の枠組み57は、その製品が市場に置かれた時点において、その製品の予定されていた利用及び予見可能な利用（濫用）には既に対応している。これは、技術の進歩に伴って継続的に修正され続ける AI 可能化機器の分野における標準の堅固な組織の発展を導いた。
そのような安全性の標準の更なる発展と向上、並びに、EU の標準化機関及び国際的な標準化機関の支援は、欧州の企業が、競争上の利益を享受できること、及び、消費者の信頼を増加させ得ることを助ける58。
欧州委員会は、現在、安全性並びに国内及び EU の法的責任の枠組みがこれらの新たな検討課題に照らし、その目的に適合するものであるか否か、または、対処すべき何らかのギャップがあるか否かについて検討しているところである。安全性、並びに、損害発生の場合における被害者のための効率的な救済の仕組みは、利用者のこれらの技術に対する信頼及びこれらの技術の社会的受容を構築するための助けとなる。
製造物責任指令59及び機械指令60の見直しは、既に完了した。AI 及び先端技術に照らし、現在の法的責任に関しても、最初の評価が実施された61。専門家グループは、これらの検討課題を更に分析するため、欧州委員会を助けることになる62。
AI を最大限に活用するための個人及び消費者の強化
企業と消費者間の取引における AI 可能化ツールの大規模な利用は、公正性、透明性及び消費者保護立法の遵守を要する。消費者は、AI 可能化製品の利用、特徴及び特性に関する明確な情報を受け取るものとしなければならない。個人は、これらのツールの利用により生成されるデータを管理できるものとしなければならず、かつ、それらのデータが機械装置または他の人間と通信しているか否かを知るものとすべきである。とりわけ、自動化されたシステムとのやりとりの場合、人間に至る方法に関してどの時点でその利用者が情報提供を受けるべきか、及び、システムによる判断が点検または修正可能であることをどのように確保するかについて、検討が加えられなければならない。
56

AI 及び関連技術から生じている先端的な問題に対応するために必要な新たな法的提案に関し、欧州委
員会は、欧州委員会の全ての取り組みが技術革新にフレンドリであることを確保するために開発された一群のツール及び運用指針である技術革新基本原則を適用する：https://ec.europa.eu/epsc/publications/strategicnotes/towards-innovation-principle-endorsed-better-regulation_en
57
例えば、機械指令、無線機器指令、一般製品安全性指令、並びに、例えば、医療機器または玩具に関する個別の安全性法令。
58
標準は、相互運用性もカバーしている。それは、消費者に対し、より大きな選択肢を提供し、そして、公正な競争を確保するために重要なものである。
59
製造物責任指令は、欠陥のある製品が消費者またはその財産に損害を生じさせたときは、その製造者の側における違法行為または過失の存在の有無に拘らず、その製造者が弁償を提供することを定めている。
60
機械指令の評価結果は、幾つかの条項が、先端デジタル技術の一定の側面に対して明示で対処していないということを示唆しているので、欧州委員会は、そのことにより立法上の修正を要するか否かを検討することになる。製造物責任指令の評価結果に基づき、欧州委員会は、同指令の重要な概念を明確化する解釈
ガイド文書を発行する。
61
この通知に添付されている法的責任に関するスタッフ作業文書（SWD(2018) 137）参照。
62
http://ec.europa.eu/newsroom/just/item-detail.cfm?item_id=615947
229

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

欧州委員会は：
 本年末までに、科学及び新技術の倫理に関する欧州グループと協力し、基本的な権利を適正に配慮して、AI 倫理運用指針案を策定するため、利害関係者及び専門家のための枠組み（欧州 AI アライアンス）を設置する；
 2019 年中旬までに、技術の発展に照らし、製造物責任指令の解釈に関するガイド文書を発行する。この文書は、欠陥のある製品の場合について、消費者及び製造者のための法的明確性を確保しようとするものとなる；
 2019 年中旬までに、AI、モノのインターネット及び産業用ロボットの法的責任及び安全性の枠
組みの、より広い意味合い、潜在的なギャップ及び方向性に関する報告書を公表する；
 説明可能な AI の開発の調査研究を支援し、及び、確実な根拠となる証拠を集めるため、アル
ゴリズム認識構築63に関して欧州議会から提案されたパイロットプロジェクトを実装し、バイアス及び差別を含め、自動的な判定によってもたらされる検討課題への政策上の対応の設計を支援する（2018 年～2019 年）；並びに、
 AI により強化されたアプリケーションの理解を構築する上で、欧州消費者協議グループ及び欧州データ保護委員会からの情報提供と共に、国内レベル及び EU レベルの消費者団体及びデータ保護監督機関を支援する。

3.4 一致協力

構成国との関係
幾つかの構成国は、AI を支援するための戦略を策定し終え、または、それへ向けた作業をしている
ところである。2018 年 3 月 29 日、フランスは、Villani 報告書64を基礎として、AI に関するフランスの国内戦略を提示した。ドイツは、「Industrie 4.0」の例に従い、学術団体、産業界及び政府の間の戦略的な対話を可能とするための学習システムに関するプラットフォームを設置し、また、自動化されネットに接続された自動車の倫理に関する報告書を提出した65。フィンランドは、フィンランドをこの分野におけるリーダーにするための「人工知能の時（Tekoälyaika）」戦略を提出した66。全ての構成国は、投資に関するものを含め、AI 戦略をもつことを推進している。
それが関連する場合、ベストプラクティスを共有すること、波及効果を見定めること、及び、活動を揃えることは、AI への投資を最大化するものであり、また、EU 全体のグローバルな競争力を助けるものである。相互運用性及びデータセットに関して協力すること、及び、法的解決に関して共に作業することは、単一市場の断片化を防止するものであり、それゆえ、AI のスタートアップが起きることを刺激する
ものである。24 の構成国及びノルウェーは、AI に関して力を合わせることを約束し、そして、欧州委員会との間で戦略的な対話に入っている67。欧州委員会は、この対話を促進し、そして、本年末までに、
63

https://ec.europa.eu/digital-single-market/en/algorithmic-awareness-building
https://www.aiforhumanity.fr/
65
https://www.plattform-lernende-systeme.de/66
https://tekoalyaika.fi/
67
https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence
230
64

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）

構成国との間において、AI に関する調整計画を合意することを目標としている。

利害関係者との関係：欧州 AI アライアンスの設置
AI と関係する検討課題の規模の大きさに鑑み、企業、消費者団体、労働組合、及び、それら以外の市民社会団体の代表を含め、多様なセットの参加者全部を動員することが重要である。それゆえ、欧州委員会は、AI の全ての側面に関して作業するため、広範で多角的な利害関係者のプラットフォー
ムである欧州 AI アライアンスの創設と運営を促進する68。欧州委員会は、アライアンスと、欧州議会、構成国、欧州経済社会委員会、地域委員会及び国際機関との間の相互活動も促進する。アライアンス
は、AI の開発と関係するベストプラクティスを共有し、民間投資と活動を推進する場となる。
AI の開発及び受容を監視する
今日における AI と関連する議論の多くは、意見、伝聞及び推測に基づくものであり、常には事実及び科学に基づくものではない。品質の高い入力を確保し、政策形成の情報提供をするため、欧州委員
会は、経済界全体にわたり AI アプリケーションの受容を監視し、AI によって生ずる産業上の価値連鎖の潜在的な変化、並びに、社会的及び法的な発展、そして、労働市場における状況を判断する。また、どこに技術があるかについての現実の認識を与え、公衆の認識の向上を助けるため、AI のコンポー
ネント及びシステムの技術性能も測定評価する69。欧州委員会は、この通知に定める目標及び取り組みに向けた進捗状況も継続的に評価する。

国際的な対応AI に関する国際的な討論は、2016 年に話題として提供された日本の G7 首脳会議の後、高まることとなった。EU は、G7 閣僚会合及び経済協力開発機構の両者においてその討議を支援した。それは、この話題を討議する主要な国際的な場となりつつある。より個別的には、欧州委員会は、G7 内において、AI 倫理に関する討議を推進した。
AI は国境を越えて容易に取引され得るものであるので、このドメインにおいては、グローバルな解決策のみが持続可能である。G7/G20、国連及び経済協力開発機構は、軍用ドメインを含め、AI の役割に対処し始めた。EU は、そのような場において、AI 及び（調査研究及び技術革新協力並びに競争性を含め）AI の様々な局面に関する討議を推進し続ける。欧州委員会は、グローバルな検討課題の解決を助けるため、AI 及び技術一般の利用を促進し、パリ気象変動協定の実装を支援し、かつ、国連の持続的な発展の目標を達成する。
EU は、EU の価値観及び基本的な権利を基礎として、AI に関する世界規模の議論に独自の貢献を行うことが可能である。

68
69

https://ec.europa.eu/digital-single-market/en/news/call-high-level-expert-group-artificial-intelligence
この作業は、EU 基本権局からも情報提供を受ける。
231

法と情報雑誌第 3 巻第 9 号（2018 年 9 月）



本年末までに、欧州委員会は、EU レベル及び国内レベルの投資の効果を最大化するため、
AI 変革に対して欧州が準備するために政府にとって最善の方法を意見交換するため、そして、法的及び倫理的な検討事項に対処するため、構成国との間の調整された計画に基づき、産業をデジタル化するための国内イニシアティブの既存の欧州プラットフォームの一部として、作業を行う。それと並行して、欧州委員会は、例えば、構成国における政策上の取り組みのような AI と関連する発展、AI の受容及び労働市場に対するその影響、並びに、現在の能力の高度な指標化、可視化、及び、討議への情報提供のための AI 索引の作成を含め、AI の能力を体系的に監視することになる。
2018 年 7 月までに、欧州 AI アライアンスが設置される。それは、情報を収集し、意見を交換し、そして、AI の開発及び利用を推進するための共通の手段を開発及び実装する。

4. 結論
EU は、先進的な研究機関及び大学、産業用ロボット及び革新的なスタートアップにおける承認されたリーダーシップと共に、その上に構築される強力な科学上及び産業上の基盤をもっている。EU は、技術革新を促進しつつ消費者を保護する包括的な法的枠組みをもち、デジタル単一市場の構築を進捗させているところである。EU の独自の方法により、かつ、EU の価値観に基づき、AI 革命におけるリーダーとなるための EU の主要な要素は、そこにある。
この文書に示す AI への取り組みは、全ての欧州人がデジタル変革の一部となること、AI に対して十分なリソースが費やされること、そして、欧州連合の価値観と基本的な権利が AI の情景の最前面に置かれることを確保するため、進むべき道を示し、欧州レベルにおける力の結集を強調するものである。
併せて、我々は、AI の力を、人類に奉仕させるものとなし得る。

232