人間中心の AI 社会原則会議（令和２年度 第１回）議事要旨
１．日時

令和 2 年 12 月 24 日(木）15:00-17:00

２．場

所

中央合同庁舎４号館 12 階 1208 会議室

３．出席者※敬称略
議長 須藤副議長

北野修
宏明

中央大学国際情報学部 教授

東京大学大学院 特任教授

一般社団法人日本経済団体連合会未来産業・技術委員会 AI 活用原則 TF 主査
株式会社ソニーコンピュータサイエンス研究所 代表取締役社長

安宅 和人

慶應義塾大学 環境情報学部 教授、ヤフー株式会社 CSO

岩本敏男

株式会社エヌ・ティ・ティ・データ 相談役

浦川伸一

損害保険ジャパン株式会社 取締役 専務執行役員

江間有沙

東京大学未来ビジョン研究センター 特任講師

大屋雄裕

慶應義塾大学法学部 教授

木俵豊

情報通信研究機構知能科学融合研究開発推進センター
研究開発推進センター長

國吉康夫

東京大学大学院情報理工学系研究科 教授

次世代知能科学研究センター

センター長
近藤則子

老テク研究会 事務局長

関口智嗣

産業技術総合研究所 理事

武田晴夫

株式会社日立製作所 技師長

中川裕志

理化学研究所革新知能統合研究センター チームリーダー

永沼美保

日本電気株式会社デジタルトラスト推進本部 シニアマネージャー

新居日南恵株式会社 manma 代表取締役社長

羽鳥裕

公益社団法人日本医師会 常任理事

原田達也

平野晋

東京大学先端科学技術研究センター 教授
中央大学国際情報学部 学部長・教授

福岡真之介

西村あさひ法律事務所 パートナー弁護士

福田剛志

日本アイ・ビー・エム株式会社 理事

松尾豊

東京大学大学院工学系研究科 教授

山川宏

全脳アーキテクチャ・イニシアティブ 代表

吉瀬章子

筑波大学システム情報系 教授

東京基礎研究所 所長

日本ディープラーニング協会 理事長

４．議題(1) 関係府省庁での AI 関連の指針・原則・ガイドライン等の策定状況について(2) 国際関連の活動について(3) 最新の AI に関する動向（研究開発・ELSI）について（福田構成員、平野構成員プレゼン）(4) 意見交換(5) その他
５．資料
資料１

関係府省庁における AI 関連 指針・原則・ガイドラインの策定状況

資料２

AI に関する国際的議論の動向

資料３－１

AI 研究最前線（福田構成員プレゼンテーション）

資料３－２

AI の ELSI（平野構成員プレゼンテーション）

参考資料１

人間中心の AI 社会原則会議の設置について

参考資料２

人間中心の AI 社会原則

６．議事要旨(1) 関係府省庁での AI 関連の指針・原則・ガイドライン等の策定状況について事務局から資料１に基づき、関係府省庁が国内にて取り組んでいる AI 関連の指針・原則・ガイドライン等について説明が行われた。
(2) AI に関する国際的議論の動向
総務省から資料２に基づき、AI に関する国際的議論、特に OECD、GPAI、UNESCO、及び欧州評議会の動向について説明が行われた。
(3) 最新の AI に関する動向（研究開発・ELSI）について
国内外における最新の AI に関する動向として、福田構成員から資料３－１に基づき AI の研究開発について、平野構成員から資料３－２に基づき AI の ELSI について説明が行われた。
(4) 意見交換
これまでのプレゼンを踏まえ、人間中心の AI 社会原則会議で議論すべき論点、議論にあたって意識しておくべき留意点等について、全体での意見交換が行われた。
（以下はその中での意見の例）【研究開発】


ここ 10 年 AI が発展し、画像認識などの特定のよく定義されたタスクに関しては、人間よりも精度が高い性能を出すことができる AI 技術が出てきた。一方で、この「狭い AI」がこのまま発展しても、一般的な知性を持った人間と区別の付かないような「汎用 AI」には至らないと考えられる。
「狭い AI」を、多目的適用型の「広い AI」、さらには「汎用 AI」へ発展させていくには、複数ドメインにまたがる広い範囲のものを複合的に扱うマルチモーダルという考え方が必要。



人間の知性に非常に重要な特徴は、シンボルと言語を扱うことができること。現在成功しているニューラル・ネットワークを使った AI では難しいシンボルを扱う AI の研究開発が一つの大きな課題。ニューラルネットとシンボル AI をうまく組み合わせることで、フレーム問題も扱える可能性が出てくる。このニューロシンボリック AI は、「狭い AI」と「汎用 AI」の間を埋める一つの有力なアプローチ。



人間と討論する AI において、パーラメンタリーディベートでは、AI が人間と対等に勝負できるレベルを実現している。より複雑なポリシーディベートへの展開があると、いろいろな知識を総動員した問題解決や、プロコンに分かれた議論にも使える有用なプロジェクトになり得る。



その他に進んでいる研究開発としては、AI による科学的な問題解決のサイクル（文献調査、仮説生成、検証）の加速や、量子コンピュータを利用した AI などが挙げられる。

AI の課題としては、AI の計算に必要な消費電力の削減や AI 倫理に関するもの（AI のバイアス対策、説明可能性の保持等）のための技術開発などが挙げられる。



個人情報の問題、データを集める、大量の計算機が必要であるといった問題に対して、データをそもそも集めないような学習方法や集中的にデータを集めない方法論、集中的な計算機を使わず分散的な計算をするなど、技術の新たな方向性について議論すべきではないか。データを余り使わない AI については、米国が先行している。

【ＥＬＳＩ】
AI について科学を推進する STEM（Science, Technology, Engineering, and Mathematics）と、社会安全を守る ELSI（Ethical, Legal, and Social Implications）は、時に対立することがあり、国際的にELSI を考慮しない AI は許されない状態。国際動向としては、日本の AI 社会原則会議で策定した「人間中心の AI 社会原則」等が、OECD において AI 原則を作る際に大分反映され、最終的に G20 の AI 原則にも繋がった。欧州の〈予防原則〉の考え方と米国の〈許諾不要な開発〉の考え方が対立する中で、日本として提案する非拘束的規範のアプローチ（soft law）が受け入れられた形。



STEM と ELSI が時に対立することがあるという点については、科学技術の開発自体が倫理的・法的・社会的観点を内在化させなければいけないという RRI（Responsible Research and Innovation）という文言も見受けられる。ELSI 自体は米国で昔から提唱されてきた議論であり、欧州では RRIも提唱から 10 年経つ。日本で今後、AI の ELSI や RRI の議論をしていくときに、現状の議論を踏まえて、発展的に概念を展開していくことが大事なのではないか。

AI 倫理については、社会原則の第２原則「教育・リテラシーの原則」にあるように、AI の開発者が規範意識、社会科学、倫理等の人文科学に関する素養を習得していることが重要になる。AIに関する人文科学の議論においては、文学とも繋がりが深く、例えばアイザック・アシモフのロボット工学 3 原則は欧州議会の「ロボット工学の民事法ルール」（Civil Law Rules on Robotics）においても言及されている。



自由を愛する国々では、安全を促進するために行動を厳しく制限する公法や行政規制は必要最小限に留められ、大部分には一般不法行為法（過失責任）が用いられ、ごく一部に無過失（厳格）責任が適用される。一方で、双方向的危険によって生じる多くの事故が対象となる過失責任は、両者に注意義務を課すものであり、一方だけが危険を生じさせる行為における無過失（厳格）責任は、活動自体を抑制するために課されるものである。（製造物責任は消費者側で防ぎようが無いという点で無過失責任とよく捉えられがちだが、それは主に〈製造上の欠陥〉の場合等に適用され、〈設計上の欠陥〉や〈指示警告上の欠陥〉においては過失的な分析をすべきとの判例が米国では趨勢である。更に日本の〈設計上の欠陥〉においても、米国同様の傾向がみられる。）
EU では、「ハイリスク AI のオペレータ」に〈厳格責任〉を課す立法提案「人工知能の為の民事賠償責任レジーム」（Civil Liability Regime for Artificial Intelligence）が、2020 年 10 月に欧州議会で決議された。ハイリスク以外は過失原則であるが、被告側が過失の不存在を立証すれば免責できる、という条文提案も見受けられ、立証責任の転換も提案されている。本立法提案に対しては、欧州内でも十以上の国から soft law を中心にやるべきという意見書が出されている状況。今後、この決議を受けて、欧州委員会が法案を作っていくことになり、注目していくポイントである。

AI システムは、現実的には、IoT のエッジ部分の AI 的要素や、データ、中央の AI サーバーなどいろいろな系があり、厳格責任の考え方などは非常に難しいと考えられ、検討の余地がある問題である。日本には製造物責任法と不法行為法しかなく、日本の AI を発展させかつ社会の安全を守るため、どのような法設計が望ましいのか、検討すべきテーマかもしれない。

【その他】


AutoML と言われるマシーンラーニングを自律生成する仕組みや、AI によるシステム基盤構築
等に見られる AI to AI の多様な発展（intelligence net 化）等があり、系を走らせている時に起きるトラブルのことを考えると、環境コントロール、責任論だけでは不足。アジャイルに系を止めて対応する仕組みなど、トラブルへの対応をスコープに入れるべきではないか。AI の発展は阻止せず、進化と利活用を加速して、人間・社会を守るアプローチが必要。

AI を使いこなしている人とそうではない人の格差、いわゆる AI デバイドの課題としては、データの品質・信頼性の整理、官民含めたデータ流通、AI リテラシー拡大、という点が考えられる。
人と AI の接点は少しずつ進化しており、その進化に合わせて AI 社会原則のマイナーチェンジが必要なのではないか。



人間中心の AI という表現において人間だけでなくエコシステム全体を含む概念が必要なのではないかという話もあるが、この点については、AI と SDGs との関係についてかなり議論されている UNESCO においても、生態系を含む地球規模の環境も含め、その中での人間であるということも含められて議論されており、本会議と UNESCO、また OECD も基本的な考え方は同じであるとの認識。

日本政府の取組の俯瞰表は、現状記載されている４つの分野が重点であるとの誤解を招かないよう、横軸を各省庁にするなどのまとめ方をしてはどうか。その上で、縦軸をこの委員会で定めた AI 社会原則が貢献した程度やそれが関係する程度などにすると、今後のこの委員会の方向性を議論する参考になるのではないか。

(5) その他事務局から今後の予定について説明があった。
以上