第 13 回技術倫理協議会公開シンポジウム報告書
1. 日 時：平成 29 年 11 月 20 日（月）13:00～17:20（意見交換・交流会 17：40～19：00）
2. 会 場：東京理科大 森戸記念館第１フォーラム
3.テーマ：人工知能と技術倫理〜未来社会に向けての技術者･研究者と社会との協働〜
4.開催趣旨：
現在、人工知能（以下、ＡＩ）は第三次ブームと言われており、自動運転技術やビッグデータ活用による業務革新など、あらゆる分野での実用化が急速に進んでいる。それは、所謂、「ＡＩの民主化」の時代が直ぐそこまで来ていることを予感させるが、「ディープラーニング」技術の飛躍的発達は、「シンギュラリティー」に到達すると予言する研究者も多く、その「ブラックボックス」的技術の社会への影響は計り知れない。したがって、その技術的知見だけでなく、倫理的・法的・社会的課題や政治、経済、さらには人類の未来への影響などについての知見と考察は重要であり、その設計、開発の原則やその倫理指針など、理工学系技術者・研究者と人文・社会学系研究者との分野を横断した議論が求められている。今回は、「ＡＩ技術に関する研究・開発」および「ＡＩと人間・社会との係わりに関する研究」の分野でご活躍の講師をお招きし、「ＡＩ技術」が創造する未来社会と、それが人類社会に受け入れられるために、全ての分野の技術者･研究者自身および学協会・教育組織・企業などが果たすべき役割と検討すべき課題、解決策などについて議論した。

5.主 催：公益社団法人日本工学会 技術倫理協議会【技術倫理協議会会員】電気学会、電子情報通信学会、土木学会、日本化学会、日本機械学会、日本技術士会、日本原子力学会、日本建築学会、日本工学教育協会、日本非破壊検査協会、日本マリンエンジニアリング学会
6.プログラム＜総合司会：石橋 邦夫 幹事（株式会社 日立製作所）＞
・開会挨拶（13:00～13:05） 日高 邦彦 議長（東京大学大学院工学系研究科 教授）
・講演 1；（13:05～13:45）「人工知能はビジネスをどう変えるか」
矢野 和男 氏（株式会社 日立製作所 理事 研究開発グル－プ 技師長）
・講演 2；（13:45～14:25）「ＡＩ社会のデザイン」江間 有沙 氏（東京大学 教養学部附属教養教育高度化機構 特任講師）（人工知能学会倫理委員会 委員）
・講演 3；（14:25～15:05）「ＡＩ技術文明の創生と技術倫理教育」
鈴木 晶子 氏（京都大学大学院教授 兼 理化学研究所革新知能統合研究センター人工知能倫理・社会チーム チームリーダー）
・講演 4；（15:05～15:45）「ＡＩは人間を超えるか」松尾 豊 氏（東京大学大学院工学系研究科技術経営戦略学専攻 特任准教授）（人工知能学会倫理委員会 委員長）
・パネルディスカッション；（16:00～17:20）
テーマ ：「ＡＩ：未来社会に向けての技術者･研究者と社会との協働」
パネリスト：矢野 和男氏、 江間 有沙氏、 鈴木 晶子氏、 松尾 豊氏
コ－ディネ－タ－：札野 順 氏（東京工業大学リベラルアーツ研究教育院 教授）
1

7.概要

シンポジウム会場

開会挨拶：日高 邦彦 議長

司会進行：石橋 邦夫 幹事2

① 講演 1
・講演者：矢野 和男 氏 （株式会社 日立製作所 理事 研究開発グル－プ 技師長）
・タイトル：「人工知能はビジネスをどう変えるか」・概要：
ＡＩについては、ＳＦ映画などで取り上げられることも多いが、これらは「妄想世界」と言わざるを得ず、社会の皆さんには誤解も多い。したがって、ＡＩとは、どのようなものでビジネスや人間社会にとって何故必要なのか？を理解することが重要である。
これまでビジネスの世界では、１００年前にテイラ－が提唱し実践し始めた「科学的管理法」が主流であり、繰り返しの業務プロセスを効率化に主眼が置かれ、「マニュアル化」「標準化」「Ｎ倍化」などをしてきた。これは「ル－ル指向」であり、日本は２０世紀に最も成功した国のひとつである。
しかし、現在、求められるものは、多様に、しかも場合によっては太陽光設備コストのように指数関数的に変化しているものも多く、それを求める人々も多様になってきている。また、それに係わるリスクも予想を超える形で様々に変化して現れる。
「繰り返し」や「同じものを確実に守る」の「ルール指向」では対応できない。ビジネスの世界では、1993 年にドラッカ－が予言したように「過剰適用」に陥っているのである。
ＡＩはこの「多様性の問題」を解決できる強力な技術である。従来はコンピュタの役割は主に「オートメ－ション」であり、ＰＤＣＡのＤを担ったが、ＡＩでは、コンピュ－タが膨大なケ－スに対応できる「仮想の学習･実験の場」となり、ＰＤＣＡ全体を担うことが可能になった。デ―タを読み取り、分析し、従来の判断の基準やル－ルを、「人間では予想もつかないような画期的かつ合理的なもの」に変えていくことが可能となる。これには「ディ－プラ－ニング技術」が鍵となるが、大事なのは「結果に繋がるデ－タ」（囲碁の例；棋譜とその勝敗データ）があることである。また、囲碁ＡＩのような専用ＡＩと多種多様な用途のための汎用ＡＩという２種類のＡＩについての議論があるが、元々ＡＩは高い汎用ポテンシャルがあり、特にビジネス対応については、日々、汎用性を高くすることが重要なメトリックスである。
日立ではビジネスへの適用できるＡＩを長年研究してきた。試行錯誤の結果、それまでのデ－タからアウトカムを導くというデ－タドリブンではなく、最初に「アウトカム」を上位目的として人間の意思をもって与えることで、多種多様なビジネスに適用できる【多目的ＡＩ（同じソフトウエ
アで入力のコンフィギュレ－ションを変えるだけ）】を開発した。データは従来の情報システムの中に膨大にあり、学習は、人間の脳と遺伝子の両面の機能を模した「跳躍学習」（日立特許）によることで、従来のル－ルに囚われず、純粋にデ－タに基づき目的に対する最適な方法（新たな方法・ル－ル）を見出すことが可能となった。即ち、ＡＩによってビジネス（産業構造）は「ルール指向」から「アウトカム指向」へ劇的に変わるのである。
（物流倉庫、店舗、証券取引所、銀行など 14 分
野 57 以上の案件に適用）よくある議論に『ＡＩは人間の労働を代替する』というというものがある。これは必ずしも正しくない。ＡＩは労働ではなくル－ルを置き換えるのである。普遍的なル－ルもあるが、行動や規範の全てをルールで縛るのではなく、結果に対し行動は柔軟に変えるという「アウトカム指向」が重要である。そして、アウトカムの中にきちんと人間や倫理を考えることが大事である。それでは、人間や倫理にとっての「アウトカム」とは何であろうか。それは「ハピネス」ではないだろうか。
3

日立では人体に取り付けた加速度センサで「ライフタペストリー」を造り、その法則を分析するＡＩシステムを開発した。多種多様な人々のライフタペストリーから分かったことは、① 「ハピネス」は計れる。しかし千差万別』② 『ハッピ－な人は生産性が高い。少しなことで変えられる』③ 『ハッピ－な人は挑戦している』ということである。
ハピネスにとって必要なことは、『既存のルールに縛られない状況に合わせた行動』ということである。
この１００年くらい、我々は杓子定規な機械や業務プロセス、標準化されたシステムに多様な人間を合わせる世の中に居た。しかし、今、一大転換点が来ている。
【ＡＩが膨大なデ－タから問題の最適解（ルール）を導き、その結果、人間の労働時間が短縮され、代わりに人間はより重要な「アウトカム」を考える】という、「ＡＩと社会が協働する幸福な循環」が生まれるのである。しかし、テクノロジだけでは何も始まらない。ＡＩは自分で問題は作れない。人間には変えるべきル－ルを変えていく「行動力」が求められる。
（以上）

矢野 和男 氏4

② 講演２
・講演者：江間 有沙 氏（東京大学 教養学部附属教養教育高度化機構 特任講師）（人工知能学会倫理委員会 委員）
・タイトル：「ＡＩ社会のデザイン」
・概要：「科学技術社会論」という分野で科学技術と社会に関する研究をしている。今回の「シンポジウム
テーマの趣旨」にある【すべての分野の技術者・研究者自身および学協会・教育組織・企業などが果たすべき役割】の議論と、【「ＡＩ技術」が創造する未来社会】のビジョンに関する議論は重要である。
■ＡＩとは何かＡＩに関する倫理的なガイドラインも国際的に作成されているが、そこで議論されているＡＩの定義も多様である。そこで、ＡＩと社会について考えるときにＡＩの定義を便宜上３つに分類して整理することから始めたい。
① 既存のＩＴの延長あるいは組み合わせた技術：
人間がプログラム（ルール）を作って実行させる。
② 自律的な学習機能を持つ技術（第三次ＡＩブームを牽引）：
人間がル－ルを設定しなくても自律的に学習を行える可能性がある。
③ まだ見ぬ技術（例：シンギュラリティ－）；
まだ実現はしていないが、致死的自律型兵器システム（Lethal Autonomous Weapons
Systems: LAWS）などに関しては、今から議論しておくことが予防の観点で重要である。
■技術者、研究者、学協会や企業などの役割
本シンポジウム趣旨に取り上げられていた「技術者・研究者や学協会、企業の役割」を考えるた
めに、ブラジル（リオデジャネイロ）での国際会議（AI and Inclusion）を紹介したい。ＡＩは北半球のＡＩ先進国で議論されることが多いが、この会議の目的はＡＩの社会的な影響等について、南半球の発展途上国（Global South）も一緒に、様々な地域、分野、業種の人たちを包摂（Inclusion）して考えることである。
「AI and Inclusion」として議論された内容を以下の３点に整理する。
1. ＡＩへのアクセスや機会、恩恵への包摂；
ＡＩに限ったことではないが、経済格差による不十分なインフラの問題がある。ＡＩに関する教
育とスキル獲得で様々な社会問題が解決できるとの主張が主に新興国からなされた。一方、従来の情報技術も同様であるが、技術が普及することによるプライバシ－侵害やセキュリティ管理についても注意が必要である。
2. アルゴリズムバイアスによる排除；
ＡＩは最適化が得意であるが、誰が目的設定を行うのか、誰の視点からの最適化なのかを設計・利用時に考えることが重要である。現在のプラットフォ－ムはＡＩ先進国である欧米がル－ルを作っているが、基本となるアルゴリズムや対象データが包摂的ではないと気付き、人種、ジェンダ－、性的マイノリティ、若者などの多様な観点を企業や研究者が技術設計時に配慮することが求められている。一方で、究極的には、偏見のないデータや技術というものはなく、その前提に立っての「ル5ールづくり」の議論も大事ではないかとの意見もある。
3.

包摂の範囲はどこまでか；
このような会議に参加することすらできない不可視（Invisible）な人たちや、議論に参加するインセンティブのない人たちを包摂できるのか、するべきかなども議論された。またＡＩやロボットそのものも包摂するべきか、も議論された。ケーススタディとして、日本の人工知能学会倫理指針の第 9 条、「人工知能が社会の構成員またはそれに準じるものとなる」という条項を紹介した。国内
外でＡＩ自身の権利や責任について議論されているが、世界では難民など人間でも基本的人権が認められない状況がある。そのような中で、ＡＩをパートナ－として考えること自体への疑問も提起された。
■今後の展開と期待：未来社会のビジョンを共に描く
AI and Inclusion 会議の特徴として最先端の「学習する技術」や「まだ見ぬ技術」よりは「既存のＩＴの延長あるいは組み合わせた技術」に関する論点が多かったが、それ自体がＡＩ先進国と新興国の技術的課題も表しているように見える。実際に、今後の具体的なアクションとして技術者に対する教育の必要性が議論されたほか、ガバナンスなどのルール構築の必要性も議論された。例えば米国電子電気学会（IEEE）などのアカデミアにおいても「倫理的に調和した設計」に関する議論やプロセスに関する標準化の議論が開始されている。
また、本会議には異業種・異分野・多様な国々からの参加者がおり、対話をしながら議論のためのネットワークを作っていくことが重要であるとのことが再認識された。実際、本会議には技術者だけではなく人文社会科学の研究者や国際機関、NPO、ジャーナリストなども参加しており、人文社会学系が従来から研究対象としてきた差別、格差、平等、正義などのテ－マが多く議題に上った。

ＡＩに関する市場はグローバル化しており、海外では大企業も公平性、透明性、社会的影響や価値観などを検討する枠組みを構築している。ＡＩの発展によって格差や排除が増幅しかねない一方で、そうではなく「ＡＩと包摂」は両立できるのだというメッセージが会議からは発せられていた。
このような問題意識に立ち、日本を含むＡＩ先進国は、リーダーシップを持って国際的な議論とビジョン形成に参加していくことが求められている。
（以上）

江間 有沙 氏6

③ 講演３
・講演者： 鈴木 晶子 氏（京都大学大学院教授 兼 理化学研究所革新知能統合研究センター
人工知能倫理・社会チーム チームリーダー）
・タイトル：「ＡＩ技術文明の創生と技術倫理教育」
・概要：｢科学技術文明｣において、人間は、道具を発明し次の世代に伝えていくことで社会を便利にし、経済的に豊かにしてきた。人間は、他の生物と異なり、新たな機能をいわば外付けの装置として設定することにより、科学技術文明の創造を担う立場と成り得、そして、世界を作っていく意識を持って世界や宇宙の主として活動することが可能になった。この「科学技術文明」は、人間が世界とモノや他の生き物と一緒に生きていく上で「意味ある世界」を創造するための大事な基盤となっている。ＡＩは人間にとって、｢新しい技術文明との遭遇｣であり、「ＡＩの開発者とそれを活用していく者の全てが、この技術文明の担い手であることを自覚し、そしてそれを創っていく」という発想で捉えていかなければならない。
今回のＡＩは、「産業革命」でみるならば、４回目である。第四の産業革命が、これまでと「何が違い、何が同じか」を見極める必要がある。能力ということでいうならば、「能力を学習（開発）することは良いことだ」という見方が一般的だが、果たしてそうだろうか。一度獲得した能力を人間は能動的に削除、排除することができない。それゆえ、この能力は「本当に、獲得していくべき能力か？」という批判的な観点で、今後の人間の技能や能力について検証していくことが重要である。
そして、我々は、ＡＩへ過度な期待をするのではなく、「ＡＩに何をどのように託し、一人の人間ができる仕事量をどのように補完し補強し、分配していくのか？」しかも、「それを効率よく統制し、安心できる社会システムをどうつくるか？」という議論が必要である。1950 代から「人間の機械化」と「機械の人間化」は文明評論家の間で議論されてきた。そのなかで、触覚や直感など人間の身体知を含めた「人間の人間らしさ」を考えてきた。今後、マン・マシン系として技術と共生していく人間がどのように進化していくのか？そのとき人間とは何か？を考え、人間をどう定義し直すか？ということが重要である。技術文明の担い手として、私たち自身の力量、器量が問われているのである。
18 世紀の第一次産業革命では、その必然として「人間の内面」というものが生まれ、「コミュニケ－ション革命」が起きた。今、2 回目の「コミュニケーション革命」が起きつつある。世界の情報が家に居ながら一瞬にしてリアルタイムで入ってくる。ネットワーク技術によって、世界を一瞬で呼びだすことができ、ある種の体験ができる（経験ではない）時代である。情報哲学系の研究者の間では、人間の時空間の意識（距離感覚、コミュニケーション感覚、感情）が、この２０年～３０年で急激に変化してきていることに関心が高まっている。人間は「意図的は忘れることはできないが、いつのまにか忘れてしまう」という特性をもつ。また、人間は限られた時空を生きており、必ず死ぬ。生まれたときから死ぬという前提で生きている。
「死ぬ」という限りがあるからこそ、人間はその命に目がいくのである。限られているからこそ今ある時間のなかで出来ることをしようと考える。死生学の研究の一環として、ホスピス病棟での聞き取りをしたことがあるが、見取りや介護の苦しみの中にも、笑いや楽しみがあり、楽しい中にも、はかなく悲しいものが一緒にあるという人の多様なあり方や智恵が見えてきた。
「苦しさを楽しめる」のが人間の文化であり、知恵である7としたら、こういう錯綜した複雑な世界とつきあっていくところに人間の知恵があるといえる。
「身体的な生き生きとしたイメ－ジ力で全体を俯瞰できる」のが人間の特性である。しかしながら、今、新しい技術文明に中で、「人間の人生に限りがある」という前提がこわれつつあり、｢人間の尺｣｢時空の尺｣が変わりつつある。今後、ＡＩがますます「人間もどき」になっていくとしたら、我々人間は最後の砦としての「人間らしさ」を今から考えていくことが重要になってくる。
個人情報が個人の所有物であるという発想では、もはや立ち行かない時代に突入している。また、ＡＩではその責任問題について議論する必要もある。
「責任」という考え方は近代社会のルールとして出てきたものである。
「公と私」、「個人と社会」など、これまで近代社会を基礎づけてきた法概念をはじめ、あらゆる近代的な仕組みを見直すことが必要になってくる。ＡＩ技術文明というテーマについて、人文社会科学は「近代の見直し」、「新たな技術文明を支える社会の基盤の組換え」を仕事としていかなければならない。特に、技術倫理教育で考えると、ナノテク、医療、ロボットなど、それぞれの領域で、別建てで倫理が考えられている状況で、倫理があまりに細分化していることが問題となっている。全体として倫理の土台を作った上で科学技術の倫理を考えていく時代が来ている。ウィ－ンの研究者の言葉を借りると『倫理は一つの卵のようなもので、その中に様々な分野で必要とされる倫理が詰まっていると考えるべきである。』それぞれ別々の対応ででは議論できない。
イノベ－ションということについても、人間のイノベーションを含めて考えていくような倫理の可能性を志向していかなければならない。そして、上から規範を押付けるような倫理ではなく、個々の事例、ケースからあるべき姿を考えていく、あるいは自分の身に置き換えつつ考えていくような、倫理のあり方について考えていきたい。
（以上）

鈴木 晶子 氏8

④ 講演４
・講演者：松尾 豊 氏（東京大学大学院工学系研究科技術経営戦略学専攻 特任准教授）（人工知能学会倫理委員会 委員長）
・タイトル：「ＡＩは人間を超えるか」・概要：
人工知能（ＡＩ）は約６０年位前から研究されてきた。現在、第３次ＡＩブ－ムが到来し注目が集まっているが、その期待は過剰と言わざるを得ない。我々にとって重要なのは、ＡＩは「何が出来て何が出来ないのか」を確実に把握しておくことである。現在、世の中でＡＩという言葉で言われるものには 3 つのレベルがある。
Ⅰ：従来からあるＩＴ系（ＩＴ技術の擬人化：券売機など）；
Ⅱ：マシ－ンラ－ニング系（機械学習や自然言語処理など：ビッグデ－タなど産業へ応用）；
Ⅲ：ディ－プラ－ニング（ＤＬ）系（画像認識など）；
ＤＬは画像処理･認識（物体検知など）に特化することで極めて有効な技術となったが、既にその認識エラ－率は人間の精度を超えた。汎用の OpenCV（画像処理に使われるプログラム）にも使われてきており、コモディティ化が進んでいる。次に興っているのが「運動･動作」に係わる技術である。「ＤＬ+（深層）強化学習」により、カメラ（眼）を搭載したロボットやロボットアームがＤＬにより熟練・上達していく。ＡＩには以前、「モラベックのパラドックス」という言葉があったが、これは『ＡＩには医療診断、数学定理、チェスなど難しそうなことは出来るが、３歳児の出来る積み木のようなことは難しい』というものである。しかし、現在、画像認識技術が飛躍的に進み、このようなこともＡＩには可能になって来た。このように、ＤＬは機械系、ロボット系、カメラ、センサとの相性が良い。これらは日本の得意分野であり、Ⅰ、Ⅱの技術では海外に追いつけないが、この分野では、日本は逆転できる可能性が大きい。更に現在は、「言語」に係わる技術が進展している。
「画像から文章を生成する」「文を入れると、画像が出てくる」などの“シンボルグラウンディング”技術などである。
このようなＤＬ技術の発達は何を意味するであろうか。生物は環境から何らかの情報を知覚し、それに応じて行動を生成するとう「身体性ル－プ」を廻している。更に加えて、人間には、言葉を聞いて、記号を想起し、発話するという上位のル－プを独立に廻す技を身につけた発達してきた。
これは「長期プラン」のためのものであり、人間が社会生活という虚構を共有し、集団行動するためである。現在、ＤＬ技術は、この身体的ル－プのところが主流であるが、今後は、この先にはこの上位ル－プの研究が重要になる。
地球の歴史で多種多様な生物が爆発的に生まれたのが「カンブリア爆発」であり、その原因と考えられているのが、「眼」の獲得による生存戦略の多様化である。（「眼の誕生」；アンドリュ－・パーカ－著）ＡＩを生物に例えると、ＤＬは脳の「視覚野」部分の相当し、センサは眼に相当する。
人間の思考は相当な部分で空間的認知がベースにあり、「視覚野」が担う。この視覚の処理が出来てきたＤＬには「知能の進展」が期待できる。即ち、これは、今後、「ＡＩによるカンブリア爆発」が起こることを意味している。今まで人手がかかるとされている仕事は「人間の眼」が重要であるが、「ＡＩの眼」により新しい発展が予想される。また、工学の他の多くの分野でも新たな技術進展を迎えると期待されており、少子高齢化対策や産業競争力強化に貢献できる。
9

ＡＩのような新しい技術が社会で使われると「考えるべき点」が多くある。例えば、自動運転の事故責任、ＡＩの犯罪・軍事利用、ＡＩが創った知財、人間の権利との関係などである。これらについては国でも 2015 年くらいから動き始めているが、人工知能学会倫理委員会（委員は研究者だけでなく SF 作家、コンサルタント、科学ライタ－など多方面から構成）としては３年ほど前から活動してきており、学会の全国大会でも公開討論を継続している。
「倫理」については、今のＡＩの技術レベルと社会のイメ－ジレベルの乖離が大きく、専門家と社会（不安に思っている）の対話が必要である。
『半分くらいの職業がなくなる』などと発表している研究機関もあるが、実際には人間でないとできない仕事はたくさんある。
（対人コミュニケーション、目的設定、価値判断、など）人間の知能とその生命性は全く違う。
「知能」には単純な原理があるはずであり、工学的（ＡＩ）に利用できる。
「知能」を除いた人間性は、その長い進化の過程で獲得してきたものであり、単純ではなく複雑なものである。人間には二面性があり、個の生存と集団の生存である。後者では協調を重視し、場合によって仲間も殺す。しかし、個の利益追求もしたいのである。ここに、人間の葛藤が生まれる。進化の過程で創り込まれた本能、感情などの表出したのが倫理観、規範・ル－ル、法律などであり、このため「倫理」は難しいし、単純ではない。人間がどう感じるか？科学技術と組み合わせたとき、どういう仕組みにしていくべきか？を考えていくべきである。人工知能学会では 2017
春、「倫理指針」を発表した。指針には、８条までは、一般的な、技術者･研究者として他の学会と同様に当然のことを記載している。特徴的なのは、第９条であり、「ＡＩ自身が社会の構成員になるのはどういうことか？」との問いかけを含め「ＡＩへの要請」として規定した。
『ＡＩで仕事はなくなる』と言われているが、なくならない。しかし、今でも仕事の約８割は生産性の観点からは殆ど意味がない。それでは、人間は何をやっているのか？と言うと、会社組織を作って、競争しており、「部族ごっこ」をしているに過ぎない。ＡＩロボットで生産はやるようになるが、人間はこれからも「部族ごっこ」をやり続けけるだろう。しかし、この「部族ゴッコ」は実に人間らしいと思う。
「人間とは何か？」とは深淵な問いであり、継続的に考えていくべきである。
ＤＬは産業を大きく進展させ、日本の産業の切り札となる。一方で、そのような技術を使って我々はどのような社会を造りたいのかを議論していくことが重要である。
（以上）

松尾 豊 氏10

⑤ パネルディスカッション
・テーマ：「ＡＩ：未来社会に向けての技術者･研究者と社会との協働」
・パネリスト：矢野 和男氏、 江間 有沙氏、 鈴木 晶子氏、 松尾 豊氏
・コーディネータ：札野 順 氏
・概要：
パネル討論では、会場からの質問・意見および札野コ－ディネ－タから提起された論点、そして、そこから展開された課題等について討論が行われた。大きく以下の５項目について議論された。

議論 1：「ＡＩ技術の現状と可能性」
・現状あるいは近い将来のＡＩ技術について過大な期待や怖れ･不安があるが、研究者･技術者も社会も正しく同じレベルで理解しておくべきである。また、会場からの質問があった、『ＡＩが法律を創れるのか』ということについては、「不可能」であろう。物理学の法則は発見できるかもしれな
い。しかしながら、法律は文化や倫理と大きく関係しており、ＡＩは言葉の意味が理解できないので、広範囲な｢目的設定｣を人間がする必要がある。
・一方で、膨大なデ－タとその結果がある分野では様々な可能性がある。会場からの質問の、『防災対応応用』については、その性質上、過去の「利用できるデ－タ」が少ないが、今後、コンピュータのハード自体やシミュレ－ションの発達で補える可能性は期待したい。

議論 2：「ＡＩ技術がもたらす結果に対する責任」
2-1：「法的責任について」
・現在でも、個人の責任ではない「法人の責任」という法的概念があるように、人工物であるＡＩに責任を付加することは可能性が無いわけではない。ただし、ＡＩは学習するという新しいカテゴリ－の人工物である。人間の社会システムのあり方に近い。参考になる例として、人間社会では、｢運転免許制度｣などが機能している。
・近代的法概念では「自由意志を持っているから責任が発生する」ということである。
「責任」にも Responsibility、Accountability など様々あるが、ＡＩに責任を付与できるかなどについては、新たな方概念の必要性を含め、法学者が研究中の課題である。
・実用化が近いと予想されている自動運転技術では、その事故の責任は誰がどのように取るべきか？という新たな喫緊の命題に対し、基本的には、まずは「製造物責任」の延長として、一般的には自動車メーカーによる賠償やＡＩ対応型の自動車保険等で対応することが現実的であろう。

2-2：「ＡＩを開発する技術者・研究者の責任：技術者倫理」
・ＡＩの開発者、研究者は、他の技術を開発する場合との「違い」を認識する必要がある。
「原爆開発者の責任問題」の議論は有名であるが、ＡＩは、更に「自律的に学習する」という他の技術にはない特徴を有しており、予めＡＩの挙動を完全には把握しきれないことが起こりえる。また、兵器（自律的ＡＩ）転用という、「デュアルユ－ス」の影響は従来の技術より極めて高い。従って、ＡＩ技術は社会的に大きな影響を及ぼす可能性があると認識しその技術のみならず、その社会的影響についても、より一層理解を深める必要があり、そのためにも様々な関係者とのネットワーク作り、11即ち「協働」が重要になる。

2-3：「利用者側の責任：技術のメリットとリスクテイキング」
・ＡＩの革新的技術自体（例えば自動運転技術）がアウトカムではなく、ＡＩ技術は手段であり、それによってもたらされる結果（利益：期待される街のあり方などの社会システム）がアウトカムであるということである。現在そして今後の社会は、既存のル－ルを守ることで、リスクテイキングしなくてよい「安心な世界」ではなく、変化が求められている。
「トロッコ問題」は常に起きている。全てを誰かの責任にするのではなく、利用者側もＡＩによるリスクを理解した上で利益を享受するという認識･覚悟（ある意味｢責任｣）が必要である。

議論 3：「人工知能学会 倫理指針：ＡＩそのものの倫理」
・人工知能学会では倫理指針の中に「人工知能への倫理遵守の要請」の条項（第 9 条）を設け、『人工知能が社会の構成員またはそれに準じるものとなるためには、（中略）人工知能学会員と同等に倫理指針を遵守できなければならない。
』と定めている。本条項が現実に必要となるとしても、それは遠い将来のことと予想されるが、本条項を定めたねらいの一つは、「ＡＩが遵守すべき倫理とは何か」という議論をきっかけに、関係者の間で様々な対話の機会を増やすことがあった。
・本条項は多くの学会員から「非常にユニーク」と肯定的に捉えられているが、その一方で、本倫理指針の主となる他の条項では、技術者・研究者はＡＩ技術が他者に悪用されることを防止する措置を講じるよう努めることが掲げられている。これは、他の先進技術でも同様であるが、自らの研究開発への過剰な規制に繋がることを懸念する声もある。

議論 4：「ＡＩが創造する未来社会と人類全体の幸福」
会場から、『ＡＩ時代ではアウトカムがより価値を増すことになるが、「ハッピネス」というアウトカムを設定することは、知の再統合が必要になってくる』との意見が出された。また、それに関連して、コーディネ－タから『人類の幸福へ貢献することで、貢献したその人自身も大いなる幸福感が得られる』という考え方（well-being）が示され、米国の心理学者マーティン・セリグマン（M.Seligman）がポジティヴ心理学として、幸福になるためのＫｅｙとして提唱している「PERMA」の紹介があった。
（ポジティヴエモ－ション、エンゲ－ジメント、リレ－ションシップ、ミーニング、アチ－ブメント）。以下、ＡＩがもたらす「社会の姿」と「幸福」に関する議論が展開した。
・京大では、幸福感を尺度として設定し研究（教育学、心理学、哲学 共同）してきている。幸
福とは何か？の国際比較をすると、東洋はレベル 3、ＵＳＡはレベル 5、ＥＵはレベル 2 など、社会の価値観、文明で違う。一律に定量化できることと、できないことがある。
「表出している文化と奥に潜む文化を合わせて考え、社会の具体的イメ－ジをどのように構築していくいか」が今後の面白いテ－マである。
･ハピネスにはいろいろな意味が混じっている。ハッピネス：いい状態というのと、どうやったらいい状態になれるか？というアクションがある。労働の質という観点からは、人間は労働集約型から開放され、より創造的な労働に注力できるだろう。
・多くの技術者・研究者らは「社会の中で役割をはたす」という喜びや、「自分の能力を使うこと12で社会が良い方向へ向かう」という実感がハピネスのひとつである。
・技術者・研究者が利用者側のハピネスのということを考える時に念頭におくべきは、「何を幸福と捉えるかは個人によって異なる」ということである。
「便利」なことが全てにおいて「幸福」であるとは限らない。それは、人によって、文脈によって変わるということを、互いに見て言語化していく作業というのが必要になってくる。
（例；ファミリ－ロボットへ多くの日本人が持つ親近感などの感情は、海外の人々では同様でないことも多い）その技術を利用する側の社会の多様な人々にとって、その便利とは何？気持ちいいとは何？など、技術者･研究者が「想像力を働かせられる」情況が大事である。
・一人ひとりが自らの意見を述べられるようにすることが重要であり、対話をして、「嫌だ」と思ったら｢嫌だ｣と言うことができ、選択することができる状態が大事である。そこで初めてハピネスを保つことができる。
（ただし、これは自律的な人々の感じ方であり、他の人にまかせることがよいと思う人もいる。
）

議論 5：「ＡＩ技術；社会との協働」＜誰と誰がどのように議論するべきか？教育のあり方とは？」・社会の人々にとって、ＡＩの「ブラックボックス」のところが信頼できるのか？納得できるのか？がＫｅｙである。利便性とリスクのトレ－ドオフも理解させて納得できる形で説明できるのか？である。対話には、心理学や行動経済学などの知見も必要である。
・気をつけるべきは、知らないうちに浸透してインフラ化するのが問題である。目に見えていな
いところでＡＩが入り、事故が起きてから気付くということにならないように、入れる前に議論することが大事である。
・上位のアウトカムベースのサ－ビスが増加する。今までのメ－カは、製品は仕様機能どおりのものの納入でありアフタサービスであった。ＡＩ社会では、技術者には、より広いリテラシ－と倫理観を持つ「ジェネラリスト」が求められる。
・「人工知能に道徳性をもたせられるのか？」や「ＡＩ向けの教養教育はどうしていくのか？」な
どの課題に対応するには「ジェネラリスト」が重要な時代になってくる。ＡＩは「人間の鑑」であり、技術者･研究者の人間性自体が問われている。人間諸科学研究者の研究デ－タの勉強だけではダメであり、経験からの人間理解が重要である。若い世代には、体験ではなくとも想像力で理解できる教育が必要である。
・技術者･研究者だけでなく、人文社会科学者の教育はどうすべきか？も課題である。彼らが、技術への興味を持つためには、一人でできないのでネットワ－クや、大学での教養教育の場を創ることが大事である。
・誰が誰とどう議論すべきか？という命題に対しては、「Inclusion」の場をデザインしていくことが重要である。海外ではＡＩに関する議論が盛んであり、ＩＥＥＥなどでは政策提言もしている。
日本の工学界も乗り遅れないようにすべきである。
・教育会も危機感をもって活動を開始している。今後の課題としては、専門家が教えをたれるのではなく、不安やおかしいことを議論する場が必要であるが、日本では海外に比べて遅れている。
小学生向けに技術の倫理、科学の倫理を対話型で展開していくム－ブメントが必要である。日本学
13

術会議サイエンスカフェなど）で議論している。哲学分野では「技術、科学とどう出会うか？」の命題での教育を開始した。
・現在の技術者・研究者は学会活動が育ててくれた。しかし、時代の流れは、従来の「成果発表」「問題を解く」だけの学会ではなく、「正しい問題を創る学会」へもシフトすべきではないか？両方が必要ではないか？
・日本人工知能学会の第 9 条については、技術的にそうすべきか？あるいは出来るか？については未知である。｢技術者・研究者と社会との対話｣のきかっけになることを目的とした。我々には、「自ら学習していく人工物」は経験がなく、このような概念を実現できるような法制度や検査の仕組みがまだない。機械学習工学という新しい学問体系も必要である。

14

パネリストの皆様

コーディネータの札野 順氏
15シンポジウム会場（以上）

16