2021 年 8 ⽉ 18 ⽇

第３回【おウチで】⼤阪⼤学ロボットサイエンスカフェ
アディショナル Q&A

2021 年 8 ⽉ 1 ⽇に開催された本サイエンスカフェでは、多くのご質問・コメントをいただきました。ここでは、時間の都合上イベント中に取り上げられなかったご質問の⼀部について回答いたします。なお、回答の内容は回答者個⼈の⾒解です。⻘⾊の⽂章がご質問で、⿊⾊の⽂章が回答者による回答です。

⼭崎さんへ
1. ⼭崎さんはロボットが⼈の意思を変えることについてどう考えていますか？
本⼈の意思の尊重は倫理的な原則です。しかし、本⼈⾃⾝が思うままではなく、意思を変えることは時に必要であり望ましい場合もあると考えられます。
⼀⽅で、無理強いしない配慮がまずは⼤事でしょう。そのためにコミュニケーションがあり、よく聴いてみれば本⼈が望むことが実は開⼝⼀番の話と違っていた、なんてことは⼈間同⼠でもありうることです。その意味では、どんな関係性のうえに物を⾔うのか、ということは決定的に⼤事です。しかし、本⼈が逆らえない強制⼒が⾏使されるなら、倫理的に⼤きな問題です。嫌なことはされたくないものですが、よくわからず嫌な感じがしていたけれど、実は良いことだとか⾃⾝にとってありがたいことだとかとわかってくると、学習を基に、柔軟に対応して意⾒を変えることが賢明な場合もあります。私⾃⾝は効⽤、つまり満⾜度を最⼤化して意思を変えるアプローチを提案している張本⼈です
が、実は第三の観点として、ロボットを使わせる者がいます。たとえば、技術者や介護者です。若年の皆さんにとっては、親御さんを想定した⽅がわかりやすいかもしれません。ロボットに内在する志向と背後の意図、使⽤させる者の判断が潜んでいるわけですが、使わせる者の説明能⼒や誠実さといった徳、AIの徳といった論点が私としては⼤事だと考えていますし、ご興味のある⽅はたとえば徳倫理というものを研究されてみてはいかがでしょうか。ついでにさらに進み、応⽤問題として、⾝寄りのない⾼齢者が⾃らロボットの使⽤者となり、誘導されていく場⾯についても検討されるとよりリアルです。以上から端的に私が⾔いたいのは、原則だけでなく、現場といいますか、現象のリアルに即して、そのうえで⼤局的に考えることが⼤事でしょう、ということです。
2. いつか⼈間と⼈間が触れ合うことで認知症を解決するよりも⾼齢者のニーズに合わせられる時代は来るのでしょうか？
機械は忍耐強い、という特徴があります。⼈間は同じ話を何度も聞くのは⼤変ですが、機械はそんなことはありません。話し⼿となる⼈がロボットに飽きなければ、という条件付きですが、今でもロボットが聴き⼿としてのニーズを満たす可能性はあります。このような特徴を⾒極めて、現実に活かすことができればご期待されている「時代」が来る可能性は⼤いにあると思いますし、私⾃⾝そうした可能性を探っています。ロボットのもう⼀つの特徴はデータ収集に⻑けていることです。⽇常的に、しかも⾃ら働きかけて認知症の⼈の発話や⾏動データを集めることができるポテンシャルを持っています。ここで⼀つ考えるポイント
は、エイジングに関する教育、⾃⼰実現です。⾏動や診断の予測、また認知症になってからの対応という点でも、認知症になる前からのデータが実は重要になります。さらには若いころからの情報やロボットのリテラシーを含め、⽼いる準備、さまざまな弱さを抱えた⽣き⽅とメディアとの付き合い⽅の検討は、今後ますます重要な課題になるものと思います。あと、⼈同⼠の触れ合いの重要性です
が、これは今試練にかけられているものとも思います。⼈と会いにくいこれからの時代、また⼈に似た機械との区別が不明瞭になりうるロボット到来の時代に今⽇を、⼈同⼠の触れ合いにどんな価値があるのか、なぜ価値があると⾔えるのか、実はないのではないか、など翻って私たちの思い込みや価値観の真価について振り返る機会として、現代を⽣きる私たち⾃⾝を⾒つめなおす視点も議論できる場を作れたらいいですね。
3. 対話ロボットと交流することと、⼈と交流することによる違いはありますか？
いずれなくなるかもしれませんが、今しばらくはあるでしょう。むしろ、これから違いは顕著になるのではないでしょうか。⼤⼈になって、たとえば⾼齢者に抱えてもらって話をするようなことは通常できませんが、ロボットメディアを介して実現できます。直接対⾯での交流と応答が違ってくるのは、ロボッ
トに対⾯する⼈もそうですし、操作する側にも当てはまります。⾃⼰の⾝体変容に馴化する、そんなプロセスも研究課題になるものですから、分⾝や憑依、BMI といった⾔葉も含めてご⾃⾝の問題関⼼を深めてもらえれば幸いです。
4. ロボットが社会に参加するとしてどのくらいまで参加するのが良いのでしょうか？

ある程度は⼈間⾃体が担うべきなのでしょうか？

⾼齢者ケアの現場では、ケアする⼈の⼈⼿不⾜の問題がありますし、⼀⾒ロボットの参加が⾃明のように思われるかもしれません。しかし、機械によるケアは、特に使ったことのない⼈にとって⼈のぬくもりを与えない「冷たい」印象を与え、拒否されることもあります。また家族にとっては、機械に任せる後ろめたさがあるという指摘もあります。ところが、実際にロボットを使った⾼齢者は喜んでいて、その様⼦を⾒た家族や介護⼠が意⾒を変えることもよくあります。ロボットがどこまで受け⼊れられうるのかという点では、ユーザとノンユーザの違いが⼀つ考慮する事項になるでしょう。
より⼀般的に、ロボットに⼈に替わって社会で働かせるべきかを問うなら、⼈間がどのくらい「仕事」をしたいかによるのではないでしょうか。職業のようにロボットの社会進出によって⼈間社会から失われていくものもあるでしょう。
⽣活の必要に駆られて⾏う「労働」は、⾃ずと機械が担う度合いが増していくものと思いますが、物作りのための思考や作品制作、⼈格的な他者との関係性にロボットが⼊り込んでくると脅威を覚える⼈が増えてくるかもしれません。トー
クではむしろ、ロボットが⼈の関係性を回復する新たな側⾯について解説しました。私⾃⾝は⼆者択⼀よりも協働の具体的な姿を描き出し、何となく思っているような憶測やその前提を問いなおすことが重要と考えていますが、たとえば概念的な区別として労働、仕事、活動はどう違うのか、⼈間の営みについて本質的に問いなおしてみたい⽅には、ハンナ・アーレントという哲学者の『⼈間の条件』という本が参考になるかもしれません。

内⽥さんへ
1. 相⼿の話に興味があるというのは仕草からでも伝わると聞いたことがありますが、それについても検討されていますか？
本研究では扱っていませんが、おっしゃる通り、相⼿の話に興味があるかどうかを仕草（専⾨⽤語では⾮⾔語情報とも⾔います）から理解することも可能です。仕草などから興味などを推定する研究も数多く⾏われており、今回ご紹介しました相⼿の発⾔（専⾨⽤語では⾔語情報とも⾔います）といかに組み合わせるかという研究も必要な研究であると考えています。
2. 機械が⼈を笑わせたり冗談やジョークを⾔ったりするようなことは可能になると思いますか？
冗談やジョークのレベルにもよると思いますが、可能だと思います。設計者がルールを書き出して機械にプログラミングしたり、そういった発話に関するデータが⼤量にあれば、機械学習などの⼿法を使ったりすることで、実現できる可能性があります。とは⾔え、冗談やジョークは個⼈によっても受け⽌め⽅が異なりますし、⼈が笑うとはどういうことなのか、という問いは⾮常に難しい根本的な問題なので、機械がどこまで実現できるかは、今後の研究次第という所が⼤きいかと思います。
3. 「常識」の話からですが、ではロボットは物事の善悪を判断できると思いますか？

例えば愛娘の命を狙う悪⼈を 50 ⼈殺した⽗親の善悪の判断などです。
現在の技術では、ロボット単体で善悪の判断を⾏うことは困難だと思います。
ロボットや AI は、⼈間である設計者から与えられたルールやデータに基づいて、善悪の判断を含む判断を⾏いますので、ロボットが単体で善悪の判断はできません。⼀⽅、⼈間が把握しきれないほどのルールやデータになってくれば、ロボットが判断していると「思える」かもしれませんし、⾃律的に善悪の判断の根拠となる経験を、ロボットが⾃律的に蓄えるような技術が出てくれば、より可能性が⾼くなると思います。
4. 知識の提供ではなく、⼈間同⼠が会話するようになるにはどういうことをロボットに教え込むべきでしょうか？
⼈間同⼠のような会話を実現するために、私の研究から分かってきたことは、対話する者同⼠の関係に着⽬することが重要であるという点です。単なる知識の提供ではなく、話している相⼿と仲良くなれそうか、⾃分にとってどのような存在（もちろん関係を持たないということも含めて）となりそうかなどを確かめ合うことが、重要であると考えています。

中島さんへ
1. ドットの集合の画像から線・⾯・視線・光源を認識させられるのでしょうか？
はい、機械（コンピュータ）を使って様々なものを検出、推定しようとしています。
例えば、コンピュータビジョンの分野全体で⾒ると、画像（＝ドットの集合）の中の直線を検出したり、何らかの意味で「⽬⽴つ」点を検出したりする技術が提案されています。また、これらを組み合わせて⾯を⾒つけるような研究もあります。ある条件の下で、画像から視線（カメラの位置）や光源を推定する研究もあります。これらは、機械学習や深層学習とは異なる技術で実現されることが多いです。特に深層学習に関係する部分に限っても、前述の線や点などの検出、視線や光源推定を、DNN で実現しようとする研究もあるようです。
また、今回お話した画像認識のためのモデルは、画像中の線や点に反応するように学習して、それらを組み合わせてより⾼レベルな概念を表そうとしていると⾔われています。この意味でも、機械は少なくとも点や線のような要素を（間接的に）検出していると⾔えるかもしれません。
2. 機械が画像ではなく動画をみるときも先ほど話されたようなことが起きるのですか？
時間⽅向の変化があるために、動画の⽅が画像よりも（学習のためのデータ集めが⼤変という点も含めて）難しい傾向があります。動画に関するタスクの中で、⼈間より機械の精度が⾼くなるものがあるかどうかはわからないですが、データ数が少ないことが多いという点からも、データの偏りの問題はより深刻になると予想できます。

3. 機械が⼈を笑わせたり冗談やジョークを⾔ったりするようなことは可能になると思いますか？
例えば、Apple の Siri や Amazon の Alexa には、冗談を⾔う機能がついていますね。⼈と機械のコミュニケーションで、機械が空気を読んで（場を和ますなど）、⽂脈に応じた（今までの対話に関係するような）冗談を⾃発的に⾔うのは、コミュニケーション⾃体が難しいというところも含めてまだ実現できていないかもしれませんが、何らかの限定された状況であれば、そのようなコミュニケーションをしているように⾒える機械を作るのは難しいことではないと考えます。
4.

⼈間の表情でも例えば顔⽂字でも⽇本⼈とアメリカ⼈とでは、受け⽌め⽅が違うとテレビで⾒ましたが、AI が⼈の感情をくみ取って、対話ができるようになる可能性はあるのでしょうか。
機械が⼈の表情を読み取るという研究は広くされています。コミュニケーシ

ョンができる機械を作ることができれば、読み取った表情に応じてコミュニケーションの⽅向性をコントロールすることも難しくないように思います。⼀⽅で、表情と感情の関係は、⽂化によらず⼀致する、⽂化によって異なる、など様々な意⾒がありそうですが、いずれの場合も、今のところ機械にできるのは、データからその対応を⾒つけ出すということになります。⽂化によらず⼀致するのであればいろいろな⽂化圏の⼈たちの表情と感情の対応をまぜこぜで学習して、⽂化によって異なるなら⽂化圏ごとに学習する、などでより⾃然なコミュニケーションができるようになるかもしれないですね。