2020年度 グループ 8 活動報告
研究開発項目 8︓アバター社会倫理設計

研究開発課題１：アバター社会倫理設計コンソーシアム運営とアバターコミュニケーシ
ョンの研究
本研究では、異文化コミュニケーションを支援する CA の実現を目指し、文化や個人特性による非言語行動の形態や使用タイミングの違いを分析・モデル化する。この目標に対し、当該年度では、主に以下の 2 つに取り組んだ。

多言語・多文化コーパスの収集
本年度のマイルストーンとして、3 か国語、計 100 会話のビデオデータを収集することを目標に掲げた。これを達成するために、
日独仏の 3 つの言語を対象とし、YouTube からビデオを合計 147 動画収集した。ビデオデータを分析するために、画像処理による分析ツールである OpenFace によりビデオを処理し、頭部動作や顔パーツの座標等のデータを収集した。さらにビデオから音声トラックを分離し、音声特徴量や発話の書き起こしデータを作成する必要があるが、日本語については書き起こしは作成できたが、他の言語については書き起こし作業は未完である。

エージェントアニメーションによる性格特性の表現方法の研究
本研究では、非言語情報により表現される個人特性の 1 つとして性格特性も対象とする。本年度は、性格特性によるジェスチャ動作の違いを分析し、それをキャラクタアニメーションに実装し、そのアニメーションを見た被験者が実際に特定の性格特性を認識することができるかどうかの評価実験を行った。そして、性格特性とジェスチャの動作特性との関係について調べた。結論
として、ジェスチャ動作は性格特性によって異なること、これをアニメーションキャラクタに実装すると、人に対してと同じようにアニメーションキャラクタに対しても特定の性格特性を感じられることが分かった。

研究開発課題２：モラルコンピューティングの研究開発
移動型 CA のモラルコンピューティングの研究開発
予備的な遠隔操作システムを用意して研究を開始した。オペレータは、ロボットのカメラの映像を見ながら、ロボットの動きを遠隔操作することができ、ロボットの近くにいる人と会話することができる。CA 操作時の現象を理解するために、オペレータがわざとロボットの周りの人を邪魔するといった予備実験を行うとともに、文献調査も進めた。これにより、歩く道を妨げる、視界を遮る、グループの間に入るなど、当初計画通り 3 行動以上の低モラル行動をリストアップすることができた。

CA が対話する際のモラルコンピューティングの研究開発
既存の利用可能なデータセットを調査したが、新しい認識システムを構築するのに適したデータセットは見つからなかった。そのため、独自のデータセットを作成することにした。データセットを構築するために、すでに所有している実際のロボットとのインタラクションのビデオを分析した。ショッピングモールでロボットがタスク（パトロールまたは情報提供）を遂行している際に、ロボットと話している子供たちの約 1,600 の発話から構成されるデータセットを予備的に準備し、その一部のラベル付を開始した。これらの発話は、ロボットに対してさまざまな異なる態度を示している。ラベル付けの基準を検討し、中立、冗談、怒りの 3 つのクラスを定義した。すでに、100 発話以上のラベル付けを実施することができた。

1 / 3

研究開発課題３：モラル行動の研究
アバター社会倫理の設計
本年度はアバター社会倫理の設計とアバター社会倫理コンソーシアムの設立に着手した。具体的には「アバター社会倫理設計コンソーシアム」の理念、コンセプトをグループ 8 のメンバーと議論を行った。そのうえでアバター社会における倫理的課題の洗い出しとマッピングを行った。課題としては、アバターを活用することによって得られる利益を誰もが享受できるかどうか、アバターの自律的な行為が差別や不公平を引き起こさないかどうか、本人とは全く異なる属性を持つアバターを使うことによって利用者の人格がどのように影響をうけるか、アバターが他者との間に介在することにより他者との社会的関係がどのように影響を受けるか、民主主義的な社会の在り方がどのように変化するか、アバターに倫理的な判断や行動をとらせることはアバターに道徳的行為者性を付与することになるか、アバターは道徳的被行為者と見なされうるか、などが挙がった。こういった問題は人工知能やロボットに関しても指摘されている問題とオーバーラップするところが大きい。そこで我々はロボット倫理学や AI 倫理学、あるいはデータ倫理学などに関する文献や既存の倫理原則などを調査して問題を精査した。またロボットや人工知能とアバターの違いはどこにあるかという問題についての検討を始めた。さらに課題を個人、他者、社会という三つの観点からマッピングして問題の整理を行った。
こういった理論的な問題の検討・考察と並行して、アバター社会倫理コンソーシアムの運営にも着手し、コンソーシアムへの参加をいくつかの企業やアカデミアに呼びかけた。本年度のマイルストーンであったコンソーシアムの立ち上げに関しては順調な成果が上がっている。

研究開発課題４：プライバシー問題の研究
CA の利用とプライバシー
CA の人格の使い分け(利用)は、プライバシー概念自体をどのように捉えるかという本質的な問題と関係する。そこで、改めてプライバシー概念に関する国内外の文献調査を行い、以下のように論点を整理した。具体的には、①CA の法人格性の有無、②CA と実在の本人との同定性の要否、③CA の外貌や人格の公開の有無を決定する権利といわゆる「自己情報コントロール権」の関係、④CA によるプライバシー侵害行為への法規制の 4 つとした。

CA のなりすましとプライバシー
令和 2 年度は CA を利用する上でのセキュリティ問題のうち、特になりすましに焦点を当てて検討を行い、以下のように論点を整理した。CA のなりすましに対しては、①事前措置と②事後措置を検討する必要がある。①については、事前規制として一定のセキュリティ措置を組み込むこと、具体的には CA に適した本人確認の仕組みを整備する必要がある。これについては、現在、アバター社会倫理設計チームで検討予定の認証制度に組み込み、安全性を担保すること、あわせて認証制度を基礎付ける法制度の整備が考えられる。②については、事後規制として、なりすまし行為に対する法的制裁の適用が考えられる。この関係では、不正アクセス行為を処罰する刑罰法規が既に存在するものの、本研究では、なりすまし自体に対する法規制のあり方について、CA 利用の文脈で整理し直す必要性がある。

研究開発課題５：アバター法の研究
CA の研究開発と社会実装に必要な「社会制度（倫理・社会的受容性）」及び「法制度（法令その他の規範）」に係る研究
CA の研究開発、利用、社会実装及びに受容性に係る法的課題を明らかにするための検討を実施した。CA を社会において利用するにあたって検討が必要な法的課題を研究するとともに、それらを用いた技術が社会においてスムーズに利用されるた

2 / 3

めの社会的受容性のあり方についても検討を行った。いわゆる「ロボット法」として研究が醸成されてきた知見に基づき、法制度（法令その他の規範）については、個別の検討課題を通じて、具体的に解決が必要な法的課題を現行法の枠組みにとどまらず、新たな法整備やガイドライン等の規範策定も含めた提言を行うための知見を整理した。

国際標準となり得る基本理念や原則の定立、法整備に向けた提言及び新たな社会規範の提案に係る研究
また、CA の利用に伴う法令遵守に必要な基準について検討を行うことにより、新たな社会制度の構築に向けた具体的な取り組みを実施するため、CA の利用に伴う法令遵守に必要な基準（法解釈の明確化）に向けた検討を行った。

3 / 3