2021 年度 グループ 8 活動報告
研究開発項目 8︓アバター社会倫理設計

研究開発課題１：アバター社会倫理設計コンソーシアム運営とアバターコミュニケーシ
ョンの研究（１）話者動画データの収集とデータセットの作成
独自のデータとして、日本、インド（使用言語は英語）、フランス、ドイツの４か国の話者データを収集するために動画サイトからビデオを各 100 以上収集した。ビデオ内には話者以外のものが写っていたり、資料映像が流れるシーンなどがあるため、これらをデータセットから除外するため、不要部分のアノテーションを行い、データの整備を行った。この作業は約 7 割のビデオについて完了している。さらにこれらに対し、OpenPose による姿勢データを取得した。図１に収集したデータの一部を示す。さらに、データのフォーマットなどを調整し、米国 CMU で作成された話者データ PATS と統合できるようにした。これにより 5 カ国、500以上の YouTube ビデオから話者データを取得できる環境が整った。

（２）話者の印象と動作との関係の調査
今年度は、個人による印象の違いに着目し、非言語行動の特徴を学習するモデルについて検討し、印象が異なる個人と非言語行動との関係を調査した。PATS データセットを用いて個人の動作特性を学習する Style Transfer モデルについて検討し、予備調査的に学習モデルを作成した。その結果、Style Transfer の手法は動作の個人特性の学習に有効であることが確認できた。
課題推進者︓中野有紀子（成蹊大学）

研究開発課題２：モラルコンピューティングの研究開発（１）移動型 CA のモラルコンピューティングの研究開発
移動型 CA に関して生じるモラルに関する問題について、CA 自身がその行動の適切さを判断し、不適切な場合には適切な行動に変更したり、その操作を無効にしたりするというモラルコンピューティング機能の研究開発に取り組んでいる。本年度はこのために、規範となるようなモラル行動の学習技術の構築に向けて、データセットの構築に取り組んだ。
移動型 CA の基本的なシステムを実装したうえで、参加者が絵画展の来場者役となる場面を設定して、データ収集実験を行った。実験参加者の一人が CA を使って絵画展を見学した。その際、CA のカメラから周囲状況を把握しつつ、ジョイスティッ
クにより CA を操作した。CA を使用した参加者 25 名の操作データを収集した。収集した操作データには、適切な良い操縦場面と、不適切な操縦場面（例えば、CA が周囲の人に近づきすぎてパーソナルスペースを侵害したり、後方走行や高速走行など危険な動作をしたりするなど）の双方を含む。CA 制御の適切さは、オペレータによって個人差が大きい様子も見られた。
これらの 25 名の操縦について、データのラベリングを行い、CA の適切な行動（規範となる行動）と不適切な行動の場面を100 件以上同定し、モラル行動の学習に使えるためのデータセットを構築した。
データセットの構築のため、人々と CA が同じ空間で移動する場面を準備し、その場で起きた状況をデータ化した。ショッピングモールや博覧会など、近い将来に CA が利用されそうな場所において、人々と CA が自由に移動する場面を対象とした。そのような忙しい場所で壁に貼られている情報を確認する、歩きスマホをする、などの行動は日常生活の中でよく観察される。そこ

1 / 4

に CA が参加して移動型 CA との生活の中で自然的に起こる場面を対象に、データ収集実験を行った。合計で 25 人の参加者が通行人がいる状況において CA を操作し、CA から見える場面、参加者の顔の表情、操作の命令記録、部屋全体の状況、など様々なデータを収集した。収集後にラベル付することで、20 人以上の良い操縦行動・悪い操縦行動を収集することができた。

図︓絵画展場面での CA 操縦データ収集における不適切な操縦場面の例（左）と自由に移動する場面におけるデータ収集の様子（右）（２）CA が対話する際のモラルコンピューティングの研究開発
CA が対話に用いられる時に生じるモラルの問題について、CA 自身がその行動の適切さを判断し、不適切な場合には適切な行動に変更したり、その操作を無効にしたりするというモラルコンピューティング機能の研究開発に取り組む。本年度はこのために、モラルに関する問題状態を検出する技術の構築に向けて、データセットの構築に取り組んだ。以前に行った、ショッピングモールでのフィールド実験のデータから、来訪者がロボットに話しかけた発話を収集することでデータセットを構築した。データは、複数の視点からのカメラ画像とロボットに搭載されたマイクによって記録されている。そのうちの、約 21 時間の映像を分析し、今回の分析対象となるようなものとして 1701 の発話候補を抽出した。次に、3 人のコーダーがこれらの発話を聞き、どのような態度が表されているか、言語的内容が理解可能かをラベル付けした。言語的内容が理解できない発話や、ラベル付けされた態度がコーダの間でコンセンサスが得られない発話を削除した。結果として、1403 のラベル付けされた発話を得た。755 の中立的態度、321 の冗談的態度、327 の攻撃的態度である。
課題推進者︓神田崇行（京都大学）

研究開発課題３：モラル行動の研究（１）アバター社会倫理の設計
当該年度は、前年度に引き続いて、アバター社会において生じる可能性のある倫理的問題について、人間と CA のモラル行動、モラルインタラクションの観点から探求を行なった。また前年度に特定した倫理的課題について複数のステークホルダー間の議論を行った。とりわけ「アバター社会倫理設計コンソーシアム」の主催するイベントにおいて、企業や市民、倫理学者、教育者などの多様な人々と議論をしながら人間と CA のモラル行動に関するアバター社会倫理について考察した。以下、各イベン
トにおいて得られた知見を記す。
アバター社会倫理設計コンソーシアムのミーティング（二回実施）では、自律的なアバターによる犯罪や非倫理的行為についての処罰の可能性などについて議論し、アバターに対する所有者の依存関係などに依存して変わるだろうという結論を得た。またアバターのサービスが終了したときのデータポータビリティの必要性についても議論し、データポータビリティはユーザーにとって望ましいものであるが、競争法的な観点からは必ずしも望ましいものではないという議論になった。
モラル行動研究のためのワークショップ等（三回実施）では、アバターやメタバースの可能性について、様々なアイデンティティを試したり、色々な社会の在り方を実際に実験できる場であるという期待が持たれていることが分かった。また VTuber に関する権利について、著作権や人格権、肖像権、パブリシティ権などが拡張される可能性があることが分かった。ビデオゲームに関す

2 / 4

る倫理的問題や依存などの危険性はアバターなどについても同様に取り組むべきであることが分かった。
市民を招いた対話イベント（二回実施）では、一般の人々の感覚として、自分とは違う属性（ジェンダーなど）を持ったアバターを持つことが興味ぶかいと感じられることが分かった。また障碍者などの支援への期待の大きさや、反面、アバターの表象に関するジェンダー問題への懸念の大きさが実感された。
倫理学者等を招いたモラルハッカソン（一回実施）では、将来の倫理の形として、科学的知見に基づきながら、現実的に人々の生活を充実させるための道徳を広めていく必要がある、ということが論じられた。
課題推進者︓久木田水生（名古屋大学）

研究開発課題４：プライバシー問題の研究（１）CA の利用とプライバシー
法的課題として、①CA の法人格性、②CA に関するプライバシー理論、③CA となりすまし、④CA とプロファイリングの論点を見いだし、その成果は人工知能学会誌の第 36 巻 5 号に「サイバネティック・アバターとプライバシー保護を巡る法的課題」というタイトルにて公表した。CA とプライバシーを巡る論点は他にも考えられるが、当面の主な検討課題は抽出できたと考えられる。

（２）CA のなりすましとプライバシー
CA のなりすましについては、上記の人工知能学会誌にて一部検討を行った。また、総務省情報通信政策研究所 AI 分科会にて、2022 年 1 月 27 日、CA のなりすましにより想定される被害、CA がなりすましを受ける場合と人間がなりすましを受ける場合の違い、メタバースにおいて講じるべき事前・事後の対策などに関する研究成果を報告した。加えて、ジュリストの対談企画に参加し、(1)及び(2)に関する課題を紹介し、AI と法の研究領域における第一人者(小塚荘一郎先生、上野達弘先生、中崎尚先生、茂木信二先生)と対談を行った。令和 3 年度の研究によって、CA のなりすましを巡る主要な課題を抽出し、現時点において考え得る対応策は考察できたと考えられる。
課題推進者︓石井夏生利（中央大学）

研究開発課題５：アバター法の研究（１）法制度（法令その他の規範）及び個別の検討課題抽出の実施
いわゆる「ロボット法」として研究が醸成されてきた知見に基づき、サイバーフィジカル社会に適用されうる「アバター法」ともいうべき特有の新たな法的論点について、CA を有体物と無体物に分類し、それぞれの環境下で起こる法的課題を抽出し、新たな法整備やガイドライン等の規範策定も含めた提言を行った。
また、各種実証実験の実施に伴う課題確認のための各研究グループとの連携及び検証として、「アバターモラル体験会」を実施した。アバター利用におけるモラル問題を検討する実証実験として、通常の利用方法のみならず不快な言動を発するなどの利用を試行し、操作者や利用者が主観的及び客観的にどのように感じるかを検証した。当該検証に基づき、アバターが社会利用される際に想起される倫理的・法的問題を把握し、各研究グループにおいて実施する実証実験においても汎用的に想定し得る問題を抽出した。

（２）CA の法的位置づけの明確化
CA の存在についての法解釈の明確化を行うことにより、社会制度の構築に向けた具体的な取り組みを実施するため、古代ロー
3 / 4

マ法から現代にいたるまでの代理権に関する議論、電子法人格や、電子エージェントに関する国内外の議論や法的枠組みを踏まえ、「個人ＣＡ」と「法人ＣＡ」に関する法的課題の整理を行った。また、特に CＡの存在証明、認証に関連して、「顕名ＣＡ」と「匿名ＣＡ」さらに「連結可能匿名ＣＡ」「連結不可能匿名ＣＡ」を体系的に整理し、ＣＡの利用に伴う法令遵守に必要な基準（法解釈の明確化）に向けた検討を行った。

（３）国際的な動向の調査と分析
2021 年 4 月 21 日に公表された EU の「AI 整合規則提案」について、AI の適合性評価と認証という観点からの分析と研究を行い、今後の CA の社会受容に際し、世界市場における CA の上市や第三者機関による認証制度の動向と、CA の認証に関する国際的な枠組みの策定においての日本の対応のあり方について検討と提言を行った。
課題推進者︓新保史生（慶應義塾大学）

研究開発課題 6：アバターの社会実装課題研究（１）特定の社会的地位にある人物 CA の社会実装に向けて検討が必要な課題の抽出と検証
当該年度のマイルストーンである歴史上の人物、公人や公職に従事する人物や著名人など、特定の人物のアバターを利用する際に検討が必要な課題と、公的な業務に従事するにあたって検討が必要な事項と課題に関する研究については、選挙におけるアバター利用の可否について公職選挙法上の検討を行い、その結果を論文「インターネット選挙運動に関する近時の論点」月刊
選挙 75 巻 2 号（2022 年 2 月）11-19 頁で公開した。当該誌は、議員や議会事務局関係者、選挙管理委員会関係者など、選挙の関係者が購読することが多い専門誌である。
議会において利用する際に問題となる点については、都道府県議会議長会デジタル化専門委員会において意見交換を行い、その成果は都道府県議会議長会デジタル化専門委員会の報告書（令和 3 年 6 月）において新たなデジタル技術の活用の必要性として言及されている。また「都道府県議会におけるデジタル化の推進」神奈川県議会議会改革検討会議（2022 年
3 月 23 日・神奈川県議会）においても、県議会におけるデジタル化に際してアバター利用の可能性について紹介し、出席者と意見交換を行った。
課題推進者︓湯淺墾道（明治大学）

4 / 4